4月7日消息,近期,伊克羅德信息與墨奇科技正式官宣雙方達成戰略合作,合作旨在通過雙方的AI大模型領域的技術融合和創新力量,推動前沿科技的快速發展。雙方將利用大語言模型LLM、向量數據庫構建生成式AI應用解決方案,再通過RAG提升性能并降低模型成本,進而加速以大模型為基礎的生成式AI的落地應用。
大模型熱潮已經涌動一年多,在這期間,越來越多的企業將目光聚焦在了將大模型技術落地、用生成式AI解決具體問題、提升效率上。
作為亞馬遜云科技全球核心級合作伙伴,伊克羅德信息擁有10年云服務經驗,服務全球企業數千家,客戶橫跨互聯網、媒體、游戲、電商零售、制造、汽車、金融科技、社交應用等行業。伊克羅德信息執行長黃國華表示,目前企業落地生成式AI的主要挑戰有:第一、算力能力有限,限制技術落地;第二、開發成本高,商業化回報有限;第三、商業化場景、產品、服務模糊;第四、企業用好生成式AI會碰到人才短缺的挑戰。
伊克羅德信息將攜手墨奇科技、亞馬遜云科技解決最后三公里的工程化挑戰。其解決方案架構師、生成式人工智能專家和客戶一起尋找場景、打磨算法、構建產品原型、尋找技術解決方案,致力于與更多企業客戶、初創企業在生成式AI這個領域合作共贏。
墨奇科技打造了旗艦產品SQL向量數據庫MyScale,它是一種新型AI數據庫,統一的方式來表示和處理非結構化數據和 AI 知識數據,在復雜查詢的性能和性價比上具有優異表現。
向量數據庫專門用來存儲、管理、查詢和檢索向量化的非結構化數據,通常被稱為AI時代的信息檢索技術,是檢索增強生成(Retrieval-Augmented Generation, RAG)內核技術之一。對大模型應用開發而言,向量數據庫是非常重要的基礎設施,在一定程度上影響著大模型的性能表現。
墨奇科技向TechWeb表示,墨奇科技在去年 8 月份正式上線了全球市場MyScale產品的SaaS版本,截止目前已經覆蓋了數千名來自北美、歐洲、東南亞、南美洲的開發者和企業用戶,付費用戶也覆蓋了美國、德國、加拿大、阿根廷、新加坡等十幾個國家和地區。
RAG+向量數據庫 大模型制勝法寶
伊克羅德信息與墨奇科技選定的大模型落地路線是:通過RAG+向量數據庫,來低成本快速定制高質量大模型 。
過去一年中,LLM的發展以及生成式AI浪潮在全球范圍內引起了廣泛關注。但是在商業化路上面臨許多挑戰,例如,數據更新問題-LLM無法實時掌握最新信息;對于某些領域需要高度準確專業知識,例如,醫學,法律,科學,定制標準高、容錯率低;高昂的訓練成本。
因而RAG技術應運而生。RAG能從大規模的知識庫中精確地抽取信息,并生成富有洞察力的答案,RAG系統的檢索組件向量數據庫是核心功能,采用了特殊的數據結構和索引策略,來有效組織和檢索向量數據,成為解決低成本快速定制大模型問題的關鍵所在,LLM技術結合RAG不僅提高了答案的質量,還為特定行業的應用帶來了新的機會,向量數據庫不僅僅是一種技術工具,更是連接數據與AI的橋梁。
墨奇科技副總裁孟卓飛認為:“RAG是目前生成式AI可見的最有效、最實在、最不玩虛的一個落地方式,對企業而言,試錯成本很低、效果會出得很快、時間成本也很低。”
在孟卓飛看來,MyScale是目前市面上唯一一個有高性能向量計算以及SQL全兼容的數據庫,對于開發者的開發習慣、復雜數據場景的遷移成本以及更靈活的數據查詢方式來說,都是企業客戶不可替代的一個選型考慮。在復雜查詢的性能和性價比上做了非常多的調優,取得了最佳的平衡點。這些都成為國內外用戶選擇MyScale的原因。
黃國華則從商務角度進一步表示,“目前,企業看到了生成式AI的價值,但大部分還處在試錯的過程,所以高性價比的RAG方案更容易被接受,客戶可以低成本、短周期地收獲一些小的亮點。這些小亮點,一個接一個地串聯起來,最終能夠匯集成線、聚合成面。所以我們認為,RAG是很好的推動方式。”
借助亞馬遜云科技Marketplace(海外區)
據悉,伊克羅德信息和墨奇科技團隊將RAG+向量數據庫推向了一個新的水平,發布2.0版大語言模型-Ask Myscale ,實現了比專用向量數據庫更高的性能和可擴展性。
近期內Ask Myscale將上架亞馬遜云科技Marketplace(海外區),并提供用戶咨詢、測試、上線、運營等全生命周期服務。
亞馬遜云科技Marketplace是一個精挑細選的數字化產品目錄,客戶通過它可以輕松地查找、購買、部署和管理構建解決方案及運營其業務所需的第三方軟件和服務。
亞馬遜云科技Marketplace也將成為伊克羅德信息和墨奇科技合作產品國際化的一個重要跳板。
孟卓飛強調:“生成式AI的機會是一個前所未有的、現象級的、時代級機會,對于每個人、每個行業都是。在這個浪潮中,沒有一家公司可以獨自獲得勝利。”
黃國華強調,墨奇有技術,伊克羅德有客戶;墨奇有產品,伊克羅德有渠道;墨奇有算法,伊克羅德有服務,雙方的合作是把更加模塊化并且清晰化的業務場景落地的方法呈現給客戶,讓客戶能夠在更短的時間內做出決策,找到最適合自己的解決方案。