天天看點

快速低成本建構應用,浪潮資訊把企業大模型落地門檻打下來了

作者:量子位

克雷西 發自 凹非寺

量子位 | 公衆号 QbitAI

百模大戰愈演愈烈,各大廠商卷出了不同形态:

有的大秀肌肉,在文本長度上一騎絕塵;有的與搜尋等功能深度融合,成為了全能型AI助手……琳琅滿目的大模型産品令人目不暇接。

但對于企業使用者而言,盡管這些通用大模型各有各的特色,但在解決行業任務時,表現得卻并非那麼完美。

究其“不能勝任”的原因,主要是通用大模型在特定行業的知識儲備并不充足,甚至存在嚴重的幻覺。

為了彌補這樣的缺陷,需要大量的行業資料,模型算法也需要進行優化,而這又會牽扯出算力問題……

也是這種背景之下,為了幫助企業使用者更好地實作大模型應用落地,浪潮資訊提出了集算法、算力、資料和互聯為一體的端到端解決方案。

大模型進入2.0時代,但落地依舊困難

随着人工智能技術的快速發展,AI正在變得無處不在,影響着各種計算裝置和平台。

從伺服器到個人電腦(PC),甚至是移動裝置,AI算力正在滲透進每一個計算裝置,面向人工智能的算力範式不斷革新。

除了這種“一切計算皆AI”的大背景,人工智能的代表性産品——大模型也進入了2.0時代。

這意味着将會出現更大的模型,随之而來的是更多的資料需求,以及對算力資源的更大需求。

而算法、算力和資料正是人工智能發展的“三駕馬車”,但從當今發展來看,發展得都不充分。

首先,由于大模型的訓練成本極其高昂,導緻試錯代價極高,進而出現了在大模型時代對于算法的創新依舊有所保守的局面。

算力的資源也并不均衡,北京智源研究院副院長兼總工程師林詠華認為,大模型2.0時代,不能隻關注單顆晶片的能力,而是需要考慮從晶片到伺服器叢集,再到資料中心的存儲和計算關系,以及整個網絡的協同。

資料方面的情況一樣不樂觀,随着大模型對計算規模的需求增加,人類産生的已知資料,對于大模型而言即将甚至已經不足。

除了大模型自身發展受到算力和資料等方面的桎梏,對于企業使用者來說,大模型落地還存在更多的現實問題。

一是大模型缺少專業的行業資料,不可避免地導緻了幻覺問題,難以适用于企業場景。

另一方面,有些企業應用場景中,對模型視窗長度需求極大,現有的模型可能無法滿足需求。

此外,開發難度大、技術門檻高,也是企業實作大模型落地的一個重要壁壘。

想要解決這些痛點難點,需要從上到下的整個生态為之發力,而浪潮資訊正是企業大模型落地助推者中的一份子。

端到端開發企業大模型應用

第十屆IPF浪潮資訊生态夥伴大會上,浪潮資訊AI軟體研發總監吳韶華隆重釋出了企業大模型開發平台元腦企智EPAI。

EPAI平台提供了端到端的企業大模型落地解決方案,解決了企業大模型應用開發流程複雜、門檻高等困難。

快速低成本建構應用,浪潮資訊把企業大模型落地門檻打下來了

大模型2.0時代,資料就是資産,掌握資料就等于掌握了話語權。

而EPAI提供了上億條基礎知識資料,同時還包含了自動化的資料處理工具,可以幫助使用者整理行業資料和專業資料,生成高品質的微調資料和行業/企業知識庫,進而打造企業專屬資料資産。

有優質的基礎+行業+企業資料作為支撐,大模型生成内容的準确性和可靠性就有了保證,幻覺問題将大幅縮減。

同時,結合檢索增強生成(RAG)技術,EPAI可以解決企業知識庫更新頻率高但大模型微調耗時長、頻率低的沖突,保證模型能夠及時獲得處理最新知識的能力。

另一方面,EPAI還提供了高效的微調工具,支援千億參數模型面向産業知識的快速再學習,并讓模型具備百萬Token的長文檔處理能力,解決視窗長度不足的問題,快速打造領域大模型。

快速低成本建構應用,浪潮資訊把企業大模型落地門檻打下來了

好馬當配好鞍,EPAI不僅擁有強大的企業大模型開發功能,在易用性方面也幫助開發者降低了使用門檻。

使用方式上,EPAI支援API、對話UI和智能體三種使用方式,可以面對不同的業務場景需求,并讓不同技術水準的開發者都能擁有與自己能力相比對的開發方式。

甚至是非專業開發人員,也能在幾天教育訓練之後快速掌握平台的使用方法,擺脫專業知識的限制。EPAI實作了大模型應用開發的普及化,降低了企業的用工成本。

吳韶華舉例說,假如要開發一個“智能程式設計助手”,即使是經驗非常豐富的工程師可能也需要兩到三周的時間,但用了EPAI,可以非常快速地執行。

而且EPAI既支援包括CPU和各種GPU在内的多元算力,又支援包括自研的“源”大模型和其他主流開源、閉源模型,适配快,遷移成本低,為企業提供了豐富的模型和算力選擇。

此外,企業使用者最擔心的資料安全問題,EPAI也提供了堅實保障,通過權限管理、資料加密、内容審查等多種技術手段,確定資料和模型安全,做到了隐私資訊不洩露。

快速低成本建構應用,浪潮資訊把企業大模型落地門檻打下來了

相較于其他開發平台,浪潮資訊的一個獨特優勢是,從“左手”的算力、模型等底層技術提供者,到“右手”的各行業軟體開發商,都是浪潮資訊生态中的夥伴。

這意味着,EPAI平台可以上承算力,下接應用,成為整個生态的“交通樞紐”,加速面向應用的快速創新。

EPAI為企業使用者很好地解決了算法和資料問題,但浪潮資訊提供的支援不止于此,而是集算法、算力、資料、存儲、互聯為一體的全面布局。

在算力方面,面向越來越多的大模型推理場景,浪潮資訊還聯合英特爾釋出可運作千億參數大模型的AI通用伺服器;存儲方面,釋出分布式全閃存儲AS13000G7,解決大模型訓練資料挑戰;互聯方面,釋出國内首款超級AI以太網交換機 X400,加速大模型訓練推理……

浪潮資訊的這一系列布局,或将給大模型行業帶來新的格局。

EPAI将促進大模型産業協作

談及EPAI平台的意義,吳韶華介紹到,EPAI平台提供的是工具箱和方法論,讓使用者可以盡可能地發揮自己企業的價值。

而且,EPAI平台将能夠實作對于開發者的普惠,企業不必再花費大量資金建構一個高精尖的團隊,也可以做起大模型。

通過EPAI和其所提供的方法論,企業使用者可以從自己做起,掌握這樣一套方法和工具,然後再去服務好、支援好他們行業的客戶。

隻有借助最适合、最高效的工具,讓它在工作的時候擁有很高的效率和成功率,才能真正把産業快速地做大。

對此,浪潮資訊進階副總裁劉軍表示,EPAI“讓我們看到大模型的另外一面,它的産業化落地的這一面”。

此外,EPAI對于整個産業的協作也大有裨益——

過去,恨不得每個人都想做大模型企業,都想自己從頭徹尾都搞一套工具,但事實上不可能所有人都能把生意做大。

隻有依靠優質的産業協作分工,大家都做自己最擅長的事情,形成多元多樣化的、共同去促進的生态,才能讓産業AI真正落地。

— 完 —

量子位 QbitAI · 頭條号簽約

關注我們,第一時間獲知前沿科技動态

繼續閱讀