天天看點

企業大模型應用開發提速 浪潮資訊釋出元腦企智EPAI一體機

北京2024年9月29日 /美通社/ -- 9月27-29日,2024中國算力大會在鄭州舉行。會上,浪潮資訊重磅釋出元腦企智EPAI一體機,通過軟硬體高度協同的一體化設計,為客戶提供多元多模、簡單易用、本地部署、安全可靠的大模型開發平台,顯著提高企業大模型以及AI原生應用的開發效率,加速大模型産業化落地。

企業大模型應用開發提速 浪潮資訊釋出元腦企智EPAI一體機
大模型落地挑戰巨大

随着大模型和生成式技術的飛躍式發展,基于大模型的應用創新正在成為新的主題,如何以大模型賦能現有的技術、業務,已成為企業在新一輪技術周期中保持競争力的要素之一。但企業在應用大模型的過程中往往面臨着諸多挑戰,如生态離散導緻的多元多模适配難,模型訓練和部署複雜、資料治理難、模型"幻覺"問題以及對專業技術人才的依賴等,導緻大模型與行業場景的融合進展緩慢。

首先,多元多模适配難度大、周期長、成本高。不同場景、不同業務對模型能力的多樣需求,業務生産環境往往是多模并存的狀态,而由于晶片生态離散、特定應用加速等原因,所使用的算力資源也是多元并用的。是以,大模型應用開發需考慮與多元算力、多樣大模型的選擇、适配、組合排程等問題,難度大,周期長,成本高。

其次,巨大參數量級的通用大模型,很難直接用于複雜、離散的行業場景,各行業知識專業化程度高,可遷移性低,通用大模型本身難以覆寫,是以經常出現大模型"幻覺"或是"胡言亂語"的問題,是以必須結合行業和企業專業資料進行再學習。

最後,要實作大模型與行業場景的深度結合,實作高效、高可靠、高品質的模型應用效果,涉及資料、微調、RAG、部署、上線和運維等極為複雜的流程,特别是資料治理和模型微調,需要具有豐富經驗的實施團隊才能勝任,技術門檻高。

元腦企智EPAI一體機,讓大模型開發快到飛起

對于大多數企業而言,大模型應用開發的系統性、複雜性,往往讓企業對大模型開發望而卻步。是以,實作大模型的深入行業應用與廣泛落地,關鍵在于如何有效提高AI應用創新的品質和效率,卓越的大模型及應用開發工具成為釋放智能生産力的關鍵。

浪潮資訊元腦企智EPAI一體機基于專為大模型應用場景設計的元腦伺服器,搭載了元腦企智EPAI企業大模型開發平台,支援多元算力、多模管理、全鍊工具以及本地部署,可一站式解決資料處理、模型微調、RAG搭建、模型部署、應用上線和系統運維等環節開發難題,為客戶提供多元多模、簡單易用、本地部署、安全可靠的大模型應用開發平台,滿足企業人工智能應用從開發到實施的全棧需求。

企業大模型應用開發提速 浪潮資訊釋出元腦企智EPAI一體機
多元多模:

元腦企智EPAI一體機具備多元算力和多模管理能力,通過大模型計算架構TensorGlue實作異構算力排程,通過算子基礎化技術實作上層模型算法和下層基礎設施的邏輯解耦,進而高效的屏蔽模型和晶片差異,降低企業跨算力平台遷移、多元模型部署适配的試錯成本。目前,元腦企智EPAI一體機可以支援10+業界主流大模型計算架構,内置7個主流基礎大模型,預設了20+微調參數,使用者可以針對知識問答、智能編碼、文檔了解、智能助手等不同應用場景和任務需求,選擇最佳産品型号和模型算法,快速開發模型應用。

簡單易用:元腦企智EPAI一體機提供從資料準備、大模型微調、知識庫建構、大模型部署上線運維的全流程支援工具鍊。其中,針對資料準備,預先内置了上億條基礎知識資料以及自動化資料處理工具,支援10種以上企業常見的資料格式,并且以超過95%的抽取準确率,把這些資料轉化為知識庫以及可供模型進行微調的資料;針對大模型微調,采用低代碼可視化界面來進行微調,并且内置了Lora、SFT等多種微調架構以及20多種優化參數,使用者可依據具體業務需求和資料特性,選擇最為合适的架構與技術,快速且低成本地建構起企業專屬大模型能力。

本地部署、安全可靠:

由于大模型應用開發需要結合企業私有資料,要求企業資料不出域。本地部署可以確定使用者資料不被上傳至雲端,避免資料洩露和濫用的風險,這在處理敏感資訊或符合嚴格資料保護法規的行業中尤為重要。元腦企智EPAI一體機的本地化部署模式提供全鍊路的企業資料防護能力,設定多級過濾和稽核體系,讓資料的流轉更安全,讓生成結果更可靠,建構起一個既能充分利用資料價值,又能保護使用者隐私、符合法規要求的安全資料處理環境,做到"資料可用不可見"。

企業大模型應用開發提速 浪潮資訊釋出元腦企智EPAI一體機

元腦企智EPAI一體機能顯著提升大模型應用的開發效率,并極大節省人力成本。浪潮 資訊先行先試,采用1台元腦企智EPAI一體機标準版,低代碼完成企業知識庫建構、模型微調、應用開發等工作,1人1月即簡單高效、低門檻地打造出智能售前助手"元小智",賦能日常售前業務,實作智慧化變革,團隊工作效率提升3-5倍。

企業大模型應用開發提速 浪潮資訊釋出元腦企智EPAI一體機

浪潮資訊産品方案開發部總經理魏健表示,本次釋出了基礎版、标準版、進階版、創新版和叢集版五個版本,主要面向制造、金融等行業客戶、傳統ISV和SI三類使用者提供一站式大模型生産及應用全流程開發工具鍊,同時支援接入更多元腦夥伴的算法和模型能力,共同打造AI原生應用開發的"超級工作台",加速AI應用創新和落地。

繼續閱讀