天天看點

文心大模型4.0開啟測試申請,百度智能雲為大模型落地五大需求提供最優解

作者:半島都市報

面向企業客戶啟動文心大模型4.0 API調用服務測試申請,服務超過17000家客戶,在各行各業的近500個場景中進行大模型應用落地探索……自今年3月面世以來,百度智能雲千帆大模型平台作為全球首個一站式企業級大模型平台,為業界交出了唯一一份“滿分成績單”。

10月17日,百度世界2023在北京首鋼園召開。百度智能雲在大會期間宣布:全面更新“雲智一體”戰略,面向客戶落地大模型的五類需求提供全棧服務方案;面向AI原生應用開發,重磅釋出“千帆AI原生應用開發工作台”,加速企業AI原生應用落地;釋出國内首個AI原生應用商店,以及國内首個大模型全鍊路生态支援體系,賦能夥伴商業增長,共建、共享繁榮的大模型産業生态。

文心大模型4.0開啟測試申請,百度智能雲為大模型落地五大需求提供最優解

百度集團執行副總裁、百度智能雲事業群

滿足企業大模型落地五大需求:百度智能雲更新“雲智一體”戰略

自2020年起,百度智能雲在業界率先提出“雲智一體”戰略,并在技術架構與服務等方面進行了多次疊代更新。本屆百度世界大會,“雲智一體”的戰略内涵全面更新為“雲智一體,深入産業,生态繁榮,AI普惠”。百度集團執行副總裁、百度智能雲事業群總裁沈抖表示,人工智能與雲計算的深度結合是企業快速落地AI原生應用的關鍵,這也是百度智能雲始終倡導和踐行的“雲智一體”理念。目前,百度集團所有應用和服務全部基于”雲智一體“技術架構運作在百度智能雲上。此外,面向客戶落地大模型的五類需求,百度智能雲基于千帆大模型平台打造的“大模型超級工廠”分别給出了最佳服務方案。

文心大模型4.0開啟測試申請,百度智能雲為大模型落地五大需求提供最優解

大模型時代的雲智一體

首先,針對隻有算力需求的客戶,千帆平台可以提供極緻高效和成本效益的異構算力服務。在客戶最關心的大模型訓練環節,通過分布式并行訓練政策和微秒級互聯能力,千帆平台可以實作萬卡規模叢集訓練的加速比達到95%;通過事先防範、事中及時發現、定位、解決,最大限度避免叢集因故障等原因産生的無效運轉,提高有效訓練時間占比,萬卡叢集有效訓練時間占比達到96%,充分釋放叢集有效算力,大幅降低客戶算力與時間成本。

此外,千帆平台還相容昆侖芯、昇騰、海光DCU、英偉達、英特爾等國内外主流AI晶片,支援客戶以最小的切換成本完成算力适配。面壁智能攜手知乎,基于百度智能雲提供的AI算力叢集,訓練出“知海圖AI”大模型和多模态大模型Luca,在千卡叢集上的有效訓練時間占比高達99%,在保障模型訓練連續性的同時,可以實作模型訓練效果的高效收斂。此外,知乎、好未來、地平線等企業也正在基于百度智能雲提供的AI算力服務,以更加穩定、高效和經濟的方式實作大規模叢集的訓練和管理。其次,在模型層面,對于希望直接調用已有大模型的客戶,千帆平台納管了42個國内外主流大模型,企業客戶可以快速調用包括文心大模型在内的各種大模型的API,擷取大模型能力。對于第三方大模型,千帆平台還針對性地進行了中文增強、性能增強、上下文增強等優化。目前千帆平台已經服務了超過17000家客戶,大模型API調用量持續高速攀升。第三,對于希望基于現有大模型進行二次開發的客戶,千帆平台為大模型的再訓練、微調、評估和部署等環節提供全生命周期工具鍊、業界最多的41個高品質行業資料集,幫助客戶針對自身業務場景快速優化模型效果。目前,包括中國郵政儲蓄銀行、度小滿、金山辦公、河北高速集團在内的諸多行業頭部客戶,都正在通過千帆平台提供的工具鍊服務開發出貼合業務需求的專屬大模型。第四,在應用層面,一部分企業需要基于大模型服務去開發AI原生應用,千帆平台上提供的一系列能力元件與架構,可以幫助企業快速完成應用開發,靈活地響應使用者與市場需求。最後,另一部分客戶則希望直接、友善地選購成熟的AI原生應用産品,賦能業務發展。

賦能企業高效開發AI原生應用:釋出“千帆AI原生應用開發工作台”

為了滿足企業靈活、高效地進行AI原生應用開發的需求,降低AI原生應用開發門檻,百度智能雲重磅釋出“千帆AI原生應用開發工作台”,将開發大模型應用的常見模式、工具、流程,沉澱成一個工作台,幫助開發者聚焦在自身業務,而無需為開發過程牽扯多餘精力。具體來講,千帆AI原生應用開發工作台主要由應用元件、應用架構兩層服務構成。應用元件服務由AI和基礎雲兩大類元件構成,是對底層服務能力的元件化封裝,讓每個元件完成一個特定的功能。“AI元件”中既包含諸如問答、思維鍊(CoT,Chain of Thought)等大語言模型元件,還包括文生圖、語音識别等多模态元件,而“基礎雲元件”則包含向量資料庫、對象存儲等傳統雲服務能力。應用架構則是通過将上述這些元件有選擇地串聯、組合起來,讓它們能夠比較完整地完成一個特定場景的任務。目前,千帆平台上提供的檢索增生成(RAG)、智能體(Agent)就是常用的AI原生應用架構。在每個架構下,百度智能雲還提供豐富的樣闆間,支撐開發者靈活、高效地進行AI原生應用開發。

文心大模型4.0開啟測試申請,百度智能雲為大模型落地五大需求提供最優解

百度智能雲重磅釋出AI原生應用開發工作

檢索增強生成(RAG,Retrieval Augmented Generation)架構,可以更高效的利用企業專有領域内的知識,并在大模型的幫助下根據相關問題做出精确回答,是專業知識問答類AI原生應用的必備核心能力。

大會現場還進行了如何基于RAG架構,為三一重工快速開發知識問答應用的實操示範:隻需在千帆AI原生應用工作台中選擇預置的RAG架構,進行相應的參數配置等工作,就可以快速實作三一重工官網智能客服應用的開發與上線。沈抖表示,搭建這樣一個“小助手”,即使需要處理幾千篇萬字長文檔,成本也隻需幾百塊錢;而之後使用者每次咨詢,成本僅需幾分錢。

文心大模型4.0開啟測試申請,百度智能雲為大模型落地五大需求提供最優解

基于RAG應用架構快速完成三一重工知識

智能體(Agent)作為目前業界流行的應用架構,可以對人類給定的任務進行自動拆解,自動規劃并調用各種元件協同完成任務,同時根據任務完成效果得到回報,改進自身能力。目前,Agent架構已經在工業、交通等領域得到了廣泛應用。

中天鋼鐵基于千帆AI原生應用開發工作台提供的Agent架構打造了智能化的“企業排程中樞”,實作了任務指令的自動感覺、分解與執行。比如,在發現鋼鐵産量不達标時,使用者隻需提問一次,大模型就可以自動調用平台納管的各種資源和API,完成BI取數、第三方根因分析等工作,找到未達标原因,及時調整排産計劃并發送郵件通知排程人員。

文心大模型4.0開啟測試申請,百度智能雲為大模型落地五大需求提供最優解

中天鋼鐵基于Agent應用架構打造企業調

繁榮産業生态:國内首個AI原生應用商店、全鍊路大模型生态體系集體問世

為了滿足企業客戶便捷選購優質AI原生應用的需求,賦能夥伴商業成功,百度智能雲重磅推出:國内首家面向企業客戶進行一站式交易的AI原生應用商店——百度智能雲千帆AI原生應用商店,旨在為大模型時代AI原生應用的供需雙方建立起便捷、可靠的聯接通路,大幅提升客戶應用選型與采購效率,為夥伴商家創造更多商機。目前,企業使用者可以通過百度智能雲官網,進入千帆AI原生應用商店,選購心儀的AI原生應用。

文心大模型4.0開啟測試申請,百度智能雲為大模型落地五大需求提供最優解

百度智能雲千帆AI原生應用商店

本屆世界大會,百度釋出了國内首個生成式商業智能産品——百度GBI(Generative Business Intelligence)。BI(商業智能)是當下展現大模型能力“天花闆”的典型應用場景之一。百度GBI作為AI原生應用引擎,基于文心大模型實作了“智能問數”能力的全面重構:面向任意資料庫,都可以通過對話一步完成查詢與分析,相比傳統BI大幅提升了資料分析的效率,降低了資料分析專業能力要求。

以企業經營資料分析為例,百度GBI可以把商業資料分析師十幾天才能完成的資料分析、撰寫報告的工作時長,從以天為機關縮短到以分鐘為機關。而作為一類AI原生應用架構産品,百度GBI還可以實作極簡的跨行業、跨領域能力遷移,快速落地如城市治理分析、能源消費洞察、工業裝置運作管理、金融投資決策、交通擁堵治理等場景中,高效實作政企BI類AI原生應用的開發建構。

文心大模型4.0開啟測試申請,百度智能雲為大模型落地五大需求提供最優解

百度GBI功能展示

大模型技術不僅正在重塑雲計算的服務模式和産品形态,也正在重塑雲計算産業的生态格局,對雲計算廠商和其覆寫千行百業的合作夥伴的能力與體系建設提出了全新要求。為了助力合作夥伴們取得大模型時代的商業成功,百度智能雲建設并推出了國内首個大模型全鍊路生态支援體系,并為10家綜合夥伴、100家應用夥伴、1萬家以上的初創企業以及代理夥伴,提供包括千帆社群、AI原生應用孵化、銷售商機、市場營銷、賦能教育訓練,以及千帆AI原生應用商店等全方位的支援。百度集團副總裁袁佛玉表示,“在這個瞬息萬變的時代,百度不僅要在大模型技術和商業化探索的道路上勇闖無人區,還要與衆多合作夥伴共同打造繁榮的産業生态,共同探索新的商業模式和商業機會,實作真正的合作共赢。”

繼續閱讀