天天看點

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

作者 | 李水青

編輯 | 心緣

智東西4月9日成都報道,在今日舉辦的百度智能雲GENERATE全球生态大會上,百度智能雲圍繞大模型技術棧釋出了一系列産品權益和扶持計劃,并推出一系列夥伴市場權益。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

在算力方面,百度百舸AI異構計算平台持續更新,據稱大模型訓練吞吐相比開源版本提升了30%~60%,有效訓練時長達到98%,支援萬卡級别的超大規模異構計算。百度智能雲宣布啟動智算戰略夥伴招募,招募3+算力合作夥伴。

在模型方面,百度智能雲千帆ModelBuilder提供包括文心一言系列模型在内的77款精選大模型和全流程的模型工具鍊,并宣布建立全球首個千帆大模型創新實驗室,與夥伴一起圍繞10000+個應用場景進行聯合創新。

在應用開發方面,百度智能雲千帆AppBuilder應用開發平台繼續更新,宣布Agent首度支援應用建立全流程自動化,并将在下周上線工作流編排功能,進而降低大模型應用開發門檻。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

同時,百度智能雲基于千帆開發了一些應用或“半成品”,供合作夥伴直接轉售或進一步開發。比如智能編碼輔助工具“Baidu Comate”、知識管理平台“甄知”等七大AI原生應用産品。百度智能雲正式推出工業大模型底座,後續将推出政務、交通、汽車、金融等行業的技術/産品底座。此外,百度智能雲還推出了千帆杯·AppBuilder大模型開發者專項激勵政策。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

在應用售賣方面,百度智能雲全新釋出千帆AI原生應用商店招募計劃,提供高額返傭激勵和營銷資源扶持,并計劃在2024年實作2000+個優質應用入駐商店。

值得一提的是,今日,百度還全新釋出百度智能雲千帆大模型一體機,包括通用版、昇騰版和昆侖芯版,支援開箱即用的大模型一站式工具鍊,目前已面向夥伴優先訂購。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

一、超8.5萬客戶使用千帆,精調1.4萬模型,生态夥伴數增5倍

百度集團執行副總裁、百度智能雲事業群總裁沈抖談道,大模型的産業落地尚處早期,但大模型已經開始真正被用起來了。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

▲百度集團執行副總裁、百度智能雲事業群總裁沈抖

從百度的資料來看,過去一年,百度智能雲千帆大模型平台上API的調用量呈現了指數級增長,已經有超過8.5萬的客戶在使用千帆平台,累計精調了超過1.4萬個模型,開發了19萬個應用。

大模型的生态圈也在快速發展。過去6個月,百度智能雲生态夥伴的數量增長了5倍,夥伴們開發的300多款應用通過“千帆應用商店”進入市場。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

沈抖認為,過去,使用AI技術門檻很高,開發、部署、人才、成本都是難題,很大程度上抑制了AI的産業化程序。

如今,大模型極強的泛化能力,為跨行業、跨場景的AI應用開發提供了通用的、可遷移的基礎能力和全新的AI原生應用研發範式,在極大地降低研發門檻、提升研發效率的同時,也為産業生态環境帶來根本性的改變。

百度智能雲以AI原生技術棧賦能夥伴,提供包括百度百舸AI異構計算平台、百度智能雲千帆ModelBuilder、百度智能雲千帆AppBuilder等在内的技術棧,并面向不同類市場制定差異化的生态戰略。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

二、千帆平台再更新,推出千帆大模型一體機,打造大模型服務超級工廠

今日,百度智能雲千帆平台實作新更新,進一步朝“打造大模型服務超級工廠”的目标進擊。

百度智能雲宣布,千帆平台Agent支援應用建立全流程自動化,可一鍵全局優化、自動推薦工具、自動優化指令。換句話說,就是支援一句話生成應用的全部資訊。

以“農業智答小助手”為例,這一應用開發基于千帆AppBuilder實作了全流程自動化,頭像、角色指令、工具指令等都通過大模型一鍵生成,大大降低了開發門檻。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

百度智能雲預告,其将在下周上線工作流編排功能,幫使用者自定義元件快捷接入,靈活編排業務流程。

百度今日還全新釋出百度智能雲千帆大模型一體機,支援開箱即用的大模型一站式工具鍊,目前已面向夥伴優先訂購。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

總的來說,在夥伴“裝備”方面,百度智能雲提供了包括AI異構計算平台“百舸”、大模型開發與管理平台“千帆ModelBuilder”、AI原生應用開發平台“千帆AppBuilder”等全棧領先技術支援,幫助夥伴在行業内快速構築差異化優勢。

1、百度百舸AI異構計算平台:訓練吞吐提升30%~60%

百舸AI異構計算平台分成資源、組建和大模型加速三層。在備受産業關注的算力效率方面,百舸在訓練吞吐相比開源版本提升了30%~60%。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

在資源使用率方面,百舸提供有效訓練時長達到98%,帶寬有效使用率達到95%。在規模方面,百舸支援萬卡級别的超大規模異構計算,并支援25+主流大模型全技術棧性能優化、超穩基礎設施和自動化容錯保障等服務。

2、百度智能雲千帆ModelBuilder:77個模型可選,全流程工具鍊

百度智能雲千帆ModelBuilder提供豐富的大模型,全流程工具鍊,為企業提供更優“效價比”。

千帆不僅支援文心大模型以及系列輕量級大模型,還支援衆多第三方大模型和垂直大模型,合計達到77個。在工具鍊方面,千帆提供資料管理、模型調精、模型評估/優化、推理服務部署、Prompt工程等全流程。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

同時,百度智能雲千帆還和英特爾合作,推出基于通用CPU的推理加速。此外,其還提供豐富的SDK和全棧API能力,讓夥伴能快速低門檻進行模型開發。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

3、百度智能雲千帆AppBuilder:支援Agent全流程自動化

百度智能雲千帆AppBuilder緻力于增強模型應用效果,降低開發門檻,包括基礎元件、進階元件、Agent、多管道應用與分發等多個層級。前文提到的Agent全流程自動化、工作流編排功能更新,均來自這一級平台更新。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

本次,百度宣布全面開放産品權益,啟動3+智算戰略夥伴招募、全球首個千帆大模型創新實驗室以及千帆杯·AppBuilder大模型開發者專項激勵等。

三、推出工業大模型底座,“大模型+小模型”,打造“電博士”等智能應用

2024年被認為是大模型落地元年,大模型正在進入千行百業。

今日。百度智能雲宣布,工業大模型底座産品正式釋出,未來還将陸續釋出面向政務、交通、汽車、金融等行業的大模型底座。

據悉,工業大模型底座為生态夥伴提供工業大模型應用開發全棧能力,分為資源服務層、模型服務層、知識服務層、應用開發層、業務中樞層五層架構,内置通用能力子產品和面向工業行業特有的能力集合,具有應用開發提效、業務應用效果最優、極緻資源利用成本效益等全方面優勢。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

資源服務層能夠實作客戶“研産供銷服”業務資料、百度地圖等特色資料的融合打通,讓資料資産價值最大化。同時,還具備端、邊、雲協同能力,通過叢集管理最大化資源排程和利用效率,并在業務應用側支援大小模型的混合協作來達到業務應用成效。基于百度百舸·AI異構計算平台,整體資源使用率能夠提升50%以上。

模型服務層預置了工業大語言模型、視覺大模型以及多模态大模型,以及包括視覺模型、機理模型、數理模型在内的300多個工業場景小模型,共同保障工業場景的實際落地應用效果。

知識服務層預置了工業行業知識庫,并提供知識生成、知識檢索等服務能力,能夠幫助客戶和合作夥伴不斷更新、沉澱各個業務領域的知識資産。

應用開發層主要由工業應用開發中心、工業應用服務中心、工業應用市場三部分組成,内置了工業行業應用元件庫和模版,打通從低門檻開發工業應用到最終商業化的完整閉環路徑。據測算,應用開發周期平均從3個月大幅縮短到10天;結合模型服務和知識服務等能力,效果方面,開箱即用準确率平均高達85%以上。

業務中樞層則提供了面向管理者的“上司駕駛艙”,面向一線員工的Copilot助手以及業務營運、維管理等排程中樞能力,将重塑大模型時代的新型生産關系。

山源電子基于百度智能雲工業大模型底座,開發了“電博士”智能應用,為礦山生産供電系統保駕護航。電博士提供的專業知識問答、裝置輔助檢修等能力,能夠快速解決裝置故障、系統故障、安全運維等難題,大幅提升知識擷取效率70%以上,幫助新人員工秒變供電維修“老師傅”。

此外,電博士還可以高效處理供電系統事故,形成從供電系統故障快速定位、處置建議精準推送、處置操作立即執行,到處置方案一鍵落庫的業務閉環,縮短故障處置時間30%以上,降低運維作業成本30%。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

四、七大AI原生應用産品更新,全面SaaS化,組合效果更佳

大模型正在滲透企業各個業務環節,百度智能雲除了提供開發平台,還推出了7款産品助力企業智能化更新。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

1、百度智能雲一念,是一個大模型驅動的營銷内容創作平台。比如迪思傳媒基于這一應用為某車企自動寫腳本,生成營銷視訊,探索AI時代的視訊營銷新範式。

2、百度智能雲曦靈,是大模型全面重構的數字人平台。曦靈在數字人直播、視訊制作、數字代言等方面已經較成熟。

3、百度智能雲客悅,是大模型全面重構的智能客服平台。比如在“車輛小管家”應用中,客悅助使用者問題自助解決效率提升至90%,企業智能客服營運效率提升6倍。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

4、百度智能雲甄知,是大模型重構的知識管理平台。比如甄知在南方電網助使用者“管、查、用、編”,助查閱效率提升50%,編寫效率提升2倍。

5、百度智能雲超級助理,是大模型加持的超級辦公入口。通過Agent開發引擎,以及多種互動形态,百度智能雲超級助理打造部署靈活、開放相容的辦公提效工具。

6、百度GBI,是全智能生成式BI産品。百度GBI從資料接入、資料清洗、圖表繪制、問題歸因、深度洞察、預測規劃等資料全生命周期提供全智能生成式BI服務。

7、Baidu Comate,是全流程智能編碼輔助工具,目前已與大量合作夥伴推動落地。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

使用者抵達這些AI應用的方式都很簡單,既可以通過SaaS直接通路,同時可以選擇私有化部署方式。各種産品之間還可以搭配使用,組合後的能力更加強大。

五、三大市場差異化生态戰略,市場權益全面更新

面向不同的市場夥伴,百度智能雲制定了差異化的生态戰略。

沈抖透露,過去一年,百度智能雲的夥伴主要包括兩類:場景共創型夥伴和使用者增長性夥伴。

其中,場景共創型夥伴主要由頭部的咨詢、解決方案、服務等“綜合型”夥伴,和擅長軟體開發的“應用型”夥伴組成。另一類使用者增長性夥伴,是由經銷商、分銷商、代理商等夥伴構成。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

百度智能雲将大模型市場劃分為:頭部市場、價值市場、高潛市場。針對不同類型的客戶市場,和生态夥伴采用不同的模式合作。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

首先,針對頭部市場客戶業務場景綜合性強、複雜性高,有很強的個性化訴求,百度智能雲将尋找具備較強客情關系、深度了解客戶所在行業、擁有行業方案與産品的深度整合與傳遞能力的合作夥伴,與百度進行聯合攻堅、互相補位,打造出大模型時代典型的應用案例,為客戶創造新價值,樹立行業标杆。

第二類是價值市場,客戶相比頭部市場客戶更多,業務場景更加标準化,複雜度更低。夥伴可以把面向頭部客戶打造的行業标杆快速複制,或者提供相對輕量化的定制方案。在此過程中,百度将以“夥伴優先”為原則,做好技術和商務支援,按需參與方案定制化開發,與夥伴共同開拓市場、服務客戶。

第三,高潛市場客戶數量最多,業務場景也更簡單,更看重開箱即用的解決方案。面向這類客戶,百度将聚焦打磨标準化的産品與解決方案,并給予夥伴足夠的讓利,保障夥伴利潤空間,支撐好夥伴,由夥伴完全主導銷售及服務。

大模型“朋友圈”增5倍!技術棧大更新,千帆大模型一體機釋出

本次,百度智能雲推動市場權益全面更新。針對三類客戶提供了不同的新權益,比如頭部市場·10+綜合夥伴提供10億元定向商機和1000萬元專項資金支援,針對價值市場·100+應用夥伴單個應用夥伴最高20萬的聯合解決方案共創基金等。

結語:大模型“朋友圈”更新,重構雲計算生态

面向大模型引領的智能化更新浪潮,百度智能雲攜手夥伴共同探讨大模型時代的新型雲計算生态體系,并面向頭部市場、價值市場、高潛市場三類目标市場,制定差異化生态戰略,并圍繞大模型技術棧釋出了一系列産品權益和扶持計劃。

正如沈抖所說,大模型極強的泛化能力,為跨行業、跨場景的應用開發提供了通用的、可遷移的基礎能力和全新的AI原生應用研發範式,在極大地降低研發門檻、提升研發效率的同時,也為産業生态環境帶來根本性的改變。

繼續閱讀