天天看點

百度Create AI劇透:“三大開發神器”更新,模型增至77個

作者:智東西
百度Create AI劇透:“三大開發神器”更新,模型增至77個

作者 | 香草

編輯 | 李水青

智東西4月11日報道,今日,在百度Create AI開發者大會預溝通會上,百度披露了“三大開發神器”AgentBuilder、AppBuilder、ModelBuilder階段性成果。

據介紹,AgentBuilder将提供問答對調優、資料看闆、提供接入商業插件和一站式深度服務等新能力;AppBuilder工具元件擴增至55個,并上線了“三步生成應用”功能;ModelBuilder模型量增至77個,還将提供模型精調樣闆間,内置業内最多的47個資料集和119個産業級Prompt模闆。

在即将于4月16日舉辦的開發者大會上,百度創始人、董事長兼首席執行官李彥宏還将帶來2024年首場演講,現場展示“開箱即用”的三大開發神器,示範多個标杆案例的開發全流程。

大模型産業迎來應用爆發,但應用落地仍面臨挑戰。百度智能雲平台産品事業部産品市場負責人王曼談道,大模型應用落地主要面臨場景探索、開發門檻、推理和訓練成本、應用效果等方面的挑戰,百度智能雲千帆平台打造的大模型服務超級工廠能為開發者提供多樣化的能力、工具,完成商業閉環。

談到智能體建立低門檻可能帶來的管理亂象,百度移動生态事業群組文心智能體生态負責人馬寶雲告訴智東西,百度一直很重視版權、原創保護等,在這方面投入很多,不經開發者允許不會将其Prompt等資料洩露給大模型或其他使用者。同時,AgentBuilder在稽核、分發門檻等方面都有較高的要求,必要時也會有人力參與,進而更精準地識别和判斷。

AgentBuilder位址:

https://agents.baidu.com/

AppBuilder位址:

https://cloud.baidu.com/product/AppBuilder

ModelBuilder位址:

https://cloud.baidu.com/product/wenxinworkshop

一、AgentBuilder:資料飛輪三層調優,新增數字形象一鍵配置

AgentBuilder(靈境矩陣)是百度在2023年世界大會上釋出的基于文心大模型的智能體(Agent)建構平台,為開發者提供低成本的開發方式,提供多樣化的能力、工具,并為開發者提供百度生态流量分發路徑,完成商業閉環,實作“開發+分發+營運+變現”一體。

據馬寶雲介紹,AgentBuilder具有7大平台優勢:領先的大模型實力、零基礎自然語言建立、數字形象一鍵配置、高相容資料集能力、多樣化工具插件、百度生态流量分發以及資料飛輪全面調優。其中,數字形象與資料飛輪調優功能将在開發者大會前夕上線。

馬寶雲透露,數字形象一鍵配置功能将提供多樣的數字人形象與人聲,供各類型智能體開發者挑選,打造人格化的智能體,提升使用者互動體驗。

資料飛輪調優則基于平台的三層調優能力,智能體建立後,平台會幫助開發者進行問答對調優,讓智能體更易獲得流量;營運中,開發者可以通過分析看闆觀察流量波動和品質診斷,調優自己的智能體;底座大模型則會通過分發資料回報進行自主調優,讓智能體學習更新、更加聰明。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲AgentBuilder資料飛輪全面調優

在資料集能力方面,AgentBuilder将提供國内領先的資料集接入能力,支援大容量、多格式、多途徑接入,滿足專業或特定智能體建構。一個賬号最多能建立100個智能體,單個智能體最多10個資料集,支援文本、表格、圖檔等多格式,5-6月還将上線音視訊,資料可本地上傳、連結導入解析,開發者還可設定定期重新整理資訊庫。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲AgentBuilder高相容資料集能力

生态矩陣分發方面,AgentBuilder的定位不僅是一個純開發平台,更是一個覆寫“開發+分發+營運+變現”的一體化賦能平台,已打通百度搜尋、小度、文心一言、地圖、車機等多場景、多裝置。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲AgentBuilder生态矩陣分發能力

馬寶雲還向我劇透了AgentBuilder的新能力,包括問答對調優、資料看闆、提供接入商業插件和一站式深度服務等。

二、AppBuilder:可三步生成應用,工具元件擴增至54個

2023年3月,百度智能雲推出全球首個一站式的企業級大模型平台——“千帆大模型平台”,包括AppBuilder和ModelBuilder兩部分,為企業和開發者提供靈活、多樣化、高效的大模型服務。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲百度智能雲千帆大模型平台

王曼透露,截至目前,千帆大模型平台已服務超8.5萬客戶,累計精調超1.4萬模型,開發應用數量超過19萬。大模型應用也快速增長,千帆AppBuilder周新增應用突破3000個。

AppBuilder是産業級AI原生應用開發平台,聚焦AI原生應用搭建,面向各類應用場景,提供“代碼态”與“零代碼态”兩種産品形态,分别針對有深度AI原生應用開發需求的使用者和“技術小白”。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲AppBuilder兩種産品形态

據王曼介紹,AppBuilder具有三大核心優勢:應用建立全流程自動化、工作流編排、開放易用。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲AppBuilder三大核心優勢

為進一步提高開發體驗和效果,AppBuilder近期進行了産品更新,工具元件擴增至55個,包括數十個大模型能力元件、AI能力元件以及百度自有的搜尋元件等。

同時,AppBuilder上線了“三步生成應用”功能,使用者僅需用自然語言提出問題,即可自動建立相應應用,無需寫複雜的需求和代碼。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲三步生成應用功能示範

為了加速應用的快速落地,AppBuilder還新增多管道應用分發與內建功能,開發者可一鍵将應用分發到微信公衆号、Web端、H5或百度靈境等多管道,實作應用快速上線。

三、ModelBuilder:模型量增至77個,提供模型精調樣闆間

百度千帆大模型平台ModelBuilder是企業級全棧式生成式AI大模型開發及應用平台。據王曼介紹,ModelBuilder提供的模型總數目前達到77個,模型數量國内第一。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲ModelBuilder模型矩陣

ModelBuilder近日釋出了3款輕量模型,包括ERNIE Speed、ERNIE Lite、ERNIE Tiny,還釋出了2款垂直模型,分别是ERNIE Character和ERNIE Functions。

王曼談道,在服務客戶過程中,團隊發現企業客戶在應用大模型時主要面臨三個主要問題:可定制化、模型性能和模型使用成本。

旗艦模型雖然效果好,但成本較高。相較之下,輕量模型能夠滿足不同程度的智能、速度和成本的組合需求。

百度智能雲釋出的三款輕量模型分别适用于不同場景。其中,ERNIE Speed定位于适合微調的基座模型,最高支援128K,通用能力優異,能更好地處理特定場景問題,同時具備極佳的推理性能,其價格為輸入0.004元/千token,輸出0.008元/千token。

ERNIE Lite則更“輕”,兼顧效果與性能,适合低算力加速卡推理使用,價格為輸入0.003元/千token,輸出0.006元/千token。

ERNIE Tiny的成本更低,同時低延遲,适用于檢索及推薦、意圖識别等高并發低延時場景、端側推理場景,價格為輸入0.001元/千token,輸出0.001元/千token。

兩款垂直模型中,ERNIE Character适用于遊戲NPC、客服對話、對話角色扮演等應用場景,支援微調;ERNIE Functions則适合對話或問答場景中的外部工具使用和業務函數調用,結構化回答合成能力更強、輸出格式更穩定。

為了讓開發者更高效地開發大模型應用,ModelBuilder還提供高品質具有行業特色的資料集,内置了業内最多的47個資料集,提供119個産業級Prompt模闆,提供模型精調樣闆間,内置作文點評、口語教練等高頻場景。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲ModelBuilder提供資料集、Prompt模闆等

從資料管理、模型精調、模型評估優化,到推理服務部署、Prompt工程,ModelBuilder提供全流程工具鍊,并以RESTful API(應用程式接口)形式提供全棧API能力,支援Java、Python等多語言的SDK,覆寫模型開發和應用開發的20多個的使用案例。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲ModelBuilder提供全流程工具鍊

此外,通過千帆模型路由方案,多模型組合應用效果可追平旗艦版大模型,成本大幅降低。

王曼分享了一個客戶案例:在手機助手對話場景中,通過模型路由方案将使用者問題分别識别為簡單問題和複雜問題,根據不同情況選擇不同的能力模型。測試資料顯示,推理成本可降低15%、效果對齊EB3.5。

百度Create AI劇透:“三大開發神器”更新,模型增至77個

▲模型路由方案案例

結語:用好三大AI神器,人人都是開發者

随着大模型逐漸發展,“如何用好大模型”已經成為了開發者們更關心的問題。百度“三大開發神器”為開發者提供了優質的模型、工具,并壓縮成本、降低技術門檻,使得人人都可成為開發者。

程式員會消失嗎?大模型的下一站是什麼?開發者的機會在哪裡?什麼才是最好用的AI應用開發工具?在4月16日舉辦的2024百度Create AI開發者大會上,百度創始人、董事長兼首席執行官李彥宏将就這些備受矚目的問題一一進行解答。

繼續閱讀