天天看點

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

作者:智東西
位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

作者 | 三北

編輯 | 雲鵬

智東西5月15日報道,今日,在火山引擎原動力大會上,位元組跳動豆包大模型正式開啟對外服務。

豆包大模型家族在會上首次亮相,目前包括通用模型Pro、通用模型Lite、角色扮演模型、語音識别模型、語音合成模型、聲音複刻模型、文生圖模型、Function Call模型、向量化模型九款模型。

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

在定價方面,火山引擎正推動大模型從“以分計價”進入“以厘計價”階段。豆包通用模型Pro 128k版模型推理輸入價格為0.005元/千Tokens,據稱比行業價格低95.8%。

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

豆包通用模型Pro 32k版模型推理輸入價格為0.0008元/千Tokens,比行業價格低99.3%。換句話說,一進制錢就能買到豆包主力模型的125萬Tokens,相當于三本《三國演義》。

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

▲火山引擎總裁譚待在解讀豆包主力大模型的定價

同時,火山引擎宣布推出火山方舟2.0平台,釋出聯網插件、内容插件、知識庫插件三個重要插件。火山方舟2.0平台可提供萬卡GPU資源池支撐訓練,支援3分鐘内完成千卡擴容,在系統承載力、安全與服務能力上實作提升。

此外,火山引擎還宣布推出扣子專業版,提供企業級AI應用開發平台;釋出了資料洞察AI助手ChatBI、智能創作雲2.0、AI 助手 Sales Copilot;聯合多家行業夥伴成立智能終端大模型聯盟、汽車大模型生态聯盟。

在會後,智東西等少數媒體與火山引擎總裁譚待進行了面對面對話。

團隊在豆包大模型的定價方面有什麼樣的想法和思考?

譚待說,不同尺寸、性能的模型價格不一樣,位元組這次是能力最強的主力模型的定價都比行業價格低99%,這是非常驚人的。

背後的原因有兩點:一是團隊能做到,團隊在技術上有非常多優化手段,包括通過模型結構的優化調整,把成本做低、效果做好,通過分布式推理、混合排程大幅度降低部署成本等;二是團隊需要怎麼做,今年大模型的應用變得更加重要,同時大模型創新的風險依然很高,是以大家需要把試錯成本降得非常低,才能夠讓大模型廣泛地應用起來。

豆包大模型在價格降低的同時性能怎麼樣?

根據譚待在現場的解答,豆包主力模型是要跟市面上所有的主力模型去對比,雖然模型參數、基準測試表現在會上沒有特别披露,但在它開放後大家馬上就會看到很多第三方測試結果出來,團隊自信接受使用者使用之後的測評。第二是普通使用者去用豆包App後會有自己的感受,它的巨大的使用量也是模型能力很好的證明。

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

▲火山引擎大模型服務全矩陣圖(智東西現場拍攝)

譚待透露,豆包大模型目前日均處理1200億Tokens文本,生成3000萬張圖檔。而豆包App下載下傳總量截至目前已達1億,雙端月活躍使用者達2600萬。

一、推出全棧AI服務,豆包大模型開啟對外服務

譚待說,大模型的發展與每個人、每家企業都息息相關,而當下企業落地大模型面臨着模型效果、推理成本和落地難度等關鍵挑戰。

為此,火山引擎宣布推出全棧AI服務,提供更低成本、更易落地的更好模型,助力企業AI轉型。

同時,豆包大模型正式開啟對外服務。譚待透露,經過一年時間的疊代和市場驗證,豆包大模型目前日均處理1200億Tokens文本,生成3000萬張圖檔。

豆包通用模型Pro具備了解、生成、邏輯、記憶等強綜合能力, 支援128k長文本精調,且支援問答、總結、分類、創作等豐富的場景。

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

豆包通用模型Lite是更具成本效益的通用模型,千Tokens成本降低84%,延遲降低50%,它支援閑聊、天氣及實時資訊查詢、音樂視訊播放、導航等場景,效果領先傳統語音處理50%以上。

豆包角色扮演模型支援角色高度定制,能夠基于上下文感覺自适應使用者扮演或陪伴需求,且具有強劇情推動能力,能夠持續引導聊天。

在豆包語音系列模型,豆包語音識别模型具有高準确率和個性化特征,支援多語種識别;豆包合成模型具有自然、多情緒和多演繹特征;豆包聲音複刻模型支援5秒複刻,跨語種遷移,與原聲具有高相似度。

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

此外,豆包大模型還包括文生圖模型、Function Call模型、向量化模型等其他細分領域模型。

會上,位元組跳動産品和戰略副總裁朱駿結合豆包的案例解讀位元組在大模型産品設計上的思考。

朱駿談道,豆包的設計有幾條基本原則,第一是足夠拟人化,比如“豆包”這一名字就展現了拟人化特征。

第二是離使用者近。豆包的功能定位包括随身攜帶的“語音百事通”、桌面端文案創作小助手等,主要嵌入使用者現有的使用環境,以拉進與使用者的距離。

第三是遵循個性化。在智能體的世界,每個人都有個性化的需求和情感,是以在豆包上每個普通使用者都可以“捏”一個專屬自己的智能體。豆包還支援打造更高階的智能體定義能力,比如打造個性化的輔導老師等。

截至目前,豆包App下載下傳總量已達1億,雙端月活躍使用者達2600萬,智能體總建立數達800萬。

二、火山方舟2.0平台釋出,萬卡GPU資源池支撐,三大插件更新

今日,火山引擎還宣布推出火山方舟2.0平台,釋出聯網插件、内容插件、知識庫插件三個重要插件。

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

其中,聯網插件支援實時聯網信源,提供抖音、今日頭條同款搜尋能力,并支援多模态互動及意圖識别檢索。

内容插件支援海量内容調取,獨家上架抖音内容插件,提供抖音豐富視訊和圖文内容,豐富大模型和使用者的互動過程,并支援内容政策定制。

平台知識庫插件支援企業調用内部知識庫,内置了位元組自主研發的搜尋引擎,支援毫秒級、百億規模檢索,且搜尋更新快、搜尋相關性高。

除了插件更新,火山方舟2.0平台在系統承載力、安全與服務能力上實作提升。

譚待稱,平台可提供萬卡GPU資源池支撐訓練,3分鐘内完成千卡擴容,運維體驗和安全合規增強,助力AI場景落地的最後一公裡。

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

三、扣子專業版釋出,推出AI助手ChatBI,智能創作雲2.0更新

今日,火山引擎推出扣子專業版,提供企業級AI應用開發平台。

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

據悉,扣子是位元組推出的新一代AI應用開發平台,具有低門檻、個性化、實時性和多模态等特征,具備海量的AI資源、豐富的釋出管道,并支援一鍵自定義API服務。

位元組大模型釋出!“比行業價格低99%”,對話火山引擎總裁譚待

目前,扣子專業版已內建在火山引擎的大模型服務平台“火山方舟”上。招商銀行、海底撈火鍋、超級猩猩、獵聘等企業,已在扣子上搭建了智能體。複旦大學、浙江大學等名校也為課程和實驗搭建AI“助教”。

今日,火山引擎智能資料洞察DataWind正式釋出AI助手ChatBI,使用者可通過自然語言互動生成名額,用于圖表制作、資料查詢,還可進行深度資料分析,且ChatBI支援IM互動,可多端應用,随時随地自助分析,有望大幅降低資料消費門檻。

面向營銷場景,火山引擎進行了智能創作雲2.0的更新,成為從内容創作、矩陣分發、廣告投放到資料洞察一站式的企業内容營銷增長方案;不僅提供多模态的了解與生成能力,助力視訊創作效率提升25倍,更上線抖音話題、POI、小程式等營銷工具,使門店頁面曝光提升600%。

面向銷售場景,火山引擎釋出了銷售AI 助手 Sales Copilot,能夠高效跟進客戶需求,随時輔助銷售解答複雜的産品問題。此外,它還能通過角色扮演的方式模拟不同風格的對客演練,并提供優秀話術學習,提升銷售溝通品質。

此外,火山引擎今日與OPPO、vivo、榮耀、小米、三星、華碩宣布成立智能終端大模型聯盟;與吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20餘家廠商,宣布成立汽車大模型生态聯盟。

結語:大模型産業新的價格戰打響

當下,全球大模型産的的價格戰已經打響。那廂,國外OpenAI最新推出的旗艦模型GPT-4o剛剛宣布API定價降低一半;這廂,國内的位元組跳動豆包大模型将價格打爆,主力模型相比行業價格降低99%。

随着豆包大模型家族首亮相,我們看到位元組做大模型具有強應用導向的特征。在應用需求的導向下,位元組跳動及火山引擎關注模型效果、成本和易用等多個次元的平衡。本次豆包大模型的一大特征是遠低于行業市場的定價,模型的實際使用性能和體驗如何,我們持續關注使用者和開發者體驗後的進一步回報。

繼續閱讀