天天看點

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

作者:資料猿

5月15日,2024春季火山引擎FORCE原動力大會在北京正式舉辦。會上正式釋出了位元組跳動豆包大模型家族、火山方舟2.0、AI應用及AI雲基礎設施等最新産品。

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

火山引擎總裁 譚待

火山引擎總裁譚待表示,企業要做好大模型落地,面臨模型效果、推理成本、落地難度的三大關鍵挑戰:既要有好的基礎大模型做支撐,解決複雜難題,也要有低成本的推理服務讓大模型被廣泛應用,還要更多工具、平台和應用幫助企業做好場景落地。

豆包大模型首次亮相 大使用量打磨好模型

模型效果是AI落地最關鍵的挑戰。譚待指出,隻有大的使用量,才能打磨出好模型。目前,豆包大模型日均處理1,200億tokens文本、生成3,000萬張圖檔。

為助力企業做好大模型場景落地,位元組跳動自主研發的豆包大模型将通過火山引擎正式對外提供服務,企業可根據自身業務場景需求靈活選擇、快速落地:

豆包通用模型pro:位元組跳動自研LLM模型專業版,支援128k長文本,全系列可精調,具備更強的了解、生成、邏輯等綜合能力,适配問答、總結、創作、分類等豐富場景;

豆包通用模型lite:位元組跳動自研LLM模型輕量版,對比專業版提供更低token 成本、更低延遲,為企業提供靈活經濟的模型選擇;

豆包·角色扮演模型:個性化的角色創作能力,更強的上下文感覺和劇情推動能力,滿足靈活的角色扮演需求;

豆包·語音合成模型:提供自然生動的語音合成能力,善于表達多種情緒,演繹多種場景;

豆包·聲音複刻模型:5秒即可實作聲音1:1克隆,對音色相似度和自然度進行高度還原,支援聲音的跨語種遷移;

豆包·語音識别模型:更高的準确率及靈敏度,更低的語音識别延遲,支援多語種的正确識别;

豆包·文生圖模型:更精準的文字了解能力,圖文比對更準确,畫面效果更優美,擅長對中國文化元素的創作;

豆包·Function call模型:提供更加準确的功能識别和參數抽取能力,适合複雜工具調用的場景;

豆包·向量化模型:聚焦向量檢索的使用場景,為 LLM 知識庫提供核心了解能力,支援多語言。

譚待介紹,早在去年,豆包大模型(原名:雲雀)就在位元組跳動内部完成了上線,也是首批通過大模型服務安全備案的大模型之一。位元組跳動内部50多個業務已經大量使用豆包大模型進行AI創新,包括抖音、頭條等數億DAU産品。基于豆包大模型同名打造的豆包APP,在蘋果APP Store和各大安卓應用市場,豆包APP的下載下傳量在AIGC類應用中排名第一*。

*資料來源:QuestMobile

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

位元組跳動産品和戰略副總裁 朱駿

位元組跳動産品和戰略副總裁朱駿介紹了位元組跳動基于豆包大模型打造AI原生應用的産品理念。他表示,技術在快速演化,但使用者核心的需求沒有改變,比如高效擷取資訊的需求、工作提效的需求、自我表達的需求、社交娛樂的需求等。位元組跳動做了很多學習和探索,希望找到适合的大模型應用形态,以自然的互動形式服務使用者,走入更多人的生活和工作。

豆包APP是位元組跳動重點投入的大模型應用,據朱駿透露,豆包平台月度活躍使用者達到2,600萬,已有超過800萬個智能體被建立。

豆包大模型在服務位元組内部的同時,也在與火山引擎的衆多企業客戶合作共創。譚待認為,企業在不同業務場景中,需要不同特點的模型,進而實作最佳效果和成本效益。為此,豆包大模型提供的是一個多模态模型家族,企業可根據自身業務場景需求靈活選擇,實作模型使用及成本控制的正循環。

人人用得起 才是好模型

譚待認為,降低成本是推動大模型快進到“價值創造階段”的一個關鍵因素。豆包主力模型在企業市場的定價隻有0.0008元/千 tokens,0.8厘就能處理1,500多個漢字,比行業便宜99.3%。

以豆包通用模型pro-32k版為例,模型推理輸入價格僅為0.0008元/千 tokens。而市面上同規格模型的定價一般為0.12元/千 tokens,是豆包模型價格的150倍。大模型價格,進入“厘時代”。

譚待表示,大模型“卷”價格,将助力企業以更低成本加速業務創新。

方舟2.0更新 推進大模型價值創造

去年,火山引擎釋出了一站式大模型服務平台火山方舟,希望通過模型即服務的理念,幫助企業在高效、安全的環境裡應用各類模型。今年,火山引擎對方舟平台進行了全面更新,更新後的火山方舟2.0将大幅提升模型效果、核心插件、系統性能以及平台體驗,幫助企業推進大模型的價值創造。

在插件和工具鍊上,方舟2.0更新了聯網插件,提供頭條抖音同款搜尋能力,實時連接配接海量優質資料,同時使用文本、圖像、語音等多模态互動方式,并通過業内領先的意圖識别能力,大幅提升模型的資訊擷取能力;更新内容插件,提供頭條抖音同源海量内容,支援多模态互動,提供基于意圖的垂類内容資訊檢索,内容時效檢索更強,幫助大模型深入了解、檢索和生成内容;更新知識庫插件,提供毫秒級百億規模的高性能檢索,秒級流式知識庫索引更新,内嵌豆包向量化模型,提高搜尋的相關性和準确性。

除以上核心插件更新之外,火山方舟2.0也全面更新了系統承載能力、安全防護能力和算法服務能力。在系統承載力上,提供充沛的GPU算力資源,分鐘級千卡擴縮容的超強彈性,保障業務穩定和成本可控;在安全防護上,通過安全沙箱建構可信的執行環境,多元度的安全架構,保障資料安全;此外,火山引擎提供專業的算法團隊服務,幫助客戶釋放獨有資料價值,讓企業大模型應用輕松落地。

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

扣子産品經理 潘宇揚

除了好的模型效果、便捷的插件、強勁的系統性能,還需要提供簡單易用開發平台,才能讓所有人都能成為 AI 應用的開發者。扣子産品經理潘宇揚介紹,扣子(coze)作為位元組跳動推出的新一代AI應用開發平台,具備低門檻、個性化、實時性、多模态等優勢,并集合海量的AI資源、豐富的釋出管道、一鍵自定義API服務,幫助填補大模型到使用者場景的最後一公裡。

火山引擎正式釋出了扣子專業版。扣子專業版在扣子可視化靈活編排智能體的能力基礎上,進一步提供企業級SLA和多種進階特性,使AI應用更易落地,讓企業更專注于通過智能體創新,驅動業務增長。

譚待表示,火山引擎緻力于成為AI時代最開放和領先的雲服務平台。全新更新的火山方舟2.0将通過更強性能、更優插件、更好服務以及安全可信方案,助力大模型應用落地。

廣泛落地實踐 多行業結出碩果

豆包大模型和火山方舟2.0目前已經在金融、汽車、智能終端、電商零售、教育科研等多個行業實踐落地。招商銀行、海底撈火鍋、超級猩猩、攜程旅遊、飛常準、獵聘等企業也已經在扣子上搭建了智能體。複旦大學、浙江大學等名校也為課程和實驗搭建了“AI 助教”。

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

招商銀行數字金融發展辦公室主任 高旭磊

作為金融行業AI轉型的踐行者,招商銀行正在智能外呼、數字人、智能資料助理等上百個AI服務場景探索和投入。招商銀行數字金融發展辦公室主任高旭磊表示,大模型将為銀行全鍊條業務帶來改造和更新。攜手火山引擎,雙方将共建大模型應用場景及高性能基礎設施,改造現有系統和産品,催生大量以 AI 為核心的智能體應用。

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

蒙牛集團副總裁、首席數智官 李琤潔

蒙牛集團副總裁、集團首席數智官李琤潔從生産工具進化、生産方式進化、組織方式進化的三個方面介紹了蒙牛集團的數智化曆程。蒙牛集團正與火山引擎合作夯實技術底座,并建構了AI營養專家、AI育嬰師、AI資料分析師、産品創新助手、熱點創意助手等智能體矩陣,提升前端消費者體驗,助力後端營運人員決策。

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

智能終端大模型聯盟釋出

會上,火山引擎與OPPO、vivo、榮耀、小米、三星、華碩宣布成立智能終端大模型聯盟。OPPO小布助手、榮耀MagicBook的YOYO助理、小米“小愛同學”、華碩筆記本電腦的豆叮AI助手等應用,均已接入火山引擎的大模型服務。

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

汽車大模型生态聯盟釋出

同時,火山引擎聯合中國電動汽車百人會與吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20餘家廠商,宣布成立汽車大模型生态聯盟,緻力于探索新一代人車互動新形态,提升汽車全場景AI新體驗。

兩大聯盟企業OPPO和捷途汽車也分别就自身的大模型實踐進行了分享:

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

OPPO智能助理部部長、小布助手首席架構師 萬玉龍

OPPO智能助理部部長,小布助手首席架構師萬玉龍分享了OPPO AI手機的大模型應用實踐,他表示,目前小布助手已經覆寫3.5億終端裝置,月活躍使用者數超1.5億。在火山方舟上,OPPO通過意圖識别大模型、聯網總結大模型、個性化人物大模型和豆包大模型建構了通用問答、伶俐小妹、面試官等智能體,為終端使用者帶來了全新的AI體驗。

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

捷途汽車數字化負責人 劉航

捷途汽車數字化負責人劉航表示,捷途汽車希望通過大模型擴大自身服務能力、洞察使用者真實需求,進而提升銷售效率和能力。攜手火山引擎,雙方圍繞客服場景進行了共創,所打造的智慧客服AI小捷,在節省人力的同時,還能幫助客服人員快速擷取資訊,服務客戶。未來,捷途汽車還希望通過大模型進一步實作座艙、決策、營銷的智能化更新。

多款AI應用釋出 快速落地開箱即用

除大模型服務平台以外,AI應用也是火山引擎全棧AI服務的關鍵組成。

去年,火山引擎提出了企業數智化更新新模式——資料飛輪,該模式以資料消費為核心驅動力,使企業資料流充分融入業務流,實作資料資産和業務應用的飛輪效應。為了讓企業資料消費更普惠、更便捷,火山引擎智能資料洞察DataWind 正式釋出AI助手ChatBI,使用者可通過自然語言互動生成名額,用于圖表制作、資料查詢,還可進行深度資料分析,且ChatBI支援IM互動,可多端應用,随時随地自助分析,這将大幅降低資料消費門檻,提升讀數、用數效率,為資料飛輪加速運轉提供動力。

面向營銷場景,火山引擎進行了智能創作雲2.0的更新,成為從内容創作、矩陣分發、廣告投放到資料洞察一站式的企業内容營銷增長方案;不僅提供多模态的了解與生成能力,助力視訊創作效率提升25倍,更上線抖音話題、POI、小程式等營銷工具,使門店頁面曝光提升600%。目前已經有3,000+企業在火山引擎開啟AIGC視訊營銷增長。

面向銷售場景,火山引擎釋出了銷售AI助手Sales Copilot,能夠高效跟進客戶需求,随時輔助銷售解答複雜的産品問題。此外,它還能通過角色扮演的方式模拟不同風格的對客演練,并提供優秀話術學習,提升銷售溝通品質。

火山引擎一直緻力于建構開放共享的生态理念,自2021年釋出萬有計劃以來,已經幫助100+家SaaS企業實作了業務增長,實作近萬單客戶簽約。豆包企服聯盟,是萬有計劃針對大模型落地的專項計劃。萬有計劃·豆包企服聯盟将提供一攬子支援規劃,幫助SaaS企業實作AI更新,為行業客戶提供更多開箱即用的AI應用。

AI 基礎設施再升維 雲端算力可靠保障

大模型時代,叢集管理複雜度、網絡性能、穩定性是雲基礎的關鍵挑戰。為應對上述挑戰,火山引擎基于内外共池的資源規模優勢和内部實踐,圍繞大叢集建設、管理、性能優化、穩定性保障提供了一套業界領先的解決方案。

位元組跳動豆包大模型釋出,火山引擎全棧AI服務助力企業智能化轉型

NVIDIA解決方案和工程副總裁 賴俊傑

會上,火山引擎正式釋出veOmniverse,基于NVIDIA Omniverse為企業、開發者提供全新的雲上開發平台,助力企業與開發者在互聯的虛拟世界中,圍繞工作流程展開高效的設計和協作,探索和打造智能逼真的虛拟世界。

除為客戶提供高穩定性和高性能的雲基礎設施外,面對本地部署需求,火山引擎也全新釋出了混合雲veStack智算版,具有萬卡叢集組網,3.2T高性能無損網絡的超大規模優勢;端到端工程化所支撐的極緻性能,能夠實作97.78%訓練加速比和分鐘級故障發現和自愈;擁有多元異構能力,可适配十餘種GPU,支援主流國産化GPU。

完整的AI應用除GPU負責的密集計算外,存量CPU負載也需要持續降本增效,保障業務輕裝上陣,加速創新。從計算、存儲、網絡、運維4個層面,火山引擎全力支援客戶雲上業務穩定營運。

從技術創新到商業落地,大模型已經為各行業的AI轉型提供了強大的動能。火山引擎基于位元組跳動在大模型領域的實踐沉澱,通過大使用量打磨出好模型,以技術驅動的極緻成本效益讓大模型人人用得起,通過各行業豐富的落地經驗與算法服務陪伴客戶一起成長。未來,火山引擎全棧AI服務将持續助力企業AI轉型落地,激發業務增長潛能。

繼續閱讀