天天看点

闷声操练大模型,字节发动一场奇袭

闷声操练大模型,字节发动一场奇袭

21世纪商业评论

2024-05-17 06:36发布于广东21世纪商业评论官方账号

闷声操练大模型,字节发动一场奇袭

题图来源:网络

撰文丨何己派 编辑丨鄢子为

打成一片的大模型战场,字节扛着“豆包”赶了晚集。

5月15日,字节跳动旗下云服务平台火山引擎,发布豆包大模型。其首次亮相,就一口气放出9款模型,并祭出杀伤力武器,低价。

闷声操练大模型,字节发动一场奇袭

火山引擎总裁谭待介绍,豆包主力模型在企业市场的定价,只有0.0008元/千Tokens,0.8厘就能处理1500多个汉字,比行业便宜99.3%。

价格一公布,会场哗然,“哇”声一片。

会后的媒体群访环节,谭待表示,超低定价,来自信心,“我们不会拿亏损来做这件事。”

过去一年多,字节在AI方面的披露甚少。低调背后,其内部加速追赶,多部门下场,研发AI产品。

一出山,字节就高调掀起大模型价格战。

价格“屠夫”

最高降99%,字节这一刀,直接砍到脚腕。

“模型的效果要好,也要足够便宜。”价格公布环节,谭待一上来就开宗明义,还直接点了百度和阿里。

他提到,大模型的定价,一般以千Tokens作为主要计费单元。

在32K以下主力模型中,OpenAI的GPT-4定价为0.42元/千Tokens,国内大厂便宜些,百度文心一言和阿里通义千问约0.12元/千Tokens。

豆包主力模型,定价为0.0008元/千Tokens,较行业便宜99.3%。

闷声操练大模型,字节发动一场奇袭

换算一下,即用户花1块钱,能从GPT买到2400 Tokens,用火山引擎的豆包,是125万Tokens。

谭待打了个比方,相当于处理3本《三国演义》的文字量,仅需1元。

会后的媒体群访,大量提问围绕价格展开。谭待强调,定价在于两点,一是需要做,二是火山引擎能做。

闷声操练大模型,字节发动一场奇袭

同时,可以通过很多技术手段帮助降低成本,比如,采用分布式推理、大规模的混合调度等。

对“是否用亏损换收入”的问题,谭待明确回应,“用亏损换收入不可持续,我们不走这条路。”

字节带头,卷大模型价格,站在企业角度,是绝对的利好。

一位创业者告诉《21CBR》,他所在的公司不自研大模型,对各家大模型平台的调用,态度开放。“大厂们厮杀到最后,肯定只有几家会留存。”

团战打法

“别拿豆包不当干粮”,字节这次的发布会,没有走寻常路。

一是上来就打价格战。据悉,该公司非常重视这次的定价公布,为保密,参加彩排的工作人员,也不知道价格。

二是大模型厂商常用的“三板斧”,企业客户数量、参数规模、榜单分数,字节都没提。

“我们一直在思考,什么是好的模型。是在各种评测榜单刷榜第一,还是参数量最大,又或者是在PPT上宣称超过GPT-4?可能这些都是因素之一,但不足够。”

闷声操练大模型,字节发动一场奇袭

谭待

谭待表示,大模型只有在真实场景里落地,用的人越多、调用量越大,才会越来越好。

其披露,豆包大模型一年前完成自研,已接入字节内部50余个业务,包括抖音、飞书等,日均处理1200亿Tokens文本,生成3000万张图片。

一向批量生产APP的字节,这次发布采用团战打法,端上了一个大模型全家桶,供不同场景下按需选用。

闷声操练大模型,字节发动一场奇袭

亮相的9款模型,包括通用模型pro、通用模型lite、语音识别模型、语音合成模型、文生图模型等。

豆包通用模型Lite,更具经济性,适合一些对模型能力要求不高的场景,比如汽车智能座舱的交互。

相比Pro,Lite版本的千Tokens成本下降84%,延迟降低50%。

相较以上两个通用模型,以语音为特色的模型,是这次发布会的一大亮点,包括语音识别、语音合成、声音复刻等方向。

很巧的是,就在1天前,OpenAI推出的GPT-4o大模型,能读懂用户情绪的新功能引发热议。

闷声操练大模型,字节发动一场奇袭

在谭待看来,让大模型表达出真实的感情,人和AI的对话会像和真人一样,体验更好。

“语音做得好不好,对交互体验的影响很大。一个模型很聪明,但讲的话干巴巴的,会像个机器人。我们在语音上花了非常多的精力。”他说。

创新焦虑

其他大厂,一把手亲自挂帅“监工”大模型,字节则是低调到近乎神秘。

字节手握大把可投资金,态度极其审慎。

去年4月,谭待提及大模型的发展思路,称“火山引擎不做大模型,先服务好国内做大模型创业的公司。”

彼时,一众大厂和创业新锐蜂拥进入大模型赛道,火山引擎却亮明“AI卖铲人”角色,侧重提供算力与服务支持。

高层并非不焦虑。

闷声操练大模型,字节发动一场奇袭

年初,字节跳动CEO梁汝波提到,直到2023年,公司才开始讨论GPT。业内做得比较好的大模型创业公司,都是在2018年至2021年创立。

过去一年,字节选择蛰伏,加码研发。

去年6月,有消息传出,字节正内测一款AI对话类产品,代号Grace。

2个月后,旗下AI对话产品“豆包”App开启公测。

闷声操练大模型,字节发动一场奇袭

豆包是字节重点投入的大模型应用。

在苹果APP Store和各大安卓应用市场,豆包APP的下载量在国内AIGC类应用中排名第一。

据字节跳动产品和战略副总裁朱骏透露,豆包上有超过800万个智能体被创建,月度活跃用户达到2600万。

除了AI对话助手“豆包”,字节还打造了AI应用开发平台“扣子”、互动娱乐应用“猫箱”以及AI创作工具星绘、即梦等。

“一年前,国内的大模型技术都一般,我觉得,没有到讲应用突破的时候。现在,其实到了这个阶段。”谭待表示。

低价杀入大模型赛道,或许是这家公司开启冲锋的信号。

查看原图 368K

  • 闷声操练大模型,字节发动一场奇袭
  • 闷声操练大模型,字节发动一场奇袭
  • 闷声操练大模型,字节发动一场奇袭
  • 闷声操练大模型,字节发动一场奇袭
  • 闷声操练大模型,字节发动一场奇袭
  • 闷声操练大模型,字节发动一场奇袭
  • 闷声操练大模型,字节发动一场奇袭
  • 闷声操练大模型,字节发动一场奇袭
  • 闷声操练大模型,字节发动一场奇袭

继续阅读