天天看点

英特尔发全新自研AI芯片Gaudi 3,或成英伟达产品劲敌

作者:放牛班的秘密花园

Veryken前沿行业动态|AI·半导体·电子消费品|动力电池|储能|新能源汽车|光伏

人工智能(AI)

【谷歌新技术使大模型能处理“无限长”的文本输入】

谷歌在其最新的研究中提出了一种名为“无限注意力”(Infini-attention)的机制,这一技术极大地扩展了Transformer模型处理长文本序列的能力。通过这项创新,谷歌的1B参数模型现在能处理相当于10部小说长度的上下文,即100万token,同时在Passkey检索任务中表现出色。更令人印象深刻的是,其8B参数模型在处理长达500K token的书籍摘要任务时,创造了最新的SOTA(state-of-the-art)记录。

“无限注意力”机制的核心在于其压缩记忆系统,它允许模型在处理新输入时保留和重用之前的上下文信息。这种机制通过固定数量的参数来存储和回忆信息,而不是随着输入序列长度的增加而增加参数量,从而显著减少了内存占用和计算成本。这一技术使模型能在内存大小不变的情况下处理114倍多的信息,相当于将一个存放100本书的图书馆扩展到能存储11400本书。

在实际应用中,“无限注意力”将输入序列划分为较短的子序列,并采用局部注意力机制来处理每个子序列内的上下文信息。这种方法不仅避免了一次性处理整个长序列的挑战,还允许模型以流式方式逐步处理输入。此外,“无限注意力”在训练后分化出两种不同类型的注意力头,专门化的头和混合头,它们协同处理长期和短期上下文信息,进一步提升了模型的性能。

VeryKen智评:这一突破性进展对于大模型的未来发展具有重要意义,它不仅提高了模型处理长文本的能力,还为多模态数据处理和Transformer模型的进一步发展打开了新的可能性。随着这项技术的进一步应用和完善,未来有望看到更多创新的AI解决方案,特别是在处理非连续数据方面。(量子位,虎嗅)

半导体

【英特尔发布新一代AI芯片,或成英伟达产品劲敌】

英特尔在人工智能加速器领域取得了重要进展,其子公司Habana Labs在Vision 2024大会上展示了最新一代高性能AI加速器Gaudi 3,宣称其性能将超越英伟达H100,并将在今年第三季度向客户出货。Gaudi 3在性能上有显著提升,特别是FP8计算吞吐量达1835 TFLOPS,有望在AI计算领域分得一杯羹。

英特尔发全新自研AI芯片Gaudi 3,或成英伟达产品劲敌

Gaudi 3的设计在内部基准测试中部分超过了英伟达的H100,并且在能耗比上具有优势。在处理大型语言模型等关键任务时,Gaudi 3展现了其卓越的性能,预计在训练GPT-3等大型语言模型的时间上比英伟达H100快40%,在推理端比英伟达H100快50%。此外,Gaudi 3的发布也是英特尔AI加速器产品定位发生变化的体现,Gaudi系列已升级为英特尔旗舰AI加速器。

英特尔发全新自研AI芯片Gaudi 3,或成英伟达产品劲敌
英特尔发全新自研AI芯片Gaudi 3,或成英伟达产品劲敌

Gaudi 3是Gaudi 2硬件的直接演变,采用了台积电更先进的5nm工艺,并在计算硬件上进行了扩展。Habana团队公开了Gaudi 3芯片FP8精度的总吞吐量,使得Gaudi 3在使用8位浮点计算产生的AI算力是Gaudi 2的两倍,BFloat 16格式的算力提升达到了四倍。

英特尔发全新自研AI芯片Gaudi 3,或成英伟达产品劲敌

英特尔还强调了Gaudi 3在能效比上的优势,预计在Llama模型上比H100快220%,在Falcon模型上快230%。Gaudi 3芯片的双芯配置,通过高带宽链路连接,提供统一的内存地址空间,类似于英伟达的Blackwell。

VeryKen智评:Gaudi 3的发布正值AI加速卡需求高涨之际,其强劲的性能和可扩展性使其成为英伟达H100的强有力竞争对手,可能会为英特尔在AI加速器市场打开新的机遇。英特尔CEO帕特·基辛格在大会上展示了Gaudi 3的性能,并表示其性能将与英伟达H200相当,甚至在某些领域更好。Gaudi 3的推出,不仅是英特尔在AI领域的一次重要技术展示,也是其构建广泛AI生态联盟,推动企业AI创新战略的一部分。(机器之心,量子位,澎湃新闻)

【Meta推新版自研AI芯片,性能较上代提高3倍】

社交巨头Meta近日宣布了其下一代自研AI芯片的最新进展,新一代AI训推一体加速器MTIA v2。这款芯片是Meta专门为AI训练和推理工作设计的定制芯片系列,计算性能比去年推出的第一代MTIA v1提升了3倍,内存带宽提升了3.5倍,内存容量增加了一倍。

英特尔发全新自研AI芯片Gaudi 3,或成英伟达产品劲敌

MTIA芯片的设计专注于为Meta旗下的社交软件提供更高效的排名和推荐系统。这款芯片采用了台积电的5nm工艺,拥有更多的处理核心和更大的片上内存,频率达到1.3GHz。Meta的测试显示,新芯片在处理关键模型的性能上远超前一代产品。为了支持这款芯片,Meta还开发了大型机架式系统,能够容纳多达72个加速器,显著提高了运行效率。软件方面,新芯片的软件堆栈与MTIA v1非常相似,确保了快速的部署和兼容性。Meta已将完整的软件堆栈集成到芯片中,使开发者能迅速利用新芯片处理生产模型。

新款MTIA芯片已被部署在Meta的数据中心,并展现出积极成果,证明了其在提供性能和效率方面与商用GPU的高度互补性。Meta的这一举措不仅减少了对外部芯片供应商如英伟达的依赖,也为其在AI领域的扩张提供了强有力的支持。(机器之心,澎湃新闻,财联社)

【英特尔领衔,巨头争相布局玻璃基板,先进封装将迎变革】

随着AI和高性能电脑对计算能力和数据处理速度的需求日益增长,半导体行业迈入了异构时代,即封装中广泛采用多个“Chiplet”。 在此背景下,英特尔推出了玻璃基板技术,以应对有机基板在信号传输速度、功率传输优化、设计规则完善和封装基板稳定性方面的局限性。

作为一种新型的基板材料,玻璃基板具有出色的物理特性。其主要成分是二氧化硅,在高温下更稳定,可以更有效地处理更高的温度,同时有效管理高性能芯片的散热。此外玻璃基板可实现更高的互连密度,这对于下一代封装中的电力传输和信号路由至关重要,并具有更高的平整度,使得封装和光刻变得更容易。

英特尔发全新自研AI芯片Gaudi 3,或成英伟达产品劲敌

英特尔是玻璃基板领域的领军企业之一,早在十年前就开始投入研发,并计划在未来几年内提供完整的商业应用解决方案,以推动摩尔定律的持续发展,满足数据驱动应用的算力需求。英特尔预计将在本十年晚些时候使用玻璃基板进行先进封装,首批产品将是高端HPC和AI芯片。此外,三星、LG、苹果等业界巨头也纷纷加码布局玻璃基板领域。三星组建“军团”加码研发,LG Innotek着手准备,苹果积极探索玻璃基板技术应用于芯片封装。

玻璃基板市场前景广阔,据MarketsandMarkets研究,全球玻璃基板市场预计将从2023年的71亿美元增长到2028年的84亿美元,复合年增长率为3.5%。然而玻璃基板技术仍处于发展初期,也面临着技术不成熟、成本高昂等挑战。玻璃基板与有机基板在各自的应用领域具有不同的特点和优势,未来两者不会完全取代对方,而是在各自的领域里发挥各自的优势。目前有机基板仍因其成本效益和成熟性在特定应用中占有稳定市场,而玻璃基板可能在高性能计算等领域发挥优势。(cnBeta)

【趁AI东风,台积电一季度营收增速创一年新高】

台积电近期财报显示,其第一季度营收增速达一年多来的新高。据统计,台积电第一季度收入同比增长16.5%,约合人民币1340亿元,超出市场预期。3月份单月收入更是同比增长34.3%,约合人民币441.56亿元。这一强劲业绩表现反映了台积电在高端芯片和服务器市场的旺盛需求,尤其是在AI领域。自2022年10月市值低谷以来,台积电的市值已增长近两倍,投资者对其生产的先进AI芯片充满信心,预计将抵消全球智能手机需求的衰退。

台积电的客户群体包括苹果、英伟达等科技巨头,他们的产品广泛应用于智能手机、平板电脑、高性能计算和人工智能等领域。尽管上半年通常是业务淡季,但今年的AI热潮使得台积电的业务需求保持火热。台积电还表示,其人工智能收入正以每年50%的速度增长,并正在全球范围内建设新工厂以满足数据中心的AI芯片需求。

尽管市场对台积电的长期前景持乐观态度,但也有投资者警告称,当前的人工智能芯片需求可能难以持续。(华尔街见闻,财联社)

动力电池

【宁德时代Q1业绩亮眼,动力电池与储能双轮驱动】

宁德时代2024年第一季度财报数据显示,其一季度营业收入为798亿元,同比降低10.4%,但公司通过有效的成本控制和原材料价格下降的优势,将毛利率提升至26.42%,净利率为14.03%,经营活动现金流净额同比增加35.25%。

宁德时代的电池装机量和市场份额在一季度均有所提升,全球动力电池装机量达35.5GWh,同比增长44.9%,市场份额提升至38.4%。国内市场的市占率也同比提高4个百分点至48.93%。此外公司在技术授权方面也取得了进展,与福特、通用汽车和特斯拉等国际汽车巨头探讨合作,通过提供电池制造技术和服务,收取特许权使用费和服务费,为公司开拓海外市场提供了新的增长途径。

宁德时代一季度业绩亮眼主要得益于以下因素:

新能源汽车市场持续快速增长。2024年第一季度中国新能源汽车销量达145.6万辆,同比增长141.1%。新能源汽车市场的快速增长,带动了动力电池需求的旺盛增长。

宁德时代在动力电池领域的技术领先优势。宁德时代在动力电池领域拥有领先的技术优势,其产品性能优异、成本控制良好,在市场上具有较强的竞争力。

宁德时代积极拓展储能业务,为公司业绩增长提供新的动力。宁德时代发布了全新的天恒标准20尺集装箱式储能系统,该产品具备4维真安全、5年零衰减、6MWh级特征,单位面积能量密度提升30%,整站占地面积减少20%。这一新产品的推出进一步巩固了宁德时代在全球储能市场的领导地位,特别是在长寿命和高安全性能方面的优势。(华尔街见闻)

储能

【欣旺达液冷储能系统全新升级,储能业务营收暴涨】

欣旺达在新能源储能领域持续发力,其NoahX 2.0液冷储能系统在北京举行的第12届储能国际峰会暨展览会(ESIE 2024)上全新升级亮相。欣旺达的5MWh液冷储能新品在浙江省金华市的一个电网侧储能项目中投入使用,创下了浙江之“最”,该项目被纳入浙江省新能源十四五发展规划,预计将为全国的绿色发展提供强大支撑。

欣旺达的液冷储能系统采用先进的磷酸铁钾电池技术,结合高效PCS和智能化管理系统,实现了电力资源的有效存储和释放。该系统在能量密度、循环次数和安全性方面均有显著提升,采用了全生命周期安全边界设计,提高了系统的安全性能。此外,欣旺达还推出了Super工商业液冷储能系统新品,进一步扩展了其在储能市场的产品和服务范围。

尽管欣旺达去年的营收出现自上市以来的首次下滑,但净利润却创下了新高。公司在消费类电池和电动汽车类电池两大板块的营收有所下降,而储能系统电池板块却实现了144%的营收增长,尽管其在总营收中占比不足2%。(界面新闻)

新能源汽车

【特斯拉裁员1.4万人并推进Robotaxi,野心是用AI颠覆共享出行】

特斯拉近期宣布将裁员约1.4万人,约占全球员工总数的10%。此举是为了优化运营效率、降低成本,并更好地适应市场变化而采取的战略性重组,预计将影响公司全球范围内的多个部门和业务线。在人力资源调整的同时,特斯拉也在进行战略重心转移,决定放弃原计划推出的“Model 2”廉价车型,并转向加速推进Robotaxi(无人出租车)项目,预计将于8月8日发布。面对中国市场的激烈竞争和本土品牌的崛起,特斯拉似乎正在寻求通过技术创新来维持其市场领导地位。Robotaxi的商业想象不只在自动驾驶领域的C端硬件销售,还有FSD(全自动驾驶)带来的软件订阅收入,背后是用AI颠覆共享出行的野心,但特斯拉必须面对技术、成本和市场竞争的严酷挑战。(极客公园)

固态电池

【固态电池概念股全面爆发,超20支股票大涨】

固态电池技术近期再次成为市场热点,在智己汽车推出900V超快充固态电池的消息驱动下,固态电池概念股迎来了全面爆发,超过20支相关股票涨停或涨幅超过10%。总体来看,固态电池技术的商业化进程实现了从0到1的关键突破,市场对其前景持乐观态度。市场表现显示,固态电池板块的中期上涨趋势并未因短期分化而受损,核心高标股如三祥新材在尾盘实现了回封,为后续资金回流奠定了基础,同时锂电产业链也因固态电池的带动而迎来集体反弹。(财联社)

光伏产业

【隆基绿能与协鑫科技锁定超200亿元颗粒硅大单,硅料市场或迎变局】

隆基绿能近期与协鑫科技签订了一份引人注目的采购合同,拟向协鑫科技采购42.5万吨颗粒硅,估值约221亿元,成为今年光伏业内首笔超200亿元的采购订单。这一合作不仅体现了颗粒硅在市场中的竞争力,也预示着硅料市场可能迎来新的变局。

颗粒硅作为一种低成本、高品质的差异化产品,近年来市占率逐渐提升,被视为有潜力打破现有市场格局的创新材料。协鑫科技作为颗粒硅生产的领军企业,此次与隆基绿能的合作,预计将进一步提升颗粒硅的市场渗透率,推动其在光伏产业的广泛应用。

隆基绿能此举也与其新产品泰睿硅片的战略布局有关。泰睿硅片采用掺锑技术,可大比例使用颗粒硅,从而降低成本,满足高效电池片的需求。隆基绿能通过锁量不锁价的采购方式,保障了颗粒硅的稳定供应,同时也显示出公司对颗粒硅市场前景的信心。

协鑫科技则通过此次合作,加速了其从棒状硅市场向颗粒硅市场的转型。公司表示,采购合同将有助于推动产品稳定销售,提升市场率,并与公司的发展战略吻合。协鑫科技计划至2024年底将颗粒硅产能提升至50万吨,以满足市场的强劲需求。

VeryKen智评:隆基绿能与协鑫科技的合作不仅有助于双方在光伏产业链中的地位提升,也可能引发硅料市场竞争格局的变化。颗粒硅的广泛应用和成本优势可能会吸引更多企业投入生产,推动光伏产业的技术创新和市场竞争。随着颗粒硅技术的不断成熟和市场接受度的提高,未来硅料市场的竞争将更加激烈,企业之间的合作与竞争将成为行业发展的重要驱动力。(钛媒体)

继续阅读