天天看点

【英特尔发布新一代AI芯片,或成英伟达产品劲敌】英特尔在人工智能加速器领域取得了重要进展,其子公司HabanaLabs在

作者:放牛班的秘密花园

【英特尔发布新一代AI芯片,或成英伟达产品劲敌】

英特尔在人工智能加速器领域取得了重要进展,其子公司Habana Labs在Vision 2024大会上展示了最新一代高性能AI加速器Gaudi 3,宣称其性能将超越英伟达H100,并将在今年第三季度向客户出货。Gaudi 3在性能上有显著提升,特别是FP8计算吞吐量达1835 TFLOPS,有望在AI计算领域分得一杯羹。

Gaudi 3的设计在内部基准测试中部分超过了英伟达的H100,并且在能耗比上具有优势。在处理大型语言模型等关键任务时,Gaudi 3展现了其卓越的性能,预计在训练GPT-3等大型语言模型的时间上比英伟达H100快40%,在推理端比英伟达H100快50%。此外,Gaudi 3的发布也是英特尔AI加速器产品定位发生变化的体现,Gaudi系列已升级为英特尔旗舰AI加速器。

Gaudi 3是Gaudi 2硬件的直接演变,采用了台积电更先进的5nm工艺,并在计算硬件上进行了扩展。Habana团队公开了Gaudi 3芯片FP8精度的总吞吐量,使得Gaudi 3在使用8位浮点计算产生的AI算力是Gaudi 2的两倍,BFloat 16格式的算力提升达到了四倍。

英特尔还强调了Gaudi 3在能效比上的优势,预计在Llama模型上比H100快220%,在Falcon模型上快230%。Gaudi 3芯片的双芯配置,通过高带宽链路连接,提供统一的内存地址空间,类似于英伟达的Blackwell。

VeryKen智评:Gaudi 3的发布正值AI加速卡需求高涨之际,其强劲的性能和可扩展性使其成为英伟达H100的强有力竞争对手,可能会为英特尔在AI加速器市场打开新的机遇。英特尔CEO帕特·基辛格在大会上展示了Gaudi 3的性能,并表示其性能将与英伟达H200相当,甚至在某些领域更好。Gaudi 3的推出,不仅是英特尔在AI领域的一次重要技术展示,也是其构建广泛AI生态联盟,推动企业AI创新战略的一部分。(机器之心,量子位,澎湃新闻)

【英特尔发布新一代AI芯片,或成英伟达产品劲敌】英特尔在人工智能加速器领域取得了重要进展,其子公司HabanaLabs在
【英特尔发布新一代AI芯片,或成英伟达产品劲敌】英特尔在人工智能加速器领域取得了重要进展,其子公司HabanaLabs在
【英特尔发布新一代AI芯片,或成英伟达产品劲敌】英特尔在人工智能加速器领域取得了重要进展,其子公司HabanaLabs在
【英特尔发布新一代AI芯片,或成英伟达产品劲敌】英特尔在人工智能加速器领域取得了重要进展,其子公司HabanaLabs在
【英特尔发布新一代AI芯片,或成英伟达产品劲敌】英特尔在人工智能加速器领域取得了重要进展,其子公司HabanaLabs在
【英特尔发布新一代AI芯片,或成英伟达产品劲敌】英特尔在人工智能加速器领域取得了重要进展,其子公司HabanaLabs在

继续阅读