天天看點

【英特爾釋出新一代AI晶片,或成英偉達産品勁敵】英特爾在人工智能加速器領域取得了重要進展,其子公司HabanaLabs在

作者:放牛班的秘密花園

【英特爾釋出新一代AI晶片,或成英偉達産品勁敵】

英特爾在人工智能加速器領域取得了重要進展,其子公司Habana Labs在Vision 2024大會上展示了最新一代高性能AI加速器Gaudi 3,宣稱其性能将超越英偉達H100,并将在今年第三季度向客戶出貨。Gaudi 3在性能上有顯著提升,特别是FP8計算吞吐量達1835 TFLOPS,有望在AI計算領域分得一杯羹。

Gaudi 3的設計在内部基準測試中部分超過了英偉達的H100,并且在能耗比上具有優勢。在處理大型語言模型等關鍵任務時,Gaudi 3展現了其卓越的性能,預計在訓練GPT-3等大型語言模型的時間上比英偉達H100快40%,在推理端比英偉達H100快50%。此外,Gaudi 3的釋出也是英特爾AI加速器産品定位發生變化的展現,Gaudi系列已更新為英特爾旗艦AI加速器。

Gaudi 3是Gaudi 2硬體的直接演變,采用了台積電更先進的5nm工藝,并在計算硬體上進行了擴充。Habana團隊公開了Gaudi 3晶片FP8精度的總吞吐量,使得Gaudi 3在使用8位浮點計算産生的AI算力是Gaudi 2的兩倍,BFloat 16格式的算力提升達到了四倍。

英特爾還強調了Gaudi 3在能效比上的優勢,預計在Llama模型上比H100快220%,在Falcon模型上快230%。Gaudi 3晶片的雙芯配置,通過高帶寬鍊路連接配接,提供統一的記憶體位址空間,類似于英偉達的Blackwell。

VeryKen智評:Gaudi 3的釋出正值AI加速卡需求高漲之際,其強勁的性能和可擴充性使其成為英偉達H100的強有力競争對手,可能會為英特爾在AI加速器市場打開新的機遇。英特爾CEO帕特·基辛格在大會上展示了Gaudi 3的性能,并表示其性能将與英偉達H200相當,甚至在某些領域更好。Gaudi 3的推出,不僅是英特爾在AI領域的一次重要技術展示,也是其建構廣泛AI生态聯盟,推動企業AI創新戰略的一部分。(機器之心,量子位,澎湃新聞)

【英特爾釋出新一代AI晶片,或成英偉達産品勁敵】英特爾在人工智能加速器領域取得了重要進展,其子公司HabanaLabs在
【英特爾釋出新一代AI晶片,或成英偉達産品勁敵】英特爾在人工智能加速器領域取得了重要進展,其子公司HabanaLabs在
【英特爾釋出新一代AI晶片,或成英偉達産品勁敵】英特爾在人工智能加速器領域取得了重要進展,其子公司HabanaLabs在
【英特爾釋出新一代AI晶片,或成英偉達産品勁敵】英特爾在人工智能加速器領域取得了重要進展,其子公司HabanaLabs在
【英特爾釋出新一代AI晶片,或成英偉達産品勁敵】英特爾在人工智能加速器領域取得了重要進展,其子公司HabanaLabs在
【英特爾釋出新一代AI晶片,或成英偉達産品勁敵】英特爾在人工智能加速器領域取得了重要進展,其子公司HabanaLabs在

繼續閱讀