天天看點

英特爾發全新自研AI晶片Gaudi 3,或成英偉達産品勁敵

作者:放牛班的秘密花園

Veryken前沿行業動态|AI·半導體·電子消費品|動力電池|儲能|新能源汽車|光伏

人工智能(AI)

【谷歌新技術使大模型能處理“無限長”的文本輸入】

谷歌在其最新的研究中提出了一種名為“無限注意力”(Infini-attention)的機制,這一技術極大地擴充了Transformer模型處理長文本序列的能力。通過這項創新,谷歌的1B參數模型現在能處理相當于10部小說長度的上下文,即100萬token,同時在Passkey檢索任務中表現出色。更令人印象深刻的是,其8B參數模型在處理長達500K token的書籍摘要任務時,創造了最新的SOTA(state-of-the-art)記錄。

“無限注意力”機制的核心在于其壓縮記憶系統,它允許模型在處理新輸入時保留和重用之前的上下文資訊。這種機制通過固定數量的參數來存儲和回憶資訊,而不是随着輸入序列長度的增加而增加參數量,進而顯著減少了記憶體占用和計算成本。這一技術使模型能在記憶體大小不變的情況下處理114倍多的資訊,相當于将一個存放100本書的圖書館擴充到能存儲11400本書。

在實際應用中,“無限注意力”将輸入序列劃分為較短的子序列,并采用局部注意力機制來處理每個子序列内的上下文資訊。這種方法不僅避免了一次性處理整個長序列的挑戰,還允許模型以流式方式逐漸處理輸入。此外,“無限注意力”在訓練後分化出兩種不同類型的注意力頭,專門化的頭和混合頭,它們協同處理長期和短期上下文資訊,進一步提升了模型的性能。

VeryKen智評:這一突破性進展對于大模型的未來發展具有重要意義,它不僅提高了模型處理長文本的能力,還為多模态資料處理和Transformer模型的進一步發展打開了新的可能性。随着這項技術的進一步應用和完善,未來有望看到更多創新的AI解決方案,特别是在處理非連續資料方面。(量子位,虎嗅)

半導體

【英特爾釋出新一代AI晶片,或成英偉達産品勁敵】

英特爾在人工智能加速器領域取得了重要進展,其子公司Habana Labs在Vision 2024大會上展示了最新一代高性能AI加速器Gaudi 3,宣稱其性能将超越英偉達H100,并将在今年第三季度向客戶出貨。Gaudi 3在性能上有顯著提升,特别是FP8計算吞吐量達1835 TFLOPS,有望在AI計算領域分得一杯羹。

英特爾發全新自研AI晶片Gaudi 3,或成英偉達産品勁敵

Gaudi 3的設計在内部基準測試中部分超過了英偉達的H100,并且在能耗比上具有優勢。在處理大型語言模型等關鍵任務時,Gaudi 3展現了其卓越的性能,預計在訓練GPT-3等大型語言模型的時間上比英偉達H100快40%,在推理端比英偉達H100快50%。此外,Gaudi 3的釋出也是英特爾AI加速器産品定位發生變化的展現,Gaudi系列已更新為英特爾旗艦AI加速器。

英特爾發全新自研AI晶片Gaudi 3,或成英偉達産品勁敵
英特爾發全新自研AI晶片Gaudi 3,或成英偉達産品勁敵

Gaudi 3是Gaudi 2硬體的直接演變,采用了台積電更先進的5nm工藝,并在計算硬體上進行了擴充。Habana團隊公開了Gaudi 3晶片FP8精度的總吞吐量,使得Gaudi 3在使用8位浮點計算産生的AI算力是Gaudi 2的兩倍,BFloat 16格式的算力提升達到了四倍。

英特爾發全新自研AI晶片Gaudi 3,或成英偉達産品勁敵

英特爾還強調了Gaudi 3在能效比上的優勢,預計在Llama模型上比H100快220%,在Falcon模型上快230%。Gaudi 3晶片的雙芯配置,通過高帶寬鍊路連接配接,提供統一的記憶體位址空間,類似于英偉達的Blackwell。

VeryKen智評:Gaudi 3的釋出正值AI加速卡需求高漲之際,其強勁的性能和可擴充性使其成為英偉達H100的強有力競争對手,可能會為英特爾在AI加速器市場打開新的機遇。英特爾CEO帕特·基辛格在大會上展示了Gaudi 3的性能,并表示其性能将與英偉達H200相當,甚至在某些領域更好。Gaudi 3的推出,不僅是英特爾在AI領域的一次重要技術展示,也是其建構廣泛AI生态聯盟,推動企業AI創新戰略的一部分。(機器之心,量子位,澎湃新聞)

【Meta推新版自研AI晶片,性能較上代提高3倍】

社交巨頭Meta近日宣布了其下一代自研AI晶片的最新進展,新一代AI訓推一體加速器MTIA v2。這款晶片是Meta專門為AI訓練和推理工作設計的定制晶片系列,計算性能比去年推出的第一代MTIA v1提升了3倍,記憶體帶寬提升了3.5倍,記憶體容量增加了一倍。

英特爾發全新自研AI晶片Gaudi 3,或成英偉達産品勁敵

MTIA晶片的設計專注于為Meta旗下的社交軟體提供更高效的排名和推薦系統。這款晶片采用了台積電的5nm工藝,擁有更多的處理核心和更大的片上記憶體,頻率達到1.3GHz。Meta的測試顯示,新晶片在處理關鍵模型的性能上遠超前一代産品。為了支援這款晶片,Meta還開發了大型機架式系統,能夠容納多達72個加速器,顯著提高了運作效率。軟體方面,新晶片的軟體堆棧與MTIA v1非常相似,確定了快速的部署和相容性。Meta已将完整的軟體堆棧內建到晶片中,使開發者能迅速利用新晶片處理生産模型。

新款MTIA晶片已被部署在Meta的資料中心,并展現出積極成果,證明了其在提供性能和效率方面與商用GPU的高度互補性。Meta的這一舉措不僅減少了對外部晶片供應商如英偉達的依賴,也為其在AI領域的擴張提供了強有力的支援。(機器之心,澎湃新聞,财聯社)

【英特爾領銜,巨頭争相布局玻璃基闆,先進封裝将迎變革】

随着AI和高性能電腦對計算能力和資料處理速度的需求日益增長,半導體行業邁入了異構時代,即封裝中廣泛采用多個“Chiplet”。 在此背景下,英特爾推出了玻璃基闆技術,以應對有機基闆在信号傳輸速度、功率傳輸優化、設計規則完善和封裝基闆穩定性方面的局限性。

作為一種新型的基闆材料,玻璃基闆具有出色的實體特性。其主要成分是二氧化矽,在高溫下更穩定,可以更有效地處理更高的溫度,同時有效管理高性能晶片的散熱。此外玻璃基闆可實作更高的互連密度,這對于下一代封裝中的電力傳輸和信号路由至關重要,并具有更高的平整度,使得封裝和光刻變得更容易。

英特爾發全新自研AI晶片Gaudi 3,或成英偉達産品勁敵

英特爾是玻璃基闆領域的領軍企業之一,早在十年前就開始投入研發,并計劃在未來幾年内提供完整的商業應用解決方案,以推動摩爾定律的持續發展,滿足資料驅動應用的算力需求。英特爾預計将在本十年晚些時候使用玻璃基闆進行先進封裝,首批産品将是高端HPC和AI晶片。此外,三星、LG、蘋果等業界巨頭也紛紛加碼布局玻璃基闆領域。三星組建“軍團”加碼研發,LG Innotek着手準備,蘋果積極探索玻璃基闆技術應用于晶片封裝。

玻璃基闆市場前景廣闊,據MarketsandMarkets研究,全球玻璃基闆市場預計将從2023年的71億美元增長到2028年的84億美元,複合年增長率為3.5%。然而玻璃基闆技術仍處于發展初期,也面臨着技術不成熟、成本高昂等挑戰。玻璃基闆與有機基闆在各自的應用領域具有不同的特點和優勢,未來兩者不會完全取代對方,而是在各自的領域裡發揮各自的優勢。目前有機基闆仍因其成本效益和成熟性在特定應用中占有穩定市場,而玻璃基闆可能在高性能計算等領域發揮優勢。(cnBeta)

【趁AI東風,台積電一季度營收增速創一年新高】

台積電近期财報顯示,其第一季度營收增速達一年多來的新高。據統計,台積電第一季度收入同比增長16.5%,約合人民币1340億元,超出市場預期。3月份單月收入更是同比增長34.3%,約合人民币441.56億元。這一強勁業績表現反映了台積電在高端晶片和伺服器市場的旺盛需求,尤其是在AI領域。自2022年10月市值低谷以來,台積電的市值已增長近兩倍,投資者對其生産的先進AI晶片充滿信心,預計将抵消全球智能手機需求的衰退。

台積電的客戶群體包括蘋果、英偉達等科技巨頭,他們的産品廣泛應用于智能手機、平闆電腦、高性能計算和人工智能等領域。盡管上半年通常是業務淡季,但今年的AI熱潮使得台積電的業務需求保持火熱。台積電還表示,其人工智能收入正以每年50%的速度增長,并正在全球範圍内建設新工廠以滿足資料中心的AI晶片需求。

盡管市場對台積電的長期前景持樂觀态度,但也有投資者警告稱,目前的人工智能晶片需求可能難以持續。(華爾街見聞,财聯社)

動力電池

【甯德時代Q1業績亮眼,動力電池與儲能雙輪驅動】

甯德時代2024年第一季度财報資料顯示,其一季度營業收入為798億元,同比降低10.4%,但公司通過有效的成本控制和原材料價格下降的優勢,将毛利率提升至26.42%,淨利率為14.03%,經營活動現金流淨額同比增加35.25%。

甯德時代的電池裝機量和市場佔有率在一季度均有所提升,全球動力電池裝機量達35.5GWh,同比增長44.9%,市場佔有率提升至38.4%。國内市場的市占率也同比提高4個百分點至48.93%。此外公司在技術授權方面也取得了進展,與福特、通用汽車和特斯拉等國際汽車巨頭探讨合作,通過提供電池制造技術和服務,收取特許權使用費和服務費,為公司開拓海外市場提供了新的增長途徑。

甯德時代一季度業績亮眼主要得益于以下因素:

新能源汽車市場持續快速增長。2024年第一季度中國新能源汽車銷量達145.6萬輛,同比增長141.1%。新能源汽車市場的快速增長,帶動了動力電池需求的旺盛增長。

甯德時代在動力電池領域的技術領先優勢。甯德時代在動力電池領域擁有領先的技術優勢,其産品性能優異、成本控制良好,在市場上具有較強的競争力。

甯德時代積極拓展儲能業務,為公司業績增長提供新的動力。甯德時代釋出了全新的天恒标準20尺集裝箱式儲能系統,該産品具備4維真安全、5年零衰減、6MWh級特征,機關面積能量密度提升30%,整站占地面積減少20%。這一新産品的推出進一步鞏固了甯德時代在全球儲能市場的上司地位,特别是在長壽命和高安全性能方面的優勢。(華爾街見聞)

儲能

【欣旺達液冷儲能系統全新更新,儲能業務營收暴漲】

欣旺達在新能源儲能領域持續發力,其NoahX 2.0液冷儲能系統在北京舉行的第12屆儲能國際峰會暨展覽會(ESIE 2024)上全新更新亮相。欣旺達的5MWh液冷儲能新品在浙江省金華市的一個電網側儲能項目中投入使用,創下了浙江之“最”,該項目被納入浙江省新能源十四五發展規劃,預計将為全國的綠色發展提供強大支撐。

欣旺達的液冷儲能系統采用先進的磷酸鐵鉀電池技術,結合高效PCS和智能化管理系統,實作了電力資源的有效存儲和釋放。該系統在能量密度、循環次數和安全性方面均有顯著提升,采用了全生命周期安全邊界設計,提高了系統的安全性能。此外,欣旺達還推出了Super工商業液冷儲能系統新品,進一步擴充了其在儲能市場的産品和服務範圍。

盡管欣旺達去年的營收出現自上市以來的首次下滑,但淨利潤卻創下了新高。公司在消費類電池和電動汽車類電池兩大闆塊的營收有所下降,而儲能系統電池闆塊卻實作了144%的營收增長,盡管其在總營收中占比不足2%。(界面新聞)

新能源汽車

【特斯拉裁員1.4萬人并推進Robotaxi,野心是用AI颠覆共享出行】

特斯拉近期宣布将裁員約1.4萬人,約占全球員工總數的10%。此舉是為了優化營運效率、降低成本,并更好地适應市場變化而采取的戰略性重組,預計将影響公司全球範圍内的多個部門和業務線。在人力資源調整的同時,特斯拉也在進行戰略重心轉移,決定放棄原計劃推出的“Model 2”廉價車型,并轉向加速推進Robotaxi(無人計程車)項目,預計将于8月8日釋出。面對中國市場的激烈競争和本土品牌的崛起,特斯拉似乎正在尋求通過技術創新來維持其市場上司地位。Robotaxi的商業想象不隻在自動駕駛領域的C端硬體銷售,還有FSD(全自動駕駛)帶來的軟體訂閱收入,背後是用AI颠覆共享出行的野心,但特斯拉必須面對技術、成本和市場競争的嚴酷挑戰。(極客公園)

固态電池

【固态電池概念股全面爆發,超20支股票大漲】

固态電池技術近期再次成為市場熱點,在智己汽車推出900V超快充固态電池的消息驅動下,固态電池概念股迎來了全面爆發,超過20支相關股票漲停或漲幅超過10%。總體來看,固态電池技術的商業化程序實作了從0到1的關鍵突破,市場對其前景持樂觀态度。市場表現顯示,固态電池闆塊的中期上漲趨勢并未因短期分化而受損,核心高标股如三祥新材在尾盤實作了回封,為後續資金回流奠定了基礎,同時锂電産業鍊也因固态電池的帶動而迎來集體反彈。(财聯社)

光伏産業

【隆基綠能與協鑫科技鎖定超200億元顆粒矽大單,矽料市場或迎變局】

隆基綠能近期與協鑫科技簽訂了一份引人注目的采購合同,拟向協鑫科技采購42.5萬噸顆粒矽,估值約221億元,成為今年光伏業内首筆超200億元的采購訂單。這一合作不僅展現了顆粒矽在市場中的競争力,也預示着矽料市場可能迎來新的變局。

顆粒矽作為一種低成本、高品質的差異化産品,近年來市占率逐漸提升,被視為有潛力打破現有市場格局的創新材料。協鑫科技作為顆粒矽生産的領軍企業,此次與隆基綠能的合作,預計将進一步提升顆粒矽的市場滲透率,推動其在光伏産業的廣泛應用。

隆基綠能此舉也與其新産品泰睿矽片的戰略布局有關。泰睿矽片采用摻銻技術,可大比例使用顆粒矽,進而降低成本,滿足高效電池片的需求。隆基綠能通過鎖量不鎖價的采購方式,保障了顆粒矽的穩定供應,同時也顯示出公司對顆粒矽市場前景的信心。

協鑫科技則通過此次合作,加速了其從棒狀矽市場向顆粒矽市場的轉型。公司表示,采購合同将有助于推動産品穩定銷售,提升市場率,并與公司的發展戰略吻合。協鑫科技計劃至2024年底将顆粒矽産能提升至50萬噸,以滿足市場的強勁需求。

VeryKen智評:隆基綠能與協鑫科技的合作不僅有助于雙方在光伏産業鍊中的地位提升,也可能引發矽料市場競争格局的變化。顆粒矽的廣泛應用和成本優勢可能會吸引更多企業投入生産,推動光伏産業的技術創新和市場競争。随着顆粒矽技術的不斷成熟和市場接受度的提高,未來矽料市場的競争将更加激烈,企業之間的合作與競争将成為行業發展的重要驅動力。(钛媒體)

繼續閱讀