天天看點

AI伺服器迎爆發風口!算力關鍵賽道,布局龍頭強者恒強

作者:樂晴行業觀察

目前全球AI布局加速,大量人工智能模型湧現,模型的推出和疊代大幅帶動了上遊的算力需求。随着國内數字基礎建設資料負載量的需求量不斷上升,大陸AI伺服器市場增長加速。

從總體發展趨勢來看,各國密集出台大模型相關政策,資料、算力、算法更新疊代步伐加快,共同驅動AI大模型性能提升,AI大模型走出“閉源”和“開源”兩種發展路徑,各類企業和機構紛紛入局。

以AI伺服器為載體的算力則是人工智能的終端展現之一。跟算力關聯的存力、運力也會相應提升,進而帶動硬體端算力晶片(GPU、FPGA、AISIC等)、存儲晶片、光子產品、PCB、電源管理、散熱等等的硬體取得增長。從未來看,整個産業都會有AI伺服器滲透率提升帶來的增長。

根據TrendForce,預估2023年AI伺服器(包含搭載GPU、FPGA、ASIC等)出貨量近120萬台,年增38.4%,占整體伺服器出貨量近9%。

關注樂晴行業觀察,洞悉産業格局!

AI伺服器迎爆發風口!算力關鍵賽道,布局龍頭強者恒強

AI伺服器行業概覽

算力提升直接帶動伺服器需求。作為解決計算力的核心支撐,AI伺服器既可以用來支援本地應用程式和網頁,也可以為雲和本地伺服器提供複雜的AI模型和服務,因而算力作為剛需将直接帶動伺服器的性能與市場需求提升。

AI伺服器采用異構式架構,GPU數量遠高于普通伺服器。

從伺服器上遊成本來看,晶片、記憶體、硬碟幾乎占據了伺服器生産成本近七成的比例。推理型伺服器的GPU占成本的25%,訓練型伺服器的GPU占整體成本的73%左右。

AI伺服器迎爆發風口!算力關鍵賽道,布局龍頭強者恒強

AI伺服器和普通伺服器的主要差別在于:架構不同,AI伺服器采用CPU+GPU/FPGA/ASIC等異構式架構,而普通伺服器一般是CPU架構;GPU數量差别巨大,AI伺服器單伺服器GPU用量通常在4顆以上。

GPU 架構為主流加速架構,是伺服器核心成本構成。GPU采用并行計算,适用于處理密集型運算,如圖形渲染、機器學習等場景,AI算力需求的提升推動了GPU卡的運算速度和用量需求進一步增長。

AI伺服器相比于一般伺服器而言,增量主要在于AI晶片和記憶體帶寬上有較大幅度提升,相應價值量也随之提升,并且其他配套元件也有不同程度的更新。

根據半導體行業觀察,以Nvidia DGX H100為例,GPU闆組(包含HBM)的價值量占比最高,達到73%,其次是存儲占比約5%,其中,DRAM占比3%,NAND占比約2%。綜合來看,GPU和存儲合計占比90%。

此外,随着算力的提升,散熱需求也相應增加,液冷技術的引入有望給散熱環節帶來新的機遇。

相較于一般伺服器而言,AI伺服器多增加GPGPU的使用,是以以NVIDIAA10080GB配置4或8張計算,HBM用量約為320~640GB。

未來在AI模型逐漸複雜化的趨勢下,将刺激更多的存儲器用量,并同步帶動ServerDRAM、SSD以及HBM的需求增長。

AI伺服器GPU成本占比更大:

AI伺服器迎爆發風口!算力關鍵賽道,布局龍頭強者恒強

AI伺服器市場格局梳理

據統計,2022年AI伺服器采購量中,北美四大雲端供應商Microsoft、Google、Meta、AWS合計占比約66%,海外雲巨頭對AI伺服器的需求更大,但随着國内AI大模型的開發及應用拉動更多AI伺服器需求,大陸AI伺服器市場空間有望進一步提升。

大陸近年來AI建設浪潮持續升溫,位元組跳動年采購占比達6.2%,騰訊、阿裡巴巴、百度緊随其後,分别約為2.3%、1.5%與1.5%。

AI伺服器迎爆發風口!算力關鍵賽道,布局龍頭強者恒強

據IDC資料,從市場佔有率來看,浪潮資訊、新華三、超聚變位居2022年大陸AI伺服器市場前三大份額,市場佔有率占比分别為28.10%、17.20%、17.00%。

浪潮AI伺服器2022年在全球權威AI性能評測競賽MLPerf中獲得49個冠軍,以全面領先的AI訓練、推理性能表現,為AI研發和應用提供強勁動力,其AI伺服器産品已經應用在全球領先的網際網路巨頭企業以及AI+Science、AI+Graphics、AIGC等領域的領先科技公司,成為全球AI伺服器的最大供應商。

浪潮資訊英信伺服器NF5688M6及配置:

AI伺服器迎爆發風口!算力關鍵賽道,布局龍頭強者恒強

中科曙光是國内領先的高端伺服器生産商。公司高端伺服器産品全棧自研,擁有大規模部署實踐;不斷開拓算力服務業務,通過全國一體化算力服務平台加速海量複雜行業應用創新與落地,為國内多個大模型提供算力支援。

AI伺服器布局廠商還包括中國長城、拓維資訊、同方股份等。上下遊環節參與廠商衆多,部分代表廠商包括中興通訊、科大訊飛、海康威視、三六零、瀾起科技、龍芯中科、神州數位、海天瑞聲、東華軟體等。#人工智能##算力##伺服器##科技##财經##文章首發挑戰賽##來點兒幹貨#

AI伺服器迎爆發風口!算力關鍵賽道,布局龍頭強者恒強

結語

目前AIGC、雲計算等先進技術為各行業帶來了巨大的變革和機遇。在這一背景下,超級計算作為支撐大規模資料處理和高性能計算的重要基石,其需求及應用場景也呈現出持續增長的态勢。

超級計算與雲計算的結合,為伺服器市場帶來了新的增長點。雲計算的彈性、可擴充性等特點,使得超算資源能夠更加高效地服務于科研、工業設計、仿真模拟、大資料分析等衆多領域。這種結合不僅提升了計算效率,還降低了使用成本,使得更多的機構和企業能夠享受到超算帶來的便利。

同時,超算所需要的AI高端伺服器也成為了伺服器市場的新星。AI伺服器具備更高的性能、更強的穩定性和更出色的擴充能力,能夠滿足超算對于計算速度、資料處理能力等方面的嚴苛要求。随着超算應用的不斷普及和深化,這類高端伺服器的需求量也将持續攀升,有望拉動整個伺服器市場實作進一步增長。

關注樂晴行業觀察,洞悉産業格局!

繼續閱讀