天天看點

今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒

今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒

雷科技

2024-04-26 20:03釋出于廣東科技領域創作者

就在本周,全球存儲晶片巨頭 SK 海力士宣布了最新一輪超過 1000 億元人民币的投資,計劃用于擴大包括 HBM(高帶寬記憶體)在内的下一代 DRAM 的産能。

一點也不意外。

過去一年半,從 ChatGPT 到 Sora 一次又一次重新整理了人們對于人工智能的認知。而且從目前來看,Claude 3 的震撼釋出,GPT-5 流出的資訊,似乎說明大語言模型(以下簡稱「大模型」)的智力湧現沒有絲毫放緩的迹象。

這讓 GPU「采購戰争」變得愈演愈烈,連帶着台積電的 CoWos 以及 HBM 産能也成為了絕對意義的「搶手貨」。但大模型在「争奪」的其實不隻是 HBM。

随着手機、PC 等計算終端開始積極引入大模型,甚至出現了一系列基于大模型打造的 AI 原生終端,消費電子産品對于 DRAM(記憶體)、NAND(閃存)的需求也在變多、變大。

從 GPT-3.5 到 Llama 3,大模型要繼續帶飛存儲晶片

當地時間 4 月 18 日,Meta 釋出了最新的開源大模型 Llama 3,再次奪回了開源大模型的「王座」。但值得注意的是,Llama 3 的強大很大程度上離不開 15 萬億 Token 的訓練資料,這不僅是小公司難以企及的規模,甚至比谷歌之前開源的 Gemma 大模型:

還多出一倍不止。

今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒

圖/ Meta

從 GPT-3.5 到 Llama 3,時至今日,大模型的智力湧現依然依托于 Scaling laws(OpenAI 提出)指導下的大力出奇迹,對算力和資料有着近乎沒有上限的需求。這直接孕育了海量的 GPU 需求,也帶動了 HBM 的需求。

根據國外研究機構的拆解,英偉達力推的 H100 NVL 版本配備了 12 個 16GB HBM 堆棧,而單顆 16GB HBM 堆棧,成本就高達 240 美元。也就是說,僅僅 HBM 的成本就逼近 3000 美元,毫無疑問超過了制造和封裝,是 H100 成本中最貴的一項。

即便如此,SK 海力士、美光 2024 年的 HBM 産能,也早被英偉達、AMD、英特爾、谷歌、微軟等半導體廠商預訂一空。

今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒

英偉達 H100 GPU,圖/英偉達

高昂的定價和供不應求的訂單,也讓 HBM 廠商賺得盆滿鍋滿。4 月 25 日剛公布的财報顯示,SK 海力士今年第一季度營業利潤為 2.8860 萬億韓元(約合人民币 151.8 億元),不僅扭虧為盈,而且比起已經很樂觀的市場預期:

還高出 30%。

要知道,這還是産能遠遠無法滿足需求的情況。

而另一方面,大模型預訓練最重要的一步就是語料庫的采集。如果企業需要利用私有資料重新訓練模型,同樣也要經過資料收集、清洗等步驟。

不僅如此,涉及資料就不可避免要涉及「資料怎麼存儲、怎麼管理、怎麼保證資料安全,」聯想淩拓首席執行官陸大昕在年初的一次演講中表示,「這些都是後續大模型建設中的剛需。」

今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒

聯想淩拓首席執行官陸大昕,圖/聯想

是以不難想象,伴随大模型進一步從資料中心擴散到更多、更分散的伺服器,以及大模型應用的擴充和普及,需要更大的資料存儲容量。這也就不奇怪,已經有大量廠商正在面向 AI 需求打造資料存儲産品和解決方案。

國内知名存儲廠商江波龍董事長蔡華波還在 2024 中國閃存市場峰會上表示:

江波龍要從存儲模組廠向半導體品牌公司做轉型,經營模式從原有的價差模式向服務模式轉型。

AI 硬體元年,終端吞噬存儲晶片

都說 2024 年是 AI 硬體元年,其實并不誇張。不隻是很多人都聽過的 AI 手機、AI PC,還有大量硬體産品,包括智能眼鏡、電視乃至産品形态更新穎的 AI 原生終端,都在 2024 年集體亮相。

盡管很多産品在擁抱 AI 的過程中含有不少「水分」,比如可能隻是接入了類 ChatGPT 的生成式 AI 聊天機器人,或者隻是引入雲端大模型的能力。但從「AI 消除」到「AI 通話/閱讀摘要」,我們也要承認,基于背後的大模型,生成式 AI 的确開始改變我們的數字型驗。

今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒

從左到右依次為 vivo、OPPO、小米、華為,圖/雷科技

同時,不管是手機還是 PC 廠商都認同端側大模型的勢在必行,隻有結合端側和雲端大模型,計算終端的體驗才能發生革命性的演變。但與此相對的是,端側算力和存儲配置也變得前所未有地重要。

君不見,江波龍上個月就宣布将與西部資料「加強合作關系,積極探索并共同支援下一代基于人工智能的移動終端存儲和應用的市場機遇。」更具體地說,江波龍要與西部資料聯手面向手機市場提供「領先的定制化嵌入式存儲解決方案」——也就是閃存,對應到手機上就是存儲空間。

不僅如此,從财報公布的資料來看,截止 3 月 31 日,江波龍的存貨賬面金額猛然上升至 76 億元,同比增長了 28%。按照江波龍的說法,存貨增長主要是因為戰略備貨增加。但顯然,更根本的原因是江波龍看好大模型在手機和 PC 等主要計算終端上的落地,必然需要更大的存儲配置。

今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒

江波龍董事長蔡華波,圖/中國閃存市場峰會

當然也不隻是江波龍,前文提到的 SK 海力士以及三星都在向手機、PC 市場提供更大甚至更高帶寬的記憶體,還計劃參考 HBM,在 LPDDR 基礎上引入新的堆疊和封裝方式。

從資料中心到計算終端,這一輪席卷全球的 AI 浪潮不僅在助推存儲晶片行業走出寒冬,也在将行業引向一個全新的周期。

寫在最後

如果你相信大模型一定是未來,一定會走進千行百業,走進千家萬戶,那毫無疑問的是,存儲晶片也一定是未來。

說到底,作為推動 AI 進化的三個核心要素之一,随着 AI 的逐漸落地和普及,資料一定需要更大、更快的記憶體和閃存,也需要更适合 AI 時代的存儲解決方案。

這是挑戰,也是機遇。

盡管 SK 海力士、三星、美光三大存儲晶片巨頭在技術、資本、人才上的優勢不言而喻,也幾乎壟斷了 HBM 供應。但對于包括江波龍在内的國産存儲廠商來說,面向 AI 需求的儲存解決方案依然是一個全新的領域,不管在個人移動終端上,還是在企業級市場上。

同時,這裡也孕育了全新的可能。

4月25日-5月4日,北京國際汽車展覽會(北京車展)正在火熱進行。本屆車展以“新時代新汽車”為主題,是“汽車從電動化走向智能化”的風向标。

雷科技旗下“關注電動車,更懂智能化”的賬号電車通已派出豪華報道團,正在北京車展現場,進行一線專業報道,歡迎關注“電車通”擷取一手專業現場報道。

今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒

檢視原圖 38K

  • 今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒
  • 今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒
  • 今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒
  • 今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒
  • 今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒
  • 今年存儲晶片太猛了!SK海力士、江波龍飛速增長:AI功不可沒

繼續閱讀