天天看點

ChatGPT爆火,全球AI競争更新!聯想重磅釋出兩款AI伺服器,助力中國AI加速今年,ChatGPT大模型持續火爆,它

作者:聯想中國基礎設施業務

ChatGPT爆火,全球AI競争更新!聯想重磅釋出兩款AI伺服器,助力中國AI加速

今年,ChatGPT大模型持續火爆,它不僅寫得了代碼、作得了詩,甚至還能完成學術論文,也在全球掀起了AI新熱潮。美國、中國、英國、日本等世界主要國家,都在加大對于大模型的研發投入力度。

同時,ChatGPT也掀起了AI産業新的競争——算力競争。據國盛證券報告《ChatGPT需要多少算力》估算,GPT-3訓練一次的成本約為140萬美元,對于一些更大的LLM(大型語言模型),訓練成本介于200萬美元至1200萬美元之間。這其中很大就是投入在算力上,是以,提高算力水準,将成為未來AI競争的關鍵。

日前,在2023中國算力大會期間舉辦的“智算無限 全棧智能 聯想AI算力戰略暨AI伺服器新品釋出會”上,聯想重磅釋出了兩款全新AI算力伺服器新品——聯想問天WA7780 G3 AI大模型訓練伺服器和聯想問天WA5480 G3 AI訓推一體伺服器,助力建構更加綠色高效的人工智能資料中心,滿足客戶從訓練到推理等多樣的算力需求。

聯想問天WA7780 G3是一款專為AI大模型訓練所打造的伺服器。在性能、快速低延遲互聯、存儲等方面都處于領先。

在性能方面,聯想問天WA7780 G3 AI大模型訓練伺服器系統配備8顆高效的 GPU,擁有高達640GB的HBM3高速顯存,通過GPU間互聯帶寬高達400GB/s。将AI算力提升了3.44倍,至高可達32P FLOPS AI算力。與上一代産品相比,可為大模型AI訓練速度帶來高達9倍提升,可将大模型AI推理速度提升高達30倍。

在快速低延遲互聯方面,聯想問天WA7780 G3 AI大模型訓練伺服器, 為了滿足AI超大模型訓練場景下,GPU伺服器間高速資料通信的需求,可支援IB、RoCE等多種對外網絡連接配接方案。最高可以支援8張RDMA高速網卡,提供3.2Tb/s聚合帶寬。充分滿足了超大模型訓練并行計算時,跨節點的通信需求。

在節能高效方面,聯想問天WA7780 G3 AI大模型訓練伺服器在産品設計中采用了三重獨立風道設計,針對不同部件的散熱特征,進行了系統性的優化,有效降低了由風扇帶來的散熱功耗。相比同級别産品,聯想問天WA7780 G3 AI大模型訓練伺服器功耗降低約10%。

而聯想問天WA5480 G3 AI訓推一體伺服器則是一款4U機架式AI伺服器,支援多元的算力和豐富的生态,能夠為AI模型的訓練推理提供極緻可靠的算力。

在性能方面,聯想問天WA5480 G3 AI訓推一體伺服器采用2顆領先的可擴充處理器,支援最新PCIe 5.0。并通過PCIe擴充,最多可以支援10張包括最新的GPU在内的多類型、多品牌AI加速卡。可以靈活應用于AI通用模型訓練、大模型推理、AI生成、雲遊戲、科學計算等多種應用場景,為AI的多樣場景提供多元算力。

在靈活拓撲方面,聯想問天WA5480 G3 AI訓推一體伺服器在CPU-GPU互聯的硬體設計上也充分展現了靈活多變的設計理念。聯想問天WA5480 G3 AI訓推一體伺服器基于不同AI工作負載,可以為客戶提供包括直通、Balance、Common多種CPU-GPU互聯方式,避免了因為CPU-GPU資料通信方式單一與工作負載不比對,帶來的潛在性能瓶頸和系統效率下降。結合不同種類,不同數量的加速卡選擇,真正實作了對AI各種複雜場景的完美比對。

未來,聯想問天WA7780 G3 AI大模型訓練伺服器和聯想問天WA5480 G3 AI訓推一體伺服器将與聯想其它AI基礎設施産品組合多向賦能,助力AI算力覆寫AI全域應用。同時,配合聯想領先的液冷技術,聯想AI導向的算力基礎設施,将持續助力AI算力綠色賦能,為普慧算力鑄造牢固的“基石”。

ChatGPT爆火,全球AI競争更新!聯想重磅釋出兩款AI伺服器,助力中國AI加速今年,ChatGPT大模型持續火爆,它
ChatGPT爆火,全球AI競争更新!聯想重磅釋出兩款AI伺服器,助力中國AI加速今年,ChatGPT大模型持續火爆,它
ChatGPT爆火,全球AI競争更新!聯想重磅釋出兩款AI伺服器,助力中國AI加速今年,ChatGPT大模型持續火爆,它

繼續閱讀