天天看點

NVIDIA推出AI以太網和Grace Hopper超級晶片,引爆科技界熱潮!

作者:智創獅
NVIDIA推出AI以太網和Grace Hopper超級晶片,引爆科技界熱潮!

NVIDIA表示,Spectrum-X以太網交換機通過一種新型擁塞控制實作了“無損”傳輸。

在台灣省台北市的Computex計算機技術大會上,NVIDIA首席執行官黃仁勳在開幕演講中釋出了一系列新産品,其中包括一種專用于處理人工智能任務中的大量資料的新型以太網交換機。

黃仁勳提出了一個問題,他希望引入一種新的以太網技術,該技術能夠與現有的所有裝置向後相容,進而将每個資料中心都轉變為一個能夠生成人工智能的資料中心。他同時表示,這将是首次将高性能計算的能力引入到以太網市場中。

根據Nvidia的說法,Spectrum-X作為以太網家族的一員,被譽為“全球首個面向人工智能的高性能以太網”。網絡進階副總裁Gilad Shainer在媒體釋出會上介紹該技術的一個關鍵特點是,它“不會丢包”(無損傳輸)。

Nvidia表示,Spectrum-X的第一代産品是Spectrum-4,它被稱為“世界上首款專為AI網絡設計的每秒傳輸速率為51Tb的以太網交換機”。該交換機與Nvidia的BlueField資料處理單元(DPU)晶片和Nvidia的光纖收發器配合工作。該交換機可以在公司稱,通過128個400Gb以太網端口或64個800Gb端口将資料從端到端進行路由。

黃仁勳在台上舉起銀色的Spectrum-4以太網交換晶片,指出它是“巨大的”,它由一個90毫米×90毫米的晶片組成,内含一千億個半導體,采用台灣半導體制造公司的“4N”工藝技術制造。黃先生表示,該晶片的功耗為500瓦。

NVIDIA推出AI以太網和Grace Hopper超級晶片,引爆科技界熱潮!

Nvidia的晶片及其所搭載的交換機有潛力改變以太網市場格局。目前,絕大部分交換機晶片是由晶片制造商Broadcom供應的。這些交換機被銷售給網絡裝置制造商Cisco Systems、Arista Networks、Extreme Networks、Juniper Networks等等。這些公司一直在擴充他們的裝置,以更好地處理人工智能流量。

Spectrum-X系列旨在解決資料中心分化成兩種形式的問題。其中一種形式被稱為"AI工廠",這些設施耗資數億美元,采用了基于Nvidia的NVLink和Infiniband技術的最強大的GPU,用于進行人工智能訓練,為少量大規模工作負載提供服務。

另一個資料中心設施是AI雲,它是多租戶的,基于以太網,并能同時處理數以百計的工作負載,旨在為客戶提供服務。該中心專注于向使用AI技術的消費者提供預測資料,這些資料将由Spectrum-X提供。

Shainer副總裁表示,Spectrum-X能夠以最佳方式在網絡中傳播流量,它采用了一種新的擁塞控制機制。這個機制可以避免網絡路由器的記憶體緩沖區中出現資料包積壓。

NVIDIA表示:“全球頂級超大規模資料中心營運商正在采用NVIDIA Spectrum-X,其中包括行業領先的雲創新企業。”

他們正在以色列辦公區建立一個名為Israel-1的測試計算機,這是一個“生成型AI超級計算機”,采用由H100 GPU和Grace CPU組成的Dell PowerEdge XE9680伺服器,通過Spectrum-4交換機傳輸資料。

NVIDIA推出AI以太網和Grace Hopper超級晶片,引爆科技界熱潮!

除了新的以太網技術外,黃仁勳的主題演講還介紹了公司“DGX”系列的一種新型模型,即DGX GH200,該公司将其宣傳為“巨大生成型AI模型的新型大記憶體AI超級計算機”。

生成型AI是指能夠生成更多内容的程式,有時是文本,有時是圖像或其他藝術品,例如OpenAI的ChatGPT機器人。

GH200是第一個配備該公司所稱的“超級晶片”的系統,該晶片名為Grace Hopper闆,它在一個電路闆上內建了Hopper GPU和Grace CPU。Grace CPU是基于ARM指令集的CPU,旨在與英特爾和AMD的x86 CPU競争。

NVIDIA表示,Grace Hopper的第一個版本GH200已經“正式投産”。NVIDIA在新聞稿中表示,“全球超大規模資料中心和超級計算中心在歐洲和美國等地都将可以使用GH200驅動的系統”。

NVIDIA表示,DGX GH200組合了256個超級晶片,以實作1EFLOPS(每秒十億億次浮點運算)的計算能力,共享144TB記憶體。據NVIDIA稱,該計算機的性能比2020年釋出的原始DGX A100機器快500倍。

繼續閱讀