天天看點

英特爾宣布全球最大的神經拟态系統,算力是人腦的200倍

作者:睿财經

之前科幻片中出現的機器人讓很多影迷驚歎,紛紛讨論這種機器人什麼時候能夠走進我們的生活。現在這種幻想有肯能成為現實。

中原標準時間4月18日淩晨,美國晶片巨頭英特爾(Intel)宣布,其打造出全球最大的神經拟态系統——Hala Point,旨在支援未來類腦 AI 研究,以及解決 AI 目前在效率和可持續性等方面的挑戰。

英特爾宣布全球最大的神經拟态系統,算力是人腦的200倍

Hala Point内置1152個、基于Intel 4(7nm)制程的英特爾Loihi 2處理器,支援多達11.5億個神經元和1280億個突觸,每秒可處理超過380萬億個8位突觸和超過 240 萬億個神經元操作,相關系統最初部署在美國桑迪亞國家實驗室。應用于仿生尖峰神經網絡模型時,在運作神經元數量較低的情況下,Hala Point速度可比人腦快200倍(20000%)。

英特爾研究院神經拟态計算實驗室總監Mike Davies表示:“目前,AI模型的算力成本正在以不可持續的速度上升。行業需要能夠規模化的全新計算方法。為此,英特爾開發了Hala Point,将高效率的深度學習和新穎的類腦持續學習、優化能力結合起來。我們希望使用Hala Point的研究能夠在大規模AI技術的效率和适應性上取得突破。”

英特爾宣布全球最大的神經拟态系統,算力是人腦的200倍

早在2018年,英特爾就推出了首款神經拟态晶片Loihi,這款晶片的計算任務由許多小單元進行,這些單元通過類似生物神經的尖峰信号互相通信,并通過尖峰調整其行為。

到了2021年,英特爾對Loihi系列進行了全面更新,釋出了第二代神經拟态晶片Loihi 2。這款晶片采用了英特爾首個EUV工藝節點Intel 4,等效于4nm,實際為7nm工藝。Loihi 2共有128個神經拟态核心,每個核心都有192KB的靈活記憶體,每個神經元可以根據模型配置設定多達4096個狀态,這是之前限制的24倍。

英特爾宣布全球最大的神經拟态系統,算力是人腦的200倍

與普通的CPU和GPU不同,神經拟态沒有外部記憶體。每個神經元都有一小部分記憶體供其專用。主要作用是配置設定給不同神經元輸入的權重、最近活動的緩存以及峰值發送到的所有其他神經元的清單。Loihi 2可以根據用途選擇各種不同連接配接選項,這一點上有些類似于FPGA。

英特爾強調,在執行AI推理負載和處理優化問題時,Loihi 2神經拟态晶片系統的速度比正常CPU和GPU架構快50倍,同時能耗降低100倍。此外,英特爾還釋出了用于Loihi晶片的軟體——一個名為Lava的新開發架構。該架構及相關庫都用Python編寫,并在GitHub上開源,使得開發人員無需通路硬體即可為Loihi開發程式。

如今,Loihi 2晶片已經被應用于機械臂、神經拟态皮膚、機器嗅覺等場景。英特爾表示,Loihi 2應用了衆多類腦計算原理,如異步(asynchronous)、基于事件的脈沖神經網絡(SNNs)、存算一體,以及不斷變化的稀疏連接配接,以實作能效比和性能的數量級提升。

而在新一輪AI技術引領下,4月17日,英特爾将這個神經拟态晶片進行“暴力組裝”,建構了全球最大的神經拟态系統Hala Point。該系統由封裝在一個六機架的資料中心機箱中的1152個Loihi 2處理器組成,大小相當于一個微波爐。該系統支援分布在140544個神經形态處理核心上的多達11.5億個神經元和1280億個突觸,最大功耗僅為2600瓦。

英特爾宣布全球最大的神經拟态系統,算力是人腦的200倍

Hala Point将處理、記憶體和通信通道內建在大規模并行結構中,提供總共16 PB/s的記憶體帶寬、3.5 PB/s的核心間通信帶寬和5 TB/s的帶寬(TB/s)的晶片間通信帶寬。該系統每秒可以處理超過380萬億個8位突觸和超過240萬億個神經元操作。

早期研究結果表明,通過利用稀疏性高達10比1的稀疏連接配接(sparse connectivity)和事件驅動的活動,Hala Point運作深度神經網絡的能效比高達15 TOPS/W,同時無需對輸入資料進行批處理。盡管仍處于研究階段,但未來的神經拟态大語言模型将不再需要定期在不斷增長的資料集上再訓練,進而節約數千兆瓦時的能源。

目前,Hala Point是一個旨在改進未來商用系統的研究原型。英特爾預計其研究将帶來實際技術突破,如讓大語言模型擁有從新資料中持續學習的能力,進而有望在AI廣泛部署的過程中,大幅降低訓練能耗,提高可持續性。

接下來,Hala Point系統将向桑迪亞國家實驗室傳遞,這标志着英特爾共享的大型神經拟态研究系統的首次部署,進一步推動神經拟态計算應用和類腦AI研究等。如今,英特爾神經拟态研究社群(INRC)成員總數已超過200個。