天天看點

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

曉查 發自 凹非寺

量子位 | 公衆号 QbitAI

用喇叭識别手寫數字?

聽起來好像是玄學,但這其實是正經的Nature論文啊。

下面的圖,表面上看起來是個改造過的喇叭,其實用它來識别手寫數字,正确率接近90%。

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

這就是來自康奈爾大學的實體學家們整出的新花樣。

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

他們用揚聲器、電子器件、雷射器,分别造出了聲學、電學、光學版的實體神經網絡(PNN)。

而且以上這些神經網絡還能用反向傳播算法執行訓練。

實體學家整出PNN的原因是:摩爾定律已死,我們要用實體系統拯救機器學習。

據這篇文章所說,和軟體實作的神經網絡相比,PNN有希望将機器學習的能效和速度提高好幾個數量級。

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

如何用實體反向傳播

科學家之是以能用實體裝置搭建神經網絡,是因為實體實驗與機器學習的本質都是一樣的——調參、優化。

實體學中存在着非常多的非線性系統(聲學、電學、光學都有),能和人工神經網絡一樣用來逼近任意函數,。

聲學的神經網絡就是這樣的。

兩位做實驗的博士後拆掉了揚聲器上方的振膜,将方形的钛金屬闆和喇叭動圈相連。

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

來自計算機的接收控制信号以及金屬闆震蕩産生的輸入信号,再把信号輸出到揚聲器上,由此制造了一個回報閉環。

至于如何進行反向傳播,作者提出了一種混合實體世界與計算機的算法,稱為“實體感覺訓練” (PAT),可以反向傳播直接訓練任何實體系統來執行深度神經網絡的通用架構。

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

在聲學神經網絡系統中,振蕩闆接收由MNIST圖像改造的聲音輸入樣本(紅),在驅動振動闆後,信号由麥克風記錄(灰),并及時數模轉換為輸出信号(藍)。

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

整個實體系統的流程如下圖:先将數字信号轉換為模拟信号,輸入進實體系統中,然後将輸出與真實結果對比,經過反向傳播後,調整實體系統的參數。

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

通過對揚聲器參數的反複調試,他們在MNIST資料集上達到了87%的正确率。

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

也許你會問,訓練過程中還是要用到計算機啊,這有什麼優勢?

的确,PNN在訓練上可能并不占優勢,但PNN的運作靠的是實體定律,一旦網絡訓練完成,就無需計算機介入,在推理延時和功耗上都具有優勢。

而且PNN在結構上比軟體版的神經網絡簡單多了。

還有電學和光學版

除了聲學版,研究人員還打造了電學版和光學版神經網絡。

電學版使用了四個電子元器件電阻、電容、電感和三級管,就像中學實體實驗一樣,電路極其簡單。

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

這套模拟電路PNN能夠以93%的測試準确率執行MNIST圖像分類任務。

而光學版最為複雜,近紅外雷射通過倍頻晶體被轉化為藍光,不過這套系統的準确率最高,能夠達到97%。

另外,這套光學系統還能對語音進行簡單的分類。

真·機械朋克!實體學家用揚聲器搭建神經網絡,登上今日Nature

以上所用到的實體系統訓練算法PAT可以用于任何系統,你甚至可以用它來打造流體乃至機械朋克版神經網絡。

參考連結:

[1]https://www.nature.com/articles/s41586-021-04223-6

[2]https://github.com/mcmahon-lab/Physics-Aware-Training

[3]https://news.cornell.edu/stories/2022/01/physical-systems-perform-machine-learning-computations

繼續閱讀