機器之心報道
機器之心編輯部
最近發表在《自然 · 通訊》上的一項新研究表明,進階的視覺認知功能可以在未經訓練的神經網絡中自發産生,面部圖像的視覺選擇性甚至可以在完全未經訓練的深度神經網絡中産生。

對于動物的社會行為(群體中不同成員分工合作,共同維持群體生活的行為)來說,檢測和識别面孔的能力至關重要。這種能力被認為起源于單神經元或多神經元水準的神經元調諧(神經元有選擇地表示一種感覺、協同、運動、認知等資訊的特性)。
科學家已經在不同物種的幼小動物身上觀察到對面孔有選擇性反應的神經元,這引起了激烈的争論:面孔選擇性神經元是大腦天生的,還是需要依賴視覺體驗?
近日,南韓科學技術院(KAIST)生物腦工程系教授 Se-Bum Paik 上司的研究小組為這個問題貢獻了一份頗具參考價值的結果。他們發現,即使是完全沒有經過訓練的深度神經網絡,也可以産生對面孔圖像的視覺選擇性。具體來說,在完全沒有學習的情況下,他們在随機初始化的深度神經網絡中觀察到對面孔圖像有選擇性的神經元活動,這些活動顯示出在生物大腦中觀察到的那些特征。
這項新研究發表在 12 月份的《自然 · 通訊》雜志上。它為生物和人工神經網絡認知功能發展的潛在機制提供了具有啟發性的見解,也對我們了解早期大腦功能(感官體驗之前)的起源産生了重大影響。
利用捕捉視覺皮層腹側流(ventral stream)特性的模型神經網絡——AlexNet45,研究小組發現,面孔選擇性可以在随機初始化的 DNN 的不同條件下穩健地出現。而且,它們的面孔選擇性指數(FSI)與那些在大腦中觀察到的面孔選擇性神經元相當。
借助反向相關(RC)方法和生成對抗網絡獲得的優選特征圖像(preferred feature image)表明,面孔選擇單元對類面孔配置是有選擇性的,與沒有選擇性的單元不同。此外,面孔選擇單元使網絡能夠執行面孔檢測。
有趣的是,研究者還發現,在未經訓練的神經網絡中,對各種非面孔對象的單元選擇性也可以天生地産生,這意味着面孔選擇性可能不是一種特殊類型的視覺調諧,而對各種對象類别的選擇性也可以天生地在未經訓練的 DNN 中産生,自發地由随機前饋連接配接産生。
這些結果暗示了一種可能的情況,即在早期未經訓練的網絡中發展的随機前饋連接配接可能足以初始化原始的視覺認知功能。
Paik 教授說:「我們的研究結果表明,即使在完全沒有學習的情況下,先天認知功能也可以自發地從分層前饋投影電路中嵌入的統計複雜性中産生。研究結果提供了廣泛的概念上的進步,以及對生物和人工神經網絡先天功能發展背後機制的深入了解,後者有助于解開智能産生和進化的謎題。」
參考連結:https://techxplore.com/news/2021-12-untrained-deep-neural-networks.html