天天看點

DeepMind着手指導AI對關系網絡進行推理

邏輯思維與更改思考能力無疑是實作智能的關鍵。而如果能夠在機器當中複制這種能力,則将使得AI變得更加聰明。

但這一問題實作難度極大,特别是考慮到目前的深度學習方法還不夠先進。深度學習在處理資訊方面較為擅長,但卻難以解決推理類任務。

這時出現了新的突破方向:關系網絡,簡稱RN。

根據Alphabet公司旗下英國AI事業部DeepMind釋出的最新論文,其正在嘗試将關系網絡引入卷積神經網絡與經常性神經網絡,進而推動這些在傳統上負責實作計算機視覺與自然語言處理的機器獲得推理能力。

DeepMind的一位發言人在接受采訪時解釋稱,“并不是說深度學習不适合處理推理任務——更為确切地講,實際上是不存在正确的深度學習架構或者子產品以實作一般性關系推理。舉例來說,卷積神經網絡在了解本地空間結構方面擁有無與倫比的表現——這也是其被大量應用于圖像識别模型中的理由,但其可能在其它推理任務當中遇到障礙。”

關系網絡被描述為“即插即用”子產品。其架構的設計方式專門用以確定網絡能夠專注于各對象之間的關系。其在一定程度上類似于圖形網絡,其中的節點即為各個對象,而連接配接節點的邊界則為不同對象間的關系。

在CLEVR資料集中,這套網絡将面對出數個具有不同形狀、大小與紋理的對象,同時需要解答一系列用于測試其視覺推理能力的問題:

DeepMind着手指導AI對關系網絡進行推理

利用多種不同神經網絡元件解決單一任務(圖檔來源:Santoro等)

為了回答以上關系問題,關系網絡必須将所有對象的大小與“棕色金屬物體”進行比較,且僅考慮圓柱體情況。首先,卷積神經網絡會識别場景中的對象,而後利用一套長短期記憶網絡将問題傳遞至關系網絡當中。

問題當中嵌入的詞彙允許關系網絡專注于特定相關對象對,并計算其關系以提供答案。這是一種非常睿智的處理方式,允許利用單一功能解決每種關系。研究人員無需專為檢視對象的大小與形狀編寫具體函數。這意味着關系網絡能夠更加高效地實作資料處理。

DeepMind在一篇博文當中解釋稱,“利用行業頂尖标準視覺問題回答架構對CLEVR進行處理,其能夠得出68.5%的正确率,相比之下人類的識别準确率為92.5%。不過我們的關系網絡增強型方案則帶來了超越人類的95.5%的正确率水準。”

DeepMind在論文中同時指出,“我們預計,關系網絡将為靈活的關系推理提供更為強大的支援性機制,進而幫助卷積神經網絡更加專注于處理本地空間結構。這種在處理與推理層面的差異性非常重要。”

關系網絡亦在語言推理方面表現出光明的發展前景。由Faebook公司AI研究團隊推廣的bABI資料集包含20項涉及重複内容、歸納與計數能力評估的問答任務。

首先其會提出一些事實,例如“Sandra拿起足球”以及“Sandra前往辦公室”,而後再提出“足球在哪裡?”等問題。關系網絡通過了20項任務中的18項,這一表現遠超以往Facebook與DeepMind所使用的可微分神經計算機記憶網絡。

而未能通過的兩項bAbI任務确實更加複雜,其要求關系網絡分别參考“兩項支援事實”與“三項支援事實”。這一結果顯示,提升機器智能當中推理原理的工作仍然面對着漫長的前進道路。

必須承認目前研究尚處于早期階段,而DeepMind希望能夠将關系網絡應用于多種不同問題,例如社交網絡模組化以及解決更為抽象的實際問題。

為了使其更加強大,DeepMind團隊還希望能夠進一步提升其計算效率。目前其測試對象支援數量為100個,但在配合更好的硬體時,其将能夠支援更多對象并引入更多并行計算機制。

這項研究受到象征性AI設計思路的啟發——在上世紀八十年代之前,學界一直堅持象征性思路,認為知識應能夠被明确表示為事實與規則。

DeepMind資深研究科學家兼英國帝國理工學院教授Murray Shartahan認為,象征性AI的研究工作很有可能再度複蘇。

Shanahan在接受采訪時指出,“我認為機器學習社群長期以來對于這種作法較為忽視,即将符号AI思維引入神經網絡架構,但仍有一部分研究人員多年來一直在追尋相關解決方案。近來,這種思路再次獲得關注。盡管尚處于起步階段,但這種構想确實很有希望。”

在實作整體智能這一難題的過程當中,推理無疑是機器必須掌握的其中一大重要組成部分。除此之外,我們還面臨着另一些尚未得到解決的難題——包括記憶、注意力與自主判斷等等。

原文釋出時間為:2017年6月11日

本文作者:黃雅琦

本文來自雲栖社群合作夥伴至頂網,了解相關資訊可以關注至頂網。

繼續閱讀