從數學悖論中折射出的AI極限

人工智能的緻命弱點

深度學習是一種用于模式識别的人工智能技術，這是一種正全面進入科學計算領域的成功技術。我們常在許多令人矚目的新聞标題中看到它的身影，比如說它能夠比醫生更準确地診斷疾病，又比如說它能通過自動駕駛預防交通事故等等。然而，許多深度學習系統是不值得信任的，它們很容易被愚弄。

這使得人工智能系統就像一些過度自信的人類一樣，常常具有遠超其實際能力的自信。而人類還比較善于發現自己的錯誤，但許多人工智能根本無法知道自己在什麼時候犯了錯。對人工智能系統來說，有時意識到自己犯了錯甚至比産生一個正确的結果還要困難。

這種不穩定性是現代人工智能的緻命弱點，也是一個悖論。這個悖論可以追溯到20世紀的兩位數學巨匠——圖靈（Alan Turing）和哥德爾（Kurt G del）。20世紀初，數學家們正試圖證明數學是統一科學的終極語言。然而，圖靈和哥德爾發現了數學核心的一個悖論：某些數學命題的真僞是不可能被證明的，而有些計算問題也無法用算法來解決。

到了20世紀末，數學家斯蒂芬·斯梅爾（Steve Smale）提出了18個當時未解數學問題的清單，其中的最後一問所探讨的就是人類和機器的智能極限。這個問題至今沒有得到解決，不過它将圖靈和哥德爾最先提出的悖論帶入了人工智能的世界：數學存在固有的基本極限，類似地，人工智能算法也有無法解決的問題。

人工智能的固有極限

一項新的研究表明，人工智能普遍存在固有的極限，而這種極限可歸結于這個長達世紀之久的數學悖論。研究人員通過擴充哥德爾和圖靈提出的方法，展示了計算神經網絡的算法所存在的極限。他們提出了一種分類理論，描述了在特定條件下，可以訓練神經網絡來提供可信的人工智能系統的情況。

研究結果被發表在了近期的《美國國家科學院院刊》上。新研究指出，穩定、精确的神經網絡存在問題，且沒有算法可以産生這樣的網絡。隻有在特定的情況下，算法才能計算出穩定、精确的神經網絡。

神經網絡是人工智能領域最先進的工具，之是以稱之為“神經網絡”，是因為它是對大腦神經元之間的聯系的一種大緻模拟。在新研究中，研究人員表示雖然在某些情況下，良好的神經網絡可以存在，但由于這種悖論的存在，我們無法建立一個固有可靠的神經網絡。換句話說，無論我們用于建構一個神經網絡的資料有多麼準确，都永遠無法獲得建構這個神經網絡所需的完美資訊。

與此同時，無論對多少資料的進行訓練，也都不可能計算出良好的現有神經網絡。無論一個算法能通路多少資料，它都不會生成所需的網絡。這一點與圖靈的觀點類似：無論計算能力和運作時間如何，都存在無法解決的計算問題。

研究人員表示，并不是所有的人工智能都有固有缺陷。在某些情況下，人工智能犯錯誤是完全沒有問題的，但它需要誠實面對這些問題。然而，這并不是我們在許多系統中所看到的情況。

了解人工智能的基礎

當我們嘗試一些東西發現它不起作用時，可能會加點其他東西希望它能起作用，然而如果當加到一定程度時仍不能得到想要的，我們就會選擇嘗試不同的方法。了解不同方法具有各自的極限是很重要的。現在，人工智能正處于其實際成功遠遠領先其理論和對其了解的階段，是以我們急需能夠了解人工智能計算基礎來彌補這一差距。

當20世紀的數學家發現不同的悖論時，他們并沒有停止對數學的研究。他們必須找到新的道路，因為他們明白其中的極限。相應地，在人工智能領域，這或許意味着需要改變路徑或開發新的路徑，進而建構出能以可靠且透明的方式解決問題的，并同時了解它們的極限的系統。

研究人員的下一個階段是将近似理論、數值分析和計算基礎結合起來，來确定哪些神經網絡是可以通過算法計算的，以及哪些神經網絡是可以變得穩定和可信的。正如哥德爾和圖靈提出的關于數學和計算機極限的悖論帶來的豐富的基礎理論，也許類似的基礎理論可能會在人工智能中開花結果。

#創作團隊：

撰文：小雨

排版：雯雯

#參考來源：

https://www.cam.ac.uk/research/news/mathematical-paradox-demonstrates-the-limits-of-ai

#圖檔來源：

封面圖：julientromeur / Pixabay

首圖：Chenspec / Pixabay