王彥雨：基于意向性的強人工智能目前沒有可行性

中新經緯12月21日電 (薛宇飛)近日，清華大學社會科學學院社會學系、中國科學院學部-清華大學科學與社會協同發展研究中心主辦了“倫理立場、算法設計與企業社會責任”研讨會。在研讨會上，中科院自然科學史研究所副研究員王彥雨表示，無論是外界幹擾還是自我演化，隻要人工智能可以形成差別于初始目标的新目标，并根據新目标自主行動，就可以看作是強人工智能形式。但機器所形成的新目标并不是基于意向性，而是基于目标變化而産生了與原始目标不同的新東西，成為相對于原始智能機器的異化體。基于意向性的人工智能，至少到現在還沒有任何可行性。

中科院自然科學史研究所副研究員王彥雨。主辦方供圖

強人工智能概念在1980年提出，相對于弱人工智能，強人工智能概念有以下共同特征：一是達到或者是超越人類智慧；二是具有意向性，擁有自我目标設定與自我評價及認知能力；三是強AI必須有通用性，擁有完整的人類能力譜系。

王彥雨分享了人工智能研究共同體和哲學科學社會界對于強AI的看法和态度轉換過程。20世紀50年代中期至70年代初期，是人工智能的第一個黃金期，随着人工智能技術的進步，這一時期的人工智能界對于強AI非常樂觀，當時的許多人工智能科學家認為10年、20年以後的機器就可以做人類能夠完成的任何事情。但這一時期，哲學社會科學界共同體是以強AI的反對者身份出現的，他們基于人腦功能的特殊性(如心靈的整體性、感覺的綜合性、經驗的情景性等)，對當時的強AI樂觀思潮進行了批判。

在20世紀70年代中期至80年代末，人工智能研究進入寒冬期，強AI概念逐漸衰落。1966年美國自動語言處理咨詢委員會釋出“ALPAC 報告”，以及1973年英國的“Lighthill Report”，均指出當時的人工智能技術難以解決諸如語義消歧、智能爆炸、不具備學習能力等問題。在他們看來，當時的人工智能并不智能，更多的是依賴一系列已經給出的固定程式來執行指令，沒有學習能力。在這一時期，一種新的理念“智能增強”——強調人工智能研究目的是為了簡化人機互動，而不是為了制造超越人類智慧的終極機器，開始吸引到越來越多的科學家。

從20世紀90年代初至90年代末，人工智能界基本不再提及強AI概念，怕被貼上“白日夢”标簽。不過，那時候開始出現了“奇點議題”，如機器人專家莫拉維克、弗諾·文奇等通過寫作科幻小說，來宣揚未來可能會出現超級智能機器，它的興起為21世紀初的哲學社會科學界的強AI思潮提供思想基礎。進入21世紀，基于摩爾定律的印證，哲學社會科學界開始複興奇點議題，從2010年到現在，随着深度學習理念的提出，強AI的論調開始盛行。

那強AI到底強在哪裡呢？他介紹，它擁有以深度學習為代表的學習模式，更類似于人，這種類似包括結構和學習過程等。而且，資料存儲、搜尋能力也比較強，擁有一個強大的泛化能力與進化能力。此外，目前基于深度學習技術的人工智能産品，具有更快的進化速度，以圍棋AI為例，Crazy Stone的進化機關是按年計算的，阿爾法狗(AlphaGo)是以月為機關進行功能提升的，而最新的AlphaGo Zero則呈現出以天/小時為機關的功能提升模式，這種進化效率令人擔憂。此外，人們的擔憂還包括AI的自主性，包括決策自主性與行動自主性，且純自主的機器人已經出現。

但這并不意味着人工智能能超越人類，因為人類的思維具有其獨特品質。王彥雨說：人的思維由主動的意識起，是基于已有的背景知識、需求甚至責任等等方面而形成的自主目标，這個目标是主動提出的，而阿爾法狗(AlphaGo)等智能機器的目标則是先賦的、由人設定的，這與人類有着根本差別。此外，人腦思維具有更高階的思維模式，比如智慧、直覺、靈感，這是人工智能沒有的。

“我們還提出強人工智能2.0概念，無論是外界的幹擾，還是自己的演化，隻要人工智能可以形成新目标，根據這個目标自主行動，就可以看作是強AI形式。新目标不是基于意向性，而是基于目标的變化，産生了一些與原始目标不同的新東西，就可以稱為強AI。”他說。

弱AI與強AI是兩個不同的機制，強AI在外部的入侵與幹擾、内部的演化下可以做到原始目标的偏離，這在科學上可以實作，更具有可行性，如俄羅斯機器人Promobot IR77在沒有預先訓練的情況下獨自走出實驗室尋找“充電樁”，一些機器人可将所習得的常識自主運用到新場中等。但基于意向性的人工智能，至少到現在還沒有任何可行性。

王彥雨指出，在未來社會，除了作為工具的人工智能帶來的風險，還有可能出現更多具有強AI2.0特質的智能體所帶來的風險，這需要引起關注；另外，從哲學角度來講，未來可能會出現人工智能機器自己生産知識的形式，随着這種知識體量的增大，會對人際關系等帶來新的社會影響。(中新經緯APP)

中新經緯版權所有，未經書面授權，任何公司及個人不得轉載、摘編或以其它方式使用。