博鳌的回答：AI既是第四次工業革命，也是“外星人的來信”

經濟觀察網 記者 杜濤 田進 實習記者 羅雪麗 1950年，被譽為計算機和人工智能鼻祖的圖靈提出了“圖靈測試”——如果經過多次測試後，超過30%的測試者不能确定出被測試者是人還是機器，就意味着這台機器具有人類智能。而在74年後的博鳌亞洲論壇2024年年會，圖靈的名字再次被頻繁提及。

過去一年，從ChatGPT（OpenAI研發的一款聊天機器人程式）的更新疊代到Sora（OpenAI釋出的人工智能文生視訊大模型）的出現，大量與人工智能（AI）相關的研究快速推進。在今年博鳌亞洲論壇期間，與人工智能相關的分論壇就有三場。中國工程院院士、清華大學智能産業研究院院長張亞勤說：“時隔一年再次回到博鳌，可以看到與人工智能相關的技術産業已發生了翻天覆地的變化。”

隻是，随着人工智能的演進，各種擔憂也開始浮現。人類開始擔心工作被AI取代，擔心正在加速進入一個還沒有完全想清楚的未來。

加州大學伯克利分校計算機科學系教授斯圖爾特·羅素說：“目前所擴充的大語言模型就像一個黑匣子，人們看不透它能滿足的目标。在這樣的情況下，需要重新思考如何保持對AI的掌控權，如何去證明AI的行為能使人類受益，就像推出一款新藥或建一座核電站。”

2017年，在斯圖爾特·羅素和張亞勤共同參與的一場關于AI創新的讨論中，斯圖爾特就提到AI的發展在當下就需要進行治理，而當時作為百度公司總裁的張亞勤卻認為，應該強調AI的創新，不需要太早擔心AI。但回過頭來看，張亞勤說：“實際上那時已經到了需要考慮AI風險和安全的關鍵時刻。”

人工智能快速疊代

“大多數人以前可能會說大概到本世紀中葉才會出現科技革命奇點，但現在，我認為它可能在5年後就會出現。”3月26日，首爾大學電子與計算機工程系教授LEE在一場題為“科技革命奇點離我們有多遠”的分論壇上說。

LEE介紹，2017年，一項針對人工智能科學家的問卷調查顯示，當人工智能變得比人類更加智能和聰明時，科技革命奇點就将到來。并且大多數人預測科技革命奇點會在2045年到2090年之間産生，其中最有可能在2060年産生。

但現在，LEE的觀點是，如果以同樣的問題再問當時接受調研的人工智能領域專家，肯定會有不同的答案。“人工智能在過去10年發生的巨變超出了科學家和研究人員的預期。我們每天早上都會被一些新的結果所震驚，這是在10年前完全沒有預料到的。現在多個國家政府在施政綱領中都會提到人工智能技術的發展，是以科技革命奇點到來的速度會遠遠早于我們原先的預期。” 

在張亞勤看來，ChatGPT誕生時，人工智能的文字對話就已認證了“圖靈測試”。“而未來兩到五年，圖像、視訊等方面也都将通過‘圖靈測試’。Sora是一個重要的裡程碑，但目前還不能說它已經通過‘圖靈測試’。”

在技術快速疊代的同時，人工智能也開始深度應用到多個行業。高通公司中國區董事長孟檏說：“人工智能特别是生成式人工智能的發展，除了給個人的工作學習帶來改變，更重要的是将改變各行各業的發展。比如在移動通信網絡部署中，很多生成式人工智能的應用能夠改善網絡的部署，減少耗電等。”

近幾年，教育行業逐漸成為人工智能應用的重要領域之一。猿輔導集團副總裁、人工智能研究院院長程群分享了一個去年的案例，在四川一所偏遠學校，得益于人工智能大模型産品的應用，學生可以直接通過和大模型産品的大屏互動以獲得通俗易懂的知識點講解，不僅緩解了師資短缺的問題，還激發了學生的學習興趣。

程群表示，人工智能技術的應用能讓個人以較低的成本獲得高品質的教育，這也是未來人工智能發展的一個重要方向。

荷蘭前總理阿霍表示，未來幾十年，數千萬的中國人會退休。在這個過程中，現有的養老模式、商業模式、政府治理模式無法應對如此龐大的老齡人口。但随着人工智能的出現，這些問題最終都能得到解決。

但人工智能的發展還遠未到終點。張亞勤表示：“如果把人工智能的發展比作42公裡的馬拉松，現在大家才跑到第5公裡，接下來大家都有機會。”

中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家曾毅同樣持有類似觀點。他認為，現在的人工智能仍然停留在看似智能的資訊處理系統層面，并未具備真正的了解能力。比如它無法真正了解何為“失望”，隻能回答提問者一個基于顯著性的答案。事實上，科學意義上的人工智能已經幾十年沒有重大突破。未來要實作真正意義上的人工智能，一定要追求人工智能具備自我意識。

風險等待解決

1950年，在圖靈提出“圖靈測試”的同時，也抛出了“如果人工智能真的突破了‘圖靈測試’，結果會怎樣？”近幾年，這個問題被政府和學界廣泛讨論。

2023年3月，生命未來研究所向全社會釋出了一封《暫停大型人工智能研究》的公開信，呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練，暫停期限至少為6個月。這封信得到了包括馬斯克、圖靈獎得主以及蘋果創始人在内衆多知名人士的署名支援。

在博鳌亞洲論壇上，數位專家和學者在試圖讨論人工智能是否會如同科幻電影所描繪的那樣，萌發出自我意識，并最終将人類取而代之。

10年前，斯圖爾特·羅素就曾預言，通過“圖靈測試”的機器會拿走人類控制權，然而這一警告在當時并未引起人們的重視。他把那時人類對待人工智能的态度描述為一個進階外星文明給人類發了一封信說：“當心，30年後我們就會來了”，而人類的回複是：“人類現在不在辦公室，等回到辦公室再回你的郵件吧”，後面還附上了一個微笑的表情。

斯圖爾特·羅素說：“《暫停大型人工智能研究》的公開信就像那封進階外星文明發給人類的信，但現在人類的态度是直接回到辦公室，并閱讀了這封郵件。公開信釋出後，各國陸續開始就監管AI出台相關措施。”

2024年2月2日，歐盟國家就《人工智能法案》立法正式達成協定，這一法案也成為全球首部在人工智能領域實施全面監管的重要法律檔案。在新規則中，立法者同意嚴格限制面部識别技術的使用，并明确禁止利用人工智能進行“社會評分”以及設計用于“操縱人類行為”的系統。2023年7月6日，科技部戰略規劃司司長梁穎達也表示，人工智能法草案已被列入國務院2023年立法工作計劃，提請全國人大常委會審議。

“我們要提前研究AI可能帶來的風險，即使幾十年之内都不一定能夠找到答案。比如，如果人工智能的水準超過人類，人工智能看待人類是否會像人類看待螞蟻一樣。當人類都不去保護當代的其他生命，未來人工智能會有理由保護人類嗎？”斯圖爾特·羅素表示。

阿霍表示，人工智能并不是人類曆史上首次發明出來的“危險”。人類曾經發明過一系列危險的事物，原子彈便是其中一個例子。是以，無論人工智能的破壞性有多大，都應該承認它的确是科技的進步。“我們就算不了解科技，也應該了解人性，才能更好地預防可能出現的風險。”

有人悲觀，有人樂觀。孟檏表示：“我不太相信人類創造的人工智能把自己完全替代。相反，我更擔憂的是，一部分掌握人工智能技術的人類會利用這些技術占其他人的便宜。是以，我認為未來應該快速且廣泛地普及人工智能技術，確定讓所有人都能夠掌握這些技術。”

程群認為，未來強大的不是AI，而是掌握了AI的新人類。他說，過去幾年，衆多企業和個人從AI技術中獲益。未來，AI并不會替代人類的工作崗位，而是讓崗位結構發生變化，為此政府和各行各業需要有更充分的準備。

關于AI的發展，張亞勤說自己是個樂觀主義者。“我認為人類不僅有發明新技術的智慧，也有引導技術走向的智慧，我們可以一邊發展一邊治理。但從現在開始，我們在推動創新、發展AI的同時，一定要想到治理。”