【每日社科】如何保證人工智能不“學壞”？

學生在河北省邯鄲人工智能教育基地參觀。郝群英攝（人民視覺）

一段時間以來，以ChatGPT為代表的人工智能大模型攪動了全球人工智能技術發展的浪潮。從寫代碼到講故事，從撰寫文章到自動制作資料表格……人工智能正在給人類的工作、學習、生活帶來諸多變化。

我們距離“無所不能”的通用人工智能還有多遠？人工智能的發展帶來哪些安全隐患和挑戰？近日召開的2023北京智源大會上，來自全球的人工智能專家學者圍繞相關話題展開探讨。

通用人工智能路途尚遠

“想象一下，未來10年，通用人工智能（AGI）幾乎在每一個領域都超過人類的專業知識，最終可能超過所有大型公司的總體生産力，這将提高人們的生活水準。”OpenAI首席執行官山姆·阿爾特曼展現了一幅人工智能的未來圖景。

所謂AGI，是指能夠像人類一樣在各種領域進行智能任務的人工智能系統。這與目前人工智能應用隻聚焦于特定任務或領域（如圖像識别、語音識别、自然語言處理等）不同，對人工智能技術提出了更高要求。

“通用人工智能可以比人類更好、更快地學習和執行任務，包括人類無法處理的任務。由于機器在速度、記憶體、通信和帶寬方面的巨大優勢，未來通用人工智能幾乎在所有領域都将遠超人類的能力。”美國加州大學伯克利分校計算機科學教授斯圖爾特·羅素說。

盡管人工智能已經有了“超越”人類的“時間表”，但在很多專家看來，目前的人工智能距離AGI還有不小的距離。

羅素認為，當下火熱的大語言模型并不“了解世界”，隻是通用人工智能的一塊“拼圖”——“我們并不了解如何将它與其他部分連接配接起來，甚至還有一些缺失的拼圖還沒有找到。”

北京智源人工智能研究院院長黃鐵軍指出，要實作通用人工智能，有3條技術路線：第一是大模型，通過海量高品質資料，讓人工智能具備智能湧現能力；第二是具身智能，通過強化學習方法，訓練出具身模型；第三是類腦智能，讓機器達到或類似于人腦能力。

對于人工智能的發展，圖靈獎得主、紐約大學教授楊立昆提出了“世界模型”的概念——人工智能系統可以通過這一模型了解世界的運轉方式，并以最優化、成本最小的方式來行動。

加強安全治理領域國際合作

根據普華永道會計師事務所預測，到2030年，人工智能将創造15.7萬億美元的經濟價值。人工智能為經濟發展提供了重要機遇，但也引發了安全性方面的擔憂和争議。

圖靈獎得主、多倫多大學教授傑弗裡·辛頓認為，目前的人工智能已經可以通過學習，掌握“欺騙”人類的方式。“一旦人工智能具備了‘欺騙’的能力，就有了‘控制’人類的能力。這樣的超級智能可能會比預想中發生得更快。”

在通用人工智能時代到來之前，人工智能的安全風險主要來自于“人”。“我們不應該假設機器是公正的，因為機器可能會試圖改變人類的行為。更準确地說，是機器的所有者想要改變其他人的行為。”圖靈獎得主、中國科學院院士姚期智說，目前人工智能的發展處于重要視窗期，各國應共同合作，搭建人工智能的治理結構。

随着人工智能的本事越來越大，人工智能的“對齊”問題浮上水面。所謂“對齊”，即人工智能系統的目标要和人類的價值觀與利益“對齊”，保持一緻。

如何讓人工智能與人類“對齊”？阿爾特曼認為，人們應當負責任地将人工智能應用到世界中，重視和管理好安全風險。他建議在人工智能技術研發過程中建立平等、統一的國際規範和标準，并通過國際合作，以可驗證的方式建立人工智能系統安全開發的信任體系。

黃鐵軍認為，人工智能雖然會産生預料之外的新能力，但這并不意味着人類無法對人工智能進行管理。“如何管理人工智能這樣一個創造性極強的系統，社會學、曆史學等學科都能提供很好的借鑒意義。”

今年2月，中國在《全球安全倡議概念檔案》中提出加強人工智能等新興科技領域國際安全治理，預防和管控潛在安全風險。在此次智源大會上，專家學者積極評價中國在推動人工智能國際治理上的貢獻。

阿爾特曼說，中國在人工智能領域擁有大量優秀的人才和産品系統，在人工智能的安全方面應發揮關鍵作用。

麻省理工學院人工智能與基礎互動研究中心教授馬克斯·泰格馬克表示，中國在塑造全球人工智能議程上的能力日益增長，可以在人工智能安全治理領域發揮上司作用。

推動大模型共建共享

當下，全球人工智能領域的科技競賽日趨白熱化。2023中關村論壇上釋出的《中國人工智能大模型地圖研究報告》顯示，全國已釋出了79個參數在10億規模以上的人工智能大模型。

從全球來看，中國和美國已釋出的大模型數量超過全球總數的80%。中國自2020年起進入大模型快速發展期，在大模型方面已建立起涵蓋理論方法和軟硬體技術的體系化研發能力，形成了緊跟世界前沿的大模型技術群，湧現出多個具有行業影響力的預訓練大模型。

在此次大會上，全面開源的智源“悟道3.0”系列大模型及算法正式釋出。據了解，“悟道3.0”涵蓋了一系列領先成果，包括“悟道·天鷹”（Aquila）語言大模型系列、天秤（FlagEval）開源大模型評測體系與開放平台，“悟道·視界”視覺大模型系列以及一系列多模态模型成果等。

黃鐵軍認為，人工智能大模型有3個特點：一是規模大；二是有“湧現性”，即能夠産生預料之外的新能力；三是通用性，不限于解決專門問題或者專門領域。他表示，大模型不是任何一家機構或者一家公司壟斷的技術，應當共建共享，推出一套智力社會所需的基礎的算法體系。