缺的不是技術，而是與技術變革相适應的思想——讀《人工智能時代與人類未來》

《人工智能時代與人類未來》

（美） 亨利·基辛格

埃裡克·施密特

丹尼爾·胡滕洛赫爾 著

胡利平 風 君 譯

中信出版集團

2023年6月出版

◎夏學傑

僅僅相隔數十年，人們對人工智能的态度就由興奮轉而陷入焦慮：人工智能雖然能幫助人類解決許多問題，但未來它又将給人類的生存帶來怎樣的挑戰？《人工智能時代與人類未來》就是思考人工智能将何去何從的一本新書。該書由美國外交家亨利·基辛格、谷歌前首席執行官埃裡克·施密特以及麻省理工學院蘇世民計算機學院院長丹尼爾·胡滕洛赫爾聯合撰寫。三位作者通過梳理人工智能的發展現狀、人類思想及技術演進的曆程，反思了人工智能的發展對人類自我身份認同産生的巨大沖擊，以客觀的視角提出人類在未來幾年所必須面對的問題。

能設計超出人類想象的解決方案

作者在書中介紹的案例顯示，人工智能在某些領域的發展，已經達到讓人瞠目結舌的程度。

2017年底，由谷歌旗下DeepMind公司開發的人工智能程式AlphaZero擊敗了當時世界上最強大的國際象棋程式Stockfish。AlphaZero對Stockfish的百場戰績是28勝72平0負。AlphaZero可不是“普通的”國際象棋程式。AlphaZero并不借助預先程式設計的走法群組合，建構者隻是給AlphaZero提供了一套國際象棋規則，并訓示它基于規則制定一種戰略，在經過僅僅4小時的自我對弈訓練後，AlphaZero便成了世界上最強大的國際象棋程式。國際象棋特級大師、世界冠軍加裡·卡斯帕羅夫在觀察和分析了AlphaZero的棋局後稱：“AlphaZero徹底動搖了國際象棋的根基。”

2020年初，麻省理工學院的研究人員宣布發現了一種新型抗生素，能夠滅殺此前對所有已知抗生素都有耐藥性的細菌菌株。一種新藥的标準研發工作不僅要曆經數年的艱辛，而且代價高昂，研究人員要從數千個可能分子着手，通過不斷試錯和合理的推測，才能從中篩選出少量具備可行性的候選分子。麻省理工學院讓人工智能參與研發過程，在研究了幾千例成功案例後，人工智能便取得了一場全新的勝利：發現了一種人類在此之前沒有發現過的新型抗生素。

如今，機器學習的應用已擴充到醫藥、環境保護、交通、執法、國防等各個領域。計算機科學家與工程師已經開發出相應技術，特别是通過使用“深度神經網絡”的機器學習方法後，能夠産生長期以來人類無法領悟的見解和創新，并生成看起來是由人類創造的文本、圖像和視訊。

通過介紹這些案例，作者想要表達的是，人工智能不僅在處理資料的速度方面超過了人類，更為重要的是，它還察覺到人類尚未察覺或根本無法察覺的部分現實。在越來越多的應用領域中，機器正在設計出超出人類想象的解決方案。比如，在2016年，DeepMind公司的分支機構DeepMind Applied開發了一種人工智能用來優化谷歌溫度敏感資料中心的冷卻操作。盡管全球最優秀的工程師之前已解決了這個問題，但DeepMind的人工智能程式進一步優化了冷卻操作，将能耗又降低了40%。

能否動搖人類的理性根基？

作者在書中指出，長久以來，人類其實一直停留在啟蒙世界。科學革命尤其是20世紀的科學革命，使技術和哲學得到了長足發展。但當人類借助計算機來增強他們的思維，并超越認知能力的極限時，人類的理性思維正在放棄其作為世界現象的唯一發現者、認識者和分類者的頭等地位。

通過不斷縮短技術改變生活體驗的時間，數字化革命和人工智能的進步産生了真正的新現象。閱讀、研究、購物、談話、記錄儲存、監視、制訂軍事計劃和行動，這些以前均由人工完成的任務，如今都已轉為數字化和由資料驅動，并在網絡空間展開。

作者表示，盡管數字化取得了許多驚人的成就，但它也讓人類的思想變得更缺乏情境性和概念性。概念在以往大部分時間裡是對集體記憶局限性的彌補，然而“數字原生代”并不覺得有必要發展出概念。無論他們想知道什麼，都可以詢問搜尋引擎，無論這些問題是瑣碎的、概念性的，還是介于兩者之間的。搜尋引擎則借助人工智能來回應他們的查詢。

毫無疑問，在這一過程中，人類将其思考的各個層面委托給了技術。但是，作者認為，資訊不是不言自明的，而是依賴于情境。資訊要想有用處，就必須通過文化和曆史的視角來加以了解。當資訊被情境化時，它就變成了知識。當知識令人信服時，它就變成了智慧。然而，網際網路讓使用者淹沒在數以萬計的其他使用者的意見中，剝奪了人們持續思考所需的獨處感。而從曆史上看，正是這種獨處感催生了對知識的信念。随着獨處感的消失，堅毅的精神也不複以往。

數字世界對智慧沒有多少耐心，它的價值觀是由贊許而不是自省塑造的。它從本質上挑戰了啟蒙運動認為理性是意識最重要因素的主張。人工智能被引入我們生活的過程看起來平淡無奇，但是随着其被應用到生活的方方面面，它正在改變人類的思想在塑造、安排和評估人類的選擇和行動方面所扮演的傳統角色。

人機合作決策的尴尬

人工智能将使人類迎來一個以三種主要方式做出決策的世界：一是由人類決策；二是由機器決策；三是由人機合作。人工智能将成為我們的夥伴，我們可能不再給人工智能那麼多具體指令，更多的時候，我們會向人工智能提出模糊的目标，并詢問：“根據你的結論，我們應該如何推進？”

不過這種決策，可能會面臨很多尴尬。比如，在航空和行車出現緊急情況時，人工智能副駕駛員應該聽從人類，還是應該反過來呢？人類始終知道人工智能做了什麼計算嗎？人類能夠及時發現或及時逆轉這些不被接受的人工智能的選擇嗎？同時，如何在這些考量之間取得平衡，又如何證明這種平衡是正确的？

對此，作者在書中建議，對人工智能的目标和授權都需要經過謹慎設計，尤其是在其決策可能導緻緻命的領域。我們既不應将人工智能視為自動運作、無須照管的存在，也不應允許其在無人監督的情況下采取不可撤銷的行動。人工智能由人類創造，故也應由人類來監管。但在我們這個時代，人工智能帶來的挑戰之一是，具備了創造人工智能所需的技能和資源的人類并非必然具有了解其更廣泛内涵的哲學視角。許多人工智能的創造者主要關注他們試圖實作的應用和他們想要解決的問題。人工智能時代需要它自己的笛卡兒和康德，來解釋人類創造了什麼及其對人類有何意義。

變革的核心将發生在哲學層面

《我們最終的發明：人工智能和人類時代的終結》作者詹姆斯·巴拉特說：“當比我們更聰明的力量出現在這星球上的時候，它就将接管地球。”而在基辛格等三位作者看來，人工智能的智慧超過人類，并非癡人說夢。

作者表示，我們必須認識到，人工智能取得的成就有時可以與人類能力并駕齊驅，甚至超越了人類。通過重複“人工智能是人工的”“它沒有也無法與我們對現實的意識體驗相比對”之類的話，我們或可聊以自慰。但是，當我們目睹人工智能所取得的部分成就時，比如邏輯上的壯舉、技術上的突破、戰略上的洞見，以及對大型複雜系統的精密管理，就不能依然極其自信地固守成見了，我們所面對的是另一種複雜存在體對現實的另類體驗。

人工智能的好處自然無需贅言，但是，它所帶來的各種不确定性又不可回避。盡管人工智能存在很多不安全因素，但是想要回到從前，已經不現實了。作者在書中表示，縱觀曆史，人類并非沒有經曆過技術變革。然而，隻有極少數技術會挑戰我們解釋群組織世界的主導模式，人工智能有望在人類體驗的所有領域帶來變革。變革的核心最終将發生在哲學層面，即改變人類了解現實的方式以及我們在其中所扮演的角色。

毫無疑問，這場變革的影響，可能比啟蒙運動更為深遠，人工智能出現本身将改變人類對現實的定義，進而改變人類對自身的界定。“我思故我在”，在笛卡兒提出他的著名格言4個世紀後，又一個問題浮出水面：如果人工智能“會思考”，或者近似于思考，那麼“我們”又是誰？

從談技術，到談思想，本書在曆史與現實的縱橫開阖中展現出作者深厚的人文素養。作者表示，現在最缺失的不是技術，而是與這項技術變革相适應的思想。人工智能和其他新興技術似乎正在讓超越人類感覺範圍的現實變得觸手可及。然而，最終我們可能會發現，即使是這些技術也有其局限性。人類現在面臨的問題是，我們尚未領會人工智能的哲學含義，就已經被它們不由自主地推動前行。