今天（5月27日），是美國前國務卿基辛格100歲的生日。此前幾天，他接受了《經濟學人》長達8個多小時的采訪，思路之清晰讓人驚歎：“人工智能這項具有颠覆性潛力的技術可能在五年内成為影響全球安全的關鍵因素，我們需要就技術對彼此的影響進行交流，朝着軍備控制邁出一小步。”
今年，基辛格和谷歌前首席執行官埃裡克·施密特、麻省理工學院蘇世民學院院長丹尼爾·胡滕洛赫爾聯名在華爾街日報發表文章《ChatGPT預示着一場智能革命》，提出“人工智能正試圖改變人類認知過程，這是自印刷術發明以來從未經曆過的震動。随着它的能力變得更廣泛，它們将重新定義人類知識，加速我們現實構造的變化，并重組政治和社會。”
作為一個曾對當今世界秩序産生深刻影響的政治家，其洞見迅速引發全球關注。在自己的生命曆程整整走過一個世紀之際，繼《論中國》《世界秩序》之後，基辛格再次推出的新書——《人工智能時代與人類未來》，對以上觀點進行了深刻論述。
撰文 | 亨利·基辛格、埃裡克·施密特、丹尼爾·胡滕洛赫爾
人工智能可能導緻啟蒙運動的終結
1450 年，德國美因茨市的金匠約翰内斯·谷登堡用借來的錢研制了一台試驗性的印刷機。他的努力難言成功，因為他的生意一度陷入困境，債權人還起訴了他。但在1455 年，歐洲的第一本印刷讀物《四十二行聖經》問世了。最終，他的印刷機引發了一場革命，在西方乃至全球生活的各個領域都産生了強烈反響。
印刷機的發明使對經驗知識的追求取代了禮儀教義，啟蒙時代逐漸取代宗教時代。個人思想和科學知識取代信仰，成為人類意識的主要标準。資訊通過圖書館的擴張得到存儲和系統化。啟蒙時代是塑造當代世界的諸多思想和行動的來源。
生成性人工智能提出了一個自啟蒙運動開始以來從未經曆過的哲學和實踐挑戰。印刷機使學者們能夠迅速複制彼此的發現并分享它們。資訊的空前整合和傳播産生了科學方法。原本密不透風的東西變成了加速查詢的起點。以宗教信仰為基礎的中世紀對世界的解釋逐漸被削弱。宇宙的深處可以被探索，直到達到人類了解的新極限。
啟蒙運動試圖使傳統的真理讓位于解放後的人的分析理性。而網際網路的目的是通過積累和操縱不斷擴大的資料，擷取知識。人類的認知失去了個體特征。個體變成了資料，而資料變成了統治者。
當資訊被情境化時，它就變成了知識。當知識令人信服時，它就變成了智慧。然而，網際網路讓使用者淹沒在數以千計，甚至數以百萬計的其他使用者的意見中，剝奪了他們持續思考所需的獨處感，而從曆史上看，正是這種獨處感催生了對知識的信念。随着獨處感的消失，堅毅的精神也不複以往——須知不僅信念的形成需要堅韌不拔的毅力，保持對信念的忠誠也一樣，當這種信念需要穿過未有前人踏足的，是以往往是孤獨的道路才能擷取時尤其如此。這種信念也隻有與智慧相結合，人們才能進入和探索新的視界。
數字世界對智慧沒有多少耐心，它的價值觀是由贊許而不是自省塑造的。它從本質上挑戰了啟蒙運動認為理性是意識最重要因素的主張。數字世界消除了過去距離、時間和語言對人類行為的限制，它本身就提供了一種有意義的聯系。
随着人工智能的崛起，對人類角色、人類願望和人類成就的定義都将發生變化。在這個時代，人類的哪些品質值得頌揚？其指導原則是什麼？人們有兩種認識世界的傳統方式：信仰和理性；如今又添上了第三種——人工智能。
在一個人工智能可以評估我們生活中的諸般事物，預測接下來會發生什麼，并決定該做什麼的時代，即一個現實可以被預測、近似和模拟的時代，人類理性的角色将會改變。我們對個人和社會的目标感也會随之改變。在某些領域，人工智能可能會增強人類的理性。在其他領域，人工智能則可能會讓人類産生一種置身事外的感覺。
各個社會都有兩個選擇：一個是各自為戰；另一個則是帶着合作意向開始對話，舉全人類的進步之力來界定人工智能的角色，同時明晰我們自己的角色。前一種路徑是棄權式的預設，而後一種則需要上司人和哲學家、科學家和人文主義者，以及其他各種團體的清醒參與。
最終，個人和社會将不得不決定，生活的哪些方面應該留給人類智能，哪些方面則應交由人工智能或人類與人工智能的合作。人類與人工智能的合作并不是一種對等關系。歸根結底，人工智能既由人類建構，也由人類指揮。但随着我們逐漸習慣和依賴人工智能，對其加以限制可能會導緻更高昂的成本、更困難的心理挑戰，甚至更複雜的技術。我們的使命将是了解人工智能給人類經驗帶來的變化、它對人類身份的挑戰，以及這些發展變化的哪些方面需要由其他的人類義務來加以調節或制衡。人類未來将如何呈現，這取決于人類在人工智能時代的角色界定。
人工智能革命發生之迅猛，将超過大多數人的預期。除非我們發展出新的概念來解釋、演繹群組織其所帶來的轉變，否則無論是對人工智能還是對其所産生的影響，我們都無法駕馭。在道德上、哲學上、心理上、實踐上，可以說在各個方面，我們均發現自己正處于一個新時代的懸崖邊，身後已無路可退。我們必須動用自己最根本的素養和資源，比如理性、信仰、傳統和技術，來調整我們與現實的關系，進而讓現實仍是人類的現實。
人工智能将引發教育革命
人工智能時代的到來将改變我們與他人，以及我們與自己的關系。正如今天的“數字原生代”和之前的幾代人之間存在代溝一樣，“人工智能原生代”和他們的前輩之間也會出現差異。
未來，孩子們可能在比Alexas和谷歌Homes更先進的人工智能助手的陪伴下長大，這個助手集保姆、導師、顧問、朋友等多種角色于一身。這樣的助手幾乎可以教孩子任何語言，也可以訓練孩子學習任何科目，并根據每個學生的表現和學習風格來因材施教，使他們獲得最佳的學習效果。當孩子感到無聊時，人工智能可以充當玩伴；當孩子的父母不在時，人工智能又可以成為監護者。随着由人工智能提供和量身定制的教育被引入，普通人的能力既會有所提高，也會面臨挑戰。
人類和人工智能之間的界限将會驚人地模糊。如果孩子在年幼之時就用到了數字助手，他們就會對此習以為常。同時，數字助手将與它們的主人一起成長發展，并随着他們的成熟，将他們的喜好和偏見逐漸内在化。數字助手的任務是通過個性化最大限度地提高人類同伴的便利感或滿足感，它們給出的建議和資訊可能會被人類使用者視為必不可少，即使人類使用者無法準确解釋為什麼它們要好于其他任何替代資源。
長此以往，人們可能會更偏愛自己的數字助手，而不是人類。因為人類不懂得投其所好，而且更“令人讨厭”。結果，我們對彼此的依賴、對人際關系的依賴，可能都會被削弱。到那時，那些童年時代妙不可言的特質和無可替代的教訓将變成什麼樣子呢？一種并不能感覺或體驗人類情感卻給予無處不在陪伴的機器，将如何影響孩子對世界的感覺及其社會化？它将如何塑造想象力？它将如何改變遊戲的本質？它将如何改變交友或融入社會的過程？
可以這麼說，數字資訊的唾手可得已經改變了一代人的教育和文化體驗。現在，世界正在開展另一項“偉大實驗”，在這個實驗中，孩子們将在機器的陪伴下成長，這些機器将在許多方面充當以前世代人類教師那樣的角色，卻沒有人類的感覺、洞察力和情感。最終，實驗參與者可能會問，他們的經曆是否以他們未曾預料或不能接受的方式被改變了呢？
父母也許會因為擔心這種接觸會對孩子産生不确定的影響而排斥這種技術。就像上一代的父母限制孩子看電視的時間，現在的父母限制孩子使用數位裝置的時間一樣，未來的父母可能會限制人工智能陪伴孩子的時間。但那些希望推動孩子取得成功的人，或者沒有意願或能力讓孩子得到人類父母養育或人類導師教導而隻能依賴人工智能的人，或者隻是想滿足孩子結交人工智能朋友願望的人，可能會贊成讓孩子與人工智能為伴。是以，這些尚處在學習與發展階段、易受影響的孩子，可能通過與人工智能的對話形成他們對世界的印象。
具有諷刺意味的是，盡管數字化讓越來越多的資訊變得可用，但它卻壓縮了深入、專注思考所需的空間。今天幾乎持續不斷的媒體流增加了思考的成本，進而減少了思考的頻率。算法為了回應人類對刺激的渴望而力推那些奪人眼球的事物，而能夠奪人眼球的，往往也是戲劇性的、出人意料的和有感染力的。一個人能否在這種環境中找到思考的空間是一個問題，而如今占主導地位的交流形式不利于促進有節制的理性，這是另一個問題。
人類要對未來做好準備
機器學習系統已經超越了任何一個人的知識。在有限的情況下，它們已經超過了人類的知識，超越了我們所認為的可知邊界。這已經在取得這種突破的領域引發了一場革命。人工智能已經改變了生物學中确定蛋白質結構的核心問題和進階數學家做證明的問題，以及其他許多問題。
随着模型從人類生成的文本轉向更具包容性的輸入，機器可能會改變現實本身的結構。量子理論認為，觀察創造了現實。在測量之前，沒有任何狀态是固定的，也沒有任何東西可以說是存在的。如果這是真的，如果機器的觀察也能固定現實，并且鑒于人工智能系統的觀察具有超人的速度，定義現實的演變速度似乎會加快。對機器的依賴将決定并是以改變現實的結構，産生一個我們還不了解的新未來，我們必須為探索和上司這個未來做好準備。
傳統的理性和信仰将在人工智能時代繼續存在，但其性質和範圍必将因為引入一種新的、強有力的、機器運作的邏輯形式而受到深刻影響。人類身份可能會繼續停留在“生命智能”的頂峰，但人類理性将不再被視為緻力于了解現實的智能的全部。為了厘清我們在這個世界上的地位，我們的側重點可能需要從“以人類理性為中心”轉移到“以人類尊嚴和自主性為中心”。
人工智能可能在探索和管理現實世界和數字世界方面發揮主導作用。
在特定領域，人類可能會對人工智能言聽計從，更喜歡人工智能的資料處理過程，而非人類思維的局限性。這種遵從，可能使許多人甚至大多數人退回到一個個人的、過濾的、定制的世界。在這種情境下，人工智能的力量加上它的普遍性、隐蔽性和不透明性，将引發人們對自由社會甚至自由意志前景的懷疑。
在許多領域，人工智能和人類将成為探索事業中的平等夥伴。是以，人類的身份将反映出與新關系的和解，無論是與人工智能還是與現實。不同的社會将為人類上司權開辟不同的領域。同時，它們将形成必要的社會結構和習慣，以了解人工智能并與其有效互動。為了與人工智能融洽相處，社會需要建立相應知識和心理基礎設施，并運用其獨特才智，盡可能地造福人類。技術将迫使政治和社會生活的許多方面（實際上是大多數方面）做出調整。
一些社會和制度可能會逐漸适應，然而，另一些卻可能會發現，它們的基本假設與它們感覺現實和自身的方式相沖突。由于人工智能促進了教育和資訊擷取，同時也增加了資訊被誇大和操縱的可能性，這些沖突可能會愈演愈烈。個人的消息會更靈通、準備會更充分、觀點會有更大影響力，他們可能據此對政府提出更多要求。
對此，可以給出一些原則。首先，為了確定人類的自主權，政府的核心決策應該脫離已被人工智能浸染的結構，并僅限于人類的管理和監督。我們社會固有的原則規定了對争端的和平解決。在這個過程中，秩序與正當性是互為關聯的：沒有正當性的秩序隻是力量而已。
確定人類對政府基本構成部分的監督和決定性參與，對于維持其正當性至關重要。例如，在司法行政過程中，提供解釋和道德推理是其正當性的關鍵要素，這使參與者能夠評估裁決的公平性，并在其結論不符合社會所堅持的道德原則時對其提出疑問。由此可見，在人工智能時代，當涉及重大問題時，決策者都應該是具備相應資質、能夠為所做選擇給出理由的非匿名人類。
每個社會必須首先确定人工智能在各個領域允許和不允許使用的全部範圍。對某些強大的人工智能，如通用人工智能的使用權，需要嚴格把關，以防止被濫用。因為通用人工智能的建構成本可能相當高昂，隻有少數組織能夠負擔得起，是以其使用可能會受到限制。某些限制可能違反一個社會關于自由企業和民主程序的理念。對于其他方面的限制，如限制在生物武器生産中使用人工智能，應該很容易達成一緻，但需要國際合作。
機器的發展速度将遠遠超過我們的基因，造成國内的混亂和國際的分歧。我們必須做出相應的反應，特别是在國家和全球範圍内的哲學和概念主義。正如伊曼紐爾-康德在三個世紀前所預言的那樣，全球協調将需要通過感覺或災難來出現。
歐盟已經勾勒出監管人工智能的計劃綱要，目标是加強對企業和政府使用資料和人工智能方式的管理，并促進歐洲人工智能公司的建立和發展。該監管架構包括對人工智能的各種用途進行風險評估，并限制甚至禁止政府使用某些被視為具有高風險的技術，如人臉識别（盡管人臉識别有一些有益用途，如尋找失蹤人口和打擊人口販運）。毫無疑問，這些初步概念會面臨廣泛的争議和修改，但這也是一個社會決定限制人工智能範圍，并相信此舉能夠使其推動生活方式進步和未來發展的先例。
ChatGPT對很多問題給出的答案之是以令人回味，是因為它們提出的問題多于結論。目前，我們擁有一項新穎而壯觀的成就——人工智能，它是人類思想的榮耀。我們還沒有為它進化出一個目的地。當我們成為技術智人時，我們迫切需要定義我們物種的目的。現在，我們有責任提供真正的答案。
本文經出版社授權釋出，原題為《基辛格：ChatGPT預示着一場智能革命，而人類還沒準備好》。
↓↓↓前往“返樸”，點選文末“閱讀原文”即可購書
特 别 提 示
1. 進入『返樸』微信公衆号底部菜單“精品專欄“，可查閱不同主題系列科普文章。
2. 『返樸』提供按月檢索文章功能。關注公衆号，回複四位數組成的年份+月份，如“1903”，可擷取2019年3月的文章索引，以此類推。
版權說明：歡迎個人轉發，任何形式的媒體或機構未經授權，不得轉載和摘編。轉載授權請在「返樸」微信公衆号内聯系背景。