人工智能的轉折點已到，現在該按一個暫停鍵嗎？

在股市上有個“擦鞋匠”理論，說的是如果連擦鞋匠都在對股市高談闊論，還給别人推薦股票，那一定離崩盤不遠了。如今擦鞋匠不容易找了，但的确滿城争談GPT。與股市不一樣的是，人工智能不僅沒有崩盤之虞，反而正在掀起一場競賽。

人工智能正在以超人的速度向前發展。自從去年11月ChatGPT釋出以來，我學會了如何防止過度烹煮三文魚。在同一時期，OpenAI的聊天機器人學會了怎樣瞬間将一張手繪草圖變成一個可運作網站，在60秒内建立一個類似經典遊戲Pong的視訊遊戲，在律師考試中獲勝，并根據留在冰箱中的食物的照片生成食譜。人工智能尤其讓人聯想到思維機器的概念。但沒有機器可以思考，也沒有軟體是真正智能的。

雖然我并不相信ChatGPT有智能——大型語言模型并不産生真正的知識，隻是給人一種智能的錯覺，但還是要說，OpenAI的ChatGPT、谷歌的Bard和微軟的Sydney是機器學習的奇迹。粗略地說，它們擷取大量的資料，在其中尋找模式，并越來越熟練地生成統計學上的可能輸出結果——比如看似人類的語言和思想。這些程式被譽為通用人工智能（AGI）地平線上的第一道曙光——那是一個長期預言的時刻，機器人思維不僅在處理速度和記憶體大小方面超過人類大腦，而且在智力洞察力、藝術創造力和其他各種獨特的人類能力方面也超過人類大腦。

3月22日，來自微軟的研究人員在arXiv上發表的一篇新論文聲稱，“除了對語言的掌握，GPT-4還能解決新穎而困難的任務，這些任務涉及數學、編碼、視覺、醫學、法律、心理學等等，不需要任何特殊的提示。此外，在所有這些任務中，GPT-4的表現都驚人地接近人類水準，而且往往大大超過了ChatGPT等先前的模型。鑒于GPT-4能力的廣度和深度，我們認為可以合理地将其視為AGI系統的早期（但仍不完整）的版本”。

在過去30年裡，少數産品真正颠覆了科技行業，使之前的産品看起來像笨重的恐龍。ChatGPT是可以媲美這些劃時代産品的東西，就像智能手機和社交網絡剛出現時一樣。

首先，ChatGPT是普通大衆對現代人工智能變得多麼強大的第一次親身經曆。多年來，像Siri和Alexa這樣的虛拟助手，也使用人工智能，但它們是笑話的焦點，因為其實并不特别有用。而ChatGPT的功能讓人驚豔，許多人正在認真考慮如何将這些工具融入他們的日常生活和職業。

到目前為止，人工智能應用的大部分進展都是在背景。ChatGPT以更明顯的方式向消費者提供價值，而不僅僅是面向後端開發人員或數字營銷專業人士。由于該系統可以程式設計并執行其他業務任務，它降低了很多事情的門檻，同時提升了專家的生産率，處于令工作的本質發生轉變的臨界點。

其次，ChatGPT的拟人化也給流行幫了大忙。使用最先進的AI算法之一向最新的聊天機器人問好，你會不時地想知道你是在使用 ChatGPT與人還是同聊天機器人交談。它顯然是有記憶的，機器人可以回憶起之前在對話中發表的評論并将其複述給你。根據許多使用者的報告，不論是ChatGPT，還是微軟整合ChatGPT之類基于語言的AI技術打造的必應機器人Sydney，似乎在聊天過程中還顯示了情感。

社會科學研究表明，人們傾向于像對待人類一樣與技術互動。ChatGPT之是以面向全社會大規模測試，目标是向 OpenAI 提供使用者回報，以便改進算法。通過被稱為 RLHF（從人類回報中強化學習）的過程生成的文本更容易被人類評價。

第三，ChatGPT帶來了我們内心深處的一種恐懼——如果人工智能改進得如此之快，有誰的工作是安全的，我們何時會被機器人大規模取代？“人工智能通過美國醫師執照考試。”“盡管ChatGPT表現平平，但還是通過了法學院的考試。”“ChatGPT會得到沃頓商學院的MBA嗎？”諸如此類的标題最近都在吹捧（而且常常誇大）ChatGPT的成功，這遵循了将人工智能的能力與人類專家進行比較的悠久傳統，例如AlphaGo在2016年的圍棋大賽中擊敗李世石。最近這些頭條新聞隐含的潛台詞是更加危言聳聽：人工智能正在為你的工作而來。

我們已經達到了人工智能的轉折點，現在是一個暫停和評估的好時機。我們如何才能合乎道德和安全地、并且不失人類尊嚴地使用這些工具？《控制論》的作者維納說過：“第一次工業革命，即‘黑暗的撒旦工廠’的革命，是機械的競争使人的手臂貶值……現代工業革命同樣注定要貶低人腦的價值，至少在更簡單和更正常的決定中是如此。”人腦貶值的時代來臨了嗎？

機器會不會讓大多數人變得多餘？還是會使所有人有更多的自由時間和更充實的生活？當人工智能最終到來，維納認為“答案是建立一個基于人類價值而非買賣的社會”。

（作者系北京大學新聞與傳播學院教授）

發于2023.4.3總第1086期《中國新聞周刊》雜志

雜志标題：GPT-4是否預示着人腦貶值的時代來臨

作者：胡泳