·雖然技術是實打實的，但圍繞它的金融泡沫正在迅速擴大。投資者大肆押注，認為生成式AI可能會像微軟Windows 95或第一部iPhone一樣撼動市場。但這種瘋狂的淘金熱也可能演變成災難。在一場赢家通吃的權力争奪戰中，大型科技公司及為其提供風險資本的支援方有可能重蹈覆轍，引發像社交媒體一樣的問題。
·不同的地方在于，AI背後的技術對消費者來說已經有實際用處，并且其技術能力正以驚人的速度優化。正是這種巨大的力量，讓當下時刻如此震顫人心，也如此危險。
【編者按】“支援者認為這僅僅是個開始：生成式AI将再次改變我們工作的方式、我們與世界互動的方式，激發創造力和科學發現，并讓人類實作以前無法想象的壯舉。”2月16日，《時代》周刊發表封面文章，關注由ChatGPT帶火的AI領域——生成式人工智能。
這篇标題為“人工智能軍備競賽正在改變一切”的文章，盡管強調了生成式AI的重要意義：标志着自社交媒體産生以來最重要的技術突破，但也指出了它帶來的危險。
文章作者之一安德魯·R·周（Andrew R. Chow）在該媒體的Newsletter中寫道，他和另一位文章作者比利·佩裡戈 （Billy Perrigo) 非常擔心，微軟和谷歌等大型科技公司推出人工智能技術的速度令人眼花缭亂，陷入了人工智能霸權的争奪戰。“在優先考慮增長和速度的過程中，大型科技公司冒着在AI中犯下與社交媒體興起時相同錯誤的風險。”他寫道，當時本應帶來受歡迎的、前所未有的人與人之間聯系的平台們，變成了為廣告進行優化的地獄景觀。
值得一提的是，《時代》周刊特别在封面注明這兩位作者是“人類”。
以下為這篇文章的内容，由澎湃科技（www.thepaper.cn）編譯：
最新一期封面裡《時代》與ChatGPT對話的文字：
ChatGPT：你好啊！今天我能幫到你什麼忙？
《時代》：你覺得給《時代》周刊的封面文章起一個“AI軍備賽正在改變一切”的标題，怎麼樣？
ChatGPT：作為一個AI語言模型，我不持有個人觀點或信仰，但關于這個問題我可以提供一些背景和資訊。
“AI軍備賽正在改變一切”作為一個關于AI的封面文章的标題，可能可以吸引讀者的關注，引人思考。《時代》周刊這樣被廣泛閱讀的出版物上的封面文章，可以幫助加強公衆對這一趨勢潛在風險和好處的認識，并引發大衆讨論如何以負責任和道德的方式開發、部署AI。
需要注意的是，文章的标題也可能被解讀為聳人聽聞或危言聳聽，可能無法準确反映複雜的情況。
創造是人類的天性。在過去30萬年間，我們在創造藝術、美食、宣言、社會的能力方面一直是獨一無二的：我們在前所未有的領域設想和創造新東西。
現在我們有伴了。當你在讀這句話的時候，人工智能（AI）程式正在繪制宇宙畫像，回複電子郵件，做報稅準備，錄制金屬搖滾。它們正在寫演講稿，調試代碼，勾畫建築藍圖，并提供健康建議。
人工智能已經對我們的生活産生了無處不在的影響。AI被用來為藥品和房屋定價，組裝汽車，決定我們在社交媒體上看到什麼廣告。但是，生成式AI，是一類可以通過指令創造全新内容的系統，它的出現要新得多。
這一轉變标志着自社交媒體産生以來最重要的技術突破。近幾個月來，好奇、震驚的公衆如饑似渴地使用生成式AI工具。這要歸功于ChatGPT和Dall-E這樣的程式。前者對幾乎任何查詢都能做出連貫的回應（但不一定總是準确），後者則能呈現出任何你想象出的圖像。今年1月，ChatGPT的月使用者數達到1億，比Instagram或TikTok的使用者增長速度更快。數百個同樣驚人的生成式AI正在争搶使用者，包括Midjourney、Stable Diffusion和GitHub的Copilot，使用者可以使用這些AI工具将簡單的指令變成計算機代碼。
支援者認為這僅僅是個開始：生成式AI将再次改變我們工作的方式、我們與世界互動的方式，激發創造力和科學發現，并讓人類實作以前無法想象的壯舉。普華永道的預測者預測，到2030年，AI可促進全球經濟增長超過15萬億美元。
這股熱潮似乎把那些在AI領域投資了數十億美元的科技公司都打了個措手不及——并在矽谷引發了一場激烈的軍備競賽。在短短幾周内，微軟和Alphabet旗下的谷歌已經改變了公司的整體戰略，以奪取他們認為将成為經濟新基礎設施的控制權。微軟向ChatGPT和Dall-E的創造者OpenAI投資100億美元，并宣布計劃将生成式AI整合于其辦公軟體和搜尋引擎必應。為了與ChatGPT競争，谷歌宣布了一個企業級緊急預警，并推出自己的搜尋型聊天機器人巴德（Bard）。微軟首席執行官薩蒂亞·納德拉（Satya Nadella）2月7日說，“比賽從今天開始”，向谷歌抛出了挑戰。“我們要行動，而且要迅速行動。”
華爾街也做出了類似的熱烈反應。分析師們提升了那些在計劃中提到AI的公司的股價，并懲罰了那些釋出不可靠AI産品的公司。雖然技術是實打實的，但圍繞它的金融泡沫正在迅速擴大。投資者大肆押注，認為生成式AI可能會像微軟Windows 95或第一部iPhone一樣撼動市場。
但這種瘋狂的淘金熱也可能演變成災難。公司急于改進技術并從增長中獲利，卻擱置了關于這些工具的安全性研究。在一場赢家通吃的權力争奪戰中，大型科技公司及為其提供風險資本的支援方有可能重蹈覆轍，比如社交媒體的重罪：把增長的優先級置于安全之上。雖然這些新技術有許多潛在的烏托邦式特點，但即使是出于善意設計的工具，也有可能造成不可預知的破壞性後果。淘金熱的故事一般都是這麼開始的，曆史也會告訴我們故事接下來的走向。
事實上，生成式AI非常了解社交媒體的問題。AI實驗室已經閉門研究了好幾年不同版本的工具。他們研究了這些工具的潛在危險，包括錯誤資訊、仇恨言論，以及無意中造成滾雪球般的地緣政治危機。
這種保守主義部分源于神經網絡的不可預測性，以及來源于人腦的計算範式，即現代AI的基礎。傳統的計算機程式設計方法依賴于精确的指令集以生成可預測的結果，而神經網絡則有效地教會自己發現資料中的模式。向這些網絡提供的資料和計算能力越多，它們的能力往往就越強。
2010年代初期，矽谷意識到，想要發展更強大的AI，相比傳統的程式設計方法，神經網絡顯然更有前景。但早期的AI很容易受其訓練資料中的偏見影響：吐露錯誤資訊和仇恨言論。微軟在2016年釋出聊天機器人Tay，不到24小時，它就在推特上說：“希特勒是對的，我恨猶太人”，女權主義者應該 “全部被燒死。”OpenAI在2020年釋出的ChatGPT的前身也表現出類似的種族主義和厭女症。
2020年左右，神經網絡設計方面出現關鍵進展，資料獲得便利程度日益提升，科技公司願意為超級計算能力付費。得益于這些因素，AI真正開始迅速發展。但AI的弱點仍然存在。AI令人尴尬的曆史表現使許多公司，包括谷歌、Meta和OpenAI，大多不願意公開釋出其尖端模型。2022年4月，OpenAI釋出了Dall-E 2，一個可以生成逼真圖像的文本生成圖檔的AI模型。但它最初僅向 “受信任的 ”使用者開放。OpenAI表示，這些使用者的使用将幫助Dall-E 2 “了解并解決DALL-E從其訓練資料中習得的偏見。”
盡管在（2022年）7月之前已經有100萬使用者加入了Dall-E，但更廣泛的AI社群的許多研究人員已經對OpenAI和其他AI公司“隻可遠觀不可亵玩”的做法感到失望。2022年8月，Stability AI，一個位于倫敦的小初創公司一反常态，向大衆釋出了一個文本生成圖檔工具Stable Diffusion。根據一個日益壯大的學派的觀點，公開釋出AI工具将允許開發人員從使用者處收集有價值的資料，并給社會更多時間來應對先進的AI會帶來的巨大變化。
Stable Diffusion迅速引發網際網路熱議。數以百萬計的使用者被其看似從零開始的藝術創作能力所吸引，且随着使用者對不同指令和概念的不斷嘗試，該工具的産出不斷引發病毒式傳播。内森·貝納奇（Nathan Benaich）是一名投資者，也是《2022年人工智能狀況報告》的共同作者。他說：“這個生成式潘多拉盒子被打開了。OpenAI和谷歌都被震驚了，因為現在世界能夠使用他們所控制的工具了。一切都超速發展了。”
OpenAI迅速效仿，放開了Dall-E 2的限制。之後，在（2022年）11月，據說是為了應對迫在眉睫的競争，它向公衆釋出了ChatGPT。OpenAI首席執行官山姆·奧特曼（Sam Altman）在采訪中強調，使用AI程式的人越多，AI進步就越快。
使用者立即湧向了OpenAI及其競争對手。社交媒體上充斥着AI生成的圖檔，其中一張甚至赢得了藝術比賽；電影剪輯師開始使用AI輔助軟體制作好萊塢的熱門電影，如《瞬息全宇宙》。建築師正在設計AI藍圖；程式員正在編寫AI腳本；出版機構正在釋出AI測試和文章。風投人員捕捉到了這一風向，并向可能釋放下一個巨大生産力提升的AI公司投資超10億美元。中國科技巨頭百度和阿裡巴巴宣布将推出自己的聊天機器人，推高了股價。
近期生成式AI産品釋出資訊時間線。Lon Tweeten/《時代》
圖檔上的文字：
2021年5月 谷歌宣布推出聊天機器人，但未公開釋出
2022年4月 OpenAI展示Dall-E 2，但未大規模開放
8月 初創公司Stability公開釋出文本生成圖檔工具Stable Diffusion
9月 OpenAI釋出了Dall-E 2供公衆使用
10月 OpenAI公開釋出ChatGPT
11月 Meta釋出聊天機器人Galatica，但其回答錯誤遭受強烈批評，後被下線
2023年1月 微軟向OpenAI注資100億美元
2月 微軟宣布內建ChatGPT的新必應搜尋引擎預告
3月 谷歌宣布推出Bard，一項對話型AI輔助搜尋服務
與此同時，微軟、谷歌和Meta正将這一熱潮推向極端。雖然多年來這些公司都在強調AI的重要性，但他們似乎仍對令人眼花缭亂的關注和使用激增感到驚訝——而且現在他們似乎更在乎發展速度，而不是安全性。今年2月，谷歌宣布推出應對ChatGPT的競争對手巴德的計劃。據《紐約時報》報道，谷歌公司在一次演講中稱，在釋出基于AI技術的工具時，将 “重新調整”它願意承擔的風險水準。而在Meta最近的季度收益電話會議上，首席執行官馬克·紮克伯格（Mark Zuckerberg）宣布他的目标是讓公司“成為生成式AI的上司者”。
在這種匆忙的情況下，科技公司引發的錯誤和傷害已經增多——反噬也同樣增加。當谷歌展示巴德時，它的一個回答出現了一個關于韋伯太空望遠鏡的事實性錯誤--Alphabet的股票随之暴跌。微軟的必應也很容易傳回錯誤結果。Deepfake——用AI生成的拟真虛假圖像或視訊，被用于騷擾或傳播錯誤資訊：一個被廣泛分享的視訊顯示，喬·拜登譴責變性人，令人震驚但又十分可信。
包括Stability AI在内的公司正面臨來自藝術家的訴訟，那些反對自己的作品在未經許可的情況下被用于訓練AI模型的權利人也提起了訴訟。《時代》周刊一項調查發現，OpenAI曾雇傭肯亞的外包員工，他們拿着低于2美元的時薪，審查不良内容，包括性虐待、仇恨言論和暴力。
盡管目前的這些問題令人擔憂，但如果這場競賽繼續加速，與接下來可能出現的情況相比，它們就顯得微不足道了。如今，大型科技公司所做的許多選擇與以往并無二緻，以往的選擇早已産生破壞性的連鎖反應。
社交媒體——矽谷最近一個真正改變世界的創新，帶來了第一個寶貴的教訓。它建立在這樣的願景上：人們通過社交媒體建立連接配接，我們的社會會更健康，個體會更快樂。十多年後，我們可以看到，大衆對其創造的社交連接配接是非常歡迎的，它失敗的原因在于科技公司将其商業化的手段：通過逐漸微調我們的新聞資訊流來優化互動，讓我們滑動手機螢幕浏覽病毒傳播式内容，并在其中投放定向線上廣告。我們的資訊流中真正的社交連接配接已經變得越來越稀少。與此同時，我們的社會不得不處理第二階段的影響：新聞業支離破碎，錯誤資訊層出不窮，青少年心理健康危機愈發嚴峻。
不難看出，科技巨頭的AI産品也會走上同樣的道路。Alphabet和微軟對AI如何使其搜尋引擎更有價值最感興趣，并展示了谷歌和必應的示範内容，其中使用者看到的第一個搜尋結果是由AI生成的。但AI開發平台Hugging Face的首席倫理科學家瑪格麗特·米切爾（Margaret Mitchell）認為，搜尋引擎是應用生成式AI的 “絕對最糟糕的方式”，因為它經常出錯。米切爾說，像ChatGPT這樣的AI的實際優勢，如輔助創意、構思和瑣碎的任務等方面正在被擱置，技術正在被塞進科技巨頭的賺錢機器中。
如果搜尋引擎成功地整合了AI，這種微妙的轉變可能會削弱許多依賴搜尋的企業，無論是廣告流量還是業務推薦。微軟首席執行官納德拉曾表示，以AI為導向的新必應搜尋引擎将為出版商和廣告商帶來更多流量，進而帶來更多收入。但是，目前對AI生成藝術的反對浪潮正在持續發酵。同樣的，許多媒體人現在也擔心，未來科技巨頭的聊天機器人會蠶食新聞網站的内容，但并不提供回報。
AI公司目前也面臨将其項目盈利的難題。目前，大多數産品都可以免費使用，因為他們的創造者遵循矽谷的遊戲規則：一方面，風險資本公司提供巨額投資補貼，另一方面，公司對産品收取很少費用或不收取任何費用，以應對競争。雖然采用這種政策但并不成功的公司在慢慢流失資金，但赢家往往最終在他們認為合适的情況下牢牢掌控了市場。目前，ChatGPT是無廣告的，可以免費使用。但它也在持續燒錢：據OpenAI首席執行官說，每一次對話都要花費公司至少幾美分。該公司現在有承受巨大損失的能力，這部分歸功于微軟的慷慨解囊，也給了它巨大的競争優勢。
今年2月，OpenAI為其聊天機器人的訂閱使用者設定了每月20美元的定價模式。谷歌已經優先考慮了在搜尋結果中投放付費廣告。它對AI生成的結果做同樣的事情，也并非難以想象。如果人類開始依賴AI擷取資訊，就會越來越難以分辨哪些是事實，哪些是廣告，哪些是完全捏造的。
目前科技公司看重利潤，而非安全，是以一些技術專家和哲學家提醒大衆警惕人類的存在風險。許多AI公司，包括OpenAI，它們的明确目标是創造一個通用人工智能，即AGI。它可以比人類更有效地思考和學習。如果未來的AI獲得了在沒有人類指導或幹預的情況下迅速提高自己的能力，它們就有可能消滅人類。一個經常被引用的構想實驗是，一個AI在接到指令後，最大限度地增加它能生産的回形針數量，使自己成為一個主宰世界的超級智能，收割其掌握的所有碳，包括來自地球上所有生命的碳。在2022年對AI研究人員的一項調查中，近一半受訪者表示，AI有10%或更大的可能性導緻這樣的災難。
在最尖端的人工智能實驗室内，一些技術人員正在努力確定如果AI最終超越了人類的智慧，仍能與人類的價值觀 “保持一緻”。他們正在設計仁慈的神，而不是被惡意的神。但是，AI安全組織Conjecture與《時代》周刊分享的資料估計，世界上隻有大約80至120名研究人員在全職從事AI安全校準工作。而與此同時，随着AI競争愈演愈烈，數以千計的工程師正在努力提升AI能力。
“當涉及到非常強大的技術時——顯然人工智能将成為有史以來最強大的技術之一——我們需要謹慎。”谷歌旗下AI實驗室DeepMind的首席執行官德米斯·哈斯比斯（Demis Hassabis）去年年底告訴《時代》周刊，“不是每個人都在考慮這些事情。就像實驗主義者中許多人并沒有意識到他們持有危險材料。”
即使計算機科學家成功確定了AI不會消滅我們，它們在全球經濟中發揮的作用也愈發重要，控制它的科技巨頭會是以變得更加強大。他們不僅可能成為世界上最富有的公司，還可能對AI這一關鍵基礎設施的商業用途收取任何費用，更有可能成為與民族國家相抗衡的地緣政治行為者。
OpenAI和DeepMind的上司人已經暗示，他們希望AI帶來的财富和權力能夠以某種方式重新配置設定。而另一方面，控制錢包的科技巨頭高管們主要對其股東負責。
當然，許多聲稱會改變世界的矽谷技術并沒有實作。我們并非都生活在元宇宙裡。諷刺非加密貨币使用者要“享受貧窮”的加密貨币兄弟，有些正在忍受他們的損失，有些甚至在監獄裡煎熬。世界各地城市的街道上到處都是失敗的電動滑闆車初創公司的殘骸。
但是，盡管AI也經曆了類似的令人窒息的炒作階段，但不同的地方在于，AI背後的技術對消費者來說已經有實際用處，并且其技術能力正以驚人的速度優化。研究人員稱，AI的計算能力每6到10個月就會增長一倍。正是這種巨大的力量，讓當下時刻如此震顫人心，也如此危險。