2023年之前，恐怕誰也沒想到，AI有一天能用如此速度，席卷全球。
距離ChatGPT點燃全網讨論熱度不到半年，GPT-4、Microsoft 365 Copilot、Midjourney V5、文心一言、Google PaLM API等衆多巨頭級 AI 大模型及應用已經紛紛落地。
這些前沿科技成果在為大衆帶來震撼的同時，也難免讓人産生擔憂。一場“降臨派”與“拯救派”的較量在默默展開。
近日，生命未來研究所（Future of Life）公開釋出一封名為《暫停大型人工智能研究》的公開信，将這場較量放在了明面之上。公開信中呼籲，所有人工智能實驗室應立即暫停比GPT-4更強大的人工智能系統的訓練，為期至少6個月。
該機構在信中提到：“隻有當我們确信其影響将是積極的，并且其風險是可控時，才應該開發強大的人工智能系統。這種信心必須有充分的理由，并随着系統潛在影響的大小而增加。”
“人工智能實驗室和獨立專家應該利用這次暫停，共同制定和實施一套共享的安全協定，用于先進的人工智能設計和開發，這些協定由獨立的外部專家進行嚴格的審計和監督，并應確定它們是安全的。”
特斯拉和推特的首席執行官馬斯克、蘋果聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak、蒙特利爾學習算法研究所所長約書亞·本吉奧（Yoshua Bengio）等衆多科技領域從業者和AI專家都在這封公開信上留下簽名。截至發稿前，總人數已經達到1794名，并仍在持續增加。
馬斯克與OpenAI“宮鬥”始末
作為OpenAI公司的聯合創始人之一，馬斯克對其态度一直較為耐人尋味。過去幾個月，馬斯克對 OpenAI 相關資訊持續轟炸，一會兒強調 AI 安全性的問題，一會兒又“陰陽” OpenAI 的代碼庫，而他作為第一位投資者，什麼都沒有得到。
2015年，馬斯克和阿爾特曼一起擔任聯合主席，當時，OpenAI的目标是“以最有可能造福整個人類的方式推進數字智能，不受産生财務回報需求的限制”。
但他在2018年離開了OpenAI的董事會，并撤銷了一大筆贊助款。雜志《财富》報道稱，馬斯克雖然支援人工智能，但特斯拉智能駕駛技術與OpenAI之間有“潛在利益沖突”。
當時特斯拉正在為自動駕駛開發自己的人工智能，并在與OpenAI競争人才。2022年離職的特斯拉自動駕駛主管Andrej Kapathy就是其中之一。他是 OpenAI最優秀的人才之一，且是AI界著名網紅，在推特和Medium上非常活躍。
但在OpenAI，大多數員工對這個故事并不買賬。《Semafor》采訪了八位熟悉内情的人士後發現，馬斯克在2018年離開的原因是奪權失敗。他認為該公司已經嚴重落後于Google，于是，馬斯克提出了一個可能的解決方案——他來掌控OpenAI并親自營運。然而，阿爾特曼和其他創始人拒絕了馬斯克的提議。
在這場權力之争失敗後，馬斯克選擇離開公司，并取消了一筆大規模的捐贈計劃。這使得OpenAI無法支付在超級計算機上訓練人工智能模型所需的巨額費用。6個月後，OpenAI從微軟那裡獲得了10億美元的投資，不僅是資金，還有微軟提供的基礎設施的專業知識。
這或許也就不難了解，為何在離開OpenAI後，馬斯克就一直在批評後者，甚至矛頭直指其最大的支援者微軟。3月16日，馬斯克還在Twitter上表示，“我最早向OpenAI捐贈了1億美元，當時它還是非營利的機構，沒有所有權，也不受任何人控制。”他還抨擊微軟“将OpenAI占為己有”。
在越來越不可調和的沖突面前，阿爾特曼也終于沒忍住爆了粗口。在最近與科技記者卡拉·斯威舍（Kara Swisher）的播客中，阿爾特曼用“混蛋”（jerk）來形容馬斯克。
有意思的是，此前阿爾特曼的名字也曾出現在公開信上。後續，經證明，此簽名為虛假簽名，很快被移除。
對于公開信，阿爾特曼也并未做出直接回應。但在30日早晨，他在Twitter發表了一些關于通用人工智能的觀點，OpenAI的另一位創始人格雷格·布羅克曼（Greg Brockman）也轉發了阿爾特曼的推文，并再次強調OpenAI的使命是“確定AGI惠及全人類”。
都在擔憂什麼？
“宮鬥權謀”故事總歸令人興奮，但相比于馬斯克，名單上的大部分人則真正是對目前突然加速的AGI（通用人工智能）發展感到擔憂——尤其是發展的速度。
在這封信的組織者之一、生命未來研究所所長馬克斯·泰格馬克（Max Tegmark）看來，“把這說成是一場軍備競賽是不幸的，這更像是一場自殺競賽。誰先到達那裡并不重要，它意味着人類作為一個整體可能會失去對自己命運的控制。”
更加具有争議性的一點是，在這項新技術以光速發展的同時，大型科技公司卻一直在緻力于裁減評估部署AI相關倫理問題的團隊員工。今年1月，微軟在萬人級别大裁員行動中，解散了所有的倫理道德與社會團隊。随後，Meta、谷歌、亞馬遜和推特等公司都裁減了其“負責任的人工智能團隊”（Responsible AI）的成員，這些團隊負責為使用AI的消費産品提供安全建議。
頗為諷刺的是，推特的“道德人工智能（Ethical AI）”團隊，也在裁員中全軍覆沒，彼時距離馬斯克接手推特隻不過剛剛兩個月。
在AI發展堪稱光速的當下，這麼多相關員工被解雇讓衆多業内人士感到震驚和不解。Alphabet 旗下 DeepMind 的前倫理和政策研究員安德魯·斯科特（Andrew Strait） 表示，“在比以往任何時候都需要這樣的團隊的時候，有這麼多相關員工被解雇。”
“這些東西正在塑造我們的世界，”長期以來批評AI系統缺陷的企業家、學者加裡·馬庫斯在接受采訪時這樣說道，“我們面臨着不負責任的企業、廣泛應用、監管缺失和大量未知因素引發的‘完美風暴’。”
但同時，馬庫斯也明白，說服更廣泛的科技界同意暫停是很困難的。
圖靈三巨頭之一楊立昆（LeCun）認為，所謂“暫停研發”，不過就是“秘密研發”罷了，這與一些簽名者所希望的恰恰完全相反。
值得一提的是，此前由于競争立場關系，楊立昆一直對ChatGPT甚至聊天機器人持反對态度，他曾直言，“ChatGPT滿嘴胡謅，你們卻對它如此寬容，但我家的Galactica才出來三天，就被你們罵到下線了。”
這次因為這份公開信，展露出了與OpenAI冰釋前嫌的信号，也是令人啼笑皆非。
與此同時，馬庫斯認為，公開信中提到的“如果不暫停，應由政府強制暫停”的可能性也很小，因為立法者在監管AI方面做得很少。
昨日，美國科技倫理組織人工智能與數字政策中心（CAIDP）要求美國聯邦貿易委員會（FTC）禁止 OpenAI 釋出新的商業版 GPT-4，目前後者對此尚未做出回應。
加州共和黨衆議員傑伊·奧伯諾爾特（Jay oberolte）表示，美國政界對這項技術了解不多，“你會驚訝于我花了多少時間向我的同僚解釋人工智能的主要危險不會來自邪惡的機器人，它們的眼睛裡會射出紅色雷射。”
2021年，歐盟政策制定者倒是提出了一項法律，旨在規範可能造成傷害的AI技術，包括面部識别系統。該措施預計最早将于今年通過，它要求公司對AI技術進行風險評估，以确定它們的應用将是否影響健康、安全和個人權利。
但前谷歌大腦成員、線上教育平台Coursera的創始人吳恩達在政府介入方面，表示了強烈的反對。他認為，讓政府暫停他們不了解的新興技術是反競争的，這會樹立一個可怕先例，是糟糕的創新政策。
“在推進技術發展的同時，讓我們也對安全進行更多的投資，而不是扼殺進步。”吳恩達如是呼籲。
參考資料：
《The secret history of Elon Musk, Sam Altman, and OpenAI》-《Semafor》
《馬斯克們的擔憂并非空穴來風？大型科技公司裁減了AI倫理團隊》-華爾街見聞
《Elon Musk, Other AI Experts Call for Pause in Technology’s Development》-《華爾街日報》
《AI Leaders Urge Labs to Halt Training Models More Powerful Than ChatGPT-4》-《紐約時報》