OpenAI陷史上最大公關危機，掌門人奧特曼捐出一半身家幫公司渡難關

36氪

2024-05-29 18:05釋出于北京36氪官方賬号

文｜ 陳斯達 李然

編輯｜李然

OpenAI可能遇到了成立以來最大的公關危機！

而Sam Altman的應對速度之快，效果之好，絕對值得所有公司老闆和公關人逐幀學習。

我們先看OpenAI最新的動作——官推5月28日突然宣布：

圖源：X

OpenAI董事會成立安全與安保委員會（Safety and Security Committee），将就OpenAI項目和營運的關鍵安全決策，向全體董事會提出建議。

同時還高調放出消息：已經開始訓練其下一個前沿模型，預計”将在通向AGI的道路上再上一層樓”。

但如果隻是看到OpenAI隻是在進行日常的AI安全工作推進，順便秀了一下肌肉，很多吃瓜群衆可能會産生疑問——為什麼成立安全委員會和新模型開始訓練，兩個原本完全沒有聯系的事情，要放在一起來說？

公告的潛台詞，到底是什麼？

圖源：X

安全團隊骨幹叛逃，前董事會成員發文攻擊

事情要從去年OpenAI的宮鬥抓馬說起，雖然“OpenAI遵義會議”最終确立了以Altman為核心的上司架構，但是公司高層對于AI安全問題的分歧卻依舊沒有解決。

“AI安全”這條暗線，從2015年馬斯克拉人成立OpenAI時起，就已埋下。

最近，負責AI安全的“超級對齊團隊”主管Ilya和Leike雙雙出走，又把OpenAI管理層架在火上烤了。

圖源：X

而Leike轉頭就加入了“OpenAI複仇者聯盟”——和OpenAI團隊價值觀不同，後來出走的兩位前員工聯創的Anthropic。

臨走時的他，不忘對OpenAI的員工們高呼：

我想對所有OpenAI員工說：

學會感受AGI。

以與你們正在建設的事業相稱的威嚴行事。

我相信你們能夠 “推動 “所需的文化變革。

我指望着你們。

全世界都指望着你們。

圖源：X

這番言論，就差指着OpenAI管理層的鼻子說——你們不重視AI安全。

據TechCrunch，Leike能向Anthropic首席科學官Jared Kaplan直接彙報，而Anthropic目前正研究可擴充監督的研究人員（以可預測和理想的方式控制大規模人工智能行為的技術）将會向 Leike 彙報。

圖源：TechCrunch

Leike和Ilya的出走網友也引得網友紛紛質疑，OpenAI開發AGI到底為了搶走大家飯碗，還是為了全人類的福祉？

圖源：X

5月26号，OpenAI宮鬥劇的始作俑者、前 OpenAI 董事會成員 Hellen Toner 和 Tasha McCauley 都站出來撰文指認Sam Altman以及他治下的OpenAI，完全不把AI安全當會事。

在這兩位OpenAI的前董事會成員看來，AI公司内部完全不可能進行有效監管，外部監管勢在必行。

圖源：X

5月28日，播客The Ted AI Show的最新一期裡 Hellen Toner 又透露：堂堂OpenAI董事會成員，居然要通過推特才能知曉ChatGPT釋出！

Toner強調，由于OpenAI董事會的非盈利性質，其設立是為了確定OpenAI要将公益而非利潤置于首位。但鑒于Altman多次向董事會撒謊，董事會的工作也很難開展了。主持人補刀：OpenAI忘本了。

在這八方讨伐、前後受敵的背景下，我們看看Sam Altman和OpenAI教科書級别的公關組合拳。

一套組合拳，能否讓OpenAI轉危為機？

第一招，設立全新AI安全機構，補上“叛逃人員”出走帶來的組織真空。

28日，OpenAI官宣了這兩件事，我們來給大家翻譯下。

OpenAI董事會成立安全與安保委員會（Safety and Security Committee），将就 OpenAI 項目和營運的關鍵安全決策，向全體董事會提出建議。

安全與安保委員會将由董事Bret Taylor（董事會主席）、Adam D’Angelo、Nicole Seligman和 Sam Altman上司。

——我們有一個完整的最高層級的架構，保證OpenAI在追求AGI的過程中會充分考慮AI帶來的安全問題。

同時高調放出消息：

我們已經開始訓練其下一個前沿模型，預計”将在通向 AGI 的道路上再上一層樓”。

——我們将對公衆進一步增加最前沿（危險）模型的透明度，希望大家能相信我們。OpenAI不會背着全世界手搓一個核武器出來的。

公告其餘内容：

安全與安保委員會的首要任務是，未來90天内，評估并進一步開發OpenAI的流程和保障措施。90天結束後，安全與安保委員會将與全體董事會分享他們的建議。經過董事會的全面審查後，OpenAI将以符合安全和安保的方式公開分享已采納建議的最新情況。

——委員會不是擺設，第一步就是要全面評估，OpenAI的開發流程有沒有安全問題，90天為限！

OpenAI 技術和政策專家 Aleksander Madry（準備負責人）、Lilian Weng（安全系統負責人）、John Schulman（對齊科學負責人）、Matt Knight（安全負責人）和 Jakub Pachocki（首席科學家）也将出席委員會。

——委員會不都是務虛的上司，核心成員都是技術背景出身，詳見下文介紹。雖然Ilya和Leike走了，但是我們OpenAI依然人才濟濟。

此外，OpenAI将通過保留并咨詢其他安全、安保和技術專家以支援安全工作，其中包括前網絡安全官員、為OpenAI提供安全建議的Rob Joyce和John Carlin。

——我們也會充分利用外部力量，幫助好AI安全治理。AI安全不僅隻有OpenAI的内部監督。

但是網友好像也沒那麼買賬，現在完全不關注GPT是5還是6，但轉而嫌棄起新的安全團隊：你Altman一手遮天，又能發揮什麼作用？

圖源：X

“你這麼搞就是垂簾聽政，大家不會相信你，也不會信任你組的安全團隊！”

圖源：X

要不說Altman是金牌公關呢，他一定能料想到網友對官方舉措不一定買賬，兩個消息剛剛官宣，創始人IP也要繼續立起來！

第二招，捐出一半身家，隻為博個好名聲。

同樣是28日，Altman與其丈夫作為億萬富翁，已宣布加入“捐贈誓言（Giving Pledge）”，将捐贈一半以上個人财産用于改善社會。

圖源：官網

在這份落款日期為18日的聯合公開信中，二人表示：

如果沒有許多人的辛勤工作、才華、慷慨和奉獻精神來改善世界，我們就不會做出這樣的捐贈承諾。因為正是這些人搭建了社會的腳手架，讓我們走到了今天。我們的感激之情無以言表，隻能将這份恩情記在心中，盡己所能回報社會，将這一腳手架搭得更高。

我們打算将捐贈重點，放在支援技術上，這些技術有助于為人們創造富裕，以便他們能夠将腳手架搭建得更高。

Giving Pledge的發起人巴菲特、蓋茨夫婦，名字都是響當當。簽署了捐贈誓言，富人就相當于生前或遺囑中，要将至少一半的财富捐給慈善機構或用于慈善事業。

據彭博社，Altman的身價至少有20億美元。

第三招，将一切負面消息扼殺在搖籃中。

在5月中旬，有媒體爆出OpenAI在和員工簽署的勞資合同中，明确要求離職員工不能在離職後發表不利于公司形象的言論，否則就會失去兌現自己所持OpenAI“期權”的機會。

圖源：Vox

這個“霸王條款”剛被曝出來時，網上一片嘩然。可輿論剛要發酵，Altman就公開表态——公司高層完全不知道有這麼一條“PR條款”，現在已經将條款删除。

圖源：X

高層是否知道合同中這條“PR條款”，已經無從考證。但如果“PR條款”就是公關危機的源頭，那最簡單的辦法就是直接删除它。

這一套組合拳，有事前預防，事中應對，到事後彌補。Sam Altman和OpenAI這教科書一般的危機公關手段，讓人不由得拍手叫絕。

但事情發展至此，除了看OpenAI的熱鬧之外，大家也一定會關心，什麼樣的配置，才能彌補Ilya和Leike出走帶來的安全團隊缺口？

技術背景雄厚，看看安委會大佬的實力

安全和安保委員會中的OpenAI 技術和政策專家，都是公司各部門的一把手（Head）。

Aleksander Madry（準備負責人）

公開照片

公告中介紹的OpenAI 技術和政策專家，Aleksander Madry被列在第一個。

個人首頁介紹，Madry 是 MIT EECS 系（電氣工程與計算機科學系，MIT最大的系）教授，也是CSAIL（MIT的計算科學與人工智能實驗室）成員。

在X的首頁上，他将自己的工作描述為“讓人工智能更加可靠和安全，對社會産生積極影響”。與之呼應的，Madry 也在 MIT 擔任可部署機器學習中心（緻力于為真實世界部署打造穩定、可靠、安全的AI系統）的主任和人工智能政策論壇聯合負責人。

圖源：領英

他于 2011 年獲 MIT 博士學位。但在加入 MIT 前，他還有過微軟新英格蘭研究院、洛桑聯邦理工學院的研究、工作經曆，兼具業内及學界的資深經驗。

圖源：領英

Lilian Weng（中文名翁荔，安全系統負責人）

公開照片

2018 年進入 OpenAI 時，翁荔并非直接負責安全相關的工作，而是擔任機器人團隊的技術主管，專注于訓練機器人任務的算法。但OpenAI後來放棄了機器人的研究。

圖源：領英

也是在 2021 年，翁荔得工作職責内開始明顯涉及安全相關的内容。她在這一年建立、上司應用人工智能研究團隊，開始關注安全和對齊問題。

圖源：領英

2023 年，她正式開始上司緻力于人工智能安全的工程師和研究人員團隊。

圖源：領英

翁荔大學就讀于北京大學資訊管理系，後于去了美國印第安納大學伯明頓分校讀計算機，之後有 affirm（金融科技）、Dropbox（雲存儲服務）等公司的工作經曆，也在 Facebook 實習過。

圖源：領英

John Schulman（對齊科學負責人）

公開照片

Schulman 是OpenAI 的聯合創始人。作為後訓練（post-training）團隊的上司者之一，負責微調 ChatGPT 和 OpenAI API 中部署的模型。

除此之外，語言模型對齊是他的研究興趣。他也關注模型的表現行為（behave），緻力于提高模型在公衆前的透明度。

此前，Schulman 在加州大學伯克利分校獲得了計算機科學博士學位，從事機器人技術和強化學習工作。他在伯克利大學短暫學習過神經科學，我在加州理工學院學習實體。

圖源：個人首頁

Matt Knight（安全負責人）

公開照片

Knight 負責上司 OpenAI 中安全、IT 和隐私相關的工程及研究。

圖源：領英

Knight 有達特茅斯學院的工程科學學士學位。

圖源：領英

此前，Knight 專門從事安全嵌入式系統的開發工作，兼具軟體和硬體方面的專業知識。由于Knight 對射頻網絡和實體層的特别興趣，他專門基于盲信号分析（blind signal analysis），對 LoRa PHY 搭建了逆向工程。

Jakub Pachocki（首席科學家）

公開照片

突然提到 Pachocki 可能略顯陌生，但他就是 Ilya 走後的接班。

我們不妨再來看看這位技術大佬的履曆。

圖源：領英

Pachocki 擁有卡内基梅隆大學理論計算機科學博士學位，曾擔任OpenAI研究總監上司研發 GPT-4，參與過大規模 RL 和深度學習優化的基礎研究。此前公告曾介紹，Pachocki 在将 OpenAI 願景重新聚焦于擴充深度學習系統方面，發揮過重要作用。

圖源：領英

檢視原圖 50K

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

•