整理 | 屠敏
出品 | CSDN（ID：CSDNnews）
近段時間的 OpenAI 似乎遭遇了“水逆”。
一方面，随着 OpenAI 聯合創始人兼首席科學家 Ilya Sutskever 和超級對齊負責人 Jan Leike 相繼從 OpenAI 離職之後，有消息稱，OpenAI 核心安全團隊“超級對齊”已經解散。
另一方面，一波未平一波又起，這兩天，一份在離職後不許诋毀 OpenAI 的“離職封口協定”又将 OpenAI 推上了風口浪尖，更有外媒 Vox 直接指出，「OpenAI 最新釋出的 GPT-4o 可以讓 ChatGPT 像人類一樣說話，但是 OpenAI 的員工卻不能」。
OpenAI 超對齊團隊分崩離析
事實上，上周 OpenAI 聯合創始人兼首席科學家 Ilya Sutskever 的離職，雖讓人感到遺憾，但也是意料之中的事情。
要知道去年，Ilya Sutskever 參與了導緻「 OpenAI CEO Sam Altman 臨時被解雇」的董事會叛亂。
曆經 12 天的「宮鬥」，在 Sam Altman 回歸之際，Ilya Sutskever 公開對自己的行為表示遺憾，并支援 Altman 的回歸。此後，他便鮮少出現在公衆視野。
從其社交媒體賬号更新的頻次來看，上一次的轉發還是在 2023 年 12 月 15 日，而最新的一次便是直接跳到了今年的 5 月 15 日官宣離職。
Ilya Sutskever 的離開，雖引發了外界對“你究竟看到了什麼的”猜疑，但是他給了自己和 OpenAI 一份體面，隻是官方地說，“我相信 OpenAI 将在 Sam Altman、Greg Brockman、Mira Murati 現在再加上 Jakub Pachocki 出色的研究上司下，打造既安全又有益的 AGI……”
對此，Sam Altman 也非常罕見地釋出了一篇正式且深情的長文透露了自己的不舍，“沒有他，OpenAl 就不會有今天。雖然他有一些對個人有意義的事情要去做，但我永遠感激他在這裡所做的一切，并緻力于完成我們共同開創的使命。我很高興能在這麼長的時間裡接近這樣一個真正非凡的天才，一個如此專注于為人類創造最好未來的人。”
然而，與 Ilya Sutskever 的離職形成鮮明對比的是，OpenAI 超級對齊負責人 Jan Leike 的離開。起初，正如此前我們報道的，Jan Leike 的辭職資訊很簡單，隻有短短的兩個單詞，“I resigned”（我辭職了）。
沒有原因、沒有未來去向、更沒有 OpenAI 高層如 Sam Altman 的祝福。
一切不知是主動還是被動的情況下，外界報道也充滿了猜測，也或是被問的多了，Jan Leike 在剛剛過去的周末裡，忍不住地連發了 13 條推文，分享了自己離開的想法，更是怒斥 OpenAI 在追求華而不實的産品，質疑 OpenAI 不再關心安全。
以下是他在 X 平台上分享的完整内容：
昨天是我在 OpenAI 擔任對齊團隊主管、超級對齊負責人和高管的最後一天。
過去 3 年，這真是一段瘋狂的旅程。我的團隊推出了有史以來第一個使用 RLHF 訓練的大模型 InstructGPT，釋出了首個可擴充的 LLM 監督，開創了自動可解釋性和從弱到強的泛化。更多激動人心的成果即将推出。
我愛我的團隊。我非常感謝能與超級對齊團隊内部和外部的許多優秀人共事。OpenAI 擁有衆多非常聰明、善良、高效的人才。
從這份工作離開，是我做過的最困難的事情之一，因為我們迫切需要弄清楚如何引導和控制比我們聰明得多的人工智能系統。
我最初加入 OpenAI 是因為我認為 OpenAI 是世界上進行此類研究的最佳場所。然而，我與 OpenAI 上司層在公司的核心優先事項上存在分歧已有一段時間，直到我們最終達到了臨界點。
我相信我們應該把更多的精力花在為下一代模型做準備上，包括安全、監控、準備、安全、對抗穩健性、（超）一緻性、機密性、社會影響和相關主題。
這些問題很難解決，我擔心我們還沒有走上解決的軌道。
過去幾個月，我的團隊一直在逆風前行。有時，我們為計算而苦苦掙紮，完成這項至關重要的研究變得越來越困難。
制造比人類更聰明的機器本質上是一項危險的事業。OpenAI 代表全人類肩負着巨大的責任。
但在過去幾年中，安全文化和流程已不再受到重視，而光鮮的産品備受青睐。
我們早就應該認真考慮 AGI 的影響了。我們必須優先考慮并盡可能做好準備。隻有這樣，我們才能確定 AGI 造福全人類。
OpenAI 必須成為一家安全第一的 AGI 公司。
我想對所有 OpenAI 員工說：
學會感受 AGI。
采取與你正在建構的事物相适應的莊重态度。
我相信你可以“實作”所需的文化變革。
我指望你了。
全世界都指望着你。
OpenAI-heart
對此，看熱鬧不嫌事大的馬斯克評論稱，這意味着安全并不是 OpenAI 的首要任務。
随着這些内容的公開，次日 OpenAI CEO Sam Altman 才姗姗來遲地現身轉發并回應稱，“我非常感激 Jan Leike 對 OpenAI 的對齊研究和安全文化做出了貢獻，看到他離開，我感到非常難過。他說得對，我們還有很多事情要做；我們緻力于這樣做。在接下來的幾天裡，我會有一個更長的文章。”
據外媒《連線》最新報道，OpenAI 超級對齊團隊兩大負責人離開之後，這個團隊已經解散，餘下成員要麼辭職，要麼将被納入 OpenAI 的其他研究工作中。
如此迅速的動作，毫無疑問，OpenAI 内部的一線技術人員和管理人員已經分為兩個陣營，而對安全等問題着重看重的一方正在相繼出走。
針對這一點，也有人好奇，觀點的不一緻，最終導緻他們究竟是被迫還是主動離開。看 Jan Leike 的話語，也存在諸多的無奈才寄希望于留在 OpenAI 的其他人。同時，迄今為止，似乎并沒有一個曾經在 OpenAI 工作的人公開談論過自己究竟為何而離職？
“不貶低”協定曝光
據 Vox 報道，事實證明，之是以沒有太多公開消息，是因為有一個非常明确的原因，即 OpenAI 内部有一個極其嚴格的離職協定，要求從 OpenAI 離職的員工必須遵守一項“不貶低”協定以及保密條款，即禁止這些離職的員工在餘生中批評他們的前雇主，同時禁止承認保密協定的存在。
如果離職員工拒絕簽署這份檔案，或者違反了這份檔案，他們就會失去在公司工作期間獲得的所有既定股權，這可能價值數百萬美元。
此前，一位名叫 Daniel Kokotajlo 的前 OpenAI 員工發帖稱，他「因為對 OpenAI 在 AGI 項目會負責任的行事而失去信心」而從 OpenAI 辭職，他已公開證明，為了不簽署該檔案而辭職，他可能丢了一筆巨款。
事實上，在競争激烈的矽谷，保密協定并不罕見，但将員工已歸屬的股權置于拒絕或違反保密協定的風險中卻是罕見的。對于像 OpenAI 這樣的初創公司的員工來說，股權是一種重要的報酬形式，這種薪酬形式可能會讓他們的工資相形見绌。
研究熱門科技公司薪酬的咨詢公司 Levels.fyi 的創始人 Zuhayeer Musa 曾分享過 OpenAI 員工薪酬建構，多數員工的基本工資約為 30 萬美元，每年還會獲得約 50 萬美元的 PPU（利潤參與機關）補助，這是一種股權補償形式。
所謂 PPU，它的核心價值，就是能夠分享 OpenAI 所産生的利潤。
Zuhayeer Musa 表示，「簽約獎金非常罕見、沒有目标績效獎金、薪酬幾乎沒有談判餘地」。同時，他指出，在 OpenAI，員工的薪酬會根據經驗的不同而有所差別，工資或 PPU 補助會上下浮動幾千美元，通常以 2.5 萬美元為機關遞增。不過，大多數職位的薪酬都接近 30 萬美元的工資和 50 萬美元的補助金。在 PPU 補助金的四年歸屬期内，OpenAI 的大多數員工預計将獲得至少 200 萬美元的股權薪酬。
如果違反所謂的“不诋毀”協定，股權遭到回收，正如前 OpenAI 員工 Daniel Kokotajlo 說的，「不清楚如何評估我放棄的股權，但它可能至少占我家庭淨資産的 85% 左右」，成本巨大。
OpenAI CEO 緊急回應
毋庸置疑，這則“不诋毀”協定從根本上封住了離職員工的嘴，也讓不少人對 OpenAI 的做法感到詫異與失望。
此消息一經曝出，OpenAI CEO Sam Altman 也坐不住了，立即回應道，這份協定是存在，但是并沒有實行過。如今已經責令内部整改。
關于最近有關 Openai 如何處理股權的最新内容：
我們從未收回過任何人的既得股權，如果有人不簽署離職協定（或不同意非貶損協定），我們也不會這樣做。既得股權就是既得股權。
在我們之前的離職檔案中，有一條關于潛在股權登出的規定；雖然我們從未收回過任何東西，但我們不應該在任何檔案或溝通中提及這一點。這是我的責任，也是我在營運 OpenAI 的過程中為數不多的真正感到尴尬的一次；我不知道會發生這種情況，但我應該知道。
在過去的一個多月裡，我們的團隊已經在修正标準離職檔案。如果任何簽署過這些舊協定的前雇員對此感到擔心，他們可以聯系我，我們也會解決這個問題。對此我深感抱歉。
顯然，對于 Sam Altman 的回應，使用者們并不買賬，更有人直接質疑道，「如果他們說了一些你不喜歡的話，你怎麼能“意外地”加入一條可以取消股權的條款呢？一個“錯誤”給你帶來如此巨大的利益，真是奇怪」，還有網友表示，「如果外媒沒有披露出來，這則協定是否還會存在那裡？」
OpenAI 不 Open 後，安全存疑？
如果說 OpenAI 決定不開源大模型是不 Open 的行為存在争議，那麼如今“離職封口協定”才是真正的「封閉」，外加安全研究人員的相繼離職，加劇了外界對于 OpenAI 在安全、可靠性的擔憂。
面對外界擔心“不可控、或對人類造成重大傷害”的 AI，OpenAI 總裁 Greg Brockman 聯合 Sam Altman 也在最新的一天發長文稱，他們意識到 AGI 的風險和潛力，稱公司已呼籲制定國際 AGI 标準并幫助“開拓者”檢查人工智能系統是否存在災難性威脅的做法。
我們非常感謝 Jan 為 OpenAI 所做的一切，我們知道他将繼續從外部為這項使命做出貢獻。鑒于他的離職引發了諸多問題，我們想解釋一下我們對整體戰略的看法。
首先，我們提高了人們對 AGI 風險和機遇的認識，以便世界能夠更好地為此做好準備。我們多次展示了擴充深度學習規模的可能性并分析了其影響；在此類呼籲之前，我們就呼籲了對 AGI 進行國際治理；并幫助開創了評估人工智能系統災難風險的科學。
其次，我們一直在為安全部署能力越來越強的系統奠定必要的基礎。弄清楚如何讓一項新技術從一開始就變得安全并不容易。例如，我們的團隊做了大量工作，以安全的方式将 GPT-4 帶給世界，此後，我們根據部署過程中吸取的教訓，不斷改進模型行為和濫用監控。
第三，未來将比過去更加艱難。我們需要不斷提升安全工作，以适應每種新模式的風險。去年，我們采用了“Preparedness Framework”，以幫助将我們的工作系統化。
現在似乎是談論我們如何看待未來的好時機。
随着模型功能越來越強大，我們預計它們将開始與世界更加緊密地融合。使用者将越來越多地與由許多多模式模型和工具組成的系統進行互動，這些系統可以代表他們采取行動，而不是僅通過文本輸入和輸出與單個模型對話。
我們認為，這樣的系統将為人們帶來極大的益處和幫助，而且可以安全地傳遞這些系統，但這需要大量的基礎工作。這包括仔細考慮他們在訓練時所連接配接的内容、解決可擴充監督等難題以及其他新型安全工作。在我們朝着這個方向發展的過程中，我們還不确定何時會達到釋出的安全标準，如果這會推遲釋出時間表也沒關系。
我們知道我們無法想象所有可能的未來情景。是以，我們需要非常緊密的回報循環、嚴格的測試、每一步的仔細考慮、世界一流的安全性以及安全性和能力的和諧。我們将繼續針對不同的時間範圍進行安全研究。我們還将繼續與政府和許多利益相關者就安全問題展開合作。
目前還沒有行之有效的政策指導如何走向 AGI。我們認為經驗了解可以幫助指引前進的方向。我們相信，我們既能實作巨大的優勢，又能努力降低嚴重的風險；我們非常認真地對待我們在這裡的角色，并仔細權衡對我們行動的回報。
— Sam 和 Greg
随即，美國 AI 著名學者 Gary Marcus 一句話似乎瓦解了所有的回應，其表示——「透明度勝于雄辯」。
其實，在沒有足夠清晰的透明度、統一的技術安全措施、積極的回報處理機制，以及明确的法律和倫理規範之前，大家對 AI 的安全必然會持非常謹慎的态度。這不僅對 OpenAI，而且對所有緻力于 AI 發展的企業來說，都必将是一個巨大的挑戰。
來源：
https://www.vox.com/future-perfect/2024/5/17/24158478/openai-departures-sam-altman-employees-chatgpt-release
https://www.businessinsider.com/openai-unique-compensation-package-among-tech-companies-ppu-2023-6
https://x.com/gdb/status/1791869138132218351