OpenAI逼迫離職員工簽署閉嘴協定：GPT可以說話，但前員工不能

鞭牛士報道，5月19日消息，據外電報道，周一，OpenAI宣布了令人興奮的新産品消息：ChatGPT 現在可以像人類一樣說話。

它有一種歡快、略帶讨好的女性聲音，聽起來不像機器人，如果你看過 2013 年斯派克·瓊斯 (Spike Jonze) 的某部電影，你會覺得有點熟悉。

「她」， OpenAI 首席執行官薩姆·奧爾特曼 (Sam Altman)在推特上寫道，指的是電影中一名男子愛上了由斯嘉麗·約翰遜 (Scarlett Johansson) 配音的人工智能助理。

但 ChatGPT 4o 的産品釋出很快就被 OpenAI 的更大新聞所掩蓋：該公司聯合創始人兼首席科學家 Ilya Sutskever 以及他的聯合團隊負責人Jan Leike的辭職，Ilya Sutskever 也是其超級對齊團隊的上司者。

辭職并不完全令人意外。去年，蘇茨克維爾參與了導緻奧特曼臨時被解雇的董事會叛亂，随後這位首席執行官很快又回到了自己的位置。 Sutskever 公開對自己的行為表示遺憾，并支援 Altman 的回歸，但自 2017 年以來，盡管 OpenAI 政策、協調和安全團隊的其他成員已經離開，但他基本上缺席了公司。

但真正引發猜測的是前員工的沉默。 Sutskever釋出了一條非常典型的辭職資訊，稱我相信 OpenAI 将建構既安全又有益的 AGI……我對接下來發生的事情感到興奮。

雷克……沒有。他的辭職資訊很簡單：我辭職了。

經過幾天的熱烈猜測，他在周五早上對此進行了擴充，解釋說他擔心 OpenAI 已經偏離了以安全為中心的文化。

問題立即出現：他們是被迫離開的嗎？這是奧特曼去年秋天短暫解雇的延遲後果嗎？他們辭職是為了抗議某個秘密且危險的新 OpenAI 項目嗎？猜測填補了這個空白，因為沒有一個曾經在 OpenAI 工作過的人在談論這一點。

事實證明，這是有一個非常明确的原因的。我看到了極其嚴格的離職協定，其中包含前 OpenAI 員工必須遵守的保密和保密條款。它禁止他們在餘生中批評他們的前雇主。即使承認 NDA 的存在也構成對其的違反。

如果離職員工拒絕簽署該檔案，或者違反該檔案，他們可能會失去在公司期間獲得的所有既定股權，這可能價值數百萬美元。

一位前員工 Daniel Kokotajlo 發帖稱，他退出 OpenAI是因為對 OpenAI 在 AGI 時代會負責任地行事失去了信心。

雖然保密協定在競争激烈的矽谷并不罕見，但将員工已歸屬的股權置于拒絕或違反保密協定的風險中卻是罕見的。對于像 OpenAI 這樣的初創公司的員工來說，股權是一種重要的薪酬形式，這種薪酬形式可能會讓他們的工資相形見绌。威脅提供可能改變生活的金錢是讓前員工保持沉默的非常有效的方法。

OpenAI 沒有及時回複首次釋出的置評請求。

文章發表後，OpenAI 發言人給我發了這樣一份聲明：我們從未取消任何現任或前任員工的既得股權，如果人們在退出時不簽署免責協定或非貶低協定，我們也不會取消。

與我交談的公司關系密切的消息人士告訴我，按照他們的了解，這代表着政策的變化。當我詢問 OpenAI 發言人這一聲明是否代表着變化時，他們回答說：這一聲明反映了現實。

對于一家最初标榜自己為開放人工智能的公司來說，所有這一切都極具諷刺意味，即在其使命宣言中緻力于以透明和負責任的方式建構強大的系統。

OpenAI出于安全考慮，很久以前就放棄了開源其模型的想法。但現在它已經解雇了安全團隊中最資深、最受尊敬的成員，這應該會引發一些人的懷疑：安全是否真的是 OpenAI 變得如此封閉的原因。

科技公司将終結所有科技公司

OpenAI 長期以來在技術和政策圈子中占據着不同尋常的地位。他們釋出的産品，從 DALL-E 到 ChatGPT，通常都很酷，但它們本身很難吸引人們經常讨論該公司的近乎宗教般的熱情。

OpenAI 的與衆不同之處在于其使命的雄心：確定通用人工智能——通常比人類更聰明的人工智能系統——造福全人類。

許多員工相信這一目标是可以實作的；也許再過十年（甚至更短）——以及幾萬億美元——該公司将成功開發人工智能系統，使大多數人類勞動力變得過時。

正如該公司自己長期以來所說的那樣，這既令人興奮又充滿風險。

「超級智能将是人類發明的最具影響力的技術，可以幫助我們解決世界上許多最重要的問題。」Leike 和 Sutskever 團隊在 OpenAI 的招聘頁面上寫道。 「但超級智能的巨大力量也可能非常危險，并可能導緻人類喪失權力，甚至導緻人類滅絕。雖然超級智能現在看來還很遙遠，但我們相信它可能在十年内實作。」

當然，如果我們有生之年可能出現超級人工智能（專家們意見不一），那麼它将對人類産生巨大的影響。 OpenAI 曆來将自己定位為負責任的參與者，試圖超越單純的商業激勵，并為所有人的利益帶來通用人工智能。他們表示，他們願意這樣做，即使這需要放慢發展速度、錯失盈利機會或允許外部監督。

「我們認為 AGI 不應該隻是矽谷的事情。」OpenAI 聯合創始人 Greg Brockman在 2019 年告訴我，當時 ChatGPT 出現之前的日子要平靜得多。 「我們正在談論改變世界的技術。那麼如何在那裡獲得正确的代表和治理呢？這實際上對我們來說是一個非常重要的關注點，也是我們真正需要廣泛投入的事情。」

OpenAI 獨特的公司結構——一家最終由非營利組織控制的利潤有限的公司——本應加強問責制。

「這裡不應該信任任何人。我沒有超級投票權股票。我不想要它們。」2023 年，奧爾特曼向彭博社的艾米麗·張 (Emily Chang) 保證。 「董事會可以解雇我。我認為這很重要。」（正如董事會去年 11 月發現的那樣，它可以解雇 Altman，但無法堅持這一舉措。在被解雇後，Altman達成了一項協定，實際上将公司帶到了微軟，最終在大多數董事會成員辭職後恢複了職位。)

但最能展現 OpenAI 對其使命的承諾的莫過于像 Sutskever 和 Leike 這樣的傑出人物，他們是長期緻力于安全的技術專家，而且顯然真誠地願意在需要時要求 OpenAI 改變路線。

當我在 2019 年的采訪中對布羅克曼說，你們在說，我們要建立一個通用人工智能。

蘇茨克維爾插話道，我們将在這個方向上做一切能做的事情，同時還要確定我們以安全的方式進行。

他們的離開并不預示着 OpenAI 建構通用人工智能的使命發生變化——這仍然是我們的目标。但幾乎可以肯定的是，這預示着 OpenAI 對安全工作的興趣發生了變化；該公司尚未宣布誰（如果有的話）将上司超級調整團隊。

這清楚地表明 OpenAI 對外部監督和透明度的擔憂并沒有那麼嚴重。如果您希望外部監督和世界其他地方在您所做的事情中發揮作用的機會，那麼讓前雇員簽署極其嚴格的保密協定并不完全符合。

閉門改變世界

這種沖突是 OpenAI 讓我們這些非常關心確定人工智能真正順利發展并造福人類的人深感沮喪的核心原因。 OpenAI 是一家熱鬧的中型科技公司，生産一個健談的個人助理，還是斥資數萬億美元打造人工智能之神？

該公司的上司層表示，他們希望改變世界，他們希望在這樣做時承擔責任，并且歡迎世界各地就如何公正和明智地做到這一點提出意見。

但是，當涉及真金白銀時——而且在主導人工智能的競賽中，涉及金額驚人的真金白銀——很明顯，他們可能從來沒有打算讓世界獲得這麼多的投入。他們的流程確定前員工（那些最了解 OpenAI 内部正在發生的事情的人）無法告訴世界其他地方正在發生什麼。

該網站可能有崇高的理想，但他們的終止協定卻充滿了頑固的法律術語。對于一家前員工隻能說我辭職的公司來說，很難對其承擔責任。

ChatGPT 新的可愛聲音可能很迷人，但我并不特别着迷。