突發！OpenAI又迎人事動蕩！安全主管辭職，“超級智能對齊團隊”已被解散

每日經濟新聞

2024-05-18 09:07釋出于四川每日經濟新聞官方賬号

每經編輯：杜宇

5月18日淩晨，OpenAI安全主管、“超級智能對齊團隊”負責人Jan Leike在社交平台宣布，離開OpenAI。這也是本周三OpenAI聯合創始人兼首席科學家Ilya Sutskever辭職之後，又有一名高管辭職。

Jan Leike在X上公開透露了他離職的部分原因。他的潛台詞是，他與OpenAI高層在公司的核心優先事項上存在長期分歧，最終雙方的分歧已經嚴重到無法調和的地步。團隊在推動其研究項目和争取計算資源時遇到了重大阻礙，缺乏資源會嚴重影響研究的進度和品質。

本周五（當地時間5月17日），OpenAI證明，由Ilya和他的親信Jan Leike共同上司的“超級智能對齊團隊”已經解散。此後，該團隊的研究工作将被整合到OpenAI的其他研究小組中。至此，一度幾乎導緻OpenAI分崩離析的宮鬥事件終于塵埃落定。

馬斯克針對OpenAI的長期人工智能風險團隊已經解散這一消息評價稱：“這顯示安全并不是OpenAI的首要任務。”

OpenAI首席執行官Sam Altman感謝并肯定了Jan Leike在OpenAI的貢獻和上司能力。并表示，未來幾天内會發表一篇更長的文章，來闡述OpenAI對于産品安全的規劃和所做的事情。

加入OpenAI之前，Jan Leike曾在谷歌DeepMind工作，主要負責從人類回報中進行強化學習的原型設計。在OpenAI期間，參與了InstructGPT、ChatGPT的開發以及GPT-4的安全對齊工作。

對于Ilya、Jan的辭職，有人表示這兩位安全上司高管都辭職了，以後誰來負責OpenAI的産品安全呢？

也有一位網友爆料，想離開OpenAI沒問題，但是你必須簽署一份“離職協定”， 如果你不簽署終身不诋毀承諾，将失去所有已獲得的OpenAI股權。不知道Jan Leike的一番吐槽，是否會影響到他的股權。

在去年7月份，OpenAI宣布成立一個新的研究團隊“超級對齊”，要用AI監督AI的方式，解決超智能“AI對齊”問題。“AI對齊”的意思是，要求AI系統的目标要和人類的價值觀與利益相一緻。公司創始人之一伊利亞·蘇茨克沃被任命為團隊共同負責人。

而現在AI風險團隊解散是公司内部最近出現動蕩的又一證據，也再次引發了人們對該公司在開發AI産品時如何平衡速度與安全的質疑。OpenAI章程規定，必須安全地開發通用人工智能(AGI)，即可以與人類匹敵或超越人類的技術。

每日經濟新聞綜合公開資料

檢視原圖 37K

• 

• 

• 

• 

•