天天看點

OpenAI驚天内幕曝光!高管怒斥遭打壓,7100億AI巨頭内外交困|钛媒體AGI

作者:钛媒體APP
OpenAI驚天内幕曝光!高管怒斥遭打壓,7100億AI巨頭内外交困|钛媒體AGI

(圖檔來源:Avigail Uzi)

萬萬沒想到,美國OpenAI公司的“宮鬥大戲”竟然迎來了第二季。

近期,OpenAI首席科學家伊利亞·蘇茨克沃(Ilya Sutskever)官宣離職。同日,OpenAI超級對齊團隊負責人之一的簡·雷克(Jan Leike)也宣布離職。

就在大家為離職事件進行讨論之時,5月18日淩晨,簡·雷克直接在社交平台X 上連發13條推文,自述心路曆程,并爆料對齊技術團隊遭到OpenAI CEO奧爾特曼(Sam Altman)們的打壓。

簡·雷克表示:“這是我擔任 OpenAI 公司超級對齊部門負責人、進階上司以及執行層成員的最後一天。在過去的 3 年裡,我們的團隊取得了很多成果,但我在公司核心發展重點的問題上與上司層存在長期分歧,最終無法調和。我認為應該将更多資源和精力投入到為新一代 AI 模型做準備的工作中,但目前的發展路徑無法順利達成目标。我的團隊在過去幾個月面臨巨大挑戰,有時難以擷取足夠的計算資源。”

簡·雷克強調,創造超越人類智能的機器充滿風險,OpenAI 正在承擔這一責任,但安全文化和流程在追求産品開發過程中被邊緣化。“我們應該極其嚴肅地對待通用人工智能(AGI)可能帶來的深遠影響,盡最大努力優先做好應對 AGI 的準備,確定其惠及全人類。OpenAI必須轉型為一家将安全放在首位的AGI公司。”

針對簡·雷克的爆料資訊,5月18日奧爾特曼也緊急發文回應稱:“我非常感激簡·雷克對OpenAI在 AI 超級對齊研究和安全文化方面的貢獻,對他離開公司感到非常遺憾。他指出了我們還有很多工作需要完成,我們對此表示認同,并緻力于推進這些工作。在接下來的幾天裡,我會撰寫一篇更詳細的文章來讨論這個問題。”

5月19日淩晨,OpenAI聯合創始人、總裁格雷格·布羅克曼(Greg Brockman)發長文回應稱,感謝簡·雷克對 OpenAI 的貢獻,并強調對 AGI 風險與機遇的認知,包括呼籲國際治理等,而且闡述為安全部署更強大系統所做的努力,如GPT-4的推出及後續改進,而未來更具挑戰性,需提升安全工作以比對新模型,但承認無法預知所有未來情況,強調需緊密回報、嚴格測試等。

今天早上5點,奧爾特曼再發推文承認,公司員工有簽保密協定,退出條款包括撤銷員工在公司的既得股權,如果他們貶低公司或承認這些條款的存在,但奧爾特曼認為這“不應該是”,并補充說他對這些條款“真的感到尴尬”。

“大約在過去一個月的時間裡,該團隊已開始修複标準離職文書。如果任何簽署過這些舊協定的前雇員對此感到擔心,他們可以聯系我,我們也會解決這個問題。對此我深感抱歉。”奧爾特曼在推文中表示。

OpenAI驚天内幕曝光!高管怒斥遭打壓,7100億AI巨頭内外交困|钛媒體AGI

實際上,目前,這家估值1000億美金(胡潤研究院資料,約合人民币7100億元)的 AI 巨獸OpenAI正面臨新的内部和外部的雙重承壓。

奧爾特曼最近表示,未來 OpenAI 希望訓練人們經常使用 AI,進而不斷産生更大的技術價值。

伊利亞與奧爾特曼的内部路線之争

如果把時間重新拉回到最初OpenAI“宮鬥”之争之時,今天隻是這場圍繞伊利亞與奧爾特曼路線分歧的“續集”。

2023年11月17日,作為全球最受矚目的 AI 公司,OpenAI董事會突然宣布解雇CEO奧爾特曼和總裁格雷格·布羅克曼(Greg Brockman),并宣布公司CTO米拉接任。

輿論嘩然,這一事件引發全球關注,多位公司高管和投資人聲援支援奧爾特曼,包括OpenAI的最大支援者微軟等,遊說讓奧爾特曼重新掌舵,明确表示奧爾特曼是OpenAI成功的重要組成部分。

而在這個過程中,伊利亞夥同OpenAI董事會合作試圖解雇掉奧爾特曼。

據The Information,在 OpenAI 當天舉行的全員會上,伊爾亞承認員工所說的這是一場 “政變”。他表示 “你可以這麼說(是政變),但我覺得這隻是董事會在履行自己的職責。”

幾天後,在輿論的包圍下,剩下的董事會成員改變了主意,恢複了奧爾特曼的首席執行官職位,并選擇集體辭職。

2023年12月8日,OpenAI特别委員會聘請美國著名律師事務所WilmerHale對奧爾特曼“罷免”事件進行審查。

今年3月,經過數月的調查,OpenAI最終宣布,奧爾特曼并未有不當行為,即“不構成強制解雇”。董事會解雇奧爾特曼是基于與他的關系破裂和信任喪失,而非産品安全、開發進度、公司财務狀況或對投資者、客戶和商業夥伴聲譽的擔憂,并沒有發現奧爾特曼應該被解雇的證據。是以,奧爾特曼将繼續擔任公司CEO、董事職務。

據前Salesforce CEO布雷特·泰勒(Bret Taylor)的說法,對董事會混亂的後續審查得出結論,前董事會與奧爾特曼之間的信任嚴重破裂,但沒有證據表明首席執行官誤導投資者或以不安全的速度推出産品。在前董事會解散後,布雷特·泰勒被任命為OpenAI董事。

“這隻是董事會和奧爾特曼先生之間信任的破裂。”泰勒表示,之前的董事會“本着誠信行事,沒有預料到之後的一些不穩定因素。”

盡管奧爾特曼最終重回OpenAI并執掌大權,但其與伊爾亞兩派對 OpenAI公司發展觀念的不同,這一路線之争一直沒有得到圓滿解決。

實際上,随着ChatGPT 爆火,在奧爾特曼的帶領下,OpenAI 加速了商業化步伐,通過追求利潤來資助非營利目标,也不再開放。目前GPT-5 正在研發中,而且計劃向微軟和更多的投資方籌集資金。奧爾特曼認為,美國人放慢 OpenAI 的進展是愚蠢的。有消息稱,去年OpenAI年化收入已經超過20億美元。

《大西洋月刊》副主編 Ross Andersen 前不久發表的一篇關于 OpenAI 革命的特稿,就能察覺伊爾亞和奧爾特曼關注點的不同。在這篇罕見的長文中,作者這樣描述這位首席科學家,“有一種神秘主義者的感覺,有時會有點過頭。” 他聲稱GPT-4可能 “有輕微意識”,引起諸多争議。

事實上,奧爾特曼罷免事件結束後,伊利亞在社交平台上“消失”了,直至前幾天官宣離職。而且據稱,他已經有超過6個月沒有出現在OpenAI辦公室了。

“在過去的一個月裡,我吸取了許多教訓。其中一個教訓是,‘在士氣提高之前,毆打會一直持續下去’這句話比它應有的含義更經常地适用。”當時,伊利亞還留下了這一條耐人尋味的推文,但很快就删除了。

據内部人士透露,事件發生後,伊利亞一直遠端共同上司着超級對齊團隊。

然而,在公司内部,員工們對奧爾特曼的态度表現不一,更多人開始支援“伊利亞路線”。而對于奧爾特曼最大的指控就是言行不一,比如他聲稱自己想優先考慮安全,但他的行為卻很沖突。更早之前,OpenAI還從一家奧爾特曼投資的一家初創公司訂購算力,總額高達5100萬美元(約合人民币3.6億元)。

5月15日,在谷歌I/O開發者大會結束數小時内,伊利亞突然宣布辭職。

“近十年後,我決定離開 OpenAI。公司的發展軌迹堪稱奇迹,我相信 OpenAI将在奧爾特曼等人的出色上司下,打造既安全又有益的 AGI。能夠與大家共事是我的榮幸,我會非常想念大家。再見,感謝你們所做的一切。我很期待接下來的計劃——這個項目對我個人來說意義重大,我會在适當的時候分享細節。”伊利亞表示。

而僅僅間隔兩分鐘後,奧爾特曼發推文回應稱,對此非常難過,如果沒有伊爾亞,OpenAI 就不會有今天。

OpenAI驚天内幕曝光!高管怒斥遭打壓,7100億AI巨頭内外交困|钛媒體AGI

這一切都像是設計好的一樣。

據Vox報道,更注重安全的員工已經對奧爾特曼失去了信心,“這是一個信任一點一點崩潰的過程”。

但公開場合沒有内部離職員工表達相關想法。報道稱,一部分原因是,OpenAI一直以來,都有讓員工簽署帶有非貶低協定的離職協定的傳統。如果拒絕簽署,就等于放棄了此前拿到的OpenAI的期權,這意味着出來說話的員工可能會損失一筆巨款。

實際上,伊利亞的辭職加劇了OpenAI近期的離職潮。除了伊利亞、簡·雷克之外,目前有至少五個安全團隊成員離職。

談及伊利亞時,奧爾特曼也承認,他确定了公司最重要的大方向:遵循規律效應(Scaling Law)做大語言模型。

“我們最初隻是玩機器人和遊戲等一些小項目,有人開始研究大模型,但伊利亞堅定地相信它,并且确定了我們的大方向,我們從GPT-1一口氣做到GPT-4。”奧爾特曼稱。

一位OpenAI離職員工Daniel Kokotajlo評價稱:“OpenAI正在訓練更強大的AI系統,目标是最終全面超越人類智能。這可能是人類有史以來發生過的最好的事情,但如果我們不小心行事,也可能是最糟糕的事情。”

外部質疑越來越多,行業認為GPT-4o沒有想象中那麼驚豔

不僅是内部的AGI路線争議,OpenAI在外部也面臨巨大的議論和承壓。

5月14日淩晨,OpenAI推出可免費使用、可實時進行音頻、視覺和文本推理、短至232毫秒響應音頻輸入的全新旗艦AI模型GPT-4o,并将推出PC桌面版ChatGPT。

OpenAI首席技術官米拉·穆拉蒂 (Mira Murati)表示,在API使用方面,相比去年11月釋出的GPT-4-turbo,GPT-4o價格降低一半(50%),速度提升兩倍(200%)。

奧爾特曼稱,新的GPT-4o是OpenAI有史以來最好的模型,它很智能,速度很快,是原生多模态,并且它可供所有ChatGPT使用者使用,無論是免費版本還是付費GPT-4版。“這對我們的使命很重要,我們希望将出色的 AI 工具交到每個人手中。”

不過,市場認為,GPT-4o沒有想象當中那麼驚豔,OpenAI也未能呈現出GPT-5這一跨時代産品。

獵豹移動董事長兼CEO、獵戶星空董事長傅盛表示,此次更新比較讓人失望,他認為這次OpenAI沒有釋出GPT-5.0,連GPT4.5也沒有看到,反而是釋出了GPT4o,就是把一系列的引擎給結合在一起,比如圖檔、文字、聲音,這樣你就不需要來回去切換了。

“所有 AI 從業者都在熬夜等着大洋彼岸放核彈,但是沒想到核彈沒有放,掏出了一堆的摔炮。”傅盛稱。

瀾碼科技創始人兼CEO周健向钛媒體App表示,GPT-4o在多模态能力和實時互動能力方面取得了顯著進步,但與GPT-4相比,其提升并不具有颠覆性,整體進步不夠驚豔。而且,GPT-4o在長時記憶、社會智能和邏輯推理方面的能力并沒有顯著提升。

“在我看來,GPT-4o隻是用Scaling Law(規模效應)堆了大量算力,有了大量的資料,堆出來了一個東西,并不像 GPT-4 之于GPT-3.5那樣有颠覆性地提升。GPT-4o是很不錯,但是基本都在意料之中,沒有很驚豔。”周健稱。

與此同時,一位 AI 行業人士向钛媒體App表示,目前OpenAI面臨大量的算力短缺問題,無法支撐未來AGI目标下的模型性能提升。GPT-4o的釋出很明顯說明OpenAI的GPT研發進展放緩。

另外,MIT Technology Review(麻省理工科技評論)報道稱,普林斯頓大學博士Tianle Cai認為,GPT-4o的中文token訓練資料受到垃圾郵件和網站的污染,可能是由于資料清理不充分所緻。

“問題很明顯:用于訓練[分詞器]的語料庫不幹淨。英文token看起來不錯,但中文token就不行了,”Cai表示。語言模型在收集訓練資料時抓取垃圾郵件的情況并不罕見,因為通常會在使用資料之前花費大量精力來清理資料,是以,“他們可能沒有對中文資料進行适當的資料清理。”

不過,周健也認為,GPT-4o的釋出将對數字人、智能語音助手、遊戲、教育、營銷等行業産生重大影響。而對瀾碼這樣的企業級Agent平台公司而言,GPT-4o的釋出有助于其更好地利用專家知識和經驗,使Agent獲得更強的能力。

有分析認為,大模型發展至今,如何實作AGI已經歸結為兩條路:技術派希望技術成熟可控再應用;市場派則認為開放、應用并逐漸走到終點。

近期,科技部落客Logan Bartlett公布與奧爾特曼的對話視訊。

奧爾特曼回憶了去年11月董事會“政變”期間,他收到世界各地一、二十個國家的總統和總理的問候,以及在那5天期間所承受的極度的壓力,稱之為一生中最奇特(surreal)的時刻。

奧爾特曼還表示,達到AGI的最大障礙就是新的研究。

“我認為最大的障礙是新的研究。從網際網路軟體到人工智能,我必須學會的一件事是,研究工作的時間表與工程不同。這通常意味着它需要更長的時間,但有時意味着它的工作速度比任何人預測的都要快得多。在科學和工程上有許多這樣的例子,從建立理論,到在實驗中發現并且證明,再到實際的應用,是一個漫長的過程。有些停留在理論的層面上百年了,但有些在突破之後,以驚人的速度變化。”奧爾特曼稱。

談到ChatGPT-4o的重要性,奧爾特曼稱,這種使用電腦的方式不可思議。

“用聲音控制電腦,我們有這樣的想法很長一段時間了。你知道,我們有Siri,以前還有其他一些産品。對我來說,之前這些産品在使用上從來沒有自然過。但是這個新産品,它的流動性,柔韌性,簡直太棒了,我簡直不敢相信我這麼喜歡用它。”奧爾特曼表示,試用了一周左右的時間,當他在工作的時候,把手機放在桌子上,然後根本不用換界面。他在做某件事的時候,通常會停下手頭的工作,切換到另一個标簽,比如谷歌,再四處點選。但現在,使用者隻需要提問,它就能給出一個即時的回應,一點也不影響我在電腦上看東西,這是一件非常酷的事情。

對于GPT-5,奧爾特曼強調,AI并不總是帶來驚喜。

“我們仍然可以叫它GPT-5,并以不同的方式釋出它,或者我們也可以給它一個别的名字。不過,如何為這些東西命名對我來說并沒有什麼特别的意義,比方說釋出從GPT- 1到 GPT-4。顯然GTP-4會繼續變得更好。我們也有這樣的想法,可能會有一個潛在的、類似于虛拟大腦的東西,它可以在某些情況下更加努力地思考。或者可能是不同的模型。是以目前我們還不知道如何去在市場上推廣我們的産品。”奧爾特曼稱,随着模型規模越來越大,會使用更多計算,進而發現令人難以置信的效率提升。

展望未來,周健強調,他希望GPT大模型提升長時記憶或者社會智能,以及希望擁有更強的邏輯推理能力,進而代表它會有一定的反思能力,而目前GPT-4o其實還是一個“缸中之腦”。

奧爾特曼稱,大模型開始具備越來越多的能力,很多年以後,人類仍然會關心其他人類。我們是如此傾向于長期關注,以各種各樣的、大大小小的方式——都是對其他人的癡迷,但人類未來不會在意 AI 帶來的作用。

“我們都應該希望有一個非常智能、非常便宜的世界,人們用它做各種各樣的事情:我想要閱讀我所有的郵件,然後幫我回複;我想要治療癌症。你當然會選擇治療癌症,但答案是,你喜歡它同時做這兩件事,我隻是想確定我們有足夠的錢來做這些。”奧爾特曼稱。

出門問問創始人兼CEO李志飛強調,“人機互動這個渣男,因為GPT-4o的出現,有望真的重新做人,開啟下一波的科技、應用、和商業模式的革命,期待下一個十年。”

(本文首發于钛媒體App,作者|林志佳,編輯|胡潤峰)

繼續閱讀