原創 新智元 新智元
新智元報道
編輯：潤 Lumina
【新智元導讀】Sam Altman近日曝出驚人預言：2030年之前就會出現AGI，也就是GPT-10，屆時它的智商将超越全人類總和！
「人類可能在2030年之前，開發出AGI」。
Sam Altman在最近的播客采訪中透露，GPT-10就是AGI，它比全世界所有人加起來還要聰明！
而當主持人問道，如何定義AGI？Altman稱：
如果我們能夠開發出一個系統，能自主研發出人類無法研發出的科學知識時，我就會稱這個系統為AGI。
ChatGPT的橫空出世，已經在世界各地掀起了巨大的沖擊波，遠遠超過AlphaGo人機大戰的反響。
或許你會問，OpenAI究竟想要的是什麼？
WIRED在本期的封面報道中，深度分析了OpenAI的雄心、戰略，以及它在企業發展過程中保留實驗室文化的嘗試。
文章指出，OpenAI的最終的目标：改變一切。
其中還有有趣的一點是，OpenAI的财務檔案甚至規定了一種退出應急方案，以防人工智能摧毀我們的整個經濟體系。
也就是說，當真正AGI降臨那天，如果它成為「天網」，OpenAI還有備選項。
AGI還有多遠？
Sam Altman如何設想一個人類和人工智能共存的世界？
在他看來，人工智能什麼時候會徹底改變我們的生活方式？
近日，來自挪威管理基金的企業家Nicolai Tangen與Sam Altman開啟了對談，深度解答了AI将如何影響世界。
Sam Altman的願景是讓AGI能夠讓人類能夠不需要去做那些「不得不做」的工作，進而讓每個人都去做自己喜愛的，能夠全情投入的工作。
他用他自己舉了個例子，他說他非常熱愛自己現在的工作，現在做的一切事情都是自己非常願意投入其中的事情。而也許在AGI到達的未來，所有人都能像他一樣，隻做自己願意做的事情，這樣就能充分發揮每個人的潛力。
「當開發出GPT-10的時候，也許他能比全世界所有人的加起來還聰明，你能想象在他的幫助下人類的生産力會有多大的提升嗎？」Altman這樣說到。
而如何到達這樣的一個終點，Altman也給出了一些具體的說法。
他稱：「我和公司中的員工說，我們的目标就是每12個月能讓我們的原型産品性能提升10%。」「如果把這個目标設定到20%可能就會有些過高了。」
根據他的說法，在OpenAI中，可能15%-20%的員工是真正動手寫代碼的。
如何讓團隊能夠高效地工作，是影響他們最終目标能否實作的關鍵因素。
如何上司團隊
當主持問到他是如何在公司内管理和晉升員工時，Sam Altman稱，他覺得AI其實很适合做上司人的角色。
如果某天開發出AGI了，他就會讓它來當OpenAI的CEO，自己就可以稍微休息一下了。
他說，其實很多上司者往往會因為沒有做好3個事情而讓自己的公司走向失敗：
首先是沒有花足夠的時間精力在招聘上，進而沒有辦法建構一個良好的團隊。
其次是沒有花足夠的時間精力上和團隊溝通前進的方向和價值觀。
第三點是沒有花足夠的時間和精力在思考戰略方面的問題上，這樣會永遠陷在細節中無法前進。
而從個人的角度，他相比于從外部雇傭一新人擔任上司崗位，他更願意從内部提拔老員工。
不過當他把一個新人放到一個上司崗位上之前，他往往會和他先聊聊，然後告訴他，有幾個問題是未來你可能會遇到的，你需要先解決好。
然後再和他說，當然你可以完全不考慮這幾個問題，按照你自己的想法去做，不過呢我會先把這幾個問題寫下來，等到3個月或者6個月之後我們再來看看事情會不會像我說的這樣發展。
往往3個月到6個月之後，他們都會來和Altman說他們注意到這些問題了。是以提前告訴他們這些問題并且允許他們犯錯是很重要的。
總之，盡可能地獲得好的人才，然後讓他們盡可能快速地成長，盡可能多地建立信任是管理天才的一個好辦法。
與此同時，讓使用者和大衆能夠意識到OpenAI不斷開發的産品的優勢，讓更多人接受和使用他們的産品也是達到AGI之前必須要處理好的事情。
奇點降臨時，人類需要做好準備
Altman在《Wired》的文章中描述了年初是如何處理ChatGPT和GPT-4釋出的。解釋了為什麼OpenAI在GPT-4即将完成并正在進行安全工作時釋出了 ChatGPT。
「通過 ChatGPT，我們可以引入聊天功能，但後端功能要弱得多，并讓人們更加漸進地适應」他說。 「GPT-4 需要立即适應很多事情。」
當 ChatGPT 的興奮消退時，使用者可能就已經為GPT-4做好了準備，它可以在幾秒鐘内通過律師資格考試、規劃課程大綱并寫出一本書。
陰謀論者人可能會說，新産品的釋出節奏與公司對投資者和持股員工的承諾有關，這樣才能保證賺錢。
但 OpenAI 堅稱，其真正的政策是為奇點降臨提供一個能夠軟着陸的環境。
「秘密建構AGI并将其投放到世界上是沒有意義的，」Altman說。 「回顧工業革命，每個人都認為它對世界來說是偉大的，但前工業革命之後前50年确實很痛苦。大量失業、大量貧困，然後世界就适應了。我們正在努力思考如何才能讓AGI被世界适應之前的時期盡可能輕松。」
如何應對監管将決定目标能否實作
OpenAI雇傭了很多能夠幫助自己和監管機關進行良好溝通的人，希望他們能幫助OpenAI避免科技公司之前所遭遇到的一些困難和挑戰。
Makanju是出生于俄羅斯的華盛頓特區内部人士，曾在美國駐聯合國代表團、美國國家安全委員會和國防部擔任外交政策職務，并在喬·拜登擔任副總統時擔任過辦公室職務。
「我在美國政府和歐洲各國政府中都有很多關系，」她說。她于 2021 年 9 月加入 OpenAI。當時，政府中很少有人關心生成式人工智能。
知道OpenAI的産品很快就會改變這一現狀，她開始向政府官員和立法者介紹Altman，確定他們首先聽到OpenAI好消息和壞消息。
參議院司法委員會主席理查德·布盧門撒爾表示：「Altman在與國會議員打交道時非常樂于助人，而且非常精明。」他将Altman的行為與年輕的比爾·蓋茨進行了對比，後者在 20 世紀 90 年代微軟接受反壟斷調查時，不明智地阻撓立法者。
「相比之下，Altman很樂意花一個小時或更長時間坐在我身邊，試圖教我，」布盧門撒爾說。 「他并沒有帶着一支遊說者或看護者大軍。他示範了ChatGPT。這真是令人興奮。」
對于AIGC本身可能帶來的資料版權問題，3月份正式加入 OpenAI 的精英知識産權律師Tom Rubin)樂觀地認為，該公司最終将找到既滿足自身需求又滿足創作者需求的平衡點，其中包括那些像喜劇演員 Sarah Silverman那樣起訴 OpenAI 的人。
使用他們的内容來訓練其模型。OpenAI 路徑的一個暗示：與美聯社和 Shutterstock 等新聞和圖檔機構合作，為其模型提供内容，而不會存在所有權的争議。
風險和收益的關系
在訪談中，Altman還聊到了很多自己對于創業，管理以及未來AI和科技行業可能産生的變化等問題。
Altman稱「可能大部分的人都高估了風險，低估了收益。」
他進一步解釋道：「很多人都不太會做一些有風險的選擇，比如說開一家公司，去争取一個自己願意投入其中的工作，或者去實作一個産品創意。他們總是覺得這太冒險了。」
「但是當你和他說那我們就具體來看看有些什麼風險的時候，人們會說因為公司可能會倒閉，但是一份穩定的工作能讓你一直很穩定。」
「但是在我看來，就像很多人擔心其他的風險一樣，我個人覺得如果一個人20年都在做一份沒有進步，沒有新東西産生，沒有學到新的知識的工作，這樣的工作的風險是災難性的。」
而對于他剛剛完成的環球通路，他也聊了自己的感受。
他覺得，在大多數的開發中國家，人們最關心的是AI技術能在經濟上給人帶來什麼影響。
而在更發達的國家中，對話更多是關于如何AI又什麼缺點，可能會對現有的事物産生什麼破壞。
和微軟的關系
當主持人問到Open AI和微軟的關系時，Sam Altman回答到：從宏觀的角度看，兩家公司更像是合作的夥伴關系。微軟為OpenAI提供硬體和算力，OpenAI來訓練模型，然後得到的模型，兩家公司一起分享。
提到最近有消息爆出的OpenAI和微軟在業務上也會有些沖突，似乎關系沒有那麼看起來那麼緊密，Sam Altman說：
「就像生活和商業中的任何關系一樣，沒有什麼關系時完美的，但是最重要的是，在最高層的處我們會保持一緻，是以我隻能說，我們的關系非常好。」
「因為不存在一種關系是我們對所有的事情都會保持一緻的看法，但是我們會在很長時間内都保持一個非常強的互相了解和妥協的能力。」
能夠以長遠的視角來進行思考是一項巨大的競争優勢
當主持問他你覺得自己最大的強項是什麼的時候？
Sam Altman回答到，他認為自己是最大的能力是能夠長遠地思考問題。因為幾乎沒有人會以這種方式來思考。
但是在他看來，這是為什麼他們最終能開發出AGI的一項必要能力。
因為AGI可能是50年以後發生的事情，沒有人會以這個東西為目标來指導和安排每天的工作，但是如果不這樣做，最後就很難達到這個目标。
在AI之外他最感興趣的事情是可控核聚變
他覺得如果人類要創造一個富足而無憂無慮的未來，最重要的兩件事：
首先是讓智能的成本大幅度地下降，其次就是讓能源的成本大幅度的下降。
OpenAI在做第一件事，而第二件事，可能隻有可控核聚變才能達到。
能讓人類可以獲得無限的清潔能源會改變一切。
OpenAI開發者大會
讓我們從Altman描述的未來時間中回來，看看現實中，OpenAI最近的進展是什麼：
就在今天，OpenAI宣布将在11月6日美國加利福尼亞州的舊金山，舉辦OpenAI的首屆全球開發者大會—— OpenAI DevDay。
OpenAI團隊将與來自世界各地的數百名開發者在大會上交流想法并展示OpenAI的最新研究成果。
此外，現場的開發者還能參與OpenAI技術人員上司的分組會議。
雖然OpenAI DevDay以現場活動為主，但包括主題演講在内的部分會議将線上上直播。
線下的參會人數上限為幾百名開發人員，以確定為與會者提供親密的體驗。
大會報名位址：https://devday.openai.com/
OpenAI沒有透露将在大會上展示的研究。
但GPT-5出現的可能性較低。因為在3月28日上萬名技術專家簽署的暫停比GPT-4更強的人工智能公開信後，Altman在四月公開表示OpenAI停止了對GPT-5的訓練。
大會上很可能會展示OpenAI在8月收購的Global Illumination，以及GPT-4圖像了解功能可用性的最新情況。
此前，出于對隐私的擔憂，圖像了解功能一直未上線。
這次OpenAI舉辦開發者大會，也預示了OpenAI希望建立一個開發者社群的願景。
自2020年開放API後，OpenA就I一直不斷對其進行更新和更新，以納入最先進的模型。
全球的開發者也是以能通過比以往任何時候都更簡單的API調用，将尖端的人工智能內建到自己的項目中。
如今，已有超過200萬名開發者正在把GPT-4、GPT-3.5、DALL-E 和Whisper應用到廣泛的領域中：
從将智能助手內建到現有應用程式，到搭建以前無法實作的全新應用程式和服務。
CEO Sam Altman表示，「我們期待在開發者大會上展示OpenAI的最新研究成果，能夠幫助開發人員實作新的創意和想法。」
但對OpenAI而言，開發者大會也是一次絕佳的營銷機會。
據The Information報道，在ChatGPT享譽全球的同時，OpenAI為開發ChatGPT，在去年一年就花費了5.4 億美元。
但因為ChatGPT亮眼的表現，以及OpenAI更多産品的推出，如企業級的ChatGPT等，OpenAI明年的收入預計可達10 億美元。
但随着人工智能競争的加劇和人工智能硬體成本的飙升，GPU的短缺等等一系列挑戰，OpenAI必須找到更多更好的出路。
DevDay的召開是OpenAI發展的一個裡程碑。
大會不僅提供了OpenAI與開發者社群互動的機會，宣傳了OpenAI的最新成果，還鞏固了其作為AI行業上司者的地位。
對這次開發者大會，網友們可謂是期待十足，紛紛表示等不及了！
「實在等不了了！」
「這泰酷辣，等不及了！」
也有人因為線下會議名額有限，或是不能到會，希望OpenAI能全程直播大會的所有内容。
「你們是否有可能對整個會議進行現場直播，因為有很多感興趣的開發人員不在舊金山，他們肯定是希望了解與開發人員能力和體驗相關的所有資訊的。」
如此期待OpenAI DevDay，也是出于網友們對OpenAI産品和服務的喜愛。
他們對OpenAI的評價相當高：
「我從五月份開始使用他們的服務，随着時間的推移，OpenAI的服務變得越來越好：速度更快，也不會出現掉線不準确的情況。
對我們來說，這就是他們非常重視平台的建設最好的證明。
雖然我不是他們的忠實客戶，而且由于需要簽署資料保護協定（DPA），實際上在使用OpenAI的産品時需要為我們的一些客戶另辟蹊徑。
但選擇OpenAI是非常值得的。」
參考資料：
https://openai.com/blog/announcing-openai-devday
https://www.youtube.com/watch?v=O77UyYK51s4&t=1670s