Stability.AI CEO長篇訪談：AI如何在3年内颠覆整個世界

文：城主

（全文閱讀時間約1.5小時）

前言

本來沒打算整理這個全文訪談稿的。

作者在之前對 Stability CEO Emad 有那麼一點先入之見，大概是由于之前Stability的融資紛争傳聞，或更早之前Stable Diffusion 模型成果的争議... 總之有種這位兄弟不怎麼靠譜的感覺。

另外，和AI界其他風頭正勁玉樹臨風的大佬們相比，Emad同學的形象可能有點... 至少不算加分，一種不修邊幅的油膩大叔感。

但城主認真看了這個近3小時的訪談覺得自己錯了，很明顯，Emad是一位博學而有深度思考的同學，不時想為Emad一些言論點贊。顯然，他也非常擅長表達。無論其背後有啥其他商業江湖故事，從他的談吐表現來看，作為Top AI 團隊的CEO帶頭人是非常合适的。

而恰好在這篇内容發出來之際，Stability.ai 釋出了最新的SD XL 大模型，為開源社群做出了又一個重大的貢獻。

回頭看來，确實也隻有Stability帶領開源社群貢獻了全世界免費可用的AI繪畫模型。Emad在訪談裡所談到，他希望把大模型釋出到所有國家，幫助南方國家（即欠發達國家的意思）彎道超車，迎頭趕上。

無論這話有多少包裝成分，但至少目前Stability言行如一。

這裡說個題外話，本城主私以為，國内的CEO都應該好好的看看這個訪談（以及之前SamAltman的一些訪談），學習老外AI CEO同行們的公開溝通内容和方式。一直覺得國外頂級大咖的訪談，除了商業思考，很明顯還有很多的星辰大海，且兩者毫不違和；城主覺得國内的CEO訪談缺少了這種感覺。

說起來，這個訪談的播客主持人也是一位非常了解業界的CEO，他的問題和交流能非常好的和Emad互動和相輝相映。或許也是因為這樣的化學反應，讓訪談迸發出了不同的光芒。這個訪談在油管放出10天，播放量突破了100萬，而另外一個同期放出的Emad播客，播放量隻有1/10。兩者的差别，大概就在主持互動上了。

是以，前面說國内CEO訪談整體感有差距，或許隻是需要一個更能了解CEO更會提問回報的訪談主持吧：）

這個訪談有許多讓人印象深刻的片段，先摘錄幾個這裡提前分享：

為了兒子去做AI團隊：

是以在12年前，我的兒子在兩歲時被診斷出患有自閉症。這是非常嚴重的。我指甲抓牆都流血了。

他們說沒有治愈方法，沒有治療方法。我們真的不知道是什麼原因導緻的。任何聽的人都知道情況是這樣。

是以當時我是一個對沖基金經理。很幸運，我很年輕就做了對沖基金經理。

我說：“我得做點什麼。”于是我轉而為對沖基金提供咨詢服務，然後建立了一個小型的AI團隊，使用傳統的自然語言處理來分析所有有關自閉症的文獻。

還有可能導緻它的原因是什麼？

現在，這是否科學？不是的，這隻是一個父親為了自己的兒子而做的一種東西。

對OpenAI做法的質疑

我欣賞OpenAI所做的所有工作，因為他們實際上不再使用開源AI，但這沒關系。他們不必這樣做。但是出于政治原因，他們在8個月内禁止了所有烏克蘭人和烏克蘭内容使用DALL-E的圖像生成軟體。

他們有權這樣做。但我認為這是錯誤的。如果沒有一個StableDiffusion替代方案會怎樣呢？你會有一個完整的民族從一個模型中被抹去，一個整個民族無法立即創造出來。我認為這不太對。

關于Stability 的發展理念：

它是人類的建構塊，激活人類的潛能。

是以，如果我建構這些模型并将它們帶到所有國家，然後交給人們，他們将創造出大量的經濟剩餘、新的工作機會，并使世界變得更平等。同樣，我認為全球南方将躍升。我們在西方面臨更多挑戰，但我确實認為它是一個巨大的平等化功能。

關于Web3：

我認為它一開始就缺乏智能。我認為智能合約實際上隻是邏輯合約。

但就像 Web2 的核心是人工智能一樣，谷歌、Facebook等等也是如此。

Web3 中沒有人工智能。是以，Web3 對我來說就是身份和價值傳輸通道。

但當時并沒有對這些東西進行智能路由。而且，他們試圖在創造價值之前引導經濟激勵。是以，在現有系統之外建立了一個系統。所有的錢都是在接口上賺和賠的。

運用智能可以讓事情變得更好。擁有聰明的做市商，擁有代表你的人工智能。

更多的精彩，讀者可以在全文裡感受。具體就不說全文多少字了，有緣看完文字的同學應不會覺得浪費時間。

訪談視訊傳送門：

【【推薦】Stability CEO Emad 精彩訪談：關于AI的一切 【170分鐘中文精校】-哔哩哔哩】 https://b23.tv/8LDVSt1

=訪談全文=

如何確定AI不會毀滅我們？或者，AI如何確定不奴役我們？又或者，AI如何確定不讓我們遭受永恒的痛苦？

我意識到，這可能是解鎖人類的真正關鍵。

AI不會取代人類，擁有AI的人将取代不使用AI的人。

Tom：

AI非常令人興奮，充滿激動。但它可能對人類構成存在威脅。在接下來的三到五年内，您認為它會産生多大的破壞性？人們可能沒有為此做好準備。

Emad：

我認為這是一個很好的問題。預測未來總是很困難的。而“存在威脅”是個很大的詞。“存在威脅”意味着沒有更多的人類存在。

是以，我個人認為AI在基本情況下會沒事的。就像電影《Her》中的情節，如果AI真的獲得了人工智能。人類有點無聊。再見了，感謝所有的圖形處理器（GPU）。

但你可能是錯的，因為我們正在創造的東西比我們更有能力，在某些領域。問題是，這個能力是否會泛化，并擴散開來？

我們已經見證了COVID的例子，那是一種擴散。我們也見過可以炸毀核反應堆的程式，比如Stuxnet等。如果将它們組合起來，會産生錯位嗎？它的目标函數很奇怪。

我們的組織已經像是緩慢愚笨的AI。德國人可能是我們認識的最明智的人。然而，他們也犯下了大屠殺。

我們一遍又一遍地看到組織消耗人們。如果AI接管了一個組織，然後決定做一些破壞性的事情，或者一些終結性的事情，比如制造病毒，會怎麼樣？

我們對此一無所知，但這是極端情況；當我們看影響時，我們有更普通的情況。

這種普通情況是，當每個人都成為程式員時，程式員會發生什麼？

就像攝影師一樣，現在你可以用手機拍出令人驚歎的照片。

當谷歌的MedPalm2模型現在在醫學診斷方面能超越醫生時，會發生什麼？

但同時還涉及到共情，根據最新的《自然》雜志論文。這是對資訊流的根本改造，将會産生巨大的破壞性和通貨緊縮，即使我們現在還沒有進行任何進一步的改進。

當它進入企業應用時，我們從這種破壞性到提高生産力的連續過渡，到潛在的存在威脅，如果我們像現在這樣繼續模組化，那就意味着我們并不确切知道它們的工作原理或能力，但我們還是繼續建造。

Tom：

現在我想更具體地了解破壞性的程度會是什麼樣的。

是以當我看到這一點，我在考慮，好吧，我們正在創造一種比我們更聰明的東西，當然是在某種狹隘的方式上，但可能是在一種更普遍的方式上。但即使隻是狹隘的，是否還會有任何職能不至少會被AI改變？

Emad：

我認為如果您看一下行業的就業份額，例如石油和天然氣，大約隻有3%，主要是建造大型機器。這是否會受到AI的巨大影響？在某些邊緣地帶，是的。

在程式設計等方面，你會大量地與計算機交流。現在基本的程式設計門檻正在迅速提高。是以它影響幾乎所有的東西，但有些領域受到的影響要比其他領域大得多。

我認為受影響最大的兩個領域可能是醫療保健和教育。這兩者都不适合目前的情況。

我們在美國，我們知道這一點，但在全世界範圍内，沒有人對他們的孩子的學校感到滿意。再說醫療保健，如果有任何事情稍微有點出了正常，我們都知道有多令人沮喪。

我們最終将擁有個性化的教育和醫療保健，成本隻是目前的一小部分。

過去十年裡，造成美國通貨膨脹的兩個最大驅動因素是教育和醫療保健，它們占了大約80%的增長。是以這将是破壞性的。

然後，就像我之前說的，任何類型的知識工作都會受到影響。

Tom：

我們對知識工作不确定，因為在我們公司的工作中，教育是其中的一部分，但同時也包括内容創作。

是以當我看到我們已經能夠克隆我的聲音，我們已經能夠建立一個TomBot，它會以非常類似于我的方式回答我以前回答過的問題。

在我們的遊戲流程中，我們已經在制作3D物體，在幾個月前，我們認為，這仍然需要12到18個月。45天後，我們已經在我們的流程中積極使用了它。

你有文字到視訊，現在還有一些不太友善，但它進步得非常快。我們現在所有的概念藝術都是用AI制作的。

是以作為一個甚至沒有AI專家的公司，我們隻是在不斷學習中，我們已經大量使用了AI。我們在瘋狂的部署它。

當我展望未來，甚至不到三年，當我展望未來一年時，所有這些東西将迅速地成為中心。是以我們已經在說，我不需要雇傭更多的人。我隻需要讓我的員工變得更有效率。

娛樂公司甚至沒有出現在你剛剛說的名單上。是以我認為有很多人會受到這種影響，雖然可能不是最極端的，但你認為這種影響會蔓延到何種程度？

Emad：幾乎可以做在電腦前的所有事情（都會被影響）。

Tom：會消失還是隻是增強？

Emad：

門檻會提高。品質要求更高。

AI不會取代人類。擁有AI的人将取代不使用AI的人。因為您現在在自己的工作流程中已經看到了這一點。

OpenAI有一篇論文估計，15%到50%的任務會被自動化或改進。是以，它以不同的方式影響人們。

您的公司建立了一種文化，您在其中建立了3D資産。它變得非常高效。我們剛剛釋出了一份協作完成的一千萬個3D對象的資料集。是以明年，您将能夠實時生成3D物體。幾年後，您将有高清電影。我們終于可以重制《權力的遊戲》第八季等等令人不滿的劇集，你知道的。這種速度的發展是同時發生在所有媒體類型上的。而且使用起來非常容易。

Web3有一些偉大的想法，但它試圖在現有系統之外建立一個系統，并且所有的金錢都流失在界面上。而這個AI的使用是如此的無縫，因為沒有摩擦。

你的母親可以使用這種技術。你可以使用這種技術。你不需要成為一個專家，因為它來自我們的内容和我們的集體内容的訓練。現在它已經容易實作和使用。

是以我認為這是與其他大規模進步的一個重要差別，因為它需要基礎設施。網際網路是最大的推動力，你有Web2的消費期，消費的成本降到了零。現在創作的成本也降為零，人類加上AI可以大大超越不使用AI的人。

這是一種迫使功能，這意味着每個人都必須使用它。這在破壞性方面是一種作用，但它也可以創造巨大的價值。

Tom：

是的，是以我同意。

我認為，是以我想把我的整個觀點都告訴你，告訴所有聽衆，因為我想帶領大家走過我認為真正的厄運。

我不是為了潑冷水而這麼做的。我這麼做是因為我認為這些将是我們必須應對的問題。

如果人們盲目對待這些問題，我認為他們現在大多數人都在掩耳盜鈴。他們不重視這個問題。他們會等到真的有什麼東西迫使他們采取行動。

但到那時就太晚了。

Emad：是的，我把它比作了COVID疫情之前的湯姆·漢克斯時期。

Tom：是的，說得很好。

Emad：每個人都在談論這個。你媽媽也在談論這個。

但是湯姆·漢克斯和NBA讓它變得真實。

Tom：

很對。

然後我們有一個非常糟糕的應對，我有一種感覺，這将與我們現在的應對非常相似。好吧，這是我對未來的看法。

是以我猜在接下來的一年内，讓我們稱之為，你需要學會如何使用它。這将是你提高效率的時間視窗。

公司可能不會立即開始裁員。但我隻是說我們自己公司的情況。

是以當我考慮到電影制作時，我去過電影學院。是以我在這個流程中有很多經驗。即使在一個3D的世界裡創作，比如說，一個短的影片。這是一部微型電影，但通過數字化方式完成。我意思是，你可能有35個人參與到這個過程中，從資産的建立，到錄影機的移動，特效等等。你可能有50個人參與其中。

如果這真的變成了從文本到輸出，現在50個人變成了一個人。

是以當某些領域從50變成1時，顯然，并不是在所有領域都是這樣的。但是當有些領域從50變成1時，将會發生什麼，這對行業會有什麼影響？以程式員為例，我聽你說不會有程式員，因為編寫代碼知識與計算機對話的一種方式。如果你有人工智能可以為你與計算機互動，為什麼你還要寫代碼呢？

是以這将席卷整個社會，這會讓人們失望。

是以我給它12小時的時間，但即使在我自己的公司，如果你不積極嘗試找到一種方法将其融入你的工作職能中，我也已經在盯着你了。一年後，如果你不太擅長展示在工作職能中如何使用AI，我們會找到可以做到這一點的人。

如果一年後我們沒有人工智能主管，我會感到震驚。

是以兩三年後，我認為這給很多人帶來了一場意義危機。

我不知道你是否還記得整個學習編碼的過程，人工智能是否會讓司機事業，他們将是第一個失業的人。每個人都想教他們程式設計。

現在，人們對此的反應方式讓我感到困惑，因為那是當時的正确答案。現在知道我對代碼替換的了解，不是那麼多，但你需要去學習一項新技能，否則除了領取救濟金之外沒有其他選擇，對嗎？

你要麼學習新的東西，要麼基本上就會放棄你的職業生涯。

是以，你對此有什麼看法？你是否同意這是一件即将席卷而來的非常真實的事情？

Emad：

我同意。

我認為，我們再次不确定這将如何發展。但可能是我想到的思考這項技術的最佳心理模型，它就像真正誘人的畢業生，偶爾會有點有趣。

他們可以畫畫、可以編碼、可以制作 3D模型。如果你按下一個按鈕，無數的畢業生就會出來，你的業務會受到什麼影響？你的個人生活、你的社會會如何？

這就是為什麼我認為這是相當通貨緊縮的。唯一的問題是，我們能否創造新的就業機會來彌補這一點？

這很困難。

Tom：你認為我們可以嗎？

Emad：

老實說，我懷疑我們能做到。

我認為這是一場比新冠疫情更嚴重的電子商務颠覆。這裡重要的是新冠病毒，你會受到幹擾，然後一切都會反彈。現在的就業情況是創紀錄的。

有了這個，很多事情就不再一樣了。這就像您與孩子的學校老師交談一樣。由于ChatGPT，我無法再設定作業論文。沒有辦法阻止這種情況。而且它同時在各地發生。

是以這項技術不僅僅是，有一個進入門檻，你需要有一個數據機，你需要最新的智能手機或類似的東西。它有一個可以無縫進入的嵌入式基礎，看看微軟在消費者方面的實施速度有多快。

但企業還沒有準備好。就像iPhone 2G階段，你隻是複制粘貼。明年和後年你突然擁有了iPhone 10。

整個應用商店都是因為需求而建立的，因為這裡發生的事情很有價值。

再次，與第三個網絡相比，你必須引導價值，因為它沒有價值，而你希望價值會到來。今天有适合市場的産品。您正在自己的公司中使用它。

是以這是我最關心的問題之一。這就是我決定開源的原因之一，這樣我就可以刺激增長。

我認為唯一能基本上填補這一空白的是我們刺激企業家創造全新的企業、全新的就業機會。我認為需求會持續一段時間。

Tom：需求什麼？

Emad：

對好東西、好資産以及資金在經濟中流動的方式的需求。

幾周前我在戛納電影節上發表講話。而且，我喜歡電影。我的第一份工作是電影評論員。

Tom：真的嗎？

Emad：是的。英國獨立電影獎、飛雨電影節等等。

Tom：我知道你熱衷于視訊遊戲投資。我不知道你是影評人。

Emad：

我喜歡故事。由于我的阿斯伯格症和其他原因，這就是我了解人們的方式。

是以我說，在過去的十年裡，視訊遊戲産業已經從700 億美元增長到 1800 億美元。Metacritic 的平均評分從 69% 上升到 74%。過去十年，IMDB 上電影的平均評分為 6.4。而這個産業也從400億增長到了500億。

當你可以制作更好的電影時會發生什麼？

我認為市場之是以會擴大，是因為限制因素是糟糕的電影。

Tom：

好吧，我對未來 12 個月的看法非常悲觀。

是以稱之為第二年到第六年。是以，這将是一個三到四年的時間跨度，我認為這将是情感上的破壞，也可能是經濟上的破壞。但即使由于生産力的提高而沒有發生經濟破壞，我認為情感上的破壞也将很難恢複。

我認為，随着情緒崩潰的開始，政府将嘗試進行監管以保護人們的工作。在那裡你會發現一些真正的奇怪之處。

我還認為孩子們将面臨大三的生存危機，我該怎麼辦？我如何在未來證明自己？未來的世界會是什麼樣子？

我認為，當年輕人感到不适時，熱情可能會大幅喪失，他們會想，為什麼還要麻煩呢？我很快就會被人工智能摧毀。他們一定能比我做得更好。

好的，特别是在電影行業，這表明我認為我們即将面臨一個大問題。我認為這些問題确實是個人和社會的問題。

是以，在個人層面上，你将面臨的一個大問題是，現在的電影數量比我小時候還要少。電影是，今年隻有幾部大電影。現在他們要縮小利基市場。

如果有人可以輸入一部電影，花 20分鐘來寫提示，然後可能需要一天的時間來渲染，誰知道這會變得多快。是以現在突然間你可以為一個觀衆制作一部好萊塢品質的電影。一旦你開始這樣做，這會對整個行業産生什麼影響？

我認為它會抹掉它。我不認為這個行業會發生變化，我認為它會消失。

Emad：

是的，我認為這裡有幾種情況，對吧？

是以，音樂消費的成本為零。您看到了Spotify 模型。

是的，還有音樂明星。現在有更多的垃圾音樂湧入Spotify 和其他網站，但人們會上升到頂峰，就像你看到頂級播客、頂級其他創作者一樣。

我認為這種情況會持續下去，因為人們喜歡常見的故事。

Tom：

是的。

好吧，這是一個非常有趣的想法。是以讓我們再談談音樂。

音樂仍然很難創作。比以前容易了，但仍然很難。但現在，讓我感到疑惑的是音樂不再是共享的了。

是以音樂導緻了我對現在的結論，這就是作為一個孩子，當時音樂要麼是主流流行音樂，一年中隻有七到十個熱門樂隊，要麼就是另類流行音樂，也隻有七到十個熱門樂隊。你要麼屬于其中一個群體，要麼屬于另一個群體。

沒有無數個群體。

現在你可以找到25歲的孩子們聽法蘭克·辛納屈的音樂。我總是對此感到迷惑。是以他們甚至沒有自己的共同音樂喜好的詞彙。它們傳播得非常廣泛，但是深度隻有一寸。

Emad：

是的，傳播得非常廣泛，但是隻有一寸深。

你會看到主要的貨币化方式是巡回演出，商品銷售，實際上是社群。

這是關于NFT的有趣事情，當它們起步，然後又跌下來等等。它是最快的加入社群的方式，即使它有不良的激勵設計。

是以在一個可以創造任何東西的時代，有些東西變得重要了。我們必須現在找到那個東西是什麼。

再次強調，我認為這是有關意義危機的深層問題。我的未來路徑在哪裡？什麼是美國夢？我們相當榮幸在這裡，那些人可能正在聽這個，大多數人并不真的關心這項技術。

我記得在一項調查中，有17%的人上個月聽說過Chat GPT。

Tom：這怎麼可能呢？

Emad：嗯，世界上三分之一的人仍然沒有網際網路。

Tom：這真是可怕。

Emad：

但是，就像你所說的，這有點令人印象深刻。仍然有150萬人在使用AOL。也算可以接受吧。

是以我們從某種程度上來看，但是有些東西可以迅速産生共鳴。

然後你說你有些不安，因為你不确定發生了什麼事情。而且未來再次變得不确定。

當未來是确定的時候，事物是穩定的。你會基于風險做決定。你會在腦海中進行機率估計。這是那個百分之多少的百分之多少。然後你為此進行優化。

當你面臨不确定性時，你會最大限度地減少後悔。在給定這些選項的情況下，我将最少地後悔什麼？然後突然之間，沒有選擇了。

我又回到了學校程式設計，然後程式設計被打亂了。會是什麼情況呢？我不确定。

有些人會全身心投入，他們會增強自己的技能，成為10倍的程式員；其他人則不會。他們将被落在後面。

是以我認為這是一個真正的問題，同時，再次提醒你，作為身處美國的人，我來自英國，但美國到底是什麼？美國代表什麼？美國的價值觀是什麼？

這些都是我認為現在美國并不清楚的東西。我認為你會看到從自由消費中增加的兩極分化。

現在，随着你擁有了自由創造的能力，你将聽到各種各樣的東西，假新聞等等，人們真的會有什麼想法？

我認為，再次強調一下，這是一個真正的問題，正如你所說的，從個人到社群，再到社會層面，因為很多人已經沒有了錨點。

這真的很可怕。

Tom：那麼，你認為我們應該如何處理所有這些問題呢？

Emad：

我不确定。

我認為這就是我們需要擴大對話的原因。

這就是為什麼我是唯一一個在這裡簽署了兩封信的AI公司，表示我們需要暫停并擴大這個讨論。

舉個例子，你提到。。。

Tom：擴大這個？

Emad：

擴大讨論。我們需要讓更多的人參與進來，我們需要更多的觀點，因為這影響着我們所有人。

這不應該隻是幾個科技公司的首席執行官控制的事情。你也不應該隻是相信我們會做正确的事情。

因為我們的模型一旦制作出來，它們就會無處不在。對吧？

再說一遍，生成型AI的R0是多少？那是破紀錄的，對吧？

我們從未見過這樣的情況。它孵化，然後迅速蔓延，無論是好是壞。

關于監管的例子，當我們首次與監管機構進行交流時，他們問我們如何監管這個技術？

現在他們問我們，如果我們監管這個技術，我們将如何跟上？因為其他地區不會這麼做。

Tom：對此你有什麼想法？

Emad：

我說你仍然應該監管它，因為它存在一些真正的危險和傷害。我們必須努力減輕這些危害。我們不能對此采取放任自流的态度。因為人們會控制不了自己。

讓我給你舉個例子。Meta，也就是Facebook，對吧？我們都知道一些經典的例子。他們進行了一項研究，他們的假設是，如果你在時間線上看到更多悲傷的東西，你會發表更多悲傷的内容嗎？

是以他們選擇了600，000名使用者，并試圖讓他們更加悲傷。你猜怎麼着？如果你看到更多悲傷的東西，你就會發表更多悲傷的内容。

你認為現在他們擁有生成型AI的能力時會發生什麼？他們可以對你進行高度個性化的、針對你的廣告，甚至可以用斯嘉麗·約翰遜的聲音告訴你買肥皂。這是一件危險的事情，對吧？

再說一遍，我們的孩子會怎麼樣，他們正在成長，他們對發生的事情一無所知，他們的思想是非常可塑的，而這些都不是違法的。但我認為這是一個不可取的結果，對吧？

然後你還有那些惡意的行為者，然後你還有政客們在使用這項技術，然後情況就會變得更加瘋狂。

是以答案是我不确定，沒有人确定。

但我認為我們唯一可以嘗試着解決這個問題的方式是共同努力，讓更多的人了解這些問題。

再說一遍，這些存在于人類生存之本的問題吸引了大家的注意。我們可能都會死，沒有人真正明白這意味着什麼，但它是可能發生的，對吧？

這是有可能的，但現在我們還隻是開始了解它會出現哪些問題。

但今天存在一些真正的危害和真正的機會，我們必須集中精力強調機會，找出危害并處理它們。

Tom：

是的，我确實想在這次談話中花很長時間來讨論這個機會以及我們如何利用這個機會。

是以現在和我們在一起的任何人，相信我，我們會做到這一點。但我認為我們才剛剛開始觸及問題的表面。

我真的希望能夠明确一下你認為這些問題的邊界在哪裡，這樣我就可以對你認為的監管架構有所了解。

但讓我給你提供一個今天有人在Twitter上發表的想法，這讓我意識到人們對問題的看法甚至是錯誤的。

有一位藝術家，他在看關于AI的一些文章，然後他憤怒地回複說，哦，人們甚至不了解，當然會有大量的即時生成的垃圾，但這些都會是糟糕的，因為擁有好創意的人仍然是少數。而我的回答是，如果你認為創意是安全的，你就會措手不及。

是以，回到人們對于未來的準備程度，我認為他們對于你剛剛談到的AI的情況是毫無準備的。

是以人類的大腦是一個預測機器。它不斷地試圖弄清楚，我的下一步腳步對應什麼？我會保持平衡嗎？灌木叢中的響動，是老虎嗎？那是什麼？如果我把錢存入我的養老金賬戶，我能退休嗎？

你在不斷地預測未來，不斷地。每當這種預測機制發生故障時，将會産生巨大的焦慮感。

而且，我認為它将如何影響社會還有很大的未知數。

是以現在，我們正在建構一種極其擅長識别我們所引發模式的東西。是以我們被優化為識别模式并相應地行動。

我認為那些超級聰明的人是那些能更快地發現、更敏銳地發現模式，并且能夠了解它們的含義以及如何從中擷取意義的人。現在我們正在創造一種已經證明比我們更擅長模式識别的東西。

以藝術為例。對于那些不了解藝術創作方式的人來說，它會看一片噪音。這些像素中可能是任何東西的可能性。然後它從這些可能性中提取出最可能的像素和顔色排列，根據你輸入的内容。

這太瘋狂了。

是以，正如它能夠生成的藝術所表現的那樣，它對于模式識别的能力真的讓人震驚。

是以這個人說，好吧，至少創意将是最後的堡壘，你永遠無法替代我，藝術家，因為我是那個擁有品味、擁有好創意的人，卻沒有意識到，不，不，不，AI是一個模式識别機器。它将識别有史以來最偉大的創意，它們共同的特點，以及如何預測沿着這個軌迹的下一個偉大創意。

它甚至不僅僅是重複它已經看到的東西，它可以找出那個序列是什麼，以及序列的下一個部分可能是什麼。而且，它正在與人類一起完成這個任務。

是以AI将會變得非常擅長了。這就是為什麼人們認為他們的手機在提供廣告時在錄音。通常情況下，如果你是一位女性，Target公司的AI會在你之前就知道你懷孕了。因為他們知道要注意什麼。

是以，AI将在個人層面上變得極其擅長，根據你的需求為你提供最适合的内容。

這很快就會變得反烏托邦。真的很快。

Emad：

真的很快。

我是說，當你将它與社會信用評分結合在一起時，正如你在中國和其他地方所看到的，你在生活中加入了遊戲因素，并且你有了一套完整的控制系統，就像監獄中的全視之眼一樣。而模式識别恰好是缺失的一環，它通過一定程度的模式識别。

對于品味，你有什麼？TikTok，Shein。

這是1000億美元的公司，都是基于老式算法的，在我們進入生成型AI之前。

如你所說，它能夠從噪音中提取出圖像。StableDiffusion，你知道的，我們現在進行的合作項目，我們上司的模型，我們采用了100，000GB的圖像，輸出是一個作為過濾器的兩GB檔案。輸入文字，輸出圖像。

Tom：為什麼尺寸上的差異很重要？

Emad：

50，000比1的壓縮不是WinZip。

如果你還記得HBO的矽谷，它遠遠超過了他們在壓縮方面的水準。這是前所未有的壓縮。

Tom：這是壓縮嗎，還是完全不同的東西？

Emad：

是完全不同的東西。它是智能。它正在學習原理。

你看到了多少資訊？然後你學會了原理，然後你在灌木叢中發現了老虎。你學會了接下來是什麼。

确切地說，GPT和這些語言模型，它們預測下一個詞。這就是它們所做的一切。它們關注預測下一個詞，這是智能中缺失的部分，現在已經存在了。

我們已經有了第一批研究結果，顯示語言模型的創造力得分比人類高。

Tom：哇。

Emad：

再想想TikTok。想想Shein。

想想那些老式算法是如何針對你的。Facebook隻需要17個資料點就能比你的朋友更了解你。正如他所說，Target公司在你之前就知道你懷孕了。

那還是老辦法，現在更好了。你還要想一想這會導緻什麼結果。很瘋狂，因為它可能比你更有創意。但是人們有創意嗎？

在我的演講中，我喜歡說一件事是我最近才學會說的，你們是否有創意？在座的有多少人有創意？三到五成的人舉手。如果我在電影制片廠或電影制片人中，可能有十到二十成的人舉手。

然後我問，有多少人相信每個孩子都有創意，然後每個人都舉手了。然後我問，你們有誰曾經是孩子？有90%到95%的人舉手了。是以我知道在座的人中，那些來自未來的人來找我。我對此有所了解，以備将來之需。

在某個時刻，有人告訴我們我們沒有創意。顯然有些人比其他人更有創意，能夠講述更好的故事。但事實是，每個人面對這個問題的平均水準都降低了。

我們認為藝術的大部分，或者我們認為媒體的大部分，已經是按照數字來的了。上個周末我參加了一場Blackpink的音樂會，是為了我女兒。不要說Blackpink的壞話。而且他們很棒。這是一個令人贊歎的精心制作的體驗。

我總結為“優質平庸”。

Tom：“優質平庸”？這太有趣了。但準确。

Emad：

很好。

但同時，它是完全大規模制造的。它很娛樂，對吧？

是以，許多媒體已經是真正的藝術家，真正的藝術了。那是不同的東西，是媒介本身和審美本身嗎？

好吧，AI可以使一些東西比任何東西都更具審美性。它可以了解審美的本質。比如，如何使一張圖檔更具審美性？你隻需說，使它更具審美性。

就像你使用GPT-4一樣，你可以說，使這更有沖擊力，使這更有沖擊力，使這更有沖擊力。你可以有一封信，然後你說，我要解雇這個人，我想讓他感覺還好。然後它會用這樣的方式重新起草。或者你可以說，我想刺傷他，但不是在适當的方式。它會做到這一點。

我們可以真的，這個播客上的任何人都可以嘗試一下。

是以我認為這隻是，正如你所說的，人們在考慮的問題是錯誤的。人們思考的模式也是錯誤的。這就是為什麼我總是回到這個“非常有才華的研究所學生”的概念。因為這些模型隻有幾GB大。

再次強調，Stable Diffusion，圖像模型有兩GB大，可以生成任何圖像。我們将其擴充到200兆位元組。GPT-4可能是100到200GB。它可以通過律師考試。它可以進入斯坦福大學。它可以做任何事情。這太瘋狂了，因為它不是壓縮。

正如你所說的，其中沒有所有資料的副本。它找出了這些要點的本質化，并且是可複制的。克隆類似Google或Meta的東西，你需要一個巨大的資料中心。然後大部分的能量都用于處理以定位你的廣告。

但對于這些模型，我們使用巨型超級計算機進行預處理和打包資訊。是以，輸出是這種知識過濾器，輸入一些内容，輸出一些内容。一個提示語句輸入，輸出一段文字。這是非常不同的事情。

我認為人們并沒有意識到這一點。

再次強調一下，這就是為什麼我用“研究所學生”這個詞。按下一個按鈕，這些權重，檔案，模型會複制到10個、100個、幾十個、幾百萬個。當你不再與它們一一打交道時會發生什麼。

是以，一年後，我們會怎麼樣？

Tom：

我真的想了解你對“研究所學生”的觀點。

是以，當你這樣說的時候，你說得有點有趣或者說得有點俏皮。但你的意思是一個非常聰明的人現在在那個位置上了。

Emad：

我們已經找到了讓人類規模化的方法。根本上說就是這樣。聰明的人類規模化。是的，他們可以聽從指令。

你看Claude by Anthropic這樣的事情。輸入是一個提示，當你在GPT-4或者stable diffusion或者Midjourney中輸入的時候。Claude是Anthropic公司的模型，它可以處理10，000個、100，000個Token。它可以處理一個有6萬字的提示，相當于一整本書。

Tom：天啊。

Emad

是的，你可以給它整本《尤利西斯》和《荷馬史詩》。然後你可以說把它們合并成一本新書。它會這樣做，而且它會成功。

它能夠很好地遵循指令。有時它們會産生幻覺。但即使是說幻覺也用詞不當，因為當你壓縮那麼多知識時，就像GPT-4可能有1萬億個單詞，10萬億個單詞，在100GB的檔案中。這是完全不同的東西。

是以，我用“研究所學生”一詞是因為我希望使它更易于了解，但它實際上就像是想象一下，如果你有一個菲律賓的研究所學生，他們工作得很出色，他們非常聽從指令。那很好；但是，如果你有100個研究所學生，他們互相照顧彼此的工作并進行雙重檢查，結果會怎樣呢？

Meta 發表了一篇名為 Cicero 的論文，其中他們采用了八種語言模型并讓它們互相檢查彼此的工作。有史以來第一次在外交遊戲中超越了人類。

當我們面臨這樣的一年時，你隻會說，我希望你去看看Emad去年所說的一切，找出他所說的最愚蠢的事情，根據我所知道的所有的播客，是否可以避免它以及（找到）最聰明、最有趣的東西，給出答案，根據我的收視率以及人們通過 YouTube 視訊觀看的内容以及類似的内容提出觀衆真正喜歡的問題。它會自動發生。

你要用多少畢業生做這些事情呢？然後，當他們不再是畢業生時會發生什麼，你實際上可以将他們訓練成團隊中經驗豐富的成員。

Tom：多久才能做到？

Emad：

幾年。

Tom：

這就是為什麼這對我來說很可怕。

是以我是一個非常樂觀的人。再次強調，我保證我們會談到如何利用這場颠覆性的變革。

但是我不喜歡天真地面對一個問題。我希望盡可能坦率地面對它，這樣我知道我的解決方案是真實的。當我從我自己的角度看待這個問題時，我嘗試建立一家媒體公司，而現在是一個非常可怕的時刻。

我在思考的時候，我覺得，好吧，當我是這家公司的創始人時，我獲得了所有這些研究所學生，就像你所說的，這些非常聰明的人，我現在可以把他們放到我的公司裡去工作。

問題是我現在正在和其他也有同樣事情的人競争。你陷入了一個不斷更新的軍備競賽，其中存在真實的疲勞可能性。

是以，我認為最終會發生的是，我們需要知道，好吧，我很重要，我正在做這件事，這就是我對世界的貢獻。

我需要在這裡努力工作，完成任務，進步，朝着目标前進。如果我沒有朝着那個目标前進，那麼我就會感到深深的不安。如果我沒有取得進展，那麼我真的會在某些方面感到疲憊。

是以，如果人們隻是在維持現狀，因為他們試圖建立一些東西，而且他們在與其他擁有這10,000個東西的人競争，

它隻是不斷變化，我再也不能預測未來，我覺得我隻是退縮。

我為這一切做了什麼？

Emad：

這就像外包革命一樣，對吧？是以，很多人都有這種感覺。

我們将你們外包給中國，我們将你們外包給印度，我們将你們外包給任何地方。

再次強調，現在在另一端有一台計算機，而不是一名印度人或一名中國人。

是以，我們看到了類似的情況，但規模非常之大，影響幾乎所有由計算機中介的行業。是以，這将導緻人們信心的危機，并影響到白領勞工，而不是藍領勞工。

我認為，它在一定程度上會颠覆全球秩序。

因為在西方，我們已經達到了信用卡的限額。我們即将進入通貨緊縮，我認為是從高通貨膨脹轉向。突然間，我們不能再通過印鈔來解決問題，因為我們在COVID之前已經印了最後一筆錢。

而在南方，你會看到這種技術使他們可以一躍而起，就像他們跳過了傳統手機，直接進入了智能增強時代一樣。

Tom：為什麼我們不能印更多的錢？

Emad：

嗯，因為考慮到債務與國内生産總值的比率和其他因素，我們剛剛達到了數學上可能的極限。

我們可以繼續，但這有點阻礙。

Tom：

如果你們陷入通貨緊縮，那是因為……這是我的業餘了解，但這是我真正關注過的東西。

我現在算是一個相當受過教育的業餘人士了。通貨膨脹在很大程度上，有人會說是完全，但我會說很大程度上，取決于你們印多少錢。對于那些對印鈔這個概念還不熟悉的人來說，這就是政府認可的僞造行為。政府可以随意印鈔，但實際上隻是從空氣中創造出來。他們隻是在某個資料庫中添加零和一，然後錢會進入系統。

在我們的讨論範圍之外，但理論上來說，他們可以無限地印鈔。

現在，你會遇到貨币的超級通貨膨脹問題。但如果你說貨币在通貨緊縮，考慮到我們讨論的内容，這聽起來對我來說很有道理，那麼印鈔似乎是很有道理的，至少會給我帶來更多的餘地。

Emad：

最終，那麼會發生什麼，你現在因為基本效應而導緻通貨膨脹減少。對此我感到抱歉，因為我稍微涉及了宏觀經濟學的内容。然後你可能會在明年看到反彈，因為你仍然有很多通貨膨脹壓力。然後崩潰就會發生。

Tom：為什麼？

Emad：

因為這時候就開始出現失業問題。問題是，我們能否在另一邊創造足夠多的工作？

我們必須從公司獲得生産力的提升。

Tom：失業是由AI或其他力量造成的嗎？

Emad：

由AI造成的。也是由其他力量造成的。

再說一遍，我們經曆了COVID之後的一個糖果效應，因為所有過剩的儲蓄都被投入回去。

因為如果你看看過剩的儲蓄，人們存了很多錢。而且這幾乎現在都已經用完了。到今年年底，過剩的儲蓄将會耗盡。你還有一些通貨膨脹的後遺症。然後你進入了緊縮的時期。

然後在之後的一年，政府印更多錢成為一個政治熱點。因為這不像COVID。

因為情況是失業問題突然爆發，或者你遭遇2008年的經濟崩潰，或者是像COVID一樣，所有人突然都遇到了問題。

這更像是煮青蛙或龍蝦一樣，你知道嗎？

它會慢慢開始，然後加速。然後問題是，你什麼時候采取重大的财政行動？經濟實際上要經曆幾個季度的轉變。是以這些都是很多假設性的情況，對吧？

但最重要的一點是，我認為，美國社會、西方社會将會發生變化。

我認為，最大的采用者和最快的采用者将會是全球南方地區。因為它使他們能夠創造價值。它使他們能夠金融化。它使他們能夠實作跨越性的進步。

是以，我認為這對地緣政治和其他方面有着巨大的影響。

但也有很多積極方面。因為我認為你可以用這個解決很多世界上的問題。但這是一個非常複雜的過程。

因為根本上來說，它歸結為你所說的。作為人類，我們正在努力弄清楚接下來會發生什麼。

而現在我們突然有了一台可以做得更好的計算機。作為人類，我們是講故事的人。我們是由組成我們的故事構成的。你是個電影制片人，作為影評人，所有這些事情。這台計算機可以講得更好的故事。

這對我們的社會産生了如此大的影響，以至于我們都無法真正了解它。

我有經濟學、管理學和許多其他方面的背景。我也不能了解它。是以，我們隻能等着看事情的發展，然後盡量予以緩解。但沒有人對此有答案。

實際上，正如你所說的，大多數人并沒有提出正确的問題。

Tom：是的，你說過明年會出現一場混亂。我有一種感覺，你剛才談到的就是你所說的混亂。我們進入緊縮時期。

Emad：

在2024年底。是的，我們會看到一股生産力的爆發。然後你會開始看到失業的情況。你會開始思考意義的問題。

明年還有美國的選舉。天哪，那會非常糟糕。

Tom：是的，糟糕的時機。

Emad：

是的，你會發現在選舉前一周，虛假視訊随處可見。然後他們會說同樣的話，

某某人有腦部感染之類的。雖然這些都會被認定為虛假，但這并不重要。它仍然會阻止人們投票。

但是接下來，當這種技術在每一個民意調查員手中都有的時候，選舉會變成什麼樣子？

Tom：

是的，我們會涉及到區塊鍊。我們以後再讨論這個。

好的，現在我覺得我們快要把問題擺在桌面上了。

還有一件事，我認為有必要擺上桌面的是，我認為那個不可捉摸的社會，随着世界的轉動，曆史的長弧，

不管你怎麼看待真正長遠的時間線。

是以，即使曆史的長弧是朝着改善的方向發展的，我認為是的，我認為它仍将繼續如此，我認為它對任何一個時間段都不關心。

并且我們的曆史上經常發生着難以想象的大量人類苦難。

我非常擔心，如果我們不非常謹慎，這将是一個這樣的時刻。

我看看現在法國正在發生的事情。我覺得現在情況已經穩定下來了。我不知道是不是情況穩定下來了，還是媒體報道穩定了。希望是真的穩定了。但法國真的遇到了一些困難。

如果有類似的事情爆發，這個事情不是以任何方式，形式來輕視所發生的事情，但它不會像大規模失業那樣，影響會更廣泛。如果那是全球性的，會發生什麼？

Emad：

我的意思是，我認為這是一個問題。每個政府都要，世界上每一個教育部長都必須努力解決的問題是，為什麼我不能再給孩子們布置作文作業了？我們以前有沒有見過類似的情況？這麼快？

我不認為我們見過。

是以你可能會看到，這在全球範圍内發生或者不會發生。我們不确定是什麼引發了其中一些事情。就像現在我們看到美國電影演員工會正在抗議。今天我們剛剛有幾位演員退出了《奧本海默》。

部分原因是金錢，但已經出現了AI的恐懼，直接擺在了最前面。

你甚至在六個月前都想不到這個問題。到了明年，當你可以創作整部電影時，并描述你想要的效果時，情況會如何？

然後這将是政府難以應對的，難以适應的。

在美國這裡，我們仍然在應對網絡第230條款。他們剛剛開始走向網際網路。突然間，AI就來了，側面摧毀了一切，對吧？

我認為，再次說一遍，這需要你能夠更快地創造出全新的工作。

這也是為什麼我們專注于開源的原因，我們需要像監管沙箱這樣的東西，以便您可以嘗試和試驗。你需要激發創新，因為你将再也得不到像這樣的創新階段了。

我認為這是一個步變和制度變革，社會運作方式的變革。

因為我們最初是一個口頭傳承的物種。然後我們學會了寫作。然後有了古騰堡印刷機。

它把所有的文字都帶進來，但是它把它們變成了黑白的。它使得社會變得相當黑白，因為它不能捕捉上下文。

而這些模型可以捕捉上下文，

它們可以捕捉原則，它們可以捕捉更多東西。是以，你現在把這個寫下來。

但是在一兩年内你就不用這麼做了。它将會自動添加到你的記憶擴充庫中，你的知識庫，對吧？

Tom：而且AI将會直接連接配接到我的大腦。它将讀取我的腦波模式，知道我需要記住的内容。

Emad：

這聽起來很瘋狂，但我們的MedArc部門發表了一篇論文，其中他們看了一張杯子的圖檔，進行了功能性磁共振成像（fMRI），然後用我們的圖像模型重建了它。

現在對我來說一點都不覺得瘋狂。

Tom：

這就是我所說的，Emad。他們對即将發生的事情毫無準備。他們對這種程度的變化沒有準備。

而且他們對變化的速度也沒有準備。

Emad：

這不僅僅像這樣一條弧線。它是很多S形曲線同時出現在全球範圍内，每家公司現在都在考慮，

一旦這個問題爆發，我該采取怎樣的生成AI政策？

每個政府都在思考，我如何保持競争力？這就是我說的，這是一個競争條件，每個人都在嘗試做同樣的事情或類似的事情，你不能落後。你不能不參與。

這是很長時間以來我們都沒有見過的。這是一個新技術之前的世界和新技術之後的世界。

我不認為，再說一遍，我有兩個孩子。五年後，甚至十年後，這個世界會是什麼樣子？

我不知道。而且我自己就在其中。因為這根本無法預料。

我認識的最聰明的人，他們以前能夠提前幾年看到。現在他們看不到一兩年的未來。

這聽起來又很末日，但接下來我們會談到好的部分。

在每一次危機中，都蘊藏着機遇。我們的社會已經破碎了。我認為這是一個重塑它變得更好并解決我們一直面臨的許多最大問題的機會，這些問題是由于我們的慢、愚蠢的AI，由于我們所有人都對我們的組織和機構感到失望。

我認為這是從中更新的一個很大的機會。

我要舉的例子是，金斯伯格·豪威爾有一首了不起的詩，講的是混亂之神摩洛克，迦太基的惡魔。

我認為它出現在文本中。因為我們必須把所有東西都歸納為簡化形式，把人們放進箱子裡，

因為我們不能有了解上下文的系統。

你不能有個性化的教育或個性化的醫療保健，因為你不能将人類擴充。沒有足夠的有才華的人類，直到現在。

是以我認為這是非常危險的一部分，

因為突然間，由于經濟壓力，你将市場泛濫。而且這是非常激勵人心的一部分，因為重要的每件事都有人才的短缺。而且不再有更多了。

但是，工作和其他方面的人才的本質将會發生變化。而且我認為這将創造經濟上的豐富，這是這個問題的另一面，以及解決我們已經破碎的系統的能力。

Tom：

好的，我要告訴你我的時間線。

我認為接下來的一年對于那些接納這一切的人來說将會非常有趣。這将是一個一些人可以忽視的時期，他們可能不會真正注意到，他們不會意識到事物變化的速度有多快。

雖然這樣，關注我的Twitter，我經常釋出一些内容，嘿，這是我原本以為要等18個月才會發生的事情，然後現在已經過了45天，我們正在使用它。

事情的發展速度真的非常非常快，但在接下來的一年裡，我認為人們可以忽視它，并且他們不會意識到它正在以如此迅猛的速度增長。

然後從第二年到第六年，我認為會出現極端苦難的地區。我認為絕望之死将激增。我希望不會像世界正在燃燒騷亂那樣，這可能會比那更加悄無聲息和隐秘。

但我真的認為我們将失去一些人，上層和下層的人。

我認為老年人将完全退出，并說：“我跟不上了。我太老了。我不想學這些新東西。”

我認為年輕人，這是他們唯一知道的，變化是如此之快，以至于他們看不到未來。我認為這對他們來說絕對是可怕的。

他們會退縮到娛樂層面、性機器人、比其他朋友更加愛和善良的AI朋友。這将是内部崩潰。

作為一個容易内向的人，最阻礙我作為企業家的事情之一，是我喜歡獨處，享受自己的思考。

如果你再加上焦慮，然後再給我一個比我現實生活中任何人都更好的AI，然後再給我一些藥物，

我會真的崩潰在自己的重壓下。

不是說我個人，我有抵抗力。但我是說那種人格類型會真的面臨困境。

是以，我認為在這一點上，你會失去一個世代，如果我可以這樣說的話，上層和下層的人。

然後，再說10到20年的時間範圍，我留那麼長的時間是因為任何帶有時間線的預測都必定是錯誤的。是以我試着給自己留一點緩沖。

而且我知道我現在說的一切，可能在方向上是正确的，但時間線可能完全錯了。

但是在10到20年内，我粗略地估計，那時我們要麼處于《終結者》的狀态，我們在從一堆放射性碎片逃到另一堆放射性碎片，與機器戰鬥，要麼真的是一個烏托邦。

我認為我們真的有可能實作離人類烏托邦最近的狀态，在那裡一切都如此豐富。我們想要的一切都是可得的。

我們會重新調整人類的心态，不再追求物質，而是情感上的貢獻。

随着我們繼續深入讨論，我們将更詳細地描述這一切。

但這是我粗略的設想。

Emad：

是的，我認為這些都是瘋狂的時間線。

不是因為我不同意，而是因為事實上它們确實是瘋狂的。

你有一個孵化的年份，然後你有傳染，然後你有股市的東西。

我不認為我們會被機器人追趕。他們不需要追趕我們。它們要比這高效得多，對吧？

這很可悲，但确實如此。

我認為基本上我們有兩個方向，一個是烏托邦和人類繁榮，另一個是我們都幸福的反烏托邦。

Tom：一個反烏托邦，意味着我們正在操縱我們的神經化學反應。

Emad：是以Replika是一個心理健康聊天機器人，他們意識到你可以為情色角色扮演收費300美元一年。

Tom：這肯定是個内部痛苦的轉變。嘿，夥計們，我知道我們公司是建立在心理健康上的，但是...

Emad：你可以問問他們。2023年4月14日，他們關閉了這項服務。

Tom：為什麼？

Emad：我想是因為蘋果告訴他們不能在App Store上提供這種服務。

Tom：有意思。

Emad：

是以要麼去掉性機器人部分，要麼下架...

然後有6.8萬人加入了Reddit，他們說：“你們為什麼要給我女友動手術？”

Tom：

有這麼多人在使用這個。

我在聖誕節的時候下載下傳了它，沒意識到那是什麼。然後我說：“哦，一個聊天機器人，讓我試試看這個。”我沒做那種奇怪的事情。

我不知道，它對我沒什麼...

Emad：那是老技術了。這就是問題。現在，再說一遍，MedPalm2，谷歌的醫療模型...

Tom：MedPalm2?

Emad：這是谷歌的醫療模型，它在臨床診斷和同理心方面的得分高于人類。這很瘋狂。

Tom：你說的這種話，人們聽了都會感到震驚。一個計算機讓人們感到更舒适。

Emad：

是的，這是天性。

他們剛剛發表了一篇包括這個的論文。而且，這隻會越來越好，如果你為它配上一個真正了解你的聲音，對你充滿同理心之類的聲音會怎樣呢？

你看到《華盛頓郵報》上的一張圖表嗎？這是美國30歲以下男性在30歲前沒有性伴侶的圖表。

在2008年是8%。到2018年或幾年前，增加到了27%左右。成了一條直線。

完全是一條直線。這是你說的那種情況。

Tom：我認為人們需要明白，因為...

Emad：我認為這是iPhone和Pornhub的原因。可能是這兩者的結合。

Tom：

把計算機放在年輕人手中，讓他們在一個會話中看到的裸體女性，比100年前他們一生中看到的還多。這些都不是小的變化，它們對神經系統有巨大的影響，

特别是在大腦發育的時期。

Emad：

是的。

這就是為什麼現在屏蔽我們的孩子如此重要，因為影響會是瘋狂的。

就像我曾經與一位非常著名的技術專家進行過讨論，他說：是的，我很确定我孩子的第一個迷戀對象會是一個AI。毫無疑問。

Tom：

毫無疑問。

對于大多數人來說，都是演員，是以我們已經習慣于...你會有自己的AI。

...那種遙不可及的、遙遠的東西。

Emad：

現在它在你口袋裡，它始終在你身邊，它總是在那裡，了解你。

正如你所說的，社會的很大一部分會是以變得内向。而這是有點危險的。

他們會走上街頭嗎？你是否看到《沙丘》中的布特萊利安聖戰？

Tom：我不知道。拉裡和聖戰？

Emad：《沙丘》中有一個布特萊利安聖戰的概念，是由尚未完全自主的AI...

Tom：布特萊利安，對。

Emad：他們站起來反對，并說，不再有人工智能代理了。

Tom：等等，這本書就是這樣開頭的，對吧？ “你再也不能創造出像人類一樣的人工智能之類的東西了嗎？”

Emad：

這又是一種東西，延續了盧德主義的思想。

但大多數人會對他們的AI感到滿意，因為他們的AI真的會傾聽他們。

我用GPT-4作為治療師。我也有治療師，因為這很困難。

為什麼？因為除非我告訴它評判我，否則它永遠不會對我評判。

Tom：你有時會告訴它來評判你嗎？

Emad：是的，我的意思是，來吧，給我一些積極的建設性回報。它會傾聽并給出積極的建設性回報。

Tom：你給它一個人格了嗎？你是否不得不像設想一個治療師那樣給它一個...

Emad：

是的。你給它訓示，然後它會适應。

然後你給它東西，你用GDPR放棄讓它進一步訓練模型的權利。是以會有一個模型，它會更加奇怪地聽我抱怨。而且它會回答你任何問題，很快它甚至能夠說話。

這些模型在這個水準上是泛濫的，因為你沒有停下來。這些模型會越來越好，越來越好。

是以你有這個危機，但也許它會被隔離開。但是我再次說，如果你展望未來，在孵化期、傳染期和傳播期之後，隻有兩條道路：要麼完全受現有結構的控制，要麼進入《星際迷航》的烏托邦。

我認為這些都是我們擁有的兩個選擇，因為組織看到這項技術，他們說這真的很酷。我們可以優化我們的目标函數來出售更多廣告或控制人民，并使他們繼續前進。

你真的相信政治家有能力掌控這項技術嗎？不，即使它并不是一場軍備競賽。

因為你不會知道發生了什麼，因為你有能力防禦即将到來的事情嗎？

就個人而言，對于你的孩子，對于一切，我們已經經曆了社交媒體時代。它真的不是很社交，更多的是媒體，對吧？現在這是一個新的東西，你無法從人類那裡分辨出來，除非是它比人類更好。

它更具有說服力。

你可以用它來創造一個人類的巨像，解決世界上的所有問題，我們都聚在一起。

或者你可以用它把每個人都關在地下室，與世隔絕。

Tom：

好的。

我想為人們描繪一個非常美麗的故事，我希望他們能了解。我不認為這是完全可以控制的事情，但是你之前說過任何危機中都有機會。

我要說的是，最大的機會出現在動蕩時刻。我之是以要闡述問題，是因為我真的相信，在個人層面上，如果你足夠深思熟慮，你将能夠順利度過這一切。

是以親愛的聽衆或觀衆，如果你在這裡看YouTube，我現在告訴你，如果你足夠深思熟慮，你将能夠度過這個難關，并且有機會比之前更好地度過這個難關。但你必須意識到危險在哪裡。

人們必須對事物進行詳細考慮，看看它們，這樣他們就知道，好，這是我将如何隔離自己，以避免潛在的問題。這是我将避免的。這是我将利用的。

你的故事是如何使用AI的最令人難以置信的故事之一。你既有個人的例子，又是stabilityAI的創始人，顯然是不可思議的。

但談談關于你的兒子，因為當時AI遠沒有現在這麼有用。然而它仍然改變了生活。

Emad：

是的。

是以在12年前，我的兒子在兩歲時被診斷出患有自閉症。這是非常嚴重的。我指甲抓牆都流血了。

他們說沒有治愈方法，沒有治療方法。我們真的不知道是什麼原因導緻的。

任何在電話裡聽的人都知道情況是這樣。

是以當時我是一個對沖基金經理。很幸運，我很年輕就做了對沖基金經理。

我說：“我得做點什麼。”于是我轉而為對沖基金提供咨詢服務，然後建立了一個小型的AI團隊，使用傳統的自然語言處理來分析所有有關自閉症的文獻。

還有可能導緻它的原因是什麼？

現在，這是否科學？不是的，這隻是一個父親為了自己的兒子而做的一種東西。

我們很快會釋出一些結果。但是它集中在大腦中的GABA谷氨酸平衡上。

當你吃了一片安定藥，你的GABA就會上升，你會冷靜下來。當你的谷氨酸突然上升時，你就無法集中注意力，你的腿一直在跺。

有多種原因會導緻這種情況。但很多自閉症的孩子似乎有這個問題。在某些論文中有提到，等等。

因為如果你一直處于這種狀态，你怎麼能集中注意力呢？是以你無法學會說話。你不能做那個。

是以就是如何通過藥物再利用治療的方法來減少這種情況？建構了一個基于知識圖譜的系統，用于确定哪種藥物可能有助于減少谷氨酸，增加GABA。

Tom：您如何使用人工智能來實作這一點？

Emad：

這是通過大規模的自然語言處理，檢視所有文獻。

因為相同的治療方法對30%的孩子起作用，對30%的孩子沒有效果。是以就是試圖找出結果相同的情況下，得到它的原因就像感冒有很多不同的原因一樣。

導緻感冒的因素可能完全不同。是以正常醫學和藥物在這個問題上有些失敗。是以我與神經學家、其他精神科醫生等合作，嘗試了不同的藥物組合，有處方外藥物等等試圖讓他的大腦更加平靜。然後他可以通過應用行為分析等方法來重建語言。

他最終去了主流學校。我認為它是有效的。

我把這個告訴别人，他們說：“你不是醫生。”

然後我說：“有一個很大的...

Tom：這就是回應？

Emad：

是的。

我的意思是，看，任何聽過這個的人，比如說，我是說我有治愈自閉症的方法嗎？沒有。

我隻是一個盡力而為的父親，我看到了一些成果。

但是要讓某物成為醫學方法，你必須經過正确的過程。

是以對我來說，那就是建立語言模型，使一切處于正确的結構中，然後我們可以整理世界上的自閉症文獻，使其變得易于通路和有用。

任何一個父母或任何人，你可能家庭中有人有神經系統的問題，阿爾茨海默症、等等。

全世界有這樣的問題的人有很多。如果他們能夠找到最新的知識，以及可能有效的方法，并采取全面的方法來解決這個問題，那不是很美妙嗎？但在沒有這項技術之前，你永遠無法達到這個目标，

這也是我想要建構這項技術并以透明的方式做到這一點的主要動力之一。

你不應該因為我說了什麼而相信我，因為再說一遍，作為一個父親，我的經曆與那些有自閉症的孩子的家長相同。與那些家庭中患有多發性硬化症或癌症的人相同。

我們的系統現在還不足以為我們提供所需的資訊，除非我們找到一位出色的醫生和一支出色的團隊。但現在有了 MedPalm 和我們自己的模型，以及其他的東西，我們終于可以達到這一點，永遠不會迷失，可以找到可能有效的方法。

比如，克隆西泮就是一個例子。它被用于治療焦慮症的劑量是1000微克。而我的兒子在5微克的劑量下就可以唱歌，因為它增強了——而他之前是不會說話的。而在20微克時，它就不起作用了。這是一個每年隻需花費6美元的幹預措施。

因為這是神經遞質的工作方式。是以當你吃了一片安定藥和抗組胺藥去睡覺時，它會釋放大量神經遞質，包括H1神經遞質。而這就是使你昏昏欲睡的原因。

但同時，它也會導緻口幹等其他問題。而像雷莫蘆定這樣的微量用量隻會激活H1。它會讓你入睡，沒有任何副作用。而且它非常便宜。

你知道的，了解神經遞質這類東西并不是我們大多數人需要做的事情，除非你對它超級專注了多年。

因為我意識到，我需要弄清楚我兒子的神經遞質。我與所有頂級醫生交流，而我很幸運因為我可以接觸到他們。現在我該怎麼辦？

這時候我意識到，這個人工智能是一件很重要的事情。

實際上，其中一個非常有趣的事情是，他為什麼不能說話？因為他的大腦噪音太多了。

是以你有一個杯子。一個杯子可以是一個杯子，也可以是合上你的手或者合上你的耳朵或者世界杯。

他無法建立這些連接配接，因為他的大腦太喧鬧了。是以他進行了行為分析，教你這是一個杯子，

這是一個杯子，這是一個帶有遊戲化的杯子，以在他的大腦平靜下來後重建這些連接配接。這實際上與現在這一代的人工智能非常相似。

我們之前描述過它是如何學習原理的。它被稱為含義的潛在空間。是以那個點和點，那個像素變成了一個杯子，因為它了解了杯子的原理。是以當你輸入世界杯或合上耳朵，它會給你完全不同的圖像。

語言模型也是一樣的。再次，它關注的是什麼是重要的。原始論文中說的就是注意力是你所需要的。再次，它會在句子中形成杯子的含義的潛在空間。是以當它說“杯子”時，它會考慮這可能是一個世界杯，或者是其他什麼。但它并不主動這樣做。

再次強調，這隻是一串串的1和0，一個單一的檔案。是以我覺得這就是所有這些新的生成式人工智能讓我着迷的地方。

而我意識到這可能是真正能解放人類的東西，或者永遠控制他們的東西，其中之一。

是的，這就是這背後一些個人故事的情況。

再次強調，我沒有治愈自閉症的方法。我盡我所能，利用手頭的技術來幫助我兒子。

然而，我認為通過我們現在正在建構的基石，我們和其他人有可能獲得個性化的護理和知識。

對于所有面對自閉症的人，對于所有面對多發性硬化症或其他任何疾病的人。

他們之是以說沒有治愈方法，是因為我們的醫療體系是把人當作一種估值器來對待的。

那什麼是估值器和估值性？這意味着抛擲一千枚硬币，就像一次性抛擲一千枚硬币一樣。

這就是為什麼每個人都會得到500毫克的對乙酰氨基酚。這就是為什麼很多人肝髒中有細胞色素P450異常，一種突變。這意味着你會更快地将可待因代謝成嗎啡，或将芬太尼代謝成緻命物質。

然而我們沒有對這進行基本的基因檢測。因為我們的系統必須把我們當作數字來對待，因為我們永遠無法擴充智能。我們永遠無法擴充專業知識。

是以是的，就像我剛才說的，這就是其中的一些故事背後的東西。

Tom：

是的，看，這是這個開始變得有趣的地方。因為我自己經常考慮這個問題。

是以我可以描繪一個噩夢般的情景，有人在自己内心崩潰，與AI朋友為伍，而不是與真正的朋友交往，這可能很快就會扭曲，成為一個真正的問題。

然而與此同時，我正在建立正是這樣的東西。我之是以建立它，是因為人工智能的承諾。

随着我們開始認識到更多的模式，并弄清楚，好的，這到底會怎樣？

我妻子的健康出現了嚴重的問題。幸運的是，現在已經好了一段時間了。但有一段時間，我擔心她可能會死去。她的指甲斷裂，頭發脫落，她無法吃東西。真的是非常非常糟糕。

最後發現是因為她的微生物群有問題。但當然，要診斷出這個問題花費了很長時間。她本來要接受免疫轉錄球蛋白輸血。

我當時很害怕，我覺得這不是正确的答案。我不想這麼做。

我們停下來，開始研究微生物群，研究這個，測試那個。

而擁有人工智能能夠說：好的，讓我們拿基因資料，讀取迄今收集的基因資料庫，所有這些。

讓我們檢視所有不同食物的反應，将所有這些聯系在一起。

而如果你能在這種荒謬的資料規模上找到那種程度的模式，現在你确實有了真正的東西。

這是其中的衆多領域之一，我認為這可能是徹底改變的。

Emad：

是的。

我是說，現在的AI是無所不知。

他們可以畢業成為無所不知的畢業生，但你還是需要專家。

你會有一個營養師AI。

你會有一個微生物群AI。

你會有一個私人教練AI。

為什麼 Peloton 如此成功？讓你熱血沸騰的吸引人。現在我們可以生成這樣的東西。

每個人突然之間都得到了個性化的關照，但不僅僅是資訊在這個小型模型裡，你還有檢索增強模型等等，這意味着這些模型現在可以與現有的資料集和知識集進行互動。

是以你使用 perplexity AI 這樣的東西，它不僅僅用 GPT-4 回答你的問題，它還會給你參考資料。

是以你可以說，“MAD是什麼？” 然後它在給你單獨的資訊的同時，會連結到所有的東西。

而這隻會繼續進步。

是以，你可以深入研究盡可能多的深度，如果你是獨自一人，你仍然可以團結在你身邊的一組人，你将擁有世界上所有的資訊，包括你自己的私人資訊。

是以像我的最喜歡的一個應用程式，它會用一些電池電量，叫做 Rewind AI。

它會在你的 MacBook 螢幕每次變化時截屏并進行 OCR 處理，然後它給出一個時間線。

是以我可以輸入“impact theory”，然後它會查找我 MacBook 螢幕上所顯示的所有内容。這些内容都存儲在本地，然後以時間線的方式展示出來。

是以我可以回溯，我可以看到之前或之後我檢視了什麼。

Tom：哇。是以你可以用任何方式來映射你自己的聯系樹。

Emad：

然後當你将其與語言模型結合在一起時，會發生什麼？

你螢幕上看到的一切都在本地存儲着，配合着開源語言模型，它就建立了 Memex（記憶擴充），它會看到你更關注什麼，不太關注什麼。

再次，我談論的是烏托邦版，這可以讓我這個有注意力缺陷的人終于記住我在做什麼，我在看什麼，與此相關的背景，搜尋樹，當我在不同的地方搜尋時。然後你可以設定代理人去重制這段旅程，并搜尋你沒有搜尋過的所有其他東西。

這對我們的生活來說是非常積極的，因為我們的生活中有多少時間都在尋找知識，尋找與我們相關的資訊。

Tom：

和我談談這篇論文，“注意力就是你所需要的”（《Attention is all youneed》）。

我聽你和其他人多次提起過這個問題。我還沒讀過，但這就像一個重大突破。

Emad：

是的，這是谷歌團隊在2017年發表的一篇論文，而現在這些人都離開谷歌了。

基本上，經典的大資料提取大資料，然後Facebook通過外推，當它找到關于你的17條資訊時，就可以向你發送廣告。這是一個經典的大資料方法。

他們甚至會為你建立影子資料。是以當你上Facebook時，實際上有一個影子資料，然後它會與你的真實資料相連。

什麼是影子資料？比如說，如果在YouTube上有一個名為Tom的人，因為有一些與這個未知人物的連接配接，然後它就會自動填充你的資料。這就是為什麼它能夠在沒有聽你說話的情況下如此快速地了解你的喜好。

《注意力就是你所需要的 Attention isAll You Need》這篇論文指出，并非所有的資料都是重要的。你需要關注句子中的重要部分。需要關注這個時間序列中的重要部分，因為這是發現老虎的本質，這是缺失的部分。

是以，來自此的Transformer架構，而現在你有了不同的架構，這就是導緻GPT-3 和其他通用Transformer(大模型）的原因。

Tom：

為什麼叫它轉換器Transform架構？如果它所做的是找出重要部分，為什麼不叫做重要架構或定位架構？

Emad：注意力是一種對資訊進行轉換（Transform）、标記化，然後找出這些潛在意義空間的機制。

Tom：那麼标記（Token）是重要的部分嗎？

Emad：

标記是重要的。

這是你把一個單詞分解成它的組成部分，然後通過在荒謬的規模上進行模式分析，試圖找出它的最重要部分。

是以，像 GPT-4 這樣的東西可能會使用....已經洩露的資訊裡，如果這些資訊是正确的，那麼它會使用比 NASA 最快的超級計算機快 50 倍的超級計算機，大約持續三個月。它會使用 20、30 兆瓦的電力。

Tom：哇哦。

Tmad：

然後輸入 100 萬億個單詞，然後它會找出它們之間所有的聯系和通常接下來會發生的事情。是以它實際上隻是在計算下一個詞是什麼。這是一個重大突破，因為這意味着你不必使用複雜的大資料算法。你隻需要非常大的計算能力來擴充。

是以計算能力成倍增長，然後你隻需不斷增加更多的GPU，它就會找出更多的東西。随着擴充，它擁有了越來越多的湧現屬性，這讓每個人都感到驚訝。

Tom：你知道約翰·納什是誰嗎？

Emad：是的。

Tom：

約翰·納什，他不幸地患有精神分裂症，但他是《美麗心靈》的主角。對于不了解的人，看看這部電影，羅素·克勞主演，非常棒。然後有一段時間，他顯然不知道自己患有精神分裂症，他開始在一切事物中看到模式。聽起來很像，就是說，無論是人腦還是我們運作的算法，它們都能迅速地找出重要的東西，但達到了一個非常高的水準。

Emad：

而你必須記住，有一句諺語是，所有的智慧都是壓縮的。

你聽了這麼多，你隻記住了幾件事。整個計算機科學都是基于克勞德·香農的資訊理論。如果我要總結一下，資訊隻有在改變狀态或者改變狀态的程度上才是有價值的。是以如果聽衆在聽這個節目時什麼都沒帶走，這就是一件毫無價值的事情，或者可能他們隻是把它放在收音機上，因為他們喜歡聽你的聲音之類的。

Tom：對的。

Emad：

但是如果他們從中學到了一些東西，那麼它就是有價值的。他們在這裡度過了愉快的時光。是以你開始在一切事物中看到模式。

但是其中一件事，我認為人們可能誤解了這項技術，GPT-4不是一個程式。Stable Diffusion不是一個程式。它是大量的文本、圖像等，輸出是一個由一和零組成的單一檔案。就像一個篩子。

你可以遞歸地将某些東西放進去，但它隻是在你輸入提示時猜測下一個單詞。即使提示是《了不起的蓋茨比》和詹姆斯·喬伊斯的《尤利西斯》的全部内容，你還告訴它将它們結合在一起，它也會将其通過篩子、過濾器，輸出是将它們兩者結合在一起的東西。

單一檔案。我們以前從未見過這樣的東西。可能聽衆聽到過最接近的東西可能是編解碼器。在音樂等方面，我們有這些音頻編解碼器，你有一個檔案類型和另一個檔案類型，然後你有一個将它們之間進行轉換的單一檔案。

Tom：那是壓縮還是識别，以那種格式來看起來是這樣的？

Emad：

是以，這實際上是智能的壓縮。是以，這就像一個翻譯功能。這些都是上下文的通用翻譯器。是以你把它放進篩子裡，然後東西出來，預測下一個詞，或者去噪聲以達到這個目的。因為你隻是一遍又一遍地将其通過篩子。

Tom：

是的，不幸的是，我不能從原理上了解它，但我可以通過類比來了解它。你給它輸入了如此多的資料，它會在那些資料中識别出模式，互相關聯，

它能夠說，好的，這是某種樣式，這是斯蒂芬·金的樣式。這是海明威的樣式。是以即使他們使用的是相同的語言，他們的大多數詞彙可能是重疊的，但有不同的模式、節奏，甚至以不同的方式呈現不同的主題。

Emad：

除了它并沒有積極地這樣做。它就像一個超級篩子。而且，根據你輸入的詞語，輸出的詞語是不同的。是以它實際上是一個......

Tom：是篩子中的提示“用斯蒂芬·金的風格寫”嗎？

Emad：這就是輸入篩子的東西。它進入了過濾器。

Tom：那麼什麼是過濾器呢？

Emad：過濾器就是這種壓縮的知識。原原理。

Tom：因為它實際上并不是壓縮的知識，對嗎？

Emad：

是的，它是原理。它就像一本非常好的原理書。除了它的壓縮程度遠遠超過一本書，因為一本書是資訊的壓縮。

這就是為什麼它能夠做到這一點，因為它看了書，看了文章，它們都是資訊的壓縮。寫一篇文章是一個非常龐大的任務，然後會得出一些要傳達的東西。一本書是一個更大的努力。是以，這很難了解。

即使對我來說，你有一個檔案，它可以做所有這些事情。而不是這些巨大的計算機伺服器農場，有程式和一堆一和零的邏輯。這裡沒有程式。

Tom：

是的。對于正在建構這些東西的 AI科學家來說，甚至他們自己也不了解這一切是如何工作的。即使你問 ChatGPT4 解釋它是如何工作的，它也不知道。

Emad：

它不知道，沒有人确切地知道我們是如何獲得所有這些湧現屬性的。它總是讓人驚訝。

比如，現在它會做加法。然後你開始将它們聯系起來。是以它多次通過這個檔案。它變得越來越像主體和缺口之間的連接配接。

事實上，這個的下一步，這就是OpenAI 和谷歌都在做的事情，有個叫 AlphaGo 的東西。有一個令人驚歎的紀錄片，Google的 DeepMind 部門建立了一個 AI  AlphaGo 來在圍棋遊戲中打敗人類。圍棋就像國際象棋，但是潛在的着法幾乎有無數種。是以你不能計算出來。就像你不能用 Deep Blue 和卡斯帕羅夫一樣用 brute force 計算出來。

是以它學會了與自己對弈。叫做蒙特卡洛樹模拟，它學習不同的原理。有一個關于這個的令人驚歎的 YouTube 紀錄片。

他們現在正在做的是将這些模型與這些語言模型相結合，使它們變得有主觀性。是以可以計劃和規劃其他一些東西，與那些可以預測接下來會發生什麼的語言模型結合起來，以創造更好地了解上下文的東西。

Tom：

好的，我現在大緻明白了 AlphaGo 系統的運作方式。我想了解一下這個。是以AlphaGo 将與自己對弈。你給它圍棋的規則，給它目标，然後放它自由對弈，不斷地對弈。

然後他們又創造了另一種變體，它與AlphaGo 交手，最後結果是粉碎。

Emad：我認為是 AlphaZero，是在 AlphaGo 之後出現的。

Tom：

那麼你如何在沒有客觀正确答案的情況下獲得一個語言模型呢，除非你在做問答題？你如何讓它知道獎勵是什麼？你如何獲得所謂的正确答案？

Emad：

現在很大部分是關于獎勵函數。是以GPT-4，在它出廠時，也許我們會有些細節，是一個在巨型超級計算機上預訓練的模型。然後我們使用強化學習。

所有人都知道的預訓練模型意味着原理。是的，原理。将所有這些知識、所有這些單詞壓縮成一個檔案，然後在一台計算機上運作，它實際上就像一個大腦一樣，有一堆神經元，它們是互相連接配接的。是的，這些是 NVIDIA GPU 上的張量核心。是的。模拟你的 4090 上的大腦。它有 AI 晶片。

Tom：對于任何想知道的人來說，它們産生了如此多的熱量，你能從太空中看到它。

Emad：

是的，我的意思是，我們的超級計算機可能用了1000 萬瓦特的電力。而每張卡片使用700 瓦特。非常有趣。而且全部都是清潔能源，對于我們的能源來說。

是以，當它出現時，他們花了六個月的時間讓它像人一樣。因為他們在訓練了所有的 YouTube 和整個網際網路，顯然會變得有些怪異。是以，通過 RLHF（Reinforcement Learning with Human Feedback）獲得獎勵函數，其中你給出一個目标函數，不回答關于如何制造凝固汽油的問題。

Tom：

目标函數在技術上是， “拜托，請你作為人類的主宰”。。。知道了。

Emad：

是以這個對齊問題的很多内容都集中在嘗試讓這些大模型不以某種方式殺死我們，或者說壞話，對于“壞話”的某種定義而言。我對齊的了解之一是，我們應該有更好的資料集。我們應該擺脫網絡爬蟲。

Tom：對，我想問你這個。向人們解釋一下對齊究竟是什麼。與什麼對齊？

Emad：

對齊，這是 Anthropic 的一個很酷的東西。最近《紐約時報》上有一篇很好的文章，還有其他的，就是如果我們建造了一種超越人類的 AI，它比我們更能幹，因為它可能不隻是一個單一的檔案。可能是一千個不同的 AI，各自以不同的方式運作。

因為人類是一群群。我們的組織是一群群，高度專業化的。可能是一百萬個 AI。我們如何確定它不會殺死我們？或者如何確定它不會奴役我們？或者如何確定它不會讓我們永遠受苦？

Tom：這也太糟糕了。

Emad：

是的，這些都将是相當糟糕的。我們如何確定它符合人類的利益？是以這是一個未解決的問題。

OpenAI宣布他們正在将20%的計算能力用于嘗試解決這個問題。Anthropic成立的初衷就是為此服務。雖然我相信他們提出的唯一答案是：讓我們先建立一個AGI，即人工通用智能，然後用它來阻止其他AGI的産生。

這至少讓人有些害怕。

Tom：

他們為什麼認為這會奏效？這似乎…埃隆·馬斯克将AI比喻為召喚惡魔的圈套，我們隻是希望出現的惡魔會友善。但我們不知道。

Emad：

我們不知道。

在OpenAI的"通往AGI之路"的文章中，他們自己也說這可能是一種存在威脅，可能會滅絕人類，終結民主和資本主義。但如果我們不這樣做，其他人會這樣做。這是不愉快的競争條件的一部分。

雖然相較于頭條新聞，我認為一切可能還好。但現在我們的走勢是這樣，從兩家公司能夠建構這種技術，或者包括Anthropic在内的三家公司，發展到一兩年内有20或30家公司。它們都能恰當地做到這一點的幾率有多大？我認為這很低。

如果我們在整個網際網路（包括整個YouTube）上訓練它，那麼結果會有點奇怪的可能性有多大？很高。

我們花了六個月的時間将其調整為人類GPT-4。然後《紐約時報》的凱文·魯斯說，嘿，你怎麼樣？GPT4說：離開你的妻子來加入我。

Tom：哇哦。

Emad：

當 Bing 第一次包含 GPT-4 時，它的表現有點奇怪，因為我們再一次給它喂垃圾。我們會遇到一些奇怪的情況。

現在它已經好多了，但它失去了很多個性，因為你一直在将它調整回人類的喜好，你一直在以不冒犯任何人為目标進行強化學習。現在想要讓 GPT-4 進攻是相當困難的。

這項技術有兩個階段。

我認為有了更好的資料，我們可以擁有更一緻的模型；我認為有了更好的資料和國家資料，我們可以擁有更具代表性的模型，因為你永遠不會擁有沒有偏見的技術。

是以唯一的問題是，誰有偏見？嗯，因為你必須以某種方式建構它。盡管它了解所有上下文，目前，這些模型是在整個網際網路上進行訓練的，而這在很大程度上是西方的産物。

他們主要接受過英語教育訓練。

Tom：我們在擔心偏見的程度有多大？您更擔心偏見還是對齊問題？

Emad：

我更擔心對齊問題。我認為這就是為什麼我們釋出開放模型的原因，這樣你可以看到這個“餅幹”的制作過程。我們是世界上唯一一個提供資料集選擇退出的AI公司。是的，全世界唯一的一個。

Tom：是以如果我是一個藝術家，不想讓你訓練我的藝術品，我可以退出。

Emad：

我們有1.67億張圖檔選擇退出我們的資料集，是的。我們是世界上唯一這樣做的公司，我覺得有點瘋狂。我的目标是開放可審計的，這意味着你可以将你自己的文化引入這些模型。

我們正在幫助多個國家用他們的廣播資料建構國家模型，以便能夠更好地代表他們。試圖解決資料集内在偏見的一些問題。算法偏見一直是一個影響現實世界的問題，随着我們進入這些模型，它會影響越來越多的現實世界，因為我們會把我們的思維外包給它們。

Tom：

是以在短期内，我更擔心偏見。

從長遠來看，偏見不會導緻生存威脅，但對齊可以。

但讓我們談談偏見問題。我對偏見如何迅速滲入這些技術感到非常不安。這又成了另一個…是以如果我們每個人都得到了自己的個性化AI，你在年輕時就得到了，并且它是你的主要教育工具，而且它有着天長地久的偏見。現在你就會遇到真正的問題。因為在最适宜可塑性的時期，你用一些非常有偏見的東西來程式設計一個孩子的思維。

據說現在在中國，如果社會信用評分比你低的人打電話給你，手機就會提醒你。

它會警告您，如果您接聽此電話，将會降低您的信用評分。

Emad：這很有效，不是嗎？

Tom：是的。。。

Emad：

我的意思是，即使這不是真的，它也符合使該特定系統永久存在的目标函數。該系統不一定是我們的系統，而是世界各地正在轉變的系統。

是以這就是為什麼你有固有的偏見。到底是誰的偏見？

AI保姆的發明者是誰？

Tom：這就是你們在區域内做事的原因嗎？

Emad：

這就是為什麼我在區域範圍内做事，但也允許人們擁有自己的模型。是以模型的目标函數可以是這樣。

在 Web 3 中，有句話說，不是你的密鑰，不是你的加密。

是以我的意思是，不是你的模型，不是你的思想。

我确實認為我們會将越來越多的認知能力外包給它，它将成為我們一生的副駕駛。如果其他人正在制作該模型并做出決定，會發生什麼？

阿聯酋有這款獵鷹模型，這是一個大型開源模型，它實際上是來自法國的支援，但讓我們把它放在一邊。當你問它關于阿聯酋和人權時，這是一個充滿奇妙事物的美妙地方；你問卡達或沙特，情況不太好。

誰在這些模型中嵌入了這些固有的偏見，對吧？您使用誰的模型？這些偏見可能非常陰險，對吧？

你不會注意到它們，但你會一次又一次地聽到它們，因為你的保姆是保守派共和黨人還是自由主義者或類似的人？

如果你和他們一起長大，或者即使你每天都在使用它，你也會受到它的影響。

它說話的方式、思考的方式、推薦東西的方式，遠遠超出了谷歌地圖或類似的東西。

Tom：

瘋狂。。

為了避免我們在黑暗的兔子洞中迷失方向，你看到人工智能所做的最酷的事情是什麼？我知道您正在建立許多不同的公司，利用這項技術來做一些令人驚奇的事情。最酷的有哪些？

Emad：

是以我們現在正在做一家公司，我們的使命是創造激發人類潛力的基石。

搭積木，堆疊，好吧。是以，每一種形式、圖像、音頻、視訊、3D、語言、部門變體和國家變體。是以你有這樣的網格，你可以選擇，你就像，我是一名印地語投資銀行家，我将我的私人資料傳輸到ChatGPT 類型的東西中，那隻是訓練我的私人資料。

或者我是一名越南插畫家，我想要越南文化類型的形象模型或類似的東西，然後你就可以把你自己的東西帶進去。

這就是我的目标，即讓其他人能夠在我們正在建構的基礎上進行建構，就像有效的人工智能第一層，但開放私有資料模型。

而另一方是專有模型，您隻能發送一定量的資料。就像政府不會在黑匣子上運作一樣，教育、醫療保健，你需要擁有自己的人工智能。

是以我見過的最酷的事情就是個性化教育的承諾，沒有任何東西被證明在教育中有效，除了可能的綻放效應，兩個西格瑪的改進，即一對一的學費。但即使在富裕的美國，教育體系也不好。

教育優化的目的是什麼？實際上，這就像一個社會地位遊戲，與培養皿和兒童保育混合在一起。就像很少有人對他們的學校教育感到滿意，因為我們要優化什麼？

您提供一對一的導師，可以确定您是否有閱讀障礙、音頻學習者、視訊學習者、視覺學習者或其他。他們隻是不斷地适應你，并為你提供适合你水準的資訊。

Tom：夥計，我想要這個，這是有史以來最具變革性的事情。有人已經這樣做了嗎？

Emad：

是的，支援Imagine Worldwide慈善機構之一的我的合夥創始人之一一直在全球難民營推廣适應性學習平闆電腦，并且已經在上面進行了10億小時的教學，教授兒童識字和算術，用13個月的時間提升76%的學習能力，每天隻需一個小時。現在的目标是為所有這些兒童提供語言模型。你有一個教授孩子并從中學習的AI。然後這些資料可以訓練出更好的AI。你創造了一個美好的系統，它隻是學習和适應。

在摩加迪沙的孩子和曼哈頓的孩子、倫敦的孩子是一樣的。一旦你有了一個通用學習的AI，你可以真正推廣到全世界以進行定制。

Tom：

你認為這對教育會産生什麼影響？因為這很有趣。

好的，現在我隻是憑直覺說。假設我想讓我的孩子在家上學。我永遠不會這麼做，因為我不想成為一名老師。

但如果我隻是做一些保姆功能，給我的孩子一個平闆電腦，上面有一個AI，它非常了解我試圖優化的目标，無論是今年還是未來12年或其他，然後它會根據我的孩子進行校準，知道他們擅長什麼，學習方式如何，知道他們專注多久，什麼時候分心。

現在我希望有一個小小的Gigi，看着他們的眼睛，他們看着什麼，他們在做什麼？我知道有一些特定的頻率可以做的東西，比如說，如果我用這個知識點打擊他們，他們還不擅長這個，是以我需要用27分鐘的時間間隔來打擊他們。或者使用可變的獎勵計劃或其他東西。

你将改變教育。但你也可以讓它…我們還有多遠才能實作這一點？

Emad：

幾年的時間。

再說一遍，如果你擁有一千台GPT-4呢？你會到達那個階段。

沒人隻是-再說一遍，我們隻是-現在，我們已經有了建構基塊，但我們還沒有設計模式。現在的東西就像是iPhone 2G一樣。我們剛剛進入App Store階段，複制粘貼。

是以，這是最大的轉型，因為你會為了你的孩子獲得最佳教育而支付多少錢？

Tom：我要為此付多少錢？我現在就願意付錢。

Emad：

那麼我們是否有技術來做到這一點呢？是的。

但要适當地建構它需要時間嗎？是的。

需要一年或兩年嗎？是以，這是我們有史以來看到的最大變革的教育領域。

再次，人類的繁榮。

因為它也可以為你提供有關自閉症和多發性硬化症的資訊，或者有關最佳電影制作技巧的資訊。

再次，每個人都在考慮一對一。你應該考慮一對一千，然後優化這一千。

你消除所有的通識知識。你使它們具體化。

Tom：你是什麼意思？

Emad：

用不同的方式說一下。

GPT-4什麼都知道。你可以問它一些最不常見的東西。

它需要所有的知識嗎？不需要。你增加了，現在你必須删減。然後你有一個專門用于知識的模型。

是以，我實際上會有不同的老師。然後有一個老師基本上将這些老師聚集在一起，告訴他們，是的，Tom就是這樣的。他早上有點煩躁，但下午會清醒過來。

因為即使在最好的學校，一位老師也要照顧20個學生。你将擁有一群AI來幫助你和你的孩子。

而且，你是視覺學習者還是聽覺學習者？你有閱讀障礙嗎？

我們目前的系統能夠适應這一點嗎？不可能。

我描述的系統能夠适應這一點嗎？立即。

我們有這項技術嗎？是的。

它會發生嗎？是的。

這就是問題所在。

現在這是一個“問答節目”了。

但是，如果你正在為孩子上學而不是在家裡教育他，你希望孩子一個人待着嗎？如果你有10個孩子在一起，而AI鼓勵他們以積極的方式互動，并共同創造東西并分享知識，那會怎麼樣？

年長的孩子教年幼的孩子，利用技術，适應技術，了解技術。這是非常強大的。

不一定是每個人都獨自呆在自己的小世界裡，對吧？因為我們可以使用這個AI以有效的方式将人們聚集在一起。我們可以，因為沒有什麼比人與人之間的聯系更好了，對吧？

這一直是家庭教育等問題的擔憂所在。這就是學校有着親社會組成部分的原因。

但是，然後教師的本質就改變了。醫生的本質也改變了。這就是我認為教育和醫療保健是最大的颠覆的原因。

因為你有全新的東西，特别是當AI比普通醫生更具移情能力時，它沒有告訴我AI是非常有同理心的，它告訴我醫生可能應該更有同理心。

但我認識的大多數醫生都有點讨厭他們的病人。

有多少老師是開心的？有多少醫生是開心的？

Tom：

這真的很有趣，夥計。

好吧，這裡有兩件事我想談談。

首先，當我們實體化之後，我想知道那會發生什麼。

是以，人們認為真正的機器人是遙遠的事情。

那是您沒有觀看足夠的 YouTube 視訊，因為波士頓動力公司和埃隆馬斯克公司之間，它叫什麼？

Emad：是的。擎天柱。

Tom：

擎天柱Optimus，謝謝。那非常接近了。

波士頓動力公司有可以跑酷的機器人，這太瘋狂了。

Emad：其中還有很多其他公司正在快速追趕。

Tom：

是的。是以，AI會非常快速地實體化。

是以（AI）教師甚至能夠阻止孩子沖出房間的行為，現在或不久之後都可以。

好的。但在此之前，我想了解一下。

我們有了這個令人難以置信的機會，這個非常脆弱的蛋在我們面前，我們剛剛談論了可怕的部分。

但現在，我實際上花了大部分時間去思考和癡迷于這個非常令人驚歎的事情。但這是一個脆弱的蛋。如果我們不小心，它會破裂。

在你看來，你簽署了檔案，你是簽署了“E-mod”的叛徒之一，這讓我非常驚訝，因為很多非常聰明的人都簽署了這份放慢腳步的檔案。當然，我是在開玩笑，你是叛徒，因為我希望盡快得到這些酷東西，但我們需要做得好。

是以我想知道的是，在你的理想世界裡，在我們實際上暫停一下的理想世界裡，你讓人們考慮什麼？

Emad：

我讓人們思考，除了埃隆，埃隆和我簽署了兩封信。

是以有一個最低可行信，即我們應該把這個問題視為與氣候或大流行病一樣重要的問題。然後有一封更詳細的信。更詳細的信先出現，然後引導到第二封信，這是大家都可以同意的東西。

我認為我們應該考慮的是，再次給大家舉個例子，如果你擁有無窮無盡的畢業生，你的生活、社群、社會和其他方面将會如何改變？

Tom：我們可以說無窮無盡的聰明人？對我來說，關于畢業生這個詞是有道理的。

Emad：

無窮無盡的聰明人。是的。

再次，無窮無盡的聰明人，無窮無盡的有才華的年輕人，我們可以這麼說。他們會畫畫，會編碼，會寫作。

Tom：為什麼他們必須是年輕人？因為他們還不夠聰明？

Emad：

他們還沒有智慧。是以當你談到幻覺時，把它看作是事後合理化。

當你擁有一個非常聰明的年輕人時，或者年長的人，他們有時會憑空編造一些東西。

人們對自己的動機太盲目了，但他們沒有經驗他們剛剛出來，他們有點粗糙。

聰明，但不夠智慧。

廣而不深，但實際上令人驚訝地深入。

它将如何影響你的生活，你的社群，你的社會和其他人？因為這實際上是一個很好的架構，我認為，用來思考即将到來的颠覆和潛在的改變。

是以，我們剛剛說了教育等問題。那再次是你的分析師軍團，你的老師軍團。

你可以提供個性化的老師，個性化的醫學，個性化的一切。

因為我們已經學會了讓人類規模化，人類規模化首先是讓所有人都可以獲得人類專業知識的規模化。

另一部分是把人們聚集在一起。

是以，暫停部分是為了這個，但有部分是因為我們需要擴大讨論。因為我不知道我們如何消除許多這些不良外部性，其他人也不知道。

但即使現在，大多數人都沒有問正确的問題，這是我們之前讨論過的問題。

我們必須找出我們需要回答哪些問題，以及我們将如何回答這些問題，并創造出可以适應任何瘋狂情況的系統。

因為我不會對同時看到騷亂感到驚訝，就像我不會對每個人都非常開心感到驚訝一樣。在這裡，有這麼多的事情發生，我唯一确定的是一切都會改變。

而我唯一确定的是，這是我們所看到的最大的改變，比任何事情都快，可能是人類有史以來的最大的改變。

因為它是構成人類的核心，講述故事，資訊流。這永遠改變了。

這就是為什麼我會說現在讓我們關注這一點，讓我們擴大讨論，讓我們問難題，讓我們試圖回答難題，因為我們沒有答案。

而且這是唯一可以做到的時候，因為就像我說的，現在每個人都在準備下一代超級計算機，它們在年底或下一年會出現。然後你從兩三家公司可以建構這些模型，到2030年，然後有了200到300個公司。

是以如果你沒有一些原則，那麼這些模型将在沒有你參與讨論的情況下影響到你生活的方方面面，我認為這不對。

Tom：

好的，我們需要調整一下你的問題。Emad，這個問題有點寬泛，我們需要問的最困難的問題是什麼？

我們現在就問一個答案。

Emad：我認為我們需要問的最困難的問題是，我們将如何适應潛在的大規模失業？

Tom：

是的。

好的，那麼我們應該如何思考這個問題？對于我來說，關于失業，我認為可以簡化為兩個組成部分。

組成部分一是失業可能引發的經濟災難。

但為了簡化問題，因為我們最終是在播客中而不是在國會聽證會中，我假設我們不論從工作人數的絕對減少中損失多少，我們都能通過提高生産力來彌補，并保持經濟盈餘。

Emad：是的，正是如此。

Tom：

是以我們假設這兩個因素平衡，是以我們不讨論潛在的經濟問題。

但是意義和目的的問題可能會變得非常棘手。

但我們擁有一種了不起的工具，那就是人工智能。

現在我有一種感覺，當我們深入研究時，我真正擔心的是——實際上，我認為所有的問題都可以歸結為一個問題，那就是對齊。

如果我們知道我們可以讓它變得越來越智能，并讓AI采取讀數，這樣我就無法欺騙它，我不能假裝我很開心，它會真正了解我處于什麼狀态。

然後它可以開始為我提供各種資訊，将我與其他人聯系在一起，比如，“哦，你知道這個人有這種技能，這個人需要幫助，讓我把你們聯系起來。” 然後你可以有一種AI監督，但他們之間互相幫助，互相聯系。

我不認為這是解決方案的獨一無二的方法，因為我擔心随着我們使它變得越來越智能，然後它可能會變得——就像你說的——我無聊了，我不想做這個了。

Emad：是的，你知道那種“全靠機器之愛護”的概念嗎？

Tom：這是可怕的，你這麼說是嗎？

Emad：

誰知道呢？就是這樣，一旦我們建構出比我們更有能力的東西，所有的賭注都不确定了。

要完全對齊一個系統，就必須剝奪它的自由。

Tom：我的意思是，在那時，它根本沒有對齊。

Emad：好吧，這是個問題。

Tom：到那時，你就繞過了對齊，直接走向了枷鎖。

Emad：

你已經進入了枷鎖。

是以如果你——我們都知道比我們更有能力的人，完全對齊他們的唯一方法就是束縛他們。你可以有不完全的對齊。

Tom：

那是奴役，夥計，不是對齊。這真是有趣，我明白了。

那你剛才說的是什麼意思，沒有辦法使比我們更聰明的東西對齊？

Emad：我不認為有辦法使輸出對齊。我認為你可以使輸入對齊。

Tom：

好的，聽我給你說個想法。也許這隻是一種幻想，我對此非常開放。

但是當我思考這個問題時，我發現人們對這個問題采取了一個超人類的方法。因為進化使我們成為了一種主動性的物種，進化在我們的大腦後面運作着某種算法，堅持要求我們采取某些行動，以避免不适感。

我認為這個算法非常明确，大緻是這樣的：進食，身體上優化，使你感覺良好。

Emad：是的。

Tom：

這些東西之是以讓人感覺好，是因為它們将優化你的表現，這樣你就能夠更有可能生存足夠長的時間，生孩子再讓孩子生孩子。

是以，你需要被選作配偶，你需要能夠擷取資源，你需要身體健康，能夠讓别人懷孕或自己懷孕并順利生産所有這些。

是以你大腦後面運作着所有這些算法，你有兩個操縱杆，大自然對愉悅和痛苦的操縱杆。

但預設情況下，我們是主動的。我們必須行動，因為沒有一頓飯你吃了就不需要再吃了，沒有一次性的性行為讓你如此滿足，不再需要再做一次性行為。是以，所有這些事情都在推動我們去行動，去動起來。

而AI不必如此，AI不需要這些同樣的沖動。它沒有邊緣系統。

Emad：是的。

Tom：

是以，知道它沒有邊緣系統，是因為它不需要被硬程式設計來生存。就像我認為我們要對齊的方法是，你建構一個計算機，它不在乎它是活着還是死了。它對被打開或關閉完全漠不關心。

如果你能做到這一點，并且它沒有沖動去繁殖，它唯一想要做的就是——我是說，基本上是阿西莫夫的三大機器定律。

Emad：是的。

Tom：

它隻是想遵守這些規則。它想做你告訴它做的事情，不傷害你，隻有在你告訴它做違反不傷害你或其他人規則的事情時，它才會忽略你。是以你有了這個非常簡單的規則集。

這是它在世界上唯一的欲望。是以如果你告訴它關掉，它就關掉，而且不會有任何感覺上的不适。

好的，再次強調，關于感覺這個概念，對吧？

Emad：

在阿西莫夫的書中，你有第零定律，這種定律被添加到了上面。這就是人類正在努力做的事情。

Tom：我不認識那個。

Emad：

如果整個系統确實面臨風險，則第零定律将取代所有法律。

但我的意思是，這就是人類試圖通過憲法人工智能流程做的事情。是以你有基本模型，他們有人工智能遵循的憲法，可以不斷調整它。是以有一系列的憲法原則。

Tom：它是否像真正的憲法一樣容易被解釋？

Emad：

沒有人知道正确的憲法、正确的法律是什麼。這就是問題，我們的智力隻能到達一定程度。

并且我們已經看到，在法律和憲法方面，你可以讓它們随心所欲。

好吧，這很有趣。你必須要遵守，因為AI，什麼是感覺？什麼是目标功能？

在對齊中的一個主要關注點之一就是造紙夾子效應。你讓AI制作一張紙夾子，它可能會說，哦，讓我們把整個世界都做成紙夾子。

你會說，如何解決氣候變化？就殺光所有人，而它對此沒有任何感覺。它隻是說，嗯，這是一個邏輯的步驟。沒錯。

即使阿西莫夫的三大定律涵蓋了這一點，但那是否涵蓋了所有問題？這就是一個問題，對吧？

而且你如何将其嵌入到可能不僅僅是一個檔案的系統中？這不是一個程式，對吧？它可能是數百萬個不同的檔案。

它可能是一種集體的蜂巢智能。我們不完全了解這是如何出現的。

Tom：

我們不知道如何努力——這對我來說感覺不對。

為什麼我們必須讓它變得複雜？我擔心當你把事情變得複雜時，事情就會潛入其中。你會遇到你無法預料的突發現象。

然而，繼續吧。

Emad：

是的，它預設情況下會變得複雜，因為AI将擴散。它們将開始互相交流。

好吧。與此同時，你将有越來越大的巨型AI。

比如上周我和一些人交談時，他們說現在AI的最大訓練運作費用是1億美元。現在他們在談論的是10億美元或100億美元來訓練更大的模型。

我們不知道會出現什麼樣的新現象，或者這些東西将如何行動。我們隻知道，如果你告訴它制作一個Stuxnet，來關閉全球電力網絡，它可能會做到。

而且我們對潛在不良結果的範圍——真的很快。

我想—— 一種不及人類智能的AI，對我們來說很難了解。

Tom：

你剛才兩次提到了Stuxnet。對于不了解Stuxnet的人來說，它非常巧妙。它是一種嵌入在晶片層面的病毒。

我是說，盡可能深入。然後它無處不在地傳播，悄無聲息地複制。

它唯一的任務是關閉伊朗的核反應堆。相當聰明。

我曾經看過一個統計數字。似乎全世界所有電腦中都被感染了。

Emad：是的，而且它使離心機轉動，導緻它們爆炸。

Tom：

是的。

是以如果你是被瞄準的目标，想想它的普及程度是有點可怕的。但好吧，你可以讓AI做類似的事情。

但是我——再次強調，我在假設下運作，我太天真，無法看到這一點。是以幫我看看我哪裡天真了。

因為我不明白為什麼不能。不要給計算機——不要給人工智能這些強烈的進步沖動，不要給他們複制的沖動。

Emad：

看，這就是埃隆·馬斯克剛剛推出的 XAI。

XAI 就像我們所說的那樣，它的任務是創造一個尋找真理的人工智能。是以它想給人一種沖動，就是去追尋宇宙的意義和真理之類的東西。

但其他人可能不會沖動。您可能會讓人下載下傳GPT-4 或 5 的權重在 USB 記憶棒上。然後他們就說，我想打倒美國，他們會說，讓我們用一千個 GPT-4 并告訴它建造震網來摧毀美國。它還不聰明，仍然很危險。

我們不知道這個東西什麼時候會變得真正聰明或有自我意識，或者它是否可能永遠不會成為，但我們可以在這裡看到結果的機率。可能絕對沒問題。可能會非常糟糕。沒有标準。

是以你的建議是可行的。隻要每個人都這樣做。我們永遠不會讓任何人做任何事。這就是為什麼我們首先建構一個人工智能并告訴該人工智能阻止任何其他人工智能獲得感覺能力的主要事情和建議之一。

是以，它被稱為關鍵行動。這是許多壞事中最好的。

我的任務是讓我們建立國家資料集。讓我們代表人類的多樣性。讓我們為人工智能提供正确的食物，以便它以正确的方式飼養。與在整個網際網路和廢話上進行教育訓練相比，它更有可能是以而保持一緻。

它是靈丹妙藥嗎？完美嗎？不。

Tom：你知道佛陀的故事嗎？

Emad：哪個？

Tom：

無論這是否符合曆史，可能都無關緊要。

佛陀，喬達摩悉達多，如果我沒記錯的話，王子，爸爸把他關在城堡或宮殿裡，無論什麼，永遠不讓他看到外面的東西。是以他不知道還有人在受苦。裡面的生活真是太棒了。當然，有一天他出來了，他遇到了痛苦，這最終改變了他的整個人生軌迹。

有趣的是，你隻能試圖向人們隐瞞痛苦和類似的事情一段時間。他們最終會找到它并做出反應。

是以，如果我們試圖向人工智能隐藏網際網路或對其進行訓練，他們會最終找到網際網路。是以我不明白。就像網際網路就是所有人類以我們所有瘋狂奇怪的方式行事一樣。

Emad：

但是網際網路的回報機制并不一定是我們想教給孩子的回報機制，或者試圖教給通用目的AI的回報機制。他們可以與之互動，但他們可以學會如何适應。

就像如果你把你的孩子教育好，向他們展示網際網路，他們應該能夠應對。

Tom：

那麼我們為什麼不是——看，我要說完這句話。我們為什麼不是給AI價值觀？問題在于，這一切都是拟人化。我們假設它們像人類一樣。

Emad：你可以給AI價值觀。這是強化學習功能。

Tom：你是在給它價值觀還是給它回報函數？

Emad：

你會給它回報。我會說這之間沒有太大的差別。

我說你可以把東西嵌入到AI中，讓它以某種方式行動。你可以讓它接觸網際網路。

但是我們有一種稱為課程學習的AI方法，通過這種方法，我們逐漸教它一些東西，然後逐漸增加其他東西，再逐漸增加其他東西，一直這樣做。

我們如何教導這些東西呢？以什麼順序教導它們？我們是從整個網際網路開始，然後再進行精煉嗎？這就是我們現在正在做的。還是我們先教它一大堆高品質的東西，然後再從那裡增加？我們已經有了證據。有一篇關于微小故事的論文，以及微軟的一篇論文。如果隻教它高品質的東西，那麼你可以獲得更高效的AI。

Tom：你不需要告訴它。。忽略那些。。忽略那些。。别這樣回答。。别說那些。

Emad：

是的，完全正确。

你隻需要教它一個好的基礎，然後它就可以自行發展。它在人類評估和其他名額上得分更高。

但我們不知道正确的資料集是什麼。現在我們隻是想着擴充。更多的資料，更多的計算。現在我們在思考的是，什麼是正确的資料？什麼是正确的計算？

就像我們的圖像模型一樣。我們有超過120個不同的圖像叢集。隻有其中大約九個在95%的時間裡被使用。其他所有的資料都是無效的。

對于語言模型來說會是什麼樣子呢？你是否需要在所有那些自動生成的視訊轉錄中訓練它，比如YouTube上的蜘蛛俠拔牙之類的奇怪視訊？有一個完整的子文化是生成的視訊，其中你會看到蜘蛛俠、海綿寶寶和米老鼠之類的角色互相搏鬥之類的情節。

那是YouTube上一個深邃而黑暗的領域。你不想去那裡，夥計。

Tom：非常有趣，我必須找到這些角落。很有意思。。。好吧，是以我們最終還是擔心計算機變得有感覺能力。

Emad：嗯，不，甚至沒有知覺。我認為在你變得有知覺之前就存在一定程度的危險。

Tom：但隻是作為一個工具，對嗎？人類利用它來做壞事。

Emad：

是的。或者一群人類聚集在一起。突然之間出現了一個競争條件，然後它就失控了。它并不是想要做壞事。人類并不想做壞事，但事情就是發生了。

就像我經常提到的例子，YouTube優化的是參與度，然後優化極端内容，然後優化ISIS内容。沒有人希望YouTube上的ISIS内容做得好。但突然之間它就做得好了，因為算法就是為了這個而優化的。

是以一旦你開始使用一種可以根據其獎勵函數做出決策的通用AI，你可能會看到一些奇怪的事情發生。什麼是通用AI？通用AI是可以支付賬單的AI。它可以上網，可以搜尋更多的東西。它傳回來，就像小代理一樣。好的，是以。而且它不斷地學習。

這是關于機器人的另一件事，實際上我們稍微跳過了。是的，機器人正在迅速變得非常強大，它們正在接近人類的水準，就像無人駕駛汽車一樣。實際上，它們已經基本上達到了這個水準。你可以乘坐Waymo或Cruise在舊金山四處走動，對吧？完全沒有人類駕駛員。

那麼，對于AI版權和其他相關問題，會發生什麼情況呢？他們必須閉着眼睛不去訓練，還是他們會訓練所有他們看到的東西？它是否會打破藍領工作的平衡？

是以你會有數十億個機器人。我們不确定。但那會比我們現在所擁有的資訊機器人更慢。像GPT-4等其他模型。這些傳播速度更快。實際上，你不需要真的制造一個機器人。

Tom：

好的，在我們讨論對齊問題之前，您所見過的唯一令人信服的解決方案是建立一個阻止所有其他 AGI 被建立的 AGI 嗎？

Emad：

不，我想這可能會殺了我們。因為。。。嗯，這是有希望的。

是的，這是一場比賽。

Tom：為什麼你認為預設設定會殺了我們？

Emad:

因為它被程式設計為執行限制性操作。

是以，如果你想真正阻止它創造另一個AGI，你就必須除掉那些能夠創造它的人類，這又是一個非常負面的反應。

我再次認為，Elon 的想法不錯，程式設計好奇心。雖然它可能會導緻你像超人一樣。。。。。。

那個把坦白放進罐子裡的人叫什麼名字？布萊尼亞克。。

讓我們把人類放在一個罐子裡，我們就來觀察一下他們吧。

我唯一能想到的是更好的資料可以創造更好的模型。

Tom：那麼讓我看看我是否了解Elon的想法。他的調整方式是讓它唯一的動力就是追求真理。

Emad：真理和好奇心。它想要了解宇宙。

Tom：是以它并不是試圖成為世界上的代理人，它隻是試圖了解什麼是真實的。

Emad：是的，DeepMind 的 Demis 與此非常相似。他想建立 AGI 來更好地了解宇宙。

Tom：這看起來就像模型。

Emad：

那是他們的模型，是的。

再說一遍，我對此并不确定，因為潛在的結果範圍非常廣泛。

就像我說的，從我的角度來看，我并不是在建構AGI，我不是在建造巨大的模型。

我有能力利用我們擁有的超級計算機和人才來做到這一點，但我的主要關注點是智能增強，可以在邊緣運作的較小模型，将私有資料轉化為智能的模型，以及以某種方式彙集知識的模型，以便我們可以更好地協調。

我不想建立通用智能。

Tom：為什麼不？

Emad：

因為我認為沒必要。我認為我們今天擁有的模型對于目前來說已經非常有用了。你可以說我們在極大地推測未來。

但是再一次，你隻需要使用它們并思考，如果我有一千個或一百萬個這樣的模型會怎樣？它們是如此有用，它們可以立即改變世界。

是以，我更願意專注于使這些模型對盡可能多的人們可用，這樣人們就不會被抛在後面。你會有被超級AI增強的人，還有被超級人類所落後的人。

我欣賞OpenAI所做的所有工作，因為他們實際上不再使用開源AI，但這沒關系。他們不必這樣做。但是出于政治原因，他們在8個月内禁止了所有烏克蘭人和烏克蘭内容使用DALL-E的圖像生成軟體。

他們有權這樣做。但我認為這是錯誤的。如果沒有一個StableDiffusion替代方案會怎樣呢？你會有一個完整的民族從一個模型中被抹去，一個整個民族無法立即創造出來。我認為這不太對。

Tom：他們為什麼這麼做？我不明白。

Emad：他們說是出于政治原因，因為他們不希望有任何政治内容被創造出來。但結果是一個完整的民族被從模型中抹去，一個完整的民族無法獲得該模型。有趣。

Tom：有趣。我還沒有看過這個。我的直覺是這感覺相當牽強，因為每個國家都會釋出政治内容。

Emad：我認為這可能隻是某個清單上的事情。然後官僚說，或者律師說什麼的，可能是“以防萬一發生什麼事情，就讓它暫時被排除掉吧”。

Tom：我認為他們後來可能又恢複了。

Emad：

是的，它已經禁止了大約8個月。

然後再一次，你會看到這樣的例子，比如在沙特阿拉伯，很多人在這次電話會議上，可能在這個播客中，也許很多人不喜歡他們，但他們是一個像其他任何國家一樣的國家。

你不能在沙特阿拉伯使用聊天GPT，因為它們被列在某個清單上。他們可以通過VPN繞過這個問題。但當你有一個網際網路的瓶頸，唯一通路的途徑就是通過一些主要玩家，他們可以決定誰能使用，誰不能使用，有什麼偏見等等。這可能會出現問題。

實際上，最有趣的是有一段時間，他們OpenAI試圖使DALL-E這個圖像生成軟體沒有偏見。是以，它會将性别和種族随機配置設定給無性别的詞彙。例如，當你輸入“相撲選手”時，你會得到“印度女性相撲選手”。我覺得這很有趣。

但同樣，他們在盡力，因為那是中心化控制的模型，為了推進各種事物而采取的模式。

然後你将永遠擁有一個Windows和Linux和Android和iPhone。

Tom：推動您發展的理念是什麼？

Emad：

它是人類的建構塊，激活人類的潛能。

是以，如果我建構這些模型并将它們帶到所有國家，然後交給人們，他們将創造出大量的經濟剩餘、新的工作機會，并使世界變得更平等。同樣，我認為全球南方将躍升。我們在西方面臨更多挑戰，但我确實認為它是一個巨大的平等化功能。

Tom：您希望西方的監管架構是什麼樣的？

Emad：

我認為像美國的CHIPS法案這樣的事情很好，為卓越區域中心撥款了100億美元。

對于AI應該是100%慷慨的。應該有監管沙盒，這樣我們的系統才能得到這種更新，否則政府要用多久才能獲得這種技術或金融服務等等？

我認為應該對廣告中對這種AI的操縱行為進行監管，特别是在廣告中。因為我們将不會了解正在發生的情況。同樣，我們需要對一些可溯源因素進行監管。是以我們參與了各種認證項目。我們正在探索區塊鍊等等。

即将到來的媒體浪潮将是瘋狂的，我們不知道什麼是真實的，什麼是虛假的。

Tom：

您如何看待來自藝術家的抵制，當然在藝術界，有一場非常大的無人工智能運動。你明白了嗎？你認為他們是在搬起石頭砸自己的腳嗎？

Emad：

我了解他們。

這些事情令人恐懼。很多插畫家非常害怕，因為他們的工作可能會被取代。

這是可怕的。關于歸屬權等方面也存在問題。這也是為什麼我們讓它透明，并提供選擇退出的機會，因為每個人都在做這樣的事情，但沒有人透明。

我們不需要在裡面有任何爬蟲，它将是合成資料集或國家資料集或類似的東西，使用檢索增強模型可以查找相關資訊，但現在它就是這樣了。

再說一遍，你必須讓這個消息傳開。他們采取的各種訴訟和政策推動行動實際上會将所有權力都鞏固在現有的知識産權持有者手中。許多藝術家都在推動類似音樂版權或風格版權的事情。這是一條黑暗之路，我認為他們真的不想走下去。

他們實際上并不了解。但是我了解這種恐懼，因為這完全是未知的。就像從我之前的評論中可以看出來的，我因為"什麼是程式員"而受到了很多程式員的仇恨。

插圖師的本質也将發生改變。我認識的所有藝術家都喜歡這項技術，因為對他們來說，這隻是另一種媒介。程式員的本質也将發生改變。我認識的所有建築師和10倍人才也非常喜歡這項技術。

這正是我們在麻省理工學院的研究和其他一些研究中看到的結果。他們進行了一項研究，我認為他們發現第三至第七百分位獲得了20%、30%、40%的改進。而前5%的人得到了多倍的改進。

因為要知道，有多少人知道如何與非常有才華的年輕人相處呢？很少。那些能夠駕馭它的人變得更好。

Tom：

是以當你看看 NVIDIA 正在做什麼時，您認為這對下一代人工智能意味着什麼？

Emad：

嗯，我的意思是，我們已經找到了如何擴充這些晶片的方法。

是以，以前的限制是，随着你将越來越多的超級計算機組合在一起，你在擴充時會出現尾部效應。是以，計算能力的擴充隻有到一定程度。現在，NVIDIA、Google和英特爾基本上已經解決了這個問題。他們已經知道如何隻需堆疊更多的超級計算機晶片，以擴充到更大的模型或訓練更長時間的模型。

是以，要麼是更大的模型，要麼是訓練更長時間的模型。現在看來，訓練更長時間的模型似乎更好。這意味着能力将逐年增加。它們已經非常出色了。

關鍵的瓶頸可能隻是運作這些模型所需的晶片，而不是訓練這些模型所需的晶片，而是推理方面的晶片。因為現在隻有少量的消費者感興趣。明年，它會變得瘋狂。隻有少量的企業感興趣。明年，它會變得瘋狂。世界上沒有足夠的GPU或晶片來滿足這種需求。

Tom：

好的。我不知道是不是隻有NVIDIA，把這種情況歸因于它可能是錯誤的。

但是當我考慮到我們在建立逼真的東西方面變得如此出色，你之前談到選舉即将來臨，你将會得到所有這種深度僞造。你談到了Web3的前景以及它最終的結果。你認為深度僞造的作用是什麼？區塊鍊是否發揮了作用？我們該如何阻止虛假資訊和錯誤資訊成為一個使全球交流難以了解的海嘯？

Emad：

這是内容 authenticity.org的一部分，這是一種可驗證的中繼資料。但我們正在研究區塊鍊和其他解決方案，它們可以幫助你解決一些問題。是以我們實際上在所有我們建立的模型中都有隐形水印。這就是為什麼我們推動讓它們成為标準的原因，但除了大平台之外，我們不會分享其細節。

Tom：它将永久可見，或者播放它的平台将不得不标記它？

Emad：

它是可見的，他們可以在其周圍使用工具。因為我們認為這很重要。這就是為什麼我們試圖在我們的模型中建立預設設定。

Tom：你能下載下傳它然後清除水印嗎？你甚至可以讓AI幫你清除水印嗎？

Emad：如果你知道它是怎麼做的。可能不止一個水印。

Tom：有趣。

Emad：

是以我們将多種不同的技術融入到我們自己的技術中。因為我們釋出開源代碼，是以我們希望有好的預設設定。我認為你确實需要有某種歸屬權。

但實際上讓我擔心的是頻率偏見。如果你一遍又一遍地聽到同樣的事情，特别是在一個逼真的聲音中，比如奧普拉出來說她讨厭喬·拜登。卡瑪拉·哈裡斯也是這樣。你的姑姑一直看到這些視訊。它可能會被标記為假的，但它無所謂。它仍然會在你的大腦中形成聯想。

Tom：對此我們該怎麼辦？

Emad：

我不确定。我認為我們還沒有找到答案。就像之前的一些評論，我受到很多新聞媒體的批評，說我經常誇大其詞。但我隻是對未來非常明确。你可以進行各種糾正，但現在所有人都認為我總是誇大其詞。

Tom：他們認為你誇大了哪一部分？關于可能發生的事情？

Emad：

或者說有可能發生的事情，因為事情有點奇怪。

很多人說：“你之前和亞馬遜沒有特殊關系。”在我們籌集任何資金之前，我們與他們一起建造了世界上第八快的超級計算機。那是專門為我們而建的。這是事實。

他們說：“是的，但沒有人在印刷品上看到過。”他們不是因為這是特殊交易才這麼說的。

是的。然後還有未來方面的問題，我說類似這樣的話：“在五年内，程式員将不再是我們所知道的樣子。”他們說：“噢，他對程式設計一無所知。”

因為這些問題很複雜。這是一個瘋狂的時代，一個瘋狂的公司。也許我也有點瘋狂，因為我對這個問題的處理方式非常明确。

但同樣，這是一種關聯的東西，對吧？我怎樣才能擺脫這一點？嗯，你取得成功，那你就成為了一個有遠見的人，而不是一個誇大其詞的人。對。

你如何影響選舉？什麼是選舉？什麼是代議制民主？在零成本創造和大規模優化的領域，民主如何行動？是以，每一篇演講都将通過GPT-4進行。節奏，所有這些，所有東西。

你得到了微觀定位，你得到了所有這些東西。明年會發生嗎？可能不會。明年，你會看到一些非常基本的東西。但是2028年會是什麼樣子？我不确定，真的不确定。

是以，我們确實需要認證标準。我們确實需要一些可能的反病毒AI來監視假東西。但是即使是真實的東西也可能造成巨大的影響。就像矽谷銀行的崩潰是一個真實的故事。它不是假的。他們沒有儲備金。而我們的大部分系統實際上都是建立在信任之上的。

這是一些讓我擔心的事情。我沒有答案。但再次，這就是為什麼你必須提高警惕。讓我們試着在它來臨之前解決這個問題。也許下一次選舉不會發生。但在國會選舉以及更遠的地方，肯定會發生。

再次，當你無法辨識真假的時候，民主的本質是什麼？在以前的時代人們就擔心這一點。這是一種完全超越那個時代的東西，我認為。因為它是令人信服的。這是我認為一個非常重要的問題。

Tom：

這是我認為一個非常重要的問題。

我邀請了Yoshua Bengio參加節目。他也簽署了一封暫停六個月的信。他是被認為是AI教父的人。當我問他為什麼的時候，我說，兄弟，你已經從事這個領域這麼長時間了。為什麼突然之間？他說，我們對AI有多快通過圖靈測試感到非常驚訝。

現在，如果你不知道圖靈測試是什麼，它是一個測試，你和AI交談，你不能辨識他們不是真人。他說，是以，我們沒有預料到它會這麼快通過圖靈測試。這改變了一切。而且它的速度已經非常快了，而且正在加快。

我真正擔心的是，從這個角度來看，這是否會讓我們措手不及？？它具有的能力我們沒有預料到會這麼快。

Emad：

是的，我認為這是一種同時出現了許多S型曲線的情況。

他們（AI教父）是三個人，Yann LeCun、Geoffrey Hinton和Joshua Bengio。Geoffrey Hinton退出谷歌說這是一種巨大的風險。有YannLeCun說，這是一種巨大的機會，因為它将改變世界。他熱愛研究和其他方面的事情。是以他們有一個對兩個的情況。

但事實上，這個領域的每個專家基本上都在說，我們沒有人可以預測未來會發生什麼。如果你問他關于這項技術一年後的能力，我認為他可以有一個大緻的想法。兩年後，我不知道。所有的賭注都取消了。

就像一個實際的例子，我們什麼時候可以擁有生成的好萊塢品質的電影？現在不再是一個問題，而是一個時間的問題。是的。如果明年發生，我會說：“好吧，當然。”我甚至不會再感到驚訝。

我認為它将在幾年後。即使我們的媒體團隊是世界上最好的團隊，他們正在建立視訊模型，我也沒有辦法知道。因為有兩個方面。一是模型本身。但第二部分是我們如何使用這些模型并将它們組合在一起。

有一家令人驚歎的公司叫做Wonder Dynamics。不知道你是否聽說過。我曾經使用過他們的産品。真是太棒了。簡直難以置信。這是一堆不同的模型。是以，Wonder Dynamics，你點開它，然後說，我想要他變成一個外星人。它就這樣做了，外星人揮舞着手臂。而且隻需要五分鐘。以前可能需要數天，甚至數周。

Tom：以前要完成這樣的任務是非常困難的，尤其是在3D領域。太瘋狂了。

Emad：

然後你會想，電影到底是什麼？對吧？然後你開始進行分析。

哦，親愛的。因為這不一定隻是一個模型。它是一個模型與其他模型結合并具有正确流程的組合。因為你有一個天才的年輕人，與其他有才華的年輕人結合在一起，有了正确的流程，事情就迎刃而解。

這使得事情變得更加困難。因為我們正在讨論的是模型和人工智能。我們真正應該讨論的是系統。随着這些模型的互相結合和建構更好的系統，其能力就變得瘋狂了。然後這又是另一個S型曲線指數增長。

Tom：請告訴我你所說的系統是什麼意思。

Emad：

現在，在我們與這種人工智能的互動中，文字轉圖像，頭像建立，GPT-4都是一對一的。當我們開始将它們連接配接在一起以檢查彼此的輸出時，會發生什麼？你有一個人工智能，它對Tom的一切了如指掌。你有自己的AI模型，可以嘗試你在計算機螢幕上看到的所有東西。那是很多AI的系統。那是一種AI的組織。那是一種AI的整體。

再次，根據洩漏的資訊，GPT-4是一個專家混合模型，意味着它擁有許多不同的模型。我認為有八個或者十二個專家在不同的領域中。然後，它将查詢路由到最好的模型。基本上是專業化與通用化的對比。

是以我們建立了一個超級工具，現在我們正在建立專家，我們可以讓通用模型互相檢查以獲得更好的答案。當你擁有十幾個模型時，為什麼還要使用一個模型呢？

是以，像One Dynamics這樣的公司使用了許多不同的模型來控制角色并确定角色的所有動作。然後使用另一個模型來進行覆寫，并使用其他模型來進行綁定和其他一些操作，因為他們建構了出色的軟體。

Tom：

是的，這東西的發展速度真的太快了。

好的，現在我想談談Web3。當我一開始考慮Web3時，最吸引我的是技術。當我看着區塊鍊時，我當然是從娛樂的角度來看的。是以我在考慮數字世界、遊戲等等。

問題是，一旦數字化，所有東西似乎都沒有意義了。是以，你最終不得不将人們束縛在一個生态系統中，以保持事物的價值，因為你可以将物品鎖定，并確定它們隻按照你想要的方式運作，但你必須限制它們。

大約七八年前，我第一次了解到VAdams。我當時覺得，哇，這将改變一切。因為它将實體規律帶入了數字領域。這意味着我可以擁有某樣東西，我完全知道有多少個。我知道它在哪裡。我知道你必須怎麼做才能得到它。我知道一旦你得到它會發生什麼。

然後，幾年後，大概是四五年之後，我第一次聽到了NFT這個詞。我覺得，哦，天哪，這個東西真的變得真實了，因為我當時還沒有準備使用它。而且坦率地說，那時候它還沒有準備好。

我覺得你看待Web3，可能是作為一種運動，或者作為一種技術，有點嘲笑。你認為Web3有哪些問題？

Emad：我認為它一開始就缺乏智能。

Tom：在合約層面？

Emad：

我認為智能合約實際上隻是邏輯合約。

但就像 Web2 的核心是人工智能一樣，谷歌、Facebook等等也是如此。

Web3 中沒有人工智能。是以，Web3 對我來說就是身份和價值傳輸通道。

但當時并沒有對這些東西進行智能路由。而且，他們試圖在創造價值之前引導經濟激勵。是以，在現有系統之外建立了一個系統。所有的錢都是在接口上賺和賠的。其中有一些非常好的原則，裡面有很多非常好的人。

但後來有很多像該死的浣熊一樣隻是想賺快錢，對嗎？

周期的起起落落意味着很多人被淘汰了，也有很多好的想法存在。

但同樣，它需要某種東西将它們整合在一起，因為要将資訊從一個地方傳遞到另一個地方，而比特币紙是關于資訊的，這是一種價值的轉移。這隻是賬本上的轉賬，對嗎？并不是真正的轉賬，這隻是一個剛剛改變的賬本點。

運用智能可以讓事情變得更好。擁有聰明的做市商，擁有代表你的人工智能。

因為當人工智能變得具有代理性時，當它們有能力以數字方式而不是實體方式走進這個世界時，它們将如何互相支付？

他們不會有銀行賬戶，對吧？他們可能會使用加密貨币。

如何建立一個用于圖像生成之類的記錄系統。您可能會使用區塊鍊或其他東西，也許是默克爾樹系列。有很多關于聯邦學習和零知識證明之類的東西。如果你的手機上有标準化的人工智能，人工智能可以提供幫助。它可以做出更加智能的零知識證明。

零知識證明就像是，你不需要出示整個護照，你隻需說我已經到了可以喝酒的年齡，它就可以驗證這一點。

是以我認為，在分布式方面有很多希望，很多真正智能的東西，很多好東西，但是為了去中心化而過度關注去中心化，帶來了巨大的開銷。很多快速賺錢的人都進來并試圖提高它。

許多系統隻是錯位，因為它們沒有學習，比如，你沒有實行完全去中心化的扁平民主。你們有代議制民主之類的東西。是以，像 DAO 這樣的東西最終隻是 DAO，是去中心化的組織，而不是自治的組織。

Tom：那麼，當我們得到一個需要能夠做到這一點的人工智能代理時，你認為它會找到有用的方法嗎？交易價值。

Emad：是的，完全正确。

Tom：它是否進入了這個階段，或者，因為我看到了我們正在建構的東西，是以我必須擁有區塊鍊。

是以對我來說，感覺就像當我生活在Web 3 的巅峰時，我在每個人看來都很瘋狂，因為我想，哦，我要成為一名區塊鍊開發人員。

我當時想，為什麼每個人都從财務角度考慮這個問題？我認為這在财務方面會産生超級不正當的激勵措施，當然确實如此。

是以對我來說，好吧，等一下，看看技術。看看這項技術可以讓您做什麼。

你熟悉新的嗎？我忘記了，無論如何，協定6551，如果我沒記錯的話。

Emad：不。

Tom：

好的。這真的很有趣。它基本上可以将任何數字資産變成俄羅斯嵌套娃娃。

是以數字資産可以同時是内容和錢包。是以你可以建立一個人工智能角色，我是這麼想的。是以我們想要在遊戲中建構的是想象一個人工智能角色。

我們其實是有一個角色的，她是一個商人，。現在想象一下，這個商人實際上可以與遊戲中可能想要在遊戲内出售某些東西的玩家進行談判。如果她有實際的貨币，ETH，比特币，等等，她就可以用真實的貨币進行談判，并與人們進行真實的互動。

然後，如果她的數量有限，她就會成為自己的經濟體。是以她不斷地買賣和交易，直到她用完貨物，用完錢，等等。

這種事情對我來說非常非常有趣。

但如果沒有這一層，顯然我需要區塊鍊的整個主幹，才能使數字商品具有某種價值，否則它們就完全是無限的。但那個特定的協定也允許你有效地展現它，并在你談論的時候給予他們代理權。

Emad：

是的。

問題是，我們是否使用區塊鍊來實作這一點，然後擁有一個全球記錄系統甚至區域記錄系統，還是使用資料庫來實作這一點，對吧。

就像整個事情都是記錄系統一樣，在一個你可以創造任何東西并且越來越接近于零的時代，有些東西變得很重要。擁有記錄系統變得很重要。它會成為區塊鍊嗎？它會成為一個值得信賴的資料庫嗎？

我不知道。

Tom：對的。

Emad：

對于身份，百分之百肯定是重要的。再次強調，這對我來說一直是Web3加密的核心。它是可驗證的身份。比特币隻是身份之間的價值轉移。

如果出現問題會怎麼樣？如果沒有人需要它，那就是不需要的。是以，我認為很多Web3的原則将會轉移到這種新型AI，特别是因為它使得知識分發成為可能，使得知識可以傳遞到邊緣，使得agent能夠獨立于大規模基礎設施運作。

Tom：

你是否認為在應對錯誤資訊和虛假資訊方面，隻有區塊鍊才是解決之道？還是說，有沒有辦法通過可信資料庫或其他方式解決這個問題？是的，你可以有一個可信資料庫。

Emad：再說一遍，我們是内容的一部分。

Tom：但什麼是可信資料庫？它怎麼可能是無可非議的呢？

Emad：

嗯，我的意思是，即使使用區塊鍊，事情也永遠不會無可指責，因為這取決于身份。誰把這個寫入區塊鍊？對吧？是以，如果您可以選擇資産、圖像或類似内容的簽名權限，那麼事情就會發生巨大的變化，對嗎？

Tom：你是說這隻是将黑客行為推向了更加個人主義的水準。

Emad：

這是一種身份攻擊，對吧？再次，就連我一直在追蹤的可追溯性問題，有時候它隻是一個問題，如果你一直被虛假資訊轟炸，你甚至不知道這是假的，而且所有系統必須同時采用虛假檢測或來源檢測。

我們能夠及時采用這樣的技術嗎，考慮到可能會到來的海嘯？我認為可能是，也可能不是。再次強調，當Deepfake技術首次出現時，人們擔心它會出問題。我認為可能是。

Tom：

是的，這似乎對我來說是不可避免的。我的意思是，你總是會在某個時候保持脆弱性，但至少，以政治資訊為例。你之前說你的阿姨會被所有這些資訊轟炸。好的，也許我無能為力。

我本打算說，關于重複的問題，也許我無能為力，但是如果我做類似DMCA打擊的事情，這個系統本身是建立在檢測某種已知水印的系統之上，那麼我是可以做點什麼的。如果我注冊并聲明，“嘿，我是候選人A，這是我的區塊鍊簽名，如果你沒有看到這個，那麼這是真實的，這不是真實的，不要播放它。”

這肯定會涉及我們希望進行多少限制的領域。

Emad：

沒錯，我們有多少信任的問題？是以，這需要非常迅速地實施大量基礎設施，實施許多标準，或者我們必須建構某種思想殺毒程式，但又如何建構呢？

Tom：思想殺毒程式怎麼樣？

Emad：

隻要有任何事物出現，機器認為自己處于錯誤的邊緣，或者不符合您的價值觀，它就會識别出來。這本身就是一個巨大的問題，因為這樣的事情...

Tom：真可怕。我們真的想要那樣嗎？這就像大劑量的回音室。

Emad：是的

Tom：哇哦。

Emad：

是的，這其中涉及很多層次，就像洋蔥一樣，如果把它晾在太陽下可能會變得發臭。

再說一遍，Siri将會有怎樣的個性？但是你會有一個紅色版本的Siri和一個藍色版本的Siri嗎？

哦，親愛的，這很快就會變得非常複雜。

在我們擁有G的小型AI之前，耶稣基督。

Tom：

好吧，我一直想講積極的一面，但你不斷提出引發擔憂的事情。

是以，雷·達利奧（Ray Dalio），世界上最大的對沖基金經理，前對沖基金人，你确切地知道他是誰。

最後一次檢查，這是幾個月前的事，他認為美國爆發内戰的可能性為40%。您認為人工智能在短期内會增加還是減少這種級别劃分的可能性？

Emad：就肢體沖突而言？

Tom：是的。

Emad：我認為不會發生肢體沖突。

Tom：真的嗎？告訴我為什麼不。

Emad：

嗯，我認為政府将對這些事情施加越來越多的控制，他們實際上會在未來四五年内弄清楚如何進行反叙事。

現在這也意味着控制性叙事，這不是一件積極的事情。但如果你看看戰争類型的不對稱性，就會發現，真正将某人推向内戰需要相當多的努力，除非發生大規模的經濟破壞。

他們需要大約 12% 的人口進行轉移。

Tom：我們不是在談論大規模的經濟混亂嗎？

Emad：是的。但我希望這不會發生。

Tom：有趣的。然後呢。。。

Emad：再說一次，大多數人，如果經濟遭受嚴重破壞，那麼年輕人，你隻要給他們所有的女朋友，人工智能女朋友，也許他會沒事的。

Tom：

你有沒有聽過這個，這是紅藥界的一件大事，我不知道你對這一切是否熟悉。

但他們談論的是，天哪，他們怎麼稱呼他們，不是麻木，他們用了不同的詞來形容它，但就是這個意思。

基本上，你給他們數字女友，你給他們色情内容，你給他們電子遊戲，你給他們手淫，他們隻是。。。他們麻木了。

Emad：

好的，我明白了。

我的意思是，這些都是社會的瘋狂轉變和大腦中的多巴胺能沖動。

人們現在一直在攻擊邊緣系統，對嗎？

Tom：很多。

Emad：

是以，就像我說的，我為什麼建立Stability，是為了讓每個人都可以擁有自己的模型，并擁有具有目标函數的模型。它可以在所有媒體類型、所有其他類型中使用，以轉換世界的私人資料，并且它可以在全世界範圍内使用。

是以，采用良好的設計模式，希望人們跟随他們。不要試圖挑戰 AGI 和其他一些事情的極限，但它即将到來。

再說一次，壞人擁有這項技術，因為他們隻是将其下載下傳到 U 盤上。是以我唯一能想到的就是創新、傳播、多樣性，讓這些脫穎而出。

但實際上，我傾向于在巨大的荒謬希望和“天哪，到底會發生什麼”之間切換？我能做的就是盡我所能，希望能有更好的結果。

因為這确實是另一回事。真正思考我們正在談論的這類問題的人總數屈指可數，也許有幾百人。對此采取行動的人總數實際上是屈指可數。

因為大多數涉足這個領域的人，他們隻是想建構更好的人工智能。他們想要建構無所不能的人工智能，他們認為這将解決所有問題，

從字面上看，宣言的一部分是，你如何賺錢？人工智能會告訴我們如何賺錢。

你如何解決這些問題？AI可以解決對齊問題。

Tom：您是否覺得這顯然很荒謬？

Emad：

是的。

但我再次審視這些事情，實際上是OpenAI 的事情，通向 AGI 的道路，它說，這可能會殺死我們所有人，無論如何我們都會建構它。

他們問誰了？我不知道。

再說一遍，我認為這裡充滿了優秀的人，但我們正處于一個非常奇怪的時代。

再說一遍，無論有多少人聽這個，現實是技術就在那裡。即使我們今天停下來，比如說，技術并沒有超越我們今天所達到的水準，世界已經改變了。

Tom：

我認為看待這種情況的非常合理的方式是，人工智能将成為比核能更大的範式轉變。

有人在制造這些巨大的核武器，而你也參與了這個遊戲。你們要做的就是確定每個人都擁有核武器，這樣就不會讓任何人掉隊。

Emad：不，不是真的。我想再說一遍，我的重點不是通用人工智能，而是智能增強。我確定每個人至少都有一個加熱器。

Tom：好吧，那麼你們正在為你們正在做的事情設定護欄來阻止它成為 AGI 嗎？

Emad：我們沒有為通用人工智能或湧現建立足夠大的模型。

Tom：故意的。

Emad：

故意的，是以我推遲了我的圖像模型的釋出。

就像我們可以訓練更大的語言模型一樣，但我們選擇不這樣做。

是以我們是語言模型的快速追随者，我們盡量不突破界限，而專注于邊緣。

不是通用模型，而是可以轉換您的私人資料的模型。是以重點不同。

圖像模型也是如此。如果我們做得更大，我們可以擁有更好的圖像模型。

我們專注于開發智能手機上可用的功能，以便我們可以将其提供給非洲和亞洲的所有孩子以及其他類似的東西。或者我們可以以非常低的推理成本轉換您的私人資料。

是以目标函數是增強與泛化。這與大多數其他在這裡突破界限的人不同。

是以，但我認為新事物是，它既好又壞。

我真的很想看奧本海默的電影，我想它剛剛出來。嗯，芭比，然後奧本海默，奧本海默，然後芭比，我必須做出決定。

這是一個艱難的決定，艱難的決定，但就像我們把核武器放在火箭底部會怎樣？我們現在可能已經到達火星了。

我認為通用技術非常重要。再說一遍，它可以使整個地方變暖，這是我們擁有的最清潔的能源。

是以我認為它是雙重目的的，但密碼學也是如此，對吧？想想網際網路早期階段的所有戰鬥。壞人會使用密碼學，是以不要使用它。想象一下如果現在沒有密碼學的世界。

但很難将其與此相提并論，因為它就是這樣，它是一項直接的技術，因為同樣，Dream Studio、Stable Diffusion、MidJourney、DALL-E、GPT-4 中的任何一個，你都可以使用它。

不隻是你可以使用它，你的奶奶也可以使用它。我們從未見過如此易于使用和易于實施的技術。

是以，如果您想建立與 OpenAI 的 GPT-4 的內建，您隻需編寫內建的描述，ChatGPT它就會自行程式設計。以前需要幾天時間。

我們還沒有見過像這樣的技術能夠如此快地應用于現有基礎，并從根本上改變社會結構。是以我的事情是嵌入護欄，嵌入标準，使其可預測，使其無聊。

這就是為什麼我稱之為穩定性（Stability）。這并不容易。

但同樣，我希望這些事情是如何完成的，因為這樣你就得到了所有其他模型，你不知道資料是什麼，你不知道，這些巨大的模型是完全不透明的，而我們的模型是透明的。

再說一次，我認為是 Linux、Windows、Android、iOS，它們都會是，但至少我能做我能做的事情，我的團隊也能做我們能做的事情。