西風 衡宇 發自 凹非寺
量子位 | 公衆号 QbitAI
“Nah, f**k that.”
紮克伯格忍不住爆了一句粗口——就在剛剛結束的SIGGRAPH 2024與英偉達老黃的對談過程中。
為啥?簡單來說,隻要一提封閉的、不開源的,小紮就很生氣。
就在幾天前,小紮帶領的Meta釋出了大模型Llama 3.1 ,首次達成“最強開源模型=最強模型”成就。并且,因為開源,使用者可以通路、修改和分發源代碼。
這次和老黃的對話中,小紮承認,不停搞開源模型,是一種自己偏好上的“自私”。
但更久遠地來看,他相信有一天,每家公司都會擁有自己的AI——就像大夥兒擁有自己的社交媒體資料一樣。
黃仁勳院士聽了表示很贊賞,還誇Llama 2“可能是去年AI領域最大的盛舉”。小紮反手一個商業互吹:不,我認為是H100。
在兩人親切友好(?)地交流聲中,小紮送了老黃新衣服:一件黑色羊皮夾克。
要知道,老黃一直穿着的皮衣,是他老婆買給他的。
皮衣黃還是從前那個皮衣黃,但皮衣不是從前那個皮衣了
但,細心的你一定發現了,小紮的博文中提到,他倆激情交流的部分,不隻有開源。
還有AI Agent和最近火爆全球的智能眼鏡。
而且,倆人都對下一代計算充滿希望。
Meta正式釋出AI Studio,允許使用者建構具有自定義個性的虛拟角色和Chatbot。
英偉達更是當好了勤務兵,宣布正式釋出NIM(Nvidia inference micro ),一個軟體包,适用于AI模型,可以用來解決将AI用于特定目的所需的許多後勤問題。
倆人更是頻頻爆金句:
- Llama 4及以後的模型體驗将不再像簡單的聊天機器人似的來回對話。
- 即使現在基礎模型進展停止了,目前為止建構的所有東西夠我們5年産品創新。
- 如果我知道成功需要這麼長時間……我會像你一樣辍學,提前開始。
- 坦白說,開源有部分原因是我們比其他一些技術公司晚,當我們建成這些設施時,已經不再具競争優勢了。
- 現在我們基本上進入了軟體3.0。
本文中,我們在不改變原意的基礎上編譯了小紮和老黃的對談。
并且在最後介紹了英偉達的一系列新動态,隻對英偉達感興趣的小夥伴們,可以直接拉到最後捕獲需要的資訊~
對話實錄
老黃:我們都使用來自Meta的PyTorch,Meta在計算機視覺、語言模型方面也做了很多工作……我的第一個問題是,你怎麼看待今天Meta在生成式AI上的進步?以及如何應用它來增強營運或引入新功能?
小紮:圍繞生成式AI的所有内容都是一場有趣的革命,我認為最終它将以有趣的方式改變我們所有的産品。
你可以看看我們現在已有的一些産品線。像是Feed、Instagram、Facebook,它們已經從最初僅是一個連接配接朋友的工具,發展到現在的樣子。
在這個過程中,内容排序始終非常重要。比如你的朋友有非常重要的事,這種資訊你肯定希望它顯示在Feed的頂部。
過去的幾年情況已經有了變化,更多内容來自不同公共管道。推薦系統非常重要,因為現在不僅僅是來自朋友的幾百或幾千個文章,而是數百萬的内容。這變成了一個非常有趣的推薦問題。
随着生成式AI的發展,我認為我們很快将進入一個新階段。
在這個階段中,你在Instagram上看到的大部分内容不僅是基于你的興趣推薦的,而且不依賴于你是否關注了釋出者。
我認為未來很多東西也将由這些工具建立,部分内容由創作者使用這些工具創作,另一部分可能會即時為你生成,或通過綜合世界各地不同的資訊合成。
這隻是我們業務将如何演變的一個例子,而這種演變已經持續了20年。
但我覺得很少有人意識到,世界上最大的計算系統之一是推薦系統。
這是一個完全不同的路徑,并非人們常談論的生成式AI的熱點。但我認為,就像所有的Transformer架構一樣,它正類似于逐漸建構越來越通用的東西,将非結構化資料嵌入到特征中。
我的意思是,過去你可能針對每種類型的内容都有一個不同的模型,我們曾經分别使用兩個模型,一個用于推薦短視訊,另一個用于推薦長視訊。我們通過一些産品調整,整合了這些功能來避免在同一平台上顯示重複内容。
随着我們不斷開發更通用的推薦模型,涵蓋更廣泛的内容,推薦效果也越來越好。
我認為這部分得益于内容的經濟效益和流通性,通過從更廣泛的内容池中抽取,我們避免了從分散的來源抽取内容時的效率損失。
随着這些模型變得更加龐大和通用,它們的性能也在不斷提升。
我夢想有一天,可以将像Facebook或Instagram這樣的平台通過一個統一的AI模型來管理。
這個模型将整合所有不同類型的内容和系統,不僅能展示你今天想看的有趣内容,還能幫助你長期建立和擴充你的社交網絡,比如推薦你可能認識的人或你可能想關注的賬戶。
老黃:是以,人們總是對AI在你們社群的深入應用感興趣。你們已經建立了GPU基礎設施,并長期運作大型推薦系統。
現在生成式AI真正酷的地方在于,這些天當我使用WhatsApp時,我感覺我在與WhatsApp合作,我喜歡這種感覺。
我坐在那裡打字,它會随着我的輸入生成圖像。我回去修改我的用詞,它又會生成其它圖像,生成的圖像看起來相當不錯。然後現在你還可以在裡面加載我的照片。
小紮:我認為生成式AI一方面将會為我們所有長期使用的工作流程和産品帶來一次大的更新,另一方面它還将催生許多全新的創造。
Meta AI擁有一個可以幫助你處理不同任務的AI助手的想法,它将極具創造性,而且非常通用。随着時間的推移,它将能夠回答任何問題。
當我們從Llama 3系列更新到Llama 4及以後的模型時,我認為這種體驗将不再像簡單的聊天機器人那樣,你給它一個提示它就回應,然後你再給一個提示它再回應,就這樣來回對話。
而是演變為你給它一個意圖,它可以在多個時間架構上進行操作。比如其中一些事會啟動計算作業,可能需要數周或數月,然後它回來給你結果,就像世界上發生了什麼事一樣。我認為這将是非常強大的,是以我很激動。
老黃:正如你所說,現在的AI就是簡單的問答。但當我們人類面對一個任務時,我們會思考多個選項,甚至建構一個決策樹,在腦中模拟不同的決策,我們在做規劃。
而未來人工智能也會做類似的事情。我對你提到的創作者AI很興奮。坦白說,我覺得這是個很棒的點子。
跟大家介紹一下創作者AI和AI Studio。
小紮:其實,這是我們正在推廣的東西。我們不認為隻有一種AI模型就足夠了。這是一些其他公司的做法,他們好像在建構一個中央Agent。
我們會有Meta AI助手供你使用,但我們希望幫助所有使用我們産品的人可以為自己建立Agent。無論是平台上的創作者還是小企業,我們最終希望能迅速整合所有内容,建立一個商業Agent幫助他們與客戶互動,進行銷售等。
我們現在推出的一個工具叫做AI Studio,它是一套工具,最終能使每個創作者都能建構一個類似于他們自己的AI Agent或助手,供他們在社群互動。
有個問題是,如果你是一個創作者,你想要更多地與你的社群互動,但你的時間有限。同樣,你的社群也想與你互動,但這很難。是以,最好的解決方案是讓人們創造這些Agent,訓練它們根據你的風格以你希望的方式展現你自己。
我認為未來人們将會為各種目的建立自己的AI Agent。有些Agent将被定制用于完成特定的實用任務,有些可能是為了娛樂,創造一些有趣或者略帶幽默感的内容,我們可能不會将其直接整合進Meta AI助手中,但我認為人們對此很感興趣。
我們看到的一個有趣的用例是人們使用這些Agent來支援社互動動。這有點讓我驚訝,因為Meta AI已成為人們角色扮演複雜社交場景的主要工具之一。
無論是職場晉升、薪酬談判,還是與朋友或伴侶的糾紛,這些Agent提供了一個無偏見的環境,使人們可以模拟對話,探索可能的對話走向并獲得回報。
而且許多人不僅想與正常的AI Agent互動,無論是Meta AI助手還是ChatGPT,他們希望能創造屬于自己的個性化Agent,這正是我們AI Studio的目标方向。
我們認為,與一個單一的大型AI互動不是唯一的選擇,一個具有多樣化Agent的世界會更加精彩有趣。
老黃:我覺得如果你是藝術家,這會非常酷,你有自己獨特的風格和作品集。現在,這些可以将其整合成一個AI模型,可以引導它根據你的藝術風格創作,甚至可以提供一件藝術作品作為繪畫靈感,讓它基于這些為你創造新的作品。
你可以通路我的AI,就像通路我的機器人一樣。未來可能每家餐廳、每個網站都會擁有這樣的AI。
小紮:是的,我認為在未來每個企業都會有一個與客戶互動的AI。商業版本會有更多的內建,我們仍然處于相當早期的alpha階段。
老黃:我可以使用AI Studio在我的圖庫上微調嗎?
小紮:是的,我們會做到的。
老黃:那我可以将我寫過的所有東西都上傳上去,用它作為我的個人資料庫。每次我再次使用它時,它會重新加載記憶,它能記得上次我們停留的地方。
然後我們可以繼續對話,就像從未中斷過一樣。
小紮:像任何産品一樣,它會随着時間的推移而改進,理想化版本不僅僅是針對文本。我不認為這些事情還很遙遠,飛輪正在迅速旋轉,還有很多新東西需要建構。
即使現在基礎模型的進展停止了,我認為我們還有五年的産品創新時間夠整個行業弄清楚如何最有效地使用目前為止建構的所有東西。
但實際上,我認為基礎模型和基本研究的進展正在加速,這是一個相當瘋狂的時期。
你知道,你讓這一切發生了。
老黃:謝謝,我們作為CEO是嬌嫩的花朵,我們需要很多支援。
小紮:到目前為止,我們已經曆經了不少風霜。我認為我們是行業中資曆最久的兩位創始人之一。
老黃:這是事實。
小紮:你的頭發變白了,我的變長了。
老黃:我的變成灰色了,你的變卷發了,What’s up?
如果我知道成功需要這麼長時間……
小紮:你永遠不會開始?
老黃:不,我會像你一樣辍學,提前開始。你有12年的領先,真不錯。
老黃:我喜歡你的願景,每個人都可以有AI,每個企業都可以有AI。在我們公司,我希望每個工程師和每個軟體開發人員都有一個AI。是以當你推出Llama時,是開源的,我認為這很棒。這就是我為什麼認為Llama 2可能是去年最大的AI事件。
小紮:我認為是H100。
老黃:謝謝。我之是以說這是最大的事件,是因為它當時激活了每個公司、行業,突然間,都在建構人工智能。每個研究員都有可能重新接觸AI,因為他們有了一個起點。
然後現在Llama 3.1也釋出了,我們正在一起努力部署3.1。是以,你的開源理念從何而來?
小紮:坦白說,部分原因是我們比其他一些技術公司晚一些開始建構分布式計算基礎設施和資料中心。
是以,當我們建成這些設施時,它們已經不再具有競争優勢了。那麼我們索性将其開源,進而在周圍的生态系統中獲益。
我們有許多類似的項目,其中最大的一個可能是Open Compute項目,我們公開了我們的伺服器設計、網絡設計乃至資料中心設計。
通過使這些設計成為某種行業标準,所有供應鍊基本上都圍繞它進行組織,這帶來了為所有人節省資金的好處。通過将其開源,我們基本上節省了數十億美元的成本。
Open Compute項目也使得我們為一個資料中心設計的Nvidia HGX在每一個資料中心都能運作。
是以,那是一次極好的經曆。之後,我們也在許多基礎設施工具上采取了類似的措施,比如React、PyTorch。當Llama出現時,我們已經對AI模型開放使用持有特别積極的态度了。
我有點希望在下一代計算中,回歸到開放生态系統獲勝并再次成為領先者的狀态,總會有封閉的和開放的生态系統,兩者都有其存在的理由。
并不是我們釋出的一切都是開放的,我們也做閉源的事。但我認為,總的來說對于整個行業正在建構的計算平台,如果軟體是開放的,那将帶來很大的價值。
以及我們在AR、VR方面的工作,我們基本上正在為混合現實建構一個開放的作業系統,就像Android或Windows一樣,使其能夠與許多不同的硬體公司合作,制造各種裝置,我們想将生态系統恢複到那樣的開放水準。
我對此非常樂觀,下一代,開放系統将會獲勝。
我隻是想要確定我們能夠接觸到,這有點自私,但你知道在我建立這家公司一段時間後,未來10到15年的一件事就是,我隻想確定我們能夠建構我們将要建構社交體驗的基礎技術。
因為已經有太多的事情我試圖建構,然後平台提供商告訴我“不,你不能建構那個”,在某種程度上,我隻想說,“Nah, f**k that”,為了下一代,我們要確定一路建構下去。
對不起,但是讓我談論封閉平台,我會生氣,是以……
△小紮的粗口被老黃人工消音“Biiii——”
老黃:我認為這是一個偉大的世界,有人緻力于建構盡可能好的AI,制造它将其作為一種服務提供給世界。
同時,如果你想要建構你自己的AI,你完全有能力這麼做。能夠編寫和使用AI的能力非常重要,我個人更喜歡不用自己制作皮夾克,更傾向于讓别人為我制作。
皮革可以開源對我來說并不是一個有用的概念,但我認為擁有偉大的服務和開放服務的想法是非常好的。
你在3.1版本中所做的,提供不同規模的模型,從405B到70B到8B,這真的很棒。你可以使用更大的模型來教導這些模型,并用于合成資料生成。
雖然更大的模型更通用,但你仍然可以建構一個适合特定操作或成本效益更高的小模型。而且你構模組化型的方式是透明的,擁有世界級的安全和倫理團隊,我真的很喜歡這一點。
小紮:我接着上面之前被岔開的思路講,我們正在建構它,因為我們希望它存在,并且我們希望它能夠獨立于某些封閉模型。
但這不僅是一個軟體,圍繞它的是一個生态系統。如果沒有開源,它可能不會運作得很好。我們并不是出于利他主義,盡管我認為這将對生态系統有所幫助。
我們這樣做是因為我們認為這将使我們正在建構的産品變得更好,通過擁有一個強大的生态系統。
老黃:有多少人為Pytorch生态系統做出了貢獻。光Nvidia可能有幾百人專注于使Pytorch更好、更可擴充、更高性能。
小紮:當某物成為行業标準時,其他人也會圍繞它工作。這将使每個人受益,也将與我們正在建構的系統很好地配合。這隻是其中一個例子,是以我認為開源戰略将是一個非常好的商業政策,人們仍然不太了解這一點。
老黃:我們非常喜歡它,圍繞它建立了一個生态系統。
小紮:你們真是太棒了。每次我們釋出新産品,你們總是第一個釋出優化讓它運作的。我真的很感激。
老黃:我能說什麼呢?我們有優秀的工程師。
作為一名進階管理人員,我雖然年紀大了但思維靈活,這是CEO應該具備的素質。我認識到了一件重要的事:Llama模型的重要性。圍繞它,我們建立了“AI工廠”,旨在幫助所有人建構AI。
許多公司都希望擁有自己的AI,這對他們至關重要。因為一旦将AI納入資料循環,公司的知識就會被編碼到AI中。他們不能将這個循環外包,而開源則給了他們這個機會。但問題是,他們往往不知道如何将整個過程轉化為AI。
這就是我們建立“AI工廠”的原因。我們提供工具、專業知識和Llama技術,幫助他們将整個過程轉化為AI服務。完成後,他們可以完全擁有這個成果。我們将輸出稱為NIM。客戶可以下載下傳NIM,在任何地方運作,包括本地伺服器。
我們還有一個合作夥伴生态系統,包括可以運作NIM的OEM廠商,以及像Accenture這樣的咨詢公司,他們接受我們的教育訓練,建立基于Llama的NIM和流程。現在,我們正在幫助全球各地的企業實作這一目标。這一切都源于Llama的開源,真是令人興奮。
小紮:特别是幫助人們從大模型中提煉出自己的模型,這将是一個非常有價值的新趨勢。就像我們讨論産品時提到的,我不認為會有一個主導性的AI Agent被所有人使用,同樣,也不太可能有一個單一的模型滿足所有需求。
老黃:我們有專門的晶片設計AI、軟體編碼AI等。我們的軟體編碼AI了解USD,了解Verilog,還能分析我們的錯誤資料庫,幫助分類問題并配置設定給合适的工程師。每個AI都是基于Llama微調的,我們為它們設定了具體的應用範圍和限制。
我認為未來每個公司的每個功能可能都會有專門的AI。
小紮:是的,未來的一個大問題是,人們會更多地使用更複雜的大模型,還是為特定用途訓練自己的模型。我猜測會出現大量不同的專用模型。
老黃:因為工程師的時間非常寶貴。目前,我們使用性能優化的405B模型。這個模型太大,無法裝入單個GPU,這就是為什麼MVLink性能如此重要。我們通過MVLink Switch連接配接所有GPU,使它們能高效運作405B模型。
對我們來說,獲得最佳結果比節省幾分錢更重要。我們希望為工程師提供最高品質的工具。
小紮:确實,405B的推理成本約為GPT-4模型的一半,已經相當不錯了。對于需要在裝置上運作或需要更小模型的情況,人們可以将其進行蒸餾,這又是一個全新的服務領域。
老黃:想象一下,我們用于晶片設計的AI每小時可能隻需10美元,而且可以被多個工程師共享。考慮到我們付給工程師的高薪,每小時幾美元就能大幅提升他們的工作效率,這是非常有價值的投資。
小紮:Yeah,這一點你不用說服我。
老黃:如果還沒有使用AI,現在就開始吧。
讓我們談談下一波技術浪潮。我特别欣賞你們在計算機視覺方面的工作,比如我們經常使用的“分割一切”模型。我們現在正在訓練視訊AI模型,以更好地了解世界,為機器人技術和工業數字化模組化,并将這些模型整合到Omniverse中。
這樣我們就能更好地模拟實體世界,提升虛拟環境中機器人的表現。
你們Meta的Ray-Ban智能眼鏡項目,将AI引入現實世界的願景非常有趣。能否詳細介紹一下這方面的情況?
小紮:你提到的”分割一切”模型,我們實際上正在這次SIGGRAPH大會上展示它的下一個版本“分割一切2”。它現在更快,而且可以處理視訊了。
這會有很多有趣的效果。由于它将是開放的,還會有更多嚴肅的應用場景出現在各行各業。科學家們用這個來研究珊瑚礁、自然栖息地以及景觀的演變等。并且是零樣本學習,能夠與之互動并告訴它你想跟蹤什麼,這是相當酷的研究。
老黃:例如,比如你有一個倉庫,裡面有很多攝像頭,倉庫AI在監視着發生的一切。假設一堆箱子倒了,或者有人在地上灑了水,或者即将發生任何事故,AI就能識别出來生成文本,發送給人求助,這是使用它的一種方式。
它不是記錄所有内容,隻記錄重要的事情,因為它了解它在看什麼。
現在,除了Ray-Ban智能眼鏡之外,你們還在做什麼?
小紮:當我們考慮下一代計算平台時,我們将其分為混合現實頭戴裝置和智能眼鏡。我認為人們更容易了解并接受智能眼鏡,因為現在世界上有超過10億人戴眼鏡,這些眼鏡最終都會更新為智能眼鏡,這将是一個非常大的市場。
VR/MR頭戴裝置有些人覺得它适合遊戲或其它用途,有些人則不然。我的觀點是,這兩種裝置都會存在。
我認為智能眼鏡将會成為類似于行動電話、始終線上的下一代計算平台;而混合現實頭戴裝置則更像是你的工作站或遊戲機,當你坐下來進行更沉浸式的體驗并需要更多計算能力時使用。畢竟眼鏡很小,會有很多限制,就像你不能在手機上進行同樣水準的計算一樣。
老黃:它恰好出現在所有這些生成式AI突破發生的時候。
小紮:是的,對于智能眼鏡,我們從兩個不同的方向來解決這個問題。一方面,我們一直在建構我們認為是理想的全息AR眼鏡所需的技術。我們正在做所有眼鏡工作所需的東西。
它看起來像眼鏡,但與你現在戴的眼鏡相比還是有很大差距。即使是我們制造的Ray-Ban,也無法将全息AR所需的所有技術都裝進去。在接下來的幾年裡,我認為我們會越來越接近,它仍然會很貴,但我認為那将成為一種産品。
△Meta Ray-Ban智能眼鏡
從另一個角度來看這個問題,那就是通過與世界上最好的眼鏡制造商Essilor Luxottica合作,從好看的眼鏡開始。他們制造了很多大品牌。
老黃:眼鏡界的Nvidia。
小紮:我認為他們可能會喜歡這個比喻,誰會不喜歡呢?我們一直在與他們合作Ray-Ban,我們現在是第二代,目标是讓我們将形狀限制在很好看的範圍内,在此基礎上,盡可能多地加入技術。
現在我們有攝像頭傳感器,是以你可以拍照和錄像,實際上可以直播到Instagram,也可以在WhatsApp上進行視訊通話,并向對方傳輸你所看到的内容。它還有麥克風和揚聲器,揚聲器是開放式的,很多人覺得它比耳塞更舒服。你可以聽音樂,可以用它來接電話。
但後來發現,這個傳感器正是與AI對話所需要的,這有點意外。
如果你五年前問我,我們會先實作全息AR還是AI,我可能會說全息AR。
我的意思是,這似乎就是顯示技術的進展,在所有虛拟混合現實方面,建構新的顯示堆棧,我們正在朝着那個方向不斷進步。
然後LLM迎來突破。我們現在有了非常高品質的AI,而且在全息AR出現之前就以非常快的速度在改進,這是一種我沒有預料到的逆轉。
幸運的是,我們處于有利位置,因為我們一直在開發所有這些不同的産品。但我認為最終你會看到一系列不同的眼鏡産品,有不同的價位,内置不同水準的技術。根據我們現在對Ray-Ban Meta的觀察,我猜測在300美元價位的無顯示屏AI眼鏡将成為一個非常大的産品,最終會有數千萬或數億人擁有。
老黃:是以你将擁有超級互動AI,可以與之對話。你剛才展示的視覺語言了解能力,有實時翻譯,你可以用一種語言跟我說話,我用另一種語言聽到。
小紮:顯示屏也會很棒,但它會給眼鏡增加一些重量,也會使它們更貴。是以我認為會有很多人想要全息顯示屏。但也會有很多人希望最終能夠擁有真正輕薄的眼鏡。
我們離能夠進行虛拟會議的未來不遠了,就像我人雖不在這裡,但我的非常逼真的全息影像在,我們可以一起工作。
最終會達到那個程度,眼鏡中有更薄的也有厚的,有各種風格。我認為要在你現在戴的這種眼鏡中實作全息功能還需要一段時間,但在一副稍厚的眼鏡中實作這一點并不遙遠。
成為一個時尚影響者,這樣我就可以在眼鏡上市之前打出影響。
老黃:你的時尚影響力如何?效果如何?
小紮:還在早期階段(doge)。
我覺得如果未來業務的一大部分是制造人們會佩戴的時尚眼鏡,那可能我要多加注意。我将不得不告别那個每天穿同樣衣服的我。
這也是關于眼鏡的事,我認為它與手表或手機不同。人們真的不想都看起來一樣,是以我認為它是一個平台,回到我們之前讨論的主題,它會傾向于成為一個開放的生态系統,因為人們對形狀和風格的需求多樣性将是巨大的。不是每個人都想戴上别人設計的那種眼鏡,我不認為這種做法會成功。
老黃:我覺得你說得對。我們正生活在一個整個計算堆棧被重新發明的時代,這真是不可思議,現在我們基本上進入了軟體3.0。
從通用計算到這種生成式神經網絡處理的計算方式,我們現在可以開發的能力和應用在過去是不可想象的。
生成式AI,我不記得有任何其它技術能以如此快的速度影響消費者、企業、行業和科學,它能夠跨越所有這些不同的領域,從氣候到生物再到實體,生成式AI都處于這種根本性轉變的中心。除此之外,還有你所談論的這些東西。
有人早些時候問我,是否會有一個“Jensen AI”?這正是你所說的創意AI,我們可以建立自己的AI。我會把我寫過的所有東西都裝進去,用我回答問題的方式對它進行微調。希望随着時間的推移,不斷使用的積累會讓它成為一個非常棒的助手和夥伴……
是以現在我們可以做很多事情,與你合作真的很棒,我知道建立一家公司并不容易,你将公司從桌面轉向移動,再到VR、AI。Nvidia自己也經曆了多次轉型,我非常知道這有多難。你知道,我們兩個多年來都被狠狠地教訓過很多次,但這就是要成為先驅和創新所需要付出的。
小紮:我認為對你們來說也是一樣的。
我們經曆了一段時期,每個人都說“不,一切都會轉向這些裝置,隻需要超級便宜的計算”,而你們隻是繼續堅持“不,實際上你會想要這些可以并行的大系統”,我們走了另一條路。
老黃:是的,我們現在不是制造越來越小的裝置,而是制造盡可能大的計算機。
小紮:有一段時間不太時髦。
老黃:非常不時髦,但現在它很酷。
(屬于老黃的)One More Thing
就在老黃小紮對話的同一天,英偉達有了一系列新動作,
比如,正式釋出NIMs(Nvidia inference micro services),一個軟體包,能解決特定目的下使用AI時會遇到的很多後勤問題。
這玩意兒3月的時候老黃就淺淺介紹過了,它通過打包算法、系統和運作時優化并添加行業标準 API 來簡化AI模型部署流程,“推動企業大規模部署AI模型”。
比如,宣布和抱抱臉合作,推出“推理即服務”。
開發者可以通過托管,把抱抱臉上的開源AI模型快速制作并部署到生産中。
再比如,推出fVDB,利用現實世界的3D資料,打造空間智能。
再再比如,推出Isaac Lab,一個用于機器人學習的開源子產品化架構。
它可以解決傳統訓練方法對機器人學習技能的限制,用來開發、訓練和建構下一代人形機器人。
一邊對談傳遞觀點,一邊kuku發新産品。
不愧是老黃,啥也沒落下。
參考連結:
[1]https://www.nvidia.com/en-us/events/siggraph/
[2]https://www.threads.net/@zuck/post/C-BoS7lM8sH
— 完 —
量子位 QbitAI · 頭條号簽約
關注我們,第一時間獲知前沿科技動态