如何讓 AI 能夠像人類一樣能真正規劃？可以參考人類和動物是如何快速學習的。
當今世界，Yann LeCun 、Geoffrey Hinton 以及 Yoshua Bengio 三位科學家并稱為深度學習三巨頭。值得注意的是，三巨頭之中，LeCun 對于 AI 發展所持的态度是最為樂觀的。此前在馬斯克提出「人工智能給人類文明帶來了潛在風險」時，LeCun 曾公開反駁，認為人工智能遠未發展到給人類構成威脅的程度。關于 AI 接下來該如何發展，在今天上午于北京舉行的 2023 智源人工智能大會上，他發表了名為《走向能夠學習、推理和規劃的大模型》的演講，表達了系統的思考。
法國當地時間淩晨四點，LeCun 從法國的家中連線智源大會的北京現場。盡管 OpenAI 的 GPT 路線風頭正盛，許多人認為大語言模型将通往 AGI，LeCun 卻直言不諱：需要放棄生成模型、強化學習方法這樣的主流路線。他認為，基于自監督的語言模型無法獲得關于真實世界的知識。盡管語言生成的内容品質一直提升，但是這些模型在本質上是不可控的。對于語言模型的局限性了解，也基于他此前的一個基本觀點：人類有許多知識是目前無法被語言系統所觸達的。
是以，想讓 AI 獲得如人一般對真實世界學習、應對和規劃的能力，他展示了自己在一年前所發表的論文中提出的架構「自主智能」(autonomous intelligence）。這是由一個配置子產品控制整個系統，基于輸入資訊，進行預測、推理、決策的架構。其中的「世界子產品」具有估計缺失資訊、預測未來外界狀态的能力。
極客公園團隊在智源大會現場觀看了這場演講，以下為核心觀點精彩摘要以及經過編輯的演講内容。
LeCun 核心觀點精彩摘要：
- AI 的能力距離人類與動物的能力，還有差距——差距主要展現在邏輯推理和規劃，大模型目前隻能「本能反應」。
- 什麼是自監督學習？自監督學習是捕捉輸入中的依賴關系。訓練系統會捕捉我們看到的部分和我們尚未看到的部分之間的依賴關系。
- 目前的大模型如果訓練在一萬億個 token 或兩萬億個 token 的資料上，它們的性能是驚人的。我們很容易被它的流暢性所迷惑。但最終，它們會犯很愚蠢的錯誤。它們會犯事實錯誤、邏輯錯誤、不一緻性，它們的推理能力有限，會産生有害内容。由此大模型需要被重新訓練。
- 如何讓 AI 能夠像人類一樣能真正規劃？可以參考人類和動物是如何快速學習的——通過觀察和體驗世界。
- Lecun 認為，未來 AI 的發展面臨三大挑戰，并由此提出「世界模型（World Model）」。
、
以下為演講全文的部分摘要，
經極客公園編輯後釋出：
很抱歉我不能親自到場，已經很久沒有去中國了。
今天我将談一下我眼中的人工智能的未來。我會分享一下 AI 在未來十年左右的方向，以及目前的一些初步結果，但還沒有完整的系統。
本質上來說，人類和動物的能力和今天我們看到的AI的能力之間，是有差距的。簡單來說，機器學習和人類動物相比并不特别好。AI 缺失的不僅僅是學習的能力，還有推理和規劃的能力。
過去幾十年來，我們一直在使用監督學習，這需要太多的标注。強化學習效果不錯，但需要大量的實驗。最近幾年，我們更多使用機器自我監督，但結果是，這些系統在某種程度上是專業化和脆弱的。它們會犯愚蠢的錯誤，它們不會推理和規劃，它們隻是快速地反應。
那麼，我們如何讓機器像動物和人類一樣了解世界的運作方式，并預測其行動的後果？是否可以通過無限步驟的推理執行鍊，或者将複雜任務分解為子任務序列來規劃複雜任務？
這是我今天想講的話題。
但在此之前，我想先談一下什麼是自我監督學習？自我監督學習是捕捉輸入中的依賴關系。在最常見的範例中，我們遮蓋輸入的一部分後将其回報送到機器學習系統中，然後揭曉其餘的輸入——訓練系統會捕捉看到的部分和尚未看到的部分之間的依賴關系。有時是通過預測缺失的部分來完成的，有時不完全預測。
這種方法在自然語言處理的領域取得了驚人的成功（如翻譯、文本分類）。最近大模型的所有成功都是這個想法的一個版本。
同樣成功的是生成式人工智能系統，用于生成圖像、視訊或文本。在文本領域這些系統是自回歸的。自監督學習的訓練方式下，系統預測的不是随機缺失的單詞，而是僅預測最後一個單詞。系統不斷地預測下一個标記，然後将标記移入輸入中，再預測下一個标記，再将其移入輸入中，不斷重複該過程。這就是自回歸 LLM。
這就是我們在過去幾年中看到的流行模型所做的事情：其中一些來自 Meta 的同僚，包括開源的 BlenderBot、Galactica、LLaMA、Stanford 的 Alpaca（Lama 基于 LLaMA 的微調版）、Google 的 LaMDA 、Bard、DeepMind 的 Chinchilla，當然還有 OpenAI 的 ChatGPT 和 GPT-4。如果你将這些模型訓練在一萬億個 Token 或兩萬億個 Token 的資料上，它們的性能是驚人的。但最終，它們會犯很愚蠢的錯誤。它們會犯事實錯誤、邏輯錯誤、不一緻性，它們的推理能力有限，會産生有害内容。
因為它們沒有關于基礎現實的知識，它們純粹是在文本上進行訓練的。這些系統在作為寫作輔助工具、幫助程式員編寫代碼方面非常出色。但是它們可能會産出虛構的故事或者制造幻覺。
我同僚給我開了一個玩笑。他們說，你知道 Yann Lecun（楊立昆）去年發行了一張說唱專輯嗎？我們聽了一下（AI 根據這個想法生成的假專輯），當然這是不真實的，但如果您要求它這樣做，它會這樣做。目前的研究重點是，如何讓這些模型系統能夠調用搜尋引擎、電腦、資料庫查詢等這類工具。這被稱為擴充語言模型。
我和我的同僚合作撰寫過一篇關于擴充語言模型的論文。我們很容易被它們的流暢性所迷惑，認為它們很聰明，但它們實際上并不那麼聰明。它們非常擅長檢索記憶，但它們沒有任何關于世界運作方式的了解。這種自回歸的生成，存在一種主要缺陷。
如果我們想象所有可能答案的集合，即标記序列的樹（tree），在這個巨大的樹中，有一個小的子樹對應于給定提示的正确答案。是以，如果我們想象任何産生标記的平均機率 e 都會将我們帶出正确答案集合的集合，而且産生的錯誤是獨立的，那麼它們可能會看到 n 的答案的相似度是（1-e）的 n 次方。這意味着會存在一個指數級的發散過程将我們帶出正确答案的樹。這就是自回歸的預測過程造成的。除了使 e 盡可能小之外，沒有其他修複方法。
是以，我們必須重新設計系統，使其不會這樣做。這些模型必須重新訓練。
那麼如何讓 AI 能夠像人類一樣能真正規劃？我們先來看人類和動物是如何能夠快速學習的。
我們看到嬰兒在生命的前幾個月内掌握了大量關于世界運作方式的基礎概念：如物體永恒性、世界是三維的、有機和無機物體之間的差別、穩定性的概念、自然類别的學習以及重力等非常基本的概念。嬰兒在 9 個月左右就能會這些。
根據我同僚制作的圖表，如果您向 5 個月大的嬰兒展示下面左下角的場景，其中一個小汽車在平台上，你将小汽車從平台上推下來，它似乎漂浮在空中，5 個月大嬰兒不會感到驚訝。但是 10 個月大的嬰兒會非常驚訝，因為在此期間，嬰兒已經知道了物體不應該停留在空中，它們應該在重力下下落。這些基本概念是通過觀察世界和體驗世界來習得的。我認為我們應該用機器複制這種通過觀察世界或體驗世界學習世界運作方式的能力。
我們有流利的系統，可以通過法律考試或醫學考試，但我們沒有可以清理餐桌并填滿洗碗機的家庭機器人，對吧？這是任何孩子都可以在幾分鐘内學會的事情。但我們仍然沒有機器可以接近這樣做。
我們顯然在目前擁有的 AI 系統中缺少了非常重要的東西。我們遠遠沒有達到人類水準的智能，那麼我們該如何做到這一點？實際上，我已經确定了未來幾年 AI 面臨的三個主要挑戰。
首先是學習世界的表征和預測模型，當然可以采用自我監督的方式進行學習。
其次是學習推理。這對應着心理學家丹尼爾·卡尼曼的系統 1 和系統 2 的概念。系統 1 是與潛意識計算相對應的人類行為或行動，是那些無需思考即可完成的事情；而系統 2 則是你有意識地、有目的地運用你的全部思維力去完成的任務。目前，人工智能基本上隻能實作系統 1 中的功能，而且并不完全；
最後一個挑戰則是如何通過将複雜任務分解成簡單任務，以分層的方式運作來規劃複雜的行動序列。
是以大約一年前，我釋出了一篇論文，是關于我認為未來 10 年人工智能研究應該走向的願景，你可以去看一下，内容基本上是你們在這個演講中聽到的提議。在我提出的這個系統中，核心是世界模型（World Model）。世界模型可以為系統所用，它可以想象一個場景，基于這樣的場景作為依據，預測行動的結果。是以，整個系統的目的是找出一系列根據其自己的世界模型預測的行動，能夠最小化一系列成本的行動序列。
問答環節 Q & A：
提問人：朱軍｜清華大學教授，智源首席科學家
Q：生成式模型通常将輸出定義為多個選擇的機率。當我們應用這些生成模型時，我們通常也希望它們擁有創造力，産生多樣化的結果。這是否意味着這些模型實際上無法避免事實錯誤或邏輯的不一緻性呢？即使您擁有平衡的資料，因為在許多情況下，資料會産生沖突的影響，對嗎？您之前提到了輸出的不确定性，您對此有何看法？
A：我認為，通過保留自回歸生成來解決自回歸預測模型生成模型的問題是不可行的。這些系統本質上是不可控的。是以，它們将必須被我提出的那種架構所取代，在推理過程中，你需要讓系統優化某種成本和某些準則。這是使它們可控、可操縱和可規劃的唯一方法。這樣的系統将能夠計劃其回答。
就像我們像現在這樣講話，我們都會計劃講話的過程，怎樣從一個觀點到另一個觀點，怎麼解釋事物，這些都在你的腦海裡。當我們設計演講時，不是一字一句地即興發揮。也許在低層次上，我們在即興發揮，但在高層次上，我們一定是在規劃。是以規劃的必要性是非常明顯的。人類和許多動物都具備規劃能力，我認為這是智能的一項重要特征。是以我的預測是，在相對短的幾年内，理智的人肯定不會再使用自回歸元素。這些系統将很快被放棄，因為它們是無法修複的。
Q：您之後将參與一個辯論，探讨人工智能會不會成為人類生存的威脅。
參會者還有 Yoshua Bengio，Max Tegmark 和 Melanie Mitchell。您能講講您屆時将闡述什麼觀點嗎？
A：在這場辯論中，Max Tegmark 和 Yoshua Bengio 将站在「是」的一邊，認為強大的 AI 系統可能對人類構成存在風險。而我和 Melanie Mitchell 将站在「否」的一邊。我們的論點不是說沒有風險，而是這些風險雖然存在，但通過謹慎的工程設計可以輕易地加以減輕或抑制。
我對此的論點是，今天問人們是否能夠使超智能系統對人類安全，這個問題無法回答，因為我們還沒有超智能系統。是以，直到你能基本設計出超智能系統，你才能讨論如何讓它變得安全。這就好比你在 1930 年問一位航空工程師，你能使渦噴發動機安全可靠嗎？工程師會說，什麼是渦噴發動機？因為渦噴發動機在 1930 年還沒有被發明出來，對吧？是以，我們處于一種有點尴尬的境地。現在，宣稱我們無法使這些系統安全還為時過早，因為我們還沒有發明出它們。一旦我們發明了它們，或許就是按照我所提出的設計藍圖，再讨論如何使它們安全也許是值得的。