ChatGPT、百度文心一言、Bard等大語言模型展現出了超強的創造能力，加速了生成式AI的應用程序。但AI模型隻能基于訓練資料執行各種任務，無法像人類一樣利用生活知識、過往經驗用于複雜的推理和決策。
例如，在玩遊戲時，人類可以利用各種線索、常識、經驗以及對遊戲規則的了解做出最佳決策。而AI隻能通過大量訓練學習遊戲的模式,不具備人性化了解功能。一旦遊戲規則或環境發生變化，AI就很難做出正确的選擇。
為了解決這些難題，克萊姆森大學AI實驗室提出了自主認知技術框(Autonomous Cognitive Entity，簡稱“ACE”)。通過道德、全局戰略、代理模型、執行、認知控制和任務執行6大分層設計，使AI模型可以實作“自主決策”和道德推理的認知架構。
長期以來,讓AI模型具備“常識推理”的能力一直是科研界的重中之重。而ACE架構被視為解決這個難題的創新性突破研究。
其實ACE概念與前不久中國科學院自動化研究所和耶魯大學提出的“思維傳播”技術架構類似，都是讓大模型學會利用過往經驗增強複雜推理能力來處理全新的問題，隻不過推理分層更加具體化，并加入了道德規範的限制保證輸出内容的安全性。
論文位址：https://arxiv.org/abs/2310.06775
ACE技術架構得到了業界衆多技術大牛的認可。斯坦福大學計算機科學系教授John Etchemendy表示，ACE架構标志着人工智能研究的新範式,其分層抽象和資訊回報的設計對實作人工常識推理大有幫助。
麻省理工AI實驗室主任Daniela Rus認為，ACE架構建構了一個內建倫理、認知和計算原理的完整結構，為人工常識推理提供了新的研究方向。
ACE架構的總目标是實作一種既高能又倫理的人工智能系統。其核心創新在于融合了頂層的抽象倫理推理與底層的具體任務實作,建構一個閉環完整的認知體系。
ACE主要由道德、全局戰略、代理模型、執行、認知控制和任務執行6大層組成，每一層集中處理不同的功能,高層處理抽象推理,低層負責具體任務執行。
最高的道德層确定了整個系統的方向和原則, 其功能是定義一個自治代理的核心價值觀和倫理原則，包含3部分。
(1)基本倫理準則:這是直覺的道德準則,為系統提供基本遵循。
(2)次要原則:諸如人權義務等提供具體指導。
(3)使命宣言:定義代理的核心目标和意圖。
在接收到來自道德層的抽象使命後,全局戰略層會結合具體情境,制定實作這些使命的長期計劃，包含2部分。
(1)情境融合:吸收環境資訊,了解代理面臨的具體情境。
(2)戰略檔案:産出指導性檔案,為下層提供行動指南。
緻力于了解一個代理在給定環境下的能力參數、系統結構、限制條件等,建構一個“自我模型”為決策提供依據，包含4部分。
(1)運作參數:通過監測獲得的遙測資料。
(2)配置資訊:軟硬體架構、版本等。
(3)能力範圍:可以完成和不能完成的事項。
(4)局限性:隻能在特定條件下工作的限制。
執行功能層扮演“項目經理”的角色,将來自高層的戰略使命轉化為明确的計劃路線圖。路線圖提供所有具體的執行步驟,同時考慮資源配置設定和風險管理,使戰略落地，包含4部分。
(1)定義任務步驟:将戰略任務分解為細粒度操作。
(2)設定檢查點:定義重要的中間結果以驗收進展。
(3)配置設定資源:優化資源使用以保證計劃順利執行。
(4)評估風險:預測可能的問題并提前規劃應對措施。
認知控制層扮演“任務管理”的角色,會根據目前環境和回報動态選擇和排程合适的任務，包含4部分。
(1)任務選擇:根據優先級、環境等選擇下一個任務。
(2)任務切換:在任務間流暢切換以優化訂單。
(3)挫折感覺:如果任務重複失敗會産生主動變更。
(4)内部調節:思考不同選擇的利弊。
最後的任務執行層直接與環境互動,執行由認知控制層下達的特定任務。根據任務類型,可以調用API接口、控制機械裝置、進行對話等，包含3部分。
(1)數字通信:使用程式設計語言和接口調用實作數字任務
(2)實體協同:控制機器人和傳感器完成實體任務
(3)結果監測:比較結果與預期,發送成功或失敗回報
這種分工明确的多層設計有諸多好處:第一,不同層級可以同時并行工作,提升了效率;第二,分層的封裝和資訊隐藏增強了系統的安全性和可解釋性;
第三,分層使系統可以子產品化疊代更新,而不需要全重構;第四,高層可以監控低層的運作, 當Einmal出現偏差可以進行修正,保證系統的可控性。
此外,ACE架構的另一個創新在于巧妙利用了目前熱門的大語言模型,例如，ChatGPT、Bard等。
這些模型通過學習海量文本資料,已經展現了接近人類的語言了解和語言生成能力。ACE架構将語言層面融入每個層級,使語言模型不再單獨運作,而是成為支撐整個認知架構的關鍵元件。
從道德層到任務層,語言模型幫助了解抽象概念,進行政策推理,建立自我模型,甚至最終控制機器人執任務的方式都是語言化的。
這種融合為語言模型提供了明确的上下文和指導,讓其生成的輸出更加準确,避免了“自說自話”的問題。
這也表明，大語言模型也可以在系統級扮演重要角色,而不僅僅是完成單個語言任務。ACE架構展示了如何更好地利用大語言模型的潛力,将其打造為推動認知發展的核心引擎,為人工常識推理提供動力。
本文素材來源克萊姆森大學論文，如有侵權請聯系删除