天天看點

“揭秘ChatGPT:首部深度解讀人工智能聊天機器人的專著”

作者:執筆方寸AI

這是由全球頂尖AI學者,科學技術領域的重大變革者,以及全球首個實用人工智能搜尋引擎WolframAlpha的創造者斯蒂芬·沃爾弗拉姆傾心打造的ChatGPT,作為OpenAI開發的人工智能聊天機器人程式,ChatGPT在2022年11月亮相,其自動生成的文本令人驚歎,仿佛是人類所書寫。這本書将帶你走進ChatGPT的内部世界,揭示其如何産生人類般的文本。

>>精選内容:

“揭秘ChatGPT:首部深度解讀人工智能聊天機器人的專著”

ChatGPT的精髓在于其簡單而直接:從網際網路、圖書等資源中提取大量的人類文本樣本,訓練神經網絡以生成“類似”的文本。特别地,ChatGPT能夠從給定的“提示”開始,延續生成與訓練資料相似的文本。

神經網絡在ChatGPT中的作用相當基礎,盡管它由數十億個簡單元素構成。每當神經網絡生成一個新詞(或詞的一部分),它都會依據目前生成的文本得到的輸入依次傳遞給所有元素(無需循環等)。

令人驚訝的是,這個過程能成功地生成與網際網路、圖書等資源中的内容相似的文本。ChatGPT不僅能生成連貫的人類語言,還能根據“閱讀”過的内容來“按照提示進行對話”。但它并非總能産生全局意義上的有意義的對話,因為(在沒有Wolfram|Alpha的計算能力幫助下)它隻是在模仿訓練材料中的内容,盡可能地“說出正确的話”。

ChatGPT的實作過程無疑令人矚目。然而,ChatGPT隻是從其積累的“傳統智慧的統計資料”中提取出一些“連貫的文本線索”。盡管如此,其結果的人類程度已經達到了令人驚訝的地步。

“揭秘ChatGPT:首部深度解讀人工智能聊天機器人的專著”

這揭示了一個科學上的重要事實:人類語言及其背後的思維模式在結構上比我們想象的更簡單、更規律。ChatGPT已經暗示了這一點,但我們可以通過語義文法、計算語言學等工具來明确地揭示它。

ChatGPT在生成文本方面表現得極為出色,其結果通常非常類似于人類創作的文本。這是否暗示ChatGPT的工作方式與人類的大腦相似?其底層的人工神經網絡結構實則是對理想化大腦的模組化。在人類生成語言的過程中,許多方面似乎有着極高的相似性。

然而,當談及訓練(或學習)時,大腦和現代計算機在硬體(以及一些未被開發的潛在算法思想)上的差異會迫使ChatGPT采取一種可能與大腦完全不同的政策(在某些方面可能效率較低)。

“揭秘ChatGPT:首部深度解讀人工智能聊天機器人的專著”
“揭秘ChatGPT:首部深度解讀人工智能聊天機器人的專著”

值得一提的是,ChatGPT内部沒有“循環”或“重新計算資料”。這無疑限制了其計算能力——即使與現代計算機相比也是如此,更不用說與大腦相比了。

我們尚不清楚如何在解決這個問題的同時保持系統的訓練效率。但如果能做到,未來的ChatGPT可能能做到更多“類似大腦的事情”。當然,有許多事情大腦并不擅長,特别是涉及不可約計算的問題。對于這些問題,大腦和像ChatGPT這樣的系統都需要尋求“外部工具”的幫助,比如Wolfram語言。

然而,目前看到ChatGPT已經能夠做到的事情是非常令人振奮的。在某種程度上,它是一個優秀的例子,展示了大量簡單的計算元素能做出令人驚歎的事情。它也為我們提供了一個最佳的動力,去更好地了解人類的核心特性——人類語言及其背後的思維過程的本質和原則。

繼續閱讀