天天看点

“揭秘ChatGPT:首部深度解读人工智能聊天机器人的专著”

作者:执笔方寸AI

这是由全球顶尖AI学者,科学技术领域的重大变革者,以及全球首个实用人工智能搜索引擎WolframAlpha的创造者斯蒂芬·沃尔弗拉姆倾心打造的ChatGPT,作为OpenAI开发的人工智能聊天机器人程序,ChatGPT在2022年11月亮相,其自动生成的文本令人惊叹,仿佛是人类所书写。这本书将带你走进ChatGPT的内部世界,揭示其如何产生人类般的文本。

>>精选内容:

“揭秘ChatGPT:首部深度解读人工智能聊天机器人的专著”

ChatGPT的精髓在于其简单而直接:从互联网、图书等资源中提取大量的人类文本样本,训练神经网络以生成“类似”的文本。特别地,ChatGPT能够从给定的“提示”开始,延续生成与训练数据相似的文本。

神经网络在ChatGPT中的作用相当基础,尽管它由数十亿个简单元素构成。每当神经网络生成一个新词(或词的一部分),它都会依据目前生成的文本得到的输入依次传递给所有元素(无需循环等)。

令人惊讶的是,这个过程能成功地生成与互联网、图书等资源中的内容相似的文本。ChatGPT不仅能生成连贯的人类语言,还能根据“阅读”过的内容来“按照提示进行对话”。但它并非总能产生全局意义上的有意义的对话,因为(在没有Wolfram|Alpha的计算能力帮助下)它只是在模仿训练材料中的内容,尽可能地“说出正确的话”。

ChatGPT的实现过程无疑令人瞩目。然而,ChatGPT只是从其积累的“传统智慧的统计数据”中提取出一些“连贯的文本线索”。尽管如此,其结果的人类程度已经达到了令人惊讶的地步。

“揭秘ChatGPT:首部深度解读人工智能聊天机器人的专著”

这揭示了一个科学上的重要事实:人类语言及其背后的思维模式在结构上比我们想象的更简单、更规律。ChatGPT已经暗示了这一点,但我们可以通过语义语法、计算语言学等工具来明确地揭示它。

ChatGPT在生成文本方面表现得极为出色,其结果通常非常类似于人类创作的文本。这是否暗示ChatGPT的工作方式与人类的大脑相似?其底层的人工神经网络结构实则是对理想化大脑的建模。在人类生成语言的过程中,许多方面似乎有着极高的相似性。

然而,当谈及训练(或学习)时,大脑和现代计算机在硬件(以及一些未被开发的潜在算法思想)上的差异会迫使ChatGPT采取一种可能与大脑完全不同的策略(在某些方面可能效率较低)。

“揭秘ChatGPT:首部深度解读人工智能聊天机器人的专著”
“揭秘ChatGPT:首部深度解读人工智能聊天机器人的专著”

值得一提的是,ChatGPT内部没有“循环”或“重新计算数据”。这无疑限制了其计算能力——即使与现代计算机相比也是如此,更不用说与大脑相比了。

我们尚不清楚如何在解决这个问题的同时保持系统的训练效率。但如果能做到,未来的ChatGPT可能能做到更多“类似大脑的事情”。当然,有许多事情大脑并不擅长,特别是涉及不可约计算的问题。对于这些问题,大脑和像ChatGPT这样的系统都需要寻求“外部工具”的帮助,比如Wolfram语言。

然而,目前看到ChatGPT已经能够做到的事情是非常令人振奋的。在某种程度上,它是一个优秀的例子,展示了大量简单的计算元素能做出令人惊叹的事情。它也为我们提供了一个最佳的动力,去更好地理解人类的核心特性——人类语言及其背后的思维过程的本质和原则。

继续阅读