再说回ChatGPT，它懂语言吗 。如同《天才与算法》一书的设问： 机器可以在不理解 皮特凯恩电子邮件列表 语言或不接触周围物理世界的情况下，生成有意义的句子，甚至是美的句子吗 。 老派的AI，试图采用罗素的方法。这类模型认为： 理性和智能是深度的、多步骤的推理，由一个串行过程指挥，并由一个或几个线程组成，使用少量的信息，由少量的强相关变量来表达信息。 对比而言， 现代的机器学习模式由浅（少步）推理组成，使用大量信息的大规模并行处理，并涉及大量弱相关变量。
一个有趣的来描述二者对比的例子是，电影《模仿游戏》里的图灵，炒掉了自己的密码破解小组里的语言学专家。 《人工智能：现代方法》认为，纯粹的数据驱动的模型，对比基于 文法、句法分析和语义解释 的手工构建方法，更容易开发和维护，并且在标准的基准测试中得分更高。 该书作者还提及： 可能是Transformer及其相关模型学习到了潜在的表征，这些表征捕捉到与语法和语义信息相同的基本思想，也可能是在这些大规模模型中发生了完全不同的事情，但我们根本不知道。