链式思维只是人类思维的回声

思维链让AI 越来越接近人类了？ 别 高兴太早，这可能只是我们自己的回音！

链式思维提示 （Chain of Thought Prompting，简称CTP，也叫CoT ）可以说是火得不行。只要在提示词里加上"让我们一步步思考"这种魔法咒语，AI就能变得更聪明、推理能力大涨。

但是，亚利桑那州立大学的AI研究员 Subbarao Kambhampati 教授却给我们泼了盆冷水。

他在推特上警告说， CTP的效果可能只是网络语料库的副产品 ，而不是AI真的学会了推理。

为什么这么说？Kambhampati教授解释道：

网上的大部分内容都是给人看的，我们很少只给出问题和答案，通常还会附带一些 步骤解释 或 正确性证明 。CTP其实就是触发了这些关联。

换句话说，AI并没有真的学会推理，它只是在我们的"口头脚印"中寻找关联。当我们说"让我们一步步思考"时，AI就会联想到训练数据中类似的表述和解释。

有意思的是，Kambhampati教授还指出，我们之所以喜欢用人类的方式跟AI对话，其实是因为：

考虑到我们的拟人化倾向，用人类的方式与任何东西交谈都更容易（尤其是当我们不知道它是如何工作的时候）。无论是狗、大语言模型还是人类，这种方式都比用神经元编码要好得多！

说白了， 我们对AI的理解还很有限，所以只能用对人说话的方式来对付它 。

不过话说回来，既然CTP有效，为什么不用呢？

Kambhampati教授也承认，尽管感觉很奇怪，但一旦我们意识到这只是在自己的"口头脚印"中寻找关联，这种怪异感就会消失。

当然，这种方法也有潜在风险。Kambhampati教授提醒：

如果训练语料库被不适合人类阅读的垃圾信息污染会怎样？GPT3-4Chan可能就是一个前兆，这说明我们有必要在挪威那个种子库里存档一份干净的网络语料库。😋

看来，AI的进步可能并没有表面上那么神奇。它更像是一面镜子，反映的是我们自己的思维模式。

那么问题来了： AI只是我们思维的回声吗？

或者，我们应该寻求一种完全不同的、可能超越人类的思维方式？

欢迎分享你的看法！