为什么我们不应否认AGI的即将到来马斯克Yeah

在当前的AI发展阶段，有些人认为AGI（通用人工智能）即将到来并没有确凿证据，这种观点是错误的。 他们患有“ 指数增长盲症 ”。

计算能力每18个月翻一番 ，按照这个速度，我们将在2025年达到人类水平（即AGI）。

除了规模法则，AI在我们给它们的每一项测试中都已经接近或超过了人类水平——而且这些测试多达数百项。

这是大量证据，而且证据数量还在以指数级增长。

AI安全研究人员仅有300人，而能力研究人员超过10万 。我们正从“ 随意试验 ”阶段进入“ 发现真相 ”的阶段。

AGI指数增长

为什么社会仍然反应迟钝？

提醒一下： 扩展定律已经保持了超过15个数量级，这真的很重要 。

就像2020年2月的COVID，指数增长是显而易见的。世界很可能在接下来的1-8年内变得疯狂。

那么…… 为什么社会仍然反应不足呢？

正如Sam Altman所说， AI 是外星智能 。外星飞船现在已经在天空中可见，内部人士认为它们可能在2年内到来，我们不知道它们是否会消灭我们。

还有人仍然说这个行业不应该被监管？

怀疑者多年来一直说深度学习遇到了瓶颈。

错，错，错，一次又一次。

然而这些怀疑者的公众形象却不断上升？

他们不断纠结于AI目前无法做到的事情，好像这能证明什么。

他们 不断忽略大局，执着于AI目前无法做到的事情，以此作为论据 。

对怀疑论者的反驳

Yann LeCun不断对LLMs的局限性做出自信的声明，但一次又一次被证明是错误的。

这家伙仍然说这些东西远不如猫聪明，真的， 他有使用过这些东西吗？

模型在我们有的每一个测试中都接近或超过了人类水平，但……猫？

难以置信的逃避现实。

大多数人根本不知道他做了多少自信但荒谬的预测，所以他的自信给了他们虚假的安慰。他是AI界的Jim Cramer，使用标准的专家套路：自信地说出观点，发表评论，希望没人注意到所有错误的预测。

很多人希望Yann是对的——否则承认现实会太痛苦——所以他们放大了他的声音。

AI的发展趋势与误区

或者，正如怀疑者用完了他们可以指出的问题，AI将会如此远远超越我们——在每件事上都比我们更好——它们将掌控一切，人类的命运将掌握在它们手中。

令人惊讶的是，不仅是怀疑者，几乎所有AI领域的人都有糟糕的预测记录——而且都在同一个方向上！在其他行业，由于规划谬误等，人们预测需要2年，但实际上需要10年。在AI中，人们预测10年，然后2年内就发生了！

一次又一次。现在，至少由于扩展定律，一些人开始做出合理的预测。

你可以赌扩展定律会失败，但你不应该对长时间的预测过于自信，当风险如此之高时。

但怀疑者…… 他们就像那些50年来一直在赌摩尔定律会失败的人。

他们看到地平线上有些障碍，然后想“ 我个人看不到解决这些障碍的方法，因此摩尔定律完蛋了！ ” 仿佛你，一个人类，看不到绕过一个障碍的方法，就意味着……摩尔定律，这已经保持了50多年的定律，完蛋了？

在太阳能领域，正如在AI领域一样，指数增长的趋势显而易见，但怀疑者却视而不见。

怀疑者总是执着于一些不重要的细节，比如：“ OMG，AI有时还会犯错？ ！” 是的，废话。

当AI不再犯错时，AGI（通用人工智能）就已经到来了。

当然，探讨LLMs（大型语言模型）仍然会犯哪些特定错误是有趣的，但错误总是存在的。

如果你在等AI不再犯错，那已经太晚了。趋势才是关键。

与AI一样，太阳能领域也充满了想象力匮乏的怀疑者，他们把技术障碍视为终点。

他们没有看到大局——这个领域在过去已经克服了数千个障碍，而最新的障碍很可能也不会长期存在。人们也常常忘记放眼全局——几周的新闻平淡无奇，他们就成了停滞论者……真的，伙计们？看看两年前这些模型是多么愚蠢！ 放眼全局！

AI在某些方面已经分裂为两派： 能看到指数增长的人和看不到的人 。

我关心这种“ 指数斜率盲目症 ”，因为我认为这是产生糟糕AI观点的首要原因。

人们假设世界会像现在这样。事实并非如此。世界可能会变得疯狂，而且很可能很快就会发生。

就像2020年2月的新冠疫情 COVID 一样，正是在我们需要做出反应的时候，人类却对指数增长反应不足。

评论摘录

Elon Musk(@elonmusk) 点评认可：

Yeah

Riyan Mendonsa(@RiyanMendonsa) 对指数曲线表示认同，但也提出疑问：