归功于山姆奥尔特曼空洞的炒作ChatGPT行业会崩盘

今天的时事通讯：我相信我们正在达到人工智能的顶峰，随着企业和消费者意识到 ChatGPT 及其公司的局限性和实用性的缺乏，该行业将会崩溃。这一切都要归功于山姆·奥尔特曼空洞的炒作周期。

下为原文：

上周， 《华尔街日报》发表了对 OpenAI 首席技术官 Mira Murati 的长达 10 分钟的采访 ，记者 Joanna Stern 提出了一系列深思熟虑但直截了当的问题，Murati 未能给出满意的回答。当被问及使用哪些数据来训练 OpenAI 的 AI 视频生成应用 Sora 时， Murati 声称它使用了公开数据 ，而当 Stern 问她是否使用了 YouTube 上的视频时 ， Murati 的表情因困惑和痛苦而 扭曲。 说她“实际上对此并不确定”。 当斯特恩第三次催促 ，询问来自 Facebook 或 Instagram 的视频时，穆拉蒂摇摇头说，如果视频“公开可用……使用，可能会有数据，我不确定，我不知道”。对此充满信心。”

斯特恩很好地让穆拉蒂回答，但令人深感担忧的是，世界上最“重要”的人工智能公司的 首席技术官无法回答有关训练数据的非常基本的问题。 即使当被问及对来自 OpenAI 合作公司 Shutterstock 的数据进行培训时，Murati 结结巴巴地摇了摇头，并表示她不会“详细介绍所使用的数据，但这些数据是公开的 或 许可数据”（强调我的）。采访结束后不久，斯特恩补充说，OpenAI 分享了 Shutterstock 的数据用于训练 Sora 的模型。

旁注： 斯特恩在这次采访中所做的一件非常有用的事情是 准确地分解了Sora 如何 为大众服务，并将其定义为“分析大量视频并学习识别物体和动作的人工智能模型”。这可能看起来只是一个小举动，但导致生成人工智能报道中毒的一个问题是不愿意清楚地描述这些东西 是如何 工作的，而是将其行为称为在一台巨大而可怕的计算机上完成的某种神奇过程。

这次采访很重要，有几个原因，但让我们从最明显的开始：OpenAI 的首席技术官无法或不会解释其视频创建生成人工智能是在哪些材料上进行训练的。在整个采访过程中，她似乎茫然、不安，无法提供有关她正在开发的产品的许多细节，用“很快”和“最终”等最广泛的术语描述了一切。如果这次采访没有围绕训练数据展开如此有用的对话，穆拉蒂就不会告诉世界什么。尽管穆拉蒂的含糊其词可能是应她的公共关系和法律顾问的要求，但我实际上认为她更有可能实时意识到她要么不知道这些答案，要么事实会更加平淡无奇（或者令人不安）比世界可能喜欢的。

当被问及是否有可能在生成 Sora 的视频后对其进行修复时，穆拉蒂说“最终”，然后表示“这就是我们正在努力弄清楚的......如何使用这项技术作为人们可以用来编辑和创建的工具。” 她承诺“最终”将会有“更多的可操纵性、控制力和准确性……并反映你想要的意图。”

你“最终”将能够向 Sora 视频添加音频，当被问及 Sora 的生成视频何时向公众开放时，她再次表示“最终”，而当被催促时，她表示 Sora 的发布“肯定会在今年” ，但可能要几个月。”

穆拉蒂生活在一个“最终”的世界中，没有提供任何技术见解，没有具体细节，也很少有细节。

这些是只有最受欢迎的科技公司才能接受的采访——相对较浅的来回对话，似乎没有人能够说“嘿，这实际上意味着什么？” 令人惊讶的是，穆拉蒂没有准备好回答有关 她短暂运营的价值800 亿美元的初创公司 背后技术的具体问题，每当她不得不扩展最普遍的话题之外的任何内容时，她似乎都感到不安。

虽然我总体上很喜欢 Stern 接受采访的方式，但当她未能反驳Murati 的说法时，我想尖叫，即她将 Sora 视为“扩展创造力的工具，并且 OpenAI 希望“电影行业的人们、世界各地的创作者，成为“告知 OpenAI 如何开发和部署 Sora 的一部分”。这正是您所说的“这到底意味着什么？”以及“过去在图像生成方面您是如何做到这一点的？”

当然，答案是 OpenAI 对与电影行业中的任何人或任何地方的任何创作者交谈的兴趣为零，穆拉蒂应该因为提出其他建议而受到口头谴责。虽然 OpenAI 已经发布了招聘社区专家的职位，充当“OpenAI 大使”，但我几乎没有看到任何证据表明 OpenAI 除了试图说服创作者使用其工具之外还有任何帮助创作者的计划。

当然，这都是 OpenAI 华丽而空洞的剧本的一部分。在 2022 年 10 月（ChatGPT 推出前整整一个月）的每日秀采访中， Murati 告诉 Trevor Noah，OpenAI 将 ChatGPT 和 DALL-E 2 等工具视为“我们创造力的延伸”，即消息的直接复制粘贴OpenAI 在 DALL-E 网站上使用。在长达七分钟的采访中，Murati 首次提出了支撑 OpenAI 整个消息传递策略的谈话要点——错误信息不好，OpenAI 好，一些工作将会丢失，但这很好，因为以前发生过这种情况。在 2023 年 7 月接受彭博社艾米丽·张 (Emily Chang) 采访时，Murati 将她的工作描述为“指导实地团队、思考长期战略、找出我们的差距并确保团队获得成功的有力支持， ”并表示她最担心的事情之一是幻觉（当模特权威地说出不正确的事情时），张未能跟进这个问题“那么呃，你如何解决这个问题？”

出于一些在他被从 OpenAI 董事会撤职后不太有意义的原因，张还与亿万富翁投资者里德霍夫曼进行了交谈，后者表示人工智能将“比 iPhone 更快”被采用，并且“每个职业都会有一个副驾驶”。张微弱地反驳道，她嘲笑她的孩子们使用 ChatGPT 写论文，霍夫曼用他自己的“扩展创造力”版本反驳说，希望与人工智能的互动能够教会学生“创造出更有趣的论文， ”此时张应该问他这到底是什么意思。

在写这篇文章时，我花时间观看了对 Murati（实际上还有 OpenAI 首席执行官 Sam Altman）的几场采访，对于硅谷最重要的公司来说，关于这项技术为何重要的基本解释很少，并且它实际上做了什么。Sam Altman 在 2023 年 10 月《华尔街日报》的“Tech Live”活动中接受乔安娜·斯特恩 (Joanna Stern) 采访时表示，人们真正喜欢 ChatGPT 的地方并不是它“知道特定的知识”，而是它拥有这种“幼虫”推理能力将会变得越来越好”，并继续含糊地回答模型将如何“建立各种经济安排”，让他们解释如何回答问题（？），然后补充说“这些模型的根本问题不在于它们记住大量数据。” 斯特恩未能在许多方面反驳——“幼虫推理”是一个完全没有意义的术语，而且总的来说，奥特曼未能真正解释他的意思。

这是科技领域有权势人士面临的问题。如果你允许他们说话并为他们填补空白，他们会很乐意这样做。Murati 和 Altman 不断地混淆 ChatGPT 的工作原理、它能做什么、它能做什么，并从媒体完全不予反击中获利丰厚，而媒体通常只从表面上接受 AI 高管模糊的解释。OpenAI 对其技术能够（或将）做什么的信息和解释在过去几年中几乎没有变化，反复回到“最终”和“未来”，并以最模糊的方式谈论企业如何赚钱——让仅从集成生成式人工智能中获利。

山姆·奥尔特曼（Sam Altman）多次被赋予对人工智能的未来能力进行抒情描述的能力，这让他能够描绘出他实际上并未构建的技术的图景。Altman 的奇特说法包括他的孩子“拥有比人类朋友更多的人工智能朋友”，人类级别的人工智能将“到来”，但从未具体说明何时，人工智能将取代营销机构执行的 95% 的任务，ChatGPT 将在“令人不安的环境中进化”。 ”人工智能将杀死我们所有人，而人类与人工智能分离只是因为他们“真正关心别人的想法”。

每次 Sam Altman 讲话时，他几乎都会立即转向同人小说的世界，谈论“AI”可以做的一般事情，以及非具体的 ChatGPT 可能适合或不适合的地方，而从未描述过现实世界的用例。多年来，他一直以完全相同的方式这样做，除了自动化和“模型”的模糊承诺之外，未能描述人工智能的任何工业或社会需求，这些模型将能够做人类可以做的事情，尽管 OpenAI 的模型不断证明即使是最愚蠢的人类，他们自己也无法匹敌。

Altman 想要谈论可以取代人类工作的平均通用智能的重大而性感的故事，因为 OpenAI 以及扩展的生成式 AI 的现实比他希望您了解的要无聊、有限和昂贵得多。

我不相信事情会有所改善。

智力有限

上周，《The Information》发表了一篇有关亚马逊和谷歌“降低生成式人工智能预期”的报道，这些公司的销售人员对他们所销售的技术的能力感到兴奋。文章援引一位科技高管的话说，客户开始面临诸如“人工智能是否提供价值？”之类的问题。以及“我如何评估人工智能的表现”，Gartner 分析师告诉亚马逊网络服务销售人员，人工智能行业“正处于围绕大型语言模型和其他生成人工智能的炒作周期的顶峰”。

这篇文章证实了我的许多怀疑——正如 The Information 所写的那样，“其他吹捧生成式人工智能为企业带来福音的软件公司仍在等待收入的出现”，并引用了专业服务公司毕马威 (KPMG) 购买 47,000 份订阅的例子。微软的副驾驶 AI“比 Copilot 每个座位每月 30 美元的标价有大幅折扣。” 令人困惑的是，毕马威购买了这些订阅，尽管没有衡量其员工实际上从该软件中获得了多少价值，而是为了“熟悉客户可能遇到的任何与人工智能相关的问题”。

Salesforce 首席财务官 Amy Weaver 在最近的财报电话会议中表示，Salesforce 在其 2025 财年指导中“没有考虑到 Salesforce 众多人工智能产品的实质性贡献”。软件公司 Adobe 的股价下跌，因为该公司未能从其人工智能产品中产生有意义的收入，分析师担心该公司能否真正将其正在激增的任何生成产品货币化。ServiceNow 在其财报中声称，生成式人工智能对其盈利做出了有意义的贡献，但 The Information 的报道援引其首席财务官吉娜·马斯坦托诺 (Gina Mastantuono) 的话说，“从收入贡献的角度来看，它不会很大。”

我相信，人工智能热潮的很大一部分都是空谈，是由高管的胡言乱语和顺从的媒体共同推动的，这些媒体会很乐意写故事想象人工智能可以做什么，而不是专注于它实际在做什么。《华尔街日报》臭名昭著的老板倡导者 Chip Cutter上周写了一篇关于人工智能如何融入办公室的文章，文章的大部分内容讨论了公司“可能”如何使用技术，然后离题说他采访过的每家公司都在使用这些技术。实验性工具，但他们不断犯错误。在接受 Salesforce 人工智能负责人 Clara Shih 采访时，《纽约时报》未能让她透露太多有关其人工智能产品用途的信息，除了其“爱因斯坦信任层”如何处理数据之外，Shih 补充说人工智能将“像互联网一样改变工作岗位。”

媒体被愚弄了，就像他们被虚拟世界、被人工智能的似是而非的承诺和支持它的高管愚弄一样。由于人工智能确实存在，半真半假的想法和神奇的想法传播得更快，而且更容易想象它会如何改变我们的生活，即使它改变的方式介于不可能和不可能之间。人们很容易认为数据输入或“无聊”工作等任务可以轻松自动化，当您使用 ChatGPT 时，您几乎可以看到这可能会如何发生，即使 ChatGPT 真的可以'不做这些事情，都是因为 ChatGPT 在发布时能够对看起来几乎有用的事情进行印象。

就在我们说话的时候，去年人工智能的蓬勃发展并没有给我们的生活带来任何有意义的改善。我刚刚删除了一句我谈到“我认识的使用 ChatGPT 的人”的句子，并意识到去年我遇到了一个使用 ChatGPT 的人 - 一位将其用作同义词的作家。

除了 Klarna 之外，我找不到任何一家公司能够以真正提高盈利的方式集成生成式人工智能，该公司声称其人工智能驱动的支持机器人“预计将在 2024 年推动 4000 万美元的利润增长”，这确实并不像许多人错误地表述的那样，意味着它“为Klarna 带来了 4000 万美元的利润”。尽管存在相反的担忧，人工智能似乎并没有取代大量工人，即使取代了，结果也相当糟糕。波士顿咨询集团的一项研究发现，“使用 OpenAI 的 GPT-4 解决业务问题”的顾问的表现比没有使用它的顾问低 23%，即使顾问被警告生成式 AI 的局限性和产生幻觉的风险也是如此。

需要明确的是，我并不是主张用人工智能取代工人。然而，我想说的是，如果人工智能确实能够取代人类的产出——即使它已经接近做到这一点——那么任何数量庞大、卑鄙的公司都会大规模地这样做，并计划这样做更多模型得到改进。

当然，除非这是不可能的。如果我们今天看到的不是未来的一瞥，而是现在的新术语怎么办？如果人工智能实际上无法做比我们今天所看到的更多的事情，并且没有明确的时间表它何时能够做更多事情怎么办？如果整个炒作周期已经建立，并由准备好并愿意相信职业修饰者的话的顺从媒体推动，结果会怎样呢？

每次我读到人工智能可以做的“令人惊奇”的事情时，我都会看到有人试图给即将熄灭的大火火上浇油。虽然乔安娜·斯特恩 (Joanna Stern) 可能会说 Sora 的生成视频剪辑“吓坏了她”，但让它们害怕的主要原因是 OpenAI 能够修复幻觉的假设，而该公司显然没有做到这一点。人工智能炒作的基础是用人工智能模型解决问题，而这些问题只会变得越来越糟，而 OpenAI 唯一的答案就是“我们最终会解决这个问题，相信我”和“我们需要芯片和能源方面的技术突破”。

生成人工智能的核心问题——它的幻觉、巨大的能量和无利可图的计算需求——还远未得到解决。现在阅读和听了穆拉蒂和奥特曼的大量采访后，我发现很少有人问他们这些问题，更不用说他们提供令人信服的答案了。