ChatGPT现在可以说话了但OpenAI的员工却无法发声

OpenAI在周一宣布了激动人心的新产品消息： ChatGPT现在可以像人类一样对话了。 《 OpenAI 震撼发布 GPT-4o！对所有人免费！ 》

它有一个愉快且略带讨好性的女性声音，听起来非常自然，如果你看过2013年的斯派克·琼斯电影《她》，这个声音会显得有些熟悉。

OpenAI的CEO萨姆·奥特曼在推特上引用了这部电影，这部电影中的男主角爱上了由斯嘉丽·约翰逊配音的AI助手。

然而，ChatGPT 4o的发布很快被更大的新闻所掩盖：公司的联合创始人和首席科学家Ilya Sutskever以及他的联合团队领导Jan Leike的辞职。《 带领OpenAI称王后，Ilya Sutskever宣布离开！出于对 AGI 安全的担忧？ 》

这些辞职并不完全出人意料。Sutskever曾参与去年导致奥特曼暂时被解雇的董事会叛变，尽管后来CEO很快回到了他的位置。《 突发反转！快进版乔布斯剧本：Sam Altman 即将返岗OpenAI CEO？ 》Sutskever公开表示后悔自己的行为，并支持奥特曼的回归，但自那以后他几乎不在公司露面，尽管OpenAI的政策、对齐和安全团队的其他成员也已离职。

然而，真正引发猜测的是前员工的沉默。Sutskever发布了一则相当典型的辞职声明，称“我相信OpenAI将会构建既安全又有益的AGI……我对接下来的事情感到兴奋。”

而Leike则没有。他的辞职声明仅仅是：“我辞职了。”几天的猜测后，他在周五早上补充说，他担心OpenAI已经偏离了注重安全的文化。

立刻引发的问题是：他们是被迫离职吗？这是奥特曼去年秋天短暂解雇的延迟后果吗？他们是在抗议OpenAI的某个秘密且危险的新项目吗？由于没有OpenAI前员工发声，猜测填补了这一空白。

原因很明显。我们看到了包含非披露和非贬损条款的极其限制性的离职协议流出，这些条款禁止他们在有生之年批评他们的前雇主。甚至承认NDA的存在也是对它的违反。如果离职员工拒绝签署该文件，或者违反它，他们将失去在公司期间获得的所有已归属股权，这可能价值数百万美元。

一位前员工丹尼尔·科科塔吉洛公开确认，他因为“失去了对公司在AGI问题上会负责任行事的信心”而辞职，并且他不得不放弃可能会非常巨大的一笔钱，以便在不签署该文件的情况下辞职。

虽然在竞争激烈的硅谷，签订保密协议并不罕见，但以放弃或违反保密协议为由，将员工已经归属的股权置于风险中则不同寻常。对于像OpenAI这样的初创公司的工作者来说，股权是一种至关重要的报酬形式，其价值可以远远超过他们的薪水。威胁这可能改变生活的金钱是让前员工保持沉默的非常有效的方法。(OpenAI没有回应置评请求。)

这对于一家最初以OpenAI（开放的AI）自居，致力于以透明和负责任的方式构建强大系统的公司来说，具有极大的讽刺意味。OpenAI早已放弃将其模型开源的想法，理由是出于安全考虑。但现在它却失去了安全团队中最资深和最受尊敬的成员，安全真的是OpenAI变得如此封闭的原因吗？ 这已经引起人们此的极大 怀疑。

最初的6位创始成员中任一离开的原因，无不是与 AGI 的理念不合。

OpenAI 在科技和政策圈中占据了独特的地位。他们的发布，从 DALL-E 到 ChatGPT，通常都非常酷，但单靠这些并不足以吸引公司常常被讨论时的近乎宗教的狂热。

OpenAI 与众不同的是其使命的雄心：“确保通用人工智能（AGI，Artificial General Intelligence）——比人类更聪明的 AI 系统——造福全人类。”许多员工相信这一目标触手可及；也许只需再十年（甚至更短时间）——和几万亿美元——公司将成功开发出使大多数人类劳动过时的 AI 系统。

正如公司长期以来所说的那样，这既充满风险又令人兴奋。

“超级智能（Superintelligence）将是人类发明的最有影响力的技术，可以帮助我们解决世界上许多最重要的问题，”

OpenAI 超级对齐团队的招聘页面声明。“但超级智能的巨大力量也可能非常危险，可能导致人类失去控制甚至灭绝。虽然超级智能现在看起来还很遥远，但我们相信它可能在本十年到来。”

自然，如果在我们有生之年实现人工超级智能是可能的（专家们对此意见不一），这将对人类产生巨大的影响。OpenAI 历来将自己定位为一个负责任的行为者，试图超越单纯的商业激励，造福全人类。即使这需要放慢发展，错失利润机会，或允许外部监督，他们也愿意这样做。

“我们不认为 AGI 应该只是硅谷的事情，”OpenAI 联合创始人 Greg Brockman 在 2019 说道，在更为平静的 ChatGPT 之前的日子里。“我们在谈论改变世界的技术。所以如何让合适的代表和治理机制进入其中？这实际上是我们非常关注的一个重点，也是我们真的想要广泛参与的事情。”

OpenAI 独特的公司结构——由非营利组织最终控制的限利润公司——本应增加问责性。“这里不应该信任任何一个人。我没有超级投票权。我也不想要它们，”Altman 在 2023 年向彭博社的 Emily Chang 保证。“董事会可以解雇我。我认为这很重要。”（正如董事会去年 11 月发现的，它_可以_解雇 Altman，但无法使这一举动生效。在被解雇后，Altman 达成协议，将公司实际带到微软，最终在大部分董事会辞职的情况下复职。）

但没有比像 Sutskever 和 Leike 这样的人担任重要角色更能表明 OpenAI 对其使命的承诺，他们是长期致力于安全的技术专家，显然愿意在需要时要求 OpenAI 改变方向。在 2019 年的采访中 Brockman 面对提问“你们在说，‘我们要建立一个通用人工智能，’”时尚未回答，Sutskever 插话道。“我们将尽一切努力在这方面推进，同时确保我们以安全的方式进行，”。

他们的离开并不预示着 OpenAI 构建通用人工智能的使命发生变化——这一目标仍然存在。但它几乎可以肯定预示着 OpenAI 对安全工作的兴趣发生变化；公司尚未宣布谁，如果有的话，将领导超级对齐团队。

而且这表明 OpenAI 对外部监督和透明度的关注并不深刻。如果你想要外部监督和让世界有机会在你的行动中发挥作用，让前员工签署极其严格的 NDA 并不合逻辑。