人工智能行业已经发生了悲惨的转变。现在怎么办？

这个故事出现在我们关于人工智能的每周通讯《算法》中。要首先在您的收件箱中收到此类故事，请在此处注册。本周末，Anthropic 首席执行官 Dario Amodei 发表了一篇文章，呼吁遏制大语言模型的发展步伐。阿莫代列举了他从这项技术中看到的迫在眉睫的危险，从它在网络攻击和生物恐怖主义中的使用到它破坏经济的潜力。美国另外三个顶级人工智能实验室的负责人——OpenAI首席执行官山姆·奥尔特曼(Sam Altman)、谷歌DeepMind董事长德米斯·哈萨比斯(Demis Hassabis)和SpaceXAI首席执行官埃隆·马斯克(Elon Musk)都表达了他们的支持。

“达里奥是对的，”马斯克在 X 上写道。想想这个协议是多么的超现实。就在几个月前，马斯克和 Altman 坐在法庭上，在一场（失败的）诉讼中互相攻击对方的声誉，该诉讼是马斯克对他的前 OpenAI 同事提起的，至少在纸面上是关于 Altman 是否是这种危险技术的值得信赖的管理者。

Amodei 与 OpenAI 的裂痕甚至更深。

Anthropic 成立于 2021 年，因为 Amodei 认为 Altman 没有足够认真地承担他们正在开发的技术的风险。从那时起，Anthropic 和 OpenAI 就一直在进行一场赢者通吃的竞赛。

（哈萨比斯没有介入这场闹剧，但他的公司仍然是竞争对手。）现在看来，他们都同意：最新一代的大语言模型并不安全，每个人都需要弄清楚该怎么办。来自顶级人工智能实验室的公开信息已经发生了灾难性的转变。人们很容易变得愤世嫉俗。目前还不清楚他们所说的经济放缓是什么意思，也不清楚它会如何运作。这些公司也非常关心他们的形象。

OpenAI 和 Anthropic 的目标是实现万亿美元的 IPO，他们需要让投资者放心，他们是房间里的成年人，同时暗示他们所创造并打算驯服的怪物的力量。呼吁经济放缓可以实现这两点。然而，这些公司高层的氛围似乎确实发生了变化。

Amodei 的最新帖子是在 OpenAI 发表该公司首席科学家 Jakub Pachocki 的一篇文章六天后发布的，他在文中还阐述了为什么他担心如果大语言模型的发展速度继续不受控制会发生什么。简而言之，Pachocki 担心 OpenAI 构建强大模型的能力现在远远超过了其监视和控制模型的能力。