人工智能启示录可能是这样的

本集提到的文章： 中国不接受硅谷关于人工智能放缓的呼吁 华盛顿不会很快监管人工智能 为什么这么多人工智能研究人员认为机器会杀死所有人 OpenAI 想知道人工智能行业放缓是否合法 您可以通过 @brbarrett 关注 Bluesky 的 Brian Barrett，@zoeschiffer 关注 Zoë Schiffer 的 Bluesky，以及@leahfeiger 关注 Bluesky 的 Leah Feiger。请写信给我们：uncannyvalley@wired.com。您始终可以通过此页面上的音频播放器收听本周的播客，但如果您想免费订阅以获取每一集，请按以下步骤操作：如果您使用的是 iPhone 或 iPad，请打开名为“播客”的应用程序，或者只需点击此链接。您还可以下载 Overcast 或 Pocket Casts 等应用程序，然后搜索“恐怖谷”。我们也在 Spotify 上。注意：这是自动记录，可能包含错误。

Zoë Schiffer：欢迎来到《连线》杂志的恐怖谷。我是佐伊·希弗 (Zoë Schiffer)，特约编辑。布莱恩·巴雷特：我是布莱恩·巴雷特，执行主编。利亚·费格：我是政治和科学主任利亚·费格。

Zoë Schiffer：今天在节目中，我们将深入探讨人工智能是否会杀死我们所有人。我们不会仅仅添加到已经存在的一堆热门观点中，而是将尽我们最大的能力引导您了解真实的具体场景，了解人工智能实际上如何做到这一点，以及为什么科技首席执行官和政治家似乎无法就前进的方向达成一致。好吧，伙计们，关于人工智能安全的争论已经正式摆脱了控制。

Brian Barrett：Zoë，我明白你在那里做了什么。哇。

Zoë Schiffer：你看到我在那里做了什么吗？这才是真正无法控制地传播的东西。人工智能研究员 Jacob Coxon 从 Anthropic 辞职，并在 X 上发帖称，“构建人工智能的人们真诚地相信，到本世纪末，它可能会杀死我们所有人。” Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 呼吁放缓步伐。他们称之为“在边界上踱步”。萨姆·奥尔特曼和埃隆·马斯克实际上已经签署了协议，这是一个罕见的协议时刻。但老实说，随着所有关于人工智能消灭人类的讨论，我留下了一个非常基本的问题，那就是，这到底是如何发生的？完全失控的人工智能实际上是什么样子？

Leah Feiger：我很高兴我们这样做。