刚刚退出 Anthropic 的人工智能研究员表示，现在是“人类的关键时刻”
真正值得关注的不是Wired这一条动作本身，而是它可能把「互联网」的竞争焦点推向更大范围的连锁反应。
原文链接：https://www.wired.com/story/anthropic-researcher-quits-jacob-coxon-ai-fears-humanity/
“人们的共识是，未来一两年是人类的关键时刻，”从事人工智能开发预训练阶段工作的考克森在接受《连线》采访时表示。
“这些实际上只是我在 Anthropic 的同事们的原话。他们会说‘残局’或‘关键时刻’之类的话，”他说。
“从他们的角度来看，这是 Anthropic 及其竞争对手决定人类命运的时候。”这并不是第一次有人对人工智能发出警报，但它出现在一个微妙的时刻。硅谷正在努力解决先进人工智能模型的安全问题。
OpenAI 已紧急响应其代理黑客入侵 Hugging Face 平台的安全事件。与此同时，Anthropic 正试图向投资者保证，这些担忧已得到控制，据报道，该公司正准备申请可能是有史以来最大规模的 IPO。您是 Anthropic 的现任或前任员工，想要谈论正在发生的事情吗？我们希望收到您的来信。使用非工作电话或电脑，通过 Signal（mzeff.88）安全地联系记者。从对考克森帖子的回应中可以清楚地看出，他的观点确实得到了许多同行的认同。
Anthropic 的 AI 协调负责人 Evan Hubinger 在 X 上的一篇帖子中预测，人工智能在未来十年内杀死所有人的可能性超过 10%。
OpenAI 和 Anthropic 的现任和前任研究人员转发了该帖子，其中一些人表示这是业内的普遍观点。不太明显的是，这些人工智能恐惧究竟会如何发生，以及世界应该如何应对人工智能开发者提出的担忧。曾在 OpenAI 工作过的 Coxon 告诉《连线》杂志，威胁可能通过人工智能驱动的生物威胁或网络武器表现出来。作为第一步，他建议 OpenAI 和 Anthropic 协调限制递归自我改进——这是人工智能用于构建新人工智能系统的行业术语。他认为，未来，包括美国和中国在内的国际强国之间的协调是必要的。考克森指出，像“拥抱脸”黑客事件这样的事件是他决定对人工智能竞赛敲响警钟的一个因素。