AI · 新闻详情
人类安全负责人在同事辞职后表示，人工智能“可能杀死所有人类”的可能性超过十分之一
真正值得关注的不是这条新闻本身，而是它可能把「研究」的竞争焦点推向可复现证据与真实场景价值。
发生了什么：一位高级人类安全研究员表示，到本世纪末，人工智能“杀死所有人类”的可能性超过 10%，就在几小时前，一名同事因担心人工智能实验室及其竞争对手正在不小心地竞相构建他们无法控制的“超人类系统”而辞职。
为什么重要：为衡量领域进展提供了新的证据与标尺。
观察窗口：接下来观察同行复现、基准评测变化以及成果能否进入真实产品。
正文来源：非原文：源网页正文只有单句或图片说明，以下为已有摘要与自动整理内容
原文链接：https://www.theverge.com/ai-artificial-intelligence/991927/anthropic-ai-kill-all-humans
原文链接：https://www.theverge.com/ai-artificial-intelligence/991927/anthropic-ai-kill-all-humans
一位高级人类安全研究员表示，到本世纪末，人工智能“杀死所有人类”的可能性超过 10%，就在几小时前，一名同事因担心人工智能实验室及其竞争对手正在不小心地竞相构建他们无法控制的“超人类系统”而辞职。
在 Anthropic 培训人工智能系统的研究员雅各布·考克森 (Jacob Coxon) 在 X 上宣布离职的帖子中表示，他因公司松懈的安全措施而退出了该公司。
考克森 (Coxon) 此前曾
为衡量领域进展提供了新的证据与标尺。
机器翻译/自动整理可能存在误差，请以原文为准。
继续阅读
正在加载推荐…