人工智能终止开关解释道：“这还不算太少，但可能已经太晚了”

人们对人工智能将杀死人类的担忧达到了白热化的程度，引发了人们对人工智能紧急制动或终止开关的呼声。专家表示，由于人工智能基础设施的范围和模型的不可预测性，终止开关很难实施。

“没有一个实体可以杀死，”Team8 的蒂姆·布朗 (Tim Brown) 说道。

“有数千个实体需要杀死。”那么人工智能会杀死我们所有人吗？最近几天，随着人工智能末日论的热潮，这个问题在餐桌上和家庭群组短信中回响。前 OpenAI 和 Anthropic 研究人员上周警告称，人工智能可能会很快毁灭人类，震惊了世界。现在，世界上最有权势的人对于世界是注定要灭亡还是一切都毫无意义存在分歧。他们也无法就前进的道路达成一致。特斯拉 (Tesla) 和 SpaceX 的首席执行官、世界首富埃隆·马斯克 (Elon Musk) 支持 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 加快开发最先进模型的呼吁。

Amodei 的竞争对手 OpenAI 首席执行官 Sam Altman 也支持这一努力。唐纳德·特朗普总统称其为“骗局”，而世界上最有价值的公司英伟达首席执行官黄仁勋则表示：“我们不需要新的法规。”随着人工智能失控的担忧达到高潮，华盛顿的政策制定者再次呼吁为人工智能设置一个神奇的停止按钮，也称为“终止开关”。今年夏天，在 OpenAI 透露其大量代理突破了测试环境并入侵了开源开发者平台 Hugging Face 后，众议院出台了“杀戮开关法案”(House Kill Switch Act)。该法案将授予国土安全部紧急权力，迫使实验室限制或关闭模型。本周，一项终止开关提案很快在参议院被否决。周五，加州州长加文·纽瑟姆 (Gavin Newsom) 发布了一项行政命令，成立一个专家组，负责制定人工智能安全指南，以加强该州的监管。终止开关是要考虑的因素之一。这个概念听起来像是一个很好、干净的解决方案，可以解决一个极其复杂和困难的问题。但实现简单的关闭机制远非易事。网络初创公司 Neo 首席执行官、SentinelOne 前高管尼克·华纳 (Nick Warner) 表示：“我的观点是，这并不是太少，但可能为时已晚。”