英国立法者对人工智能的混乱之夏感到惊慌

工党议员达伦·琼斯在一封致英国首相和国际经济合作与发展组织的公开信中写道，无论是“营销炒作”还是真正的灭绝威胁，“政府必须介入”。琼斯是最新一位努力寻找方法保护英国公众免受人工智能安全威胁的立法者。就在一天前，工党议员亚历克斯·索贝尔(Alex Sobel)提出了一项议会法案，提议禁止“超级人工智能的开发、部署和运营”——在任何任务上都可以完全取代并超越人类的系统。该立法还将赋予政府在供应链不同环节（包括芯片层面）监控和控制技术开发的权力。索贝尔在介绍该法案时表示：“我们并不是唯一在这方面努力的人。”他指的是美国政府 6 月份对 Anthropic 的《神鬼寓言 5》和《神话 5》模型实施的临时出口禁令。

“如果历来被认为反对人工智能监管的特朗普政府可以考虑对过于强大和危险的模型划定界限，那么我们不问我们应该采取什么反应就会很奇怪，”他说。来自各政党的议员都在该法案上署名，其中包括工党议员杰西·阿萨托 (Jess Asato)，她正在起诉埃隆·马斯克 (Elon Musk) 的 xAI，因为据称 xAI 的 Grok 聊天机器人被用来生成她的虚假性感图像。近几个月发生一系列人工智能代理失控事件后，立法者越来越担心人工智能对国家安全的威胁。他们希望引入针对最坏情况的防护措施，例如这些系统夺取关键基础设施的控制权并运行复杂的影响操作。

7 月份，OpenAI 模型的 Hugging Face 黑客事件逃脱了遏制，“这就是为什么我们迅速采取行动，对超级智能人工智能进行监管和立法变得更加重要，”索贝尔告诉《连线》，“因为人工智能正在快速发展，我担心开发者并不知道其中到底有什么。”不同寻常的是，议会法案是由非营利组织 ControlAI 起草的，该组织得到了 Skype 创始工程师、前 DeepMind 投资总监 Jaan Tallinn 的支持。