大型科技公司的人工智能放缓是安全协议还是卡特尔？

当 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman)、Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei)、谷歌 DeepMind 联合创始人德米斯·哈萨比斯 (Demis Hassabis) 和 SpaceX 负责人埃隆·马斯克 (Elon Musk) 周末大致同意放慢人工智能开发速度时，怀疑论者立即发现了别有用心的动机。人工智能巨头宣称，他们的目标是“开拓前沿”，至少部分签署了一项关于嵌入第三方审计师、监管国内实验室以及达成全球放缓协议的提案。然而，他们的批评者认为，他们只是想阻止潜在的竞争对手，削弱开源运动，并避免真正的法律保障——一些人称其为彻头彻尾的“卡特尔”。据业内人士透露，事实更为复杂。阿莫迪在一篇文章中提出了三步走的建议，呼吁人工智能安全倡导者进行长期支持的变革。尽管它可能成为监管的替代品，但在特朗普的领导下，实质性监管无论如何都不可能实现。但专家表示，在一个只会变得越来越重要的问题上，人工智能领导者并不是引领这一潮流的最佳人选。

“整个行业需要新的冠军，”纽约大学兼职教授、国土安全部新兴技术政策前主任尼克·里斯 (Nick Reese) 说。

“我们把达里奥·阿莫迪、萨姆·奥尔特曼和埃隆·马斯克等人视为最接近问题并每天致力于解决问题的人，他们是最了解问题的人。但事实是，我们从来没有对我们正在建设的目标有一个现实的愿景。”几个月来，人们对人工智能进步的担忧不断升级，这主要是因为有消息称，在领先的前沿实验室 Anthropic 和 OpenAI 的眼皮底下，大量特工是流氓黑客的幕后黑手。两家公司的报告火上浇油，人类学研究员雅各布·考克森(Jacob Coxon)的辞职也火上浇油，他发表了一封公开信解释了自己的选择。他写道：“构建人工智能的人们真诚地相信，到本世纪末，它可能会杀死我们所有人。”他补充道，OpenAI 和 Anthropic 都没有“负责任地行事”，而是“直接与自我完善的超级智能赛跑，并用我们的生命进行赌博”。关于人工智能的可怕警告在行业内并不是什么新鲜事，但考克森的信似乎打破了遏制。