人工智能安全争论是关于安全还是控制？

科技行业应该如何看待人工智能安全话题？越来越多的高层管理人员开始权衡这个问题，因为像“拥抱脸”事件这样的事件（OpenAI 代理入侵了几家不同的公司）等事件是否表明人工智能正处于让我们的世界陷入混乱的边缘，这一争论正在激烈进行。最近几周，知名实验室呼吁放慢人工智能的发展速度。最引人注目的是，首席执行官达里奥·阿莫迪 (Dario Amodei) 撰写了一篇近 4,000 字的文章，其中阐述了为什么人工智能开发应该放缓，以便部署足够的护栏。该计划除其他外，还涉及公司和政府之间关于安全部署的国际合作战略。

OpenAI 的 Sam Altman 和 xAI 的 Elon Musk 等竞争对手的 AI 高管都支持 Amodei 的计划。这篇文章引发了整个科技行业的进一步讨论，尽管并非所有人都同意阿莫迪呼吁全球协调行动。事实上，许多人似乎认为政府监管根本不需要发挥作用。这场辩论的最新参与者包括 Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg)，他本周在 X 上分享了他对此事的看法。

“我的观点是，信任和一致性正在迅速成为区分代理和模型的最重要的能力。”扎克伯格透露，出于安全考虑，他的公司推迟了人工智能模型的发布。扎克伯格表示：“为了关注安全，Meta 将 Muse 的发货推迟了几个月。” “我们并没有要求其他人先于我们这样做。我们只是将其作为日常工作的一部分，因为这显然对人们和我们来说都是正确的事情。”扎克伯格支持阿莫迪计划的部分内容，他似乎暗示政府行动是不必要的，构建行业的有机激励措施将迫使公司采取正确的安全措施。市场最终应该为那些注意创建不会造成混乱的模式的公司带来成功。这似乎与扎克伯格自己上个月写的长篇文章一致，该文章主张在必要时与政府进行有限的合作，但主要吹捧美国的竞争力是繁荣的技术未来的关键。总的来说，这似乎是许多其他科技高管的立场。