AI 放缓的争论让 Salesforce 的派对崩溃了

贝尼奥夫在观众中漫步，发表他的《梦想力量》布道，随后一台带轮子的遥控摄像机将他的脸投射到悬挂在巨大房间天花板上的屏幕上。几分钟之内，他就列出了 Salesforce 的年收入图表，该公司预计 2027 年收入将突破 460 亿美元，部分原因是对其人工智能产品的需求。观众鼓掌。但笼罩在整个事件上的是一个黑暗的问题：人工智能真的值得我们冒着生命危险吗？在代理构建仪表板的华而不实的软件演示之间，与会者观看了硅谷领导人辩论人工智能行业是否应该继续前进，或者政府是否需要放慢人工智能进展以防止该技术产生的灾难性风险。上周，人工智能研究员雅各布·考克森 (Jacob Coxon) 从 Anthropic 辞职，并公开警告说，那些竞相自我改进人工智能系统的公司正在“拿我们的生命做赌注”。到了周末，其他 Anthropic 员工也表达了他的担忧，首席执行官达里奥·阿莫迪 (Dario Amodei) 敦促世界领导人帮助“引领人工智能发展的前沿”。其他人工智能首席执行官随后开始支持这个想法，其中包括 Amodei 最大的竞争对手、OpenAI 的 Sam Altman。但并不是所有人都同意这个想法。白宫人工智能顾问大卫·萨克斯（David Sacks）对阿莫迪的建议和对人工智能末日的担忧不予理睬，称其“只是监管捕获的又一尝试”。特朗普总统本周更进一步，称对人工智能存在风险的担忧是“一场骗局”。尽管政治环境充满挑战，国会仍试图利用这一时机，推动立法来监管人工智能行业。在台上，身高 6 英尺 5 英寸的贝尼奥夫比 Anthropic 的首席执行官高出一截，在询问他对人工智能进展的最新评估之前，他用力与阿莫迪握手。虽然这无疑是贝尼奥夫的表演，但 Anthropic 已成为帮助 Salesforce 进入人工智能时代的重要合作伙伴。

“假设你经营着一家汽车公司和另一家汽车公司，而不是你自己的汽车公司，他们发生了某种安全事件，”Amodei 说道，他毫不隐晦地提到了 OpenAI 的 Hugging Face 事件。

“显然，攻击你的竞争对手是非常诱人的，”阿莫代解释道，但更负责任的举动是“组织行业的其他成员，并说，我们能做些什么来为每个人制定标准？”