开放模型有真正的好处。它们是否大于风险？

麻省理工科技评论解释：让我们的作者解开复杂、混乱的科学技术世界，帮助您了解接下来会发生什么。您可以在此处阅读该系列的更多内容。上个月末，Anthropic 发布了一份报告，认为 GLM-5.3 模型存在重大网络攻击风险。该报告的核心担忧是，中国公司再爱科技于 8 月发布的强大新模型可供任何人免费下载和修改。

Anthropic 的主张只是一场长期争论的最新举措，争论的焦点是前沿人工智能模型是否应该像 GLM-5.3 那样开放，或者应该被锁在前沿实验室的门后。如今，关于如何处理开放模型的大部分争论都在公开进行，并且有很多资金都依赖于其结果。

Nvidia 首席执行官黄仁勋 (Jensen Huang) 热心地主张美国开发更多开放模型，如果人们继续购买自己的硬件来运行开放模型，他将受益匪浅，而 Anthropic 的达里奥·阿莫迪 (Dario Amodei) 经营着一家可能会被廉价、强大的模型削弱的公司，他主张采取更加谨慎的做法。但在所有这些商业激励措施的背后，关于开放模式的分歧确实存在。德克萨斯大学奥斯汀信息学院助理教授戴维·格雷·维德 (David Gray Widder) 表示：“我认为，你对开放性辩论的看法很大程度上受到你对人工智能辩论的看法的影响。”那些担心人工智能安全的人警告说，开放模型很容易被不良行为者滥用，而那些更关注人工智能实际潜力的人则敦促这种力量不应该只存在于少数大公司的大门后面，而开放模型可以帮助它更广泛地传播。处理开放模型的方法有很多种，包括完全禁止它们和随意释放它们。但政府或社会可能采取的任何方法仍然涉及安全和民主化之间的权衡。决定是否支持或限制开放模型的生产需要深入了解这些风险和收益。开放模型有什么好处？让我们从基础开始。封闭模型，例如为 ChatGPT 和 Claude 提供支持的模型，只能通过网站、应用程序或 API 访问。