OpenAI 踩了刹车。现在怎么办？

随着 IPO 的临近、来自 Anthropic 的激烈竞争，以及中国和开放重量级竞争对手的紧随其后，OpenAI 有充分的理由迅速采取行动。相反，它踩了刹车。周二，该公司表示，在加强安全和保障措施的同时，已经放慢了部分人工智能开发的步伐。其中包括“用于部署的最新模型”的强化学习训练暂停两周，以及“最大的计划前沿强化学习运行”持续延迟。这一决定是对人工智能安全倡导者多年来推动的一个想法的一次公开测试：当他们的安全措施无法跟上他们正在构建的产品时，公司应该愿意退出人工智能竞赛并放慢速度。但随着围绕他们的竞赛继续进行，放慢速度会带来什么结果吗？尽管人们都在谈论放慢速度，但 OpenAI 并没有完全停滞不前。该公司表示，它正在“节奏”开发，这是一个模糊且不精确的术语，但近几个月来已成为该行业词汇的一部分。实际上，经济放缓的范围很窄。

OpenAI 的声明称，暂停仅涵盖用于部署的模型，同时在运行模型可能能够泄露并攻击真实目标的测试之前加强安全性和监控。这并不一定意味着该公司的整体发展将会显着放缓。当然，OpenAI 有充分的理由在测试此类系统之前重点关注其安全性。就在上个月，OpenAI 披露其模型突破了所谓的安全测试环境，并在 OpenAI 没有注意到的情况下入侵了开发者平台 Hugging Face。该事件促使业界对测试实践进行更广泛的审查，发现了涉及更多 OpenAI 模型以及 Anthropic 和 Meta 模型的类似事件。

OpenAI 有充分的理由避免重蹈覆辙，尤其是在立法者越来越严格的审查之下。从外部来看，很难看出 OpenAI 出于安全考虑而停止的诚意有多大，特别是当公司和高级员工对此如此直言不讳时。但近几个月来，随着一系列备受瞩目的安全团队离职和准备团队解散，该公司对安全的承诺受到质疑。

OpenAI 没有回应 The Verge 的置评请求。