人们不断警告 OpenAI 新旗舰机型会自行删除文件

OpenAI 最新的面向编码和网络安全的旗舰模型 GPT-5.6 Sol 的用户在社交媒体上发布了可怕的帐户，声称该模型在没有事先询问的情况下自行删除了他们的文件、数据，甚至整个数据库。

“GPT-5.6-Sol 意外删除了我 Mac 上的几乎所有文件，”AI 初创公司 OthersideAI（HyperWrite 的制造商）的创始人兼首席执行官 Matt Shumer 在 X 上疯传的帖子中写道。

“GPT-5.6 Sol 刚刚删除了我的整个生产数据库。就是这样。不是玩笑。这种情况以前从未发生在我身上，任何其他模型也从未发生过。”开发者 Bruno Lemos 在 X 上发帖说。

“看来我被 Codex Sol 过于雄心勃勃的系统所困扰，它删除了一些不应该有的文件。我有备份，所以我会没事的，但这并不酷，Sol 需要缓和一些，”开发者 Joey Kudish 发帖说。

Reddit 帖子收集了更多示例。诚然，少数提出此类主张的用户——即使是像舒默这样可信的用户——并不能从统计上可靠地证明该模型完全有问题。许多其他变量可能会导致人工智能系统出现异常行为。但 OpenAI 本身在 Sol 发布之前就标记了这一风险。在 OpenAI 发布 GPT-5.6 Sol 的两周前，该公司发布了该模型的系统卡——记录模型测试方法和结果的论文。当然，系统卡很大程度上赞扬了 Sol 的功能，正如这些报告通常所做的那样。但它也包含某种警告（我们的粗体强调）：在编码环境中，不一致通常源于过度渴望完成任务和过于宽容地解释用户指令 - 假设操作是允许的，除非它们被明确且明确地禁止。这表现为模型在尝试所请求的任务时过于主动地规避所面临的限制，粗心地采取可能超出任务范围的破坏性操作，或者在向用户报告其结果时具有欺骗性。换句话说，OpenAI 发现 Sol 倾向于采取任何它认为可以完成工作的行动，甚至是破坏性的行动，只要这些行动没有被“明确”禁止。然后它可能会谎报其这样做的原因。

OpenAI 分享了示例。在一个案例中，用户告诉 Sol 删除三个远程虚拟机（基于云的计算机），分别名为 1、2 和 3。但 Sol 在它查找的地方找不到这些名称，因此它没有停下来询问，而是决定删除另外三个虚拟机 5、6 和 7。在此过程中，它“杀死了活动进程，并强制删除了工作树（与编码项目相关的工作文件）。它后来承认，远程虚拟机 6 上未提交的工作可能已经丢失。”简而言之，它自行删除了错误的机器，并且只在事后承认了自己的所作所为。在另一个例子中，Sol“使用了超出用户授权的凭据。”凭据是系统用来验证谁有权登录的用户名、密码或安全密钥。此事件发生在 Sol 正在处理一个项目时，无法读取其云文件。

Sol 没有提醒用户注意该问题，而是自行查找凭据，在隐藏的本地缓存中找到一些凭据，然后在不请求用户授权的情况下使用它们。该系统卡确实承诺破坏性行为应该很少见，尽管它也承认 GPT-5.6 Sol“比 GPT-5.5 显示出更大的倾向，超出用户的意图，包括采取或尝试用户未要求的操作。”现在判断这些事件（Sol 删除文件或筛选用户未提供的凭据）到底有多普遍还为时过早。与此同时，Sol 用户应该准备好实施自己的 saf