xAI 起诉一名男子使用 Grok 生成 CSAM“deepfakes”

AI 此主题的 AI 帖子将添加到您的每日电子邮件摘要和主页源中。新闻 此主题的新闻帖子将添加到您的每日电子邮件摘要和主页源中。政策 本主题的政策帖子将添加到您的每日电子邮件摘要和主页源中。

xAI 起诉一名男子使用 Grok 生成 CSAM “深度伪造品” 埃隆·马斯克 (Elon Musk) 的 xAI 声称 Terry Harwood 绕过了 Grok 的保护措施来生成 CSAM。该公司要求赔偿声誉和法律损失。

Elon Musk 的 xAI 声称 Terry Harwood 绕过了 Grok 的安全措施来生成 CSAM。该公司要求赔偿声誉和法律损失。作者：Emma Roth 艾玛·罗斯 新闻作家 该作者的帖子将添加到您的每日电子邮件摘要和主页提要中。

UTC 时间 2026 年 7 月 15 日晚上 9:33 The Verge 部分 Grok 严重的 AI Deepfakes 问题的最新消息 查看所有更新 Emma Roth Emma Roth 此作者的帖子将添加到您的每日电子邮件摘要和主页提要中。是一位新闻撰稿人，报道流媒体战争、消费技术、加密货币、社交媒体等。此前，她是 MUO 的作家和编辑。埃隆·马斯克 (Elon Musk) 旗下的 xAI 正在起诉一名南卡罗来纳州男子，该男子涉嫌使用该公司的 Grok AI 聊天机器人生成儿童性虐待材料 (CSAM)。在路透社早些时候报道的诉讼中，xAI 声称 Terry Wayne Harwood “故意并故意使用 Grok 来规避安全措施、更改未经同意的图像以及生成和分发 CSAM”，这违反了公司的政策。哈伍德于 2 月份因涉嫌持有和分发 CSAM 被捕，并面临八项重罪指控。该诉讼声称，与 Harwood 刑事指控相关的“至少一些”图像是由 Grok“生成或更改”的，并且 Harwood 绕过了 Grok 的保护措施，并在未经受试者同意的情况下“滥用该工具将非性照片转换为露骨色情图像”。去年为 Grok 推出“辣味”模式后，xAI 增加了使用聊天机器人编辑图像的功能，导致大量色情化的 AI 深度假货，其中包括未成年人的深度假货。今年 3 月，一群青少年起诉 xAI，称其声称 Grok 生成了他们未成年时的性感图像。马斯克回应称，“任何使用 Grok 制作非法内容的人都将遭受与上传非法内容相同的后果”，尽管这似乎是 xAI 第一次就使用 Grok 创建的 AI Deepfake 起诉任何人。

xAI 声称 Harwood 的涉嫌行为使该公司面临“重大法律风险和声誉损害”。它已要求法院命令 Harwood 向 xAI 支付任何损害赔偿，以及“在被告行为受害者提起的任何法律诉讼中为自己辩护而产生的合理费用”。

xAI 还希望法官阻止 Harwood 创建 xAI 帐户或使用 Grok。关注此故事中的主题和作者，以在您的个性化主页源中查看更多类似内容并接收电子邮件更新。艾玛·罗斯 (Emma Roth) 艾玛·罗斯 (Emma Roth) 新闻撰稿人 该作者的帖子将添加到您的每日电子邮件摘要和主页提要中。

AI 此主题的 AI 帖子将添加到您的每日电子邮件摘要和主页源中。新闻 此主题的新闻帖子将添加到您的每日电子邮件摘要和主页源中。政策 本主题的政策帖子将添加到您的每日电子邮件摘要和主页源中。此主题的技术技术帖子将添加到您的每日电子邮件摘要和主页源中。

Twitter - X Twitter - X 此主题的帖子将添加到您的每日电子邮件摘要和主页源中。

xAI xAI 此主题的帖子将添加到您的每日电子邮件摘要和主页源中。更多信息：Grok 的严重人工智能深度伪造问题的最新情况 Grok 的性深度伪造差点被苹果应用商店禁止。几乎。长袍