xAI 起诉用户利用人工智能工具对未成年人进行性暗示

点击此处在社交媒体上分享 分享 在谷歌上添加半岛电视台 该诉讼是人工智能公司对其用户提起的第一起诉讼 [文件：Dado Ruvic/插图/路透社] 半岛电视台工作人员和路透社于 2026 年 7 月 15 日发布 2026 年 7 月 15 日 埃隆·马斯克 (Elon Musk) 的 xAI 对一名南卡罗来纳州男子提起诉讼，该男子今年早些时候因性剥削未成年人而被捕，指控他滥用人工智能技术该公司的人工智能工具可以创建涉及儿童的露骨色情内容。该诉讼于周二向德克萨斯州联邦法院提起，指控特里·哈伍德在制作这些材料时故意违反了该公司的服务条款。推荐故事 4 项清单 列出 4 项中的 1 项 随着能源成本暴跌，美国消费者价格在 6 月下降 清单 4 项中的 2 项 纽约对大型数据中心实施具有里程碑意义的一年禁令 清单 3 项（共 4 项） 我的 Twitter，而不是 X 清单 4 项（共 4 项） 美国-伊朗升级将如何考验伊拉克的平衡法案 清单末尾 “被告使用虚假身份开设了多个 xAI 账户。尽管明确同意遵守 xAI 服务条款和可接受的条款使用政策，被告设计了误导性提示来规避 Grok 的内置保护措施，然后滥用该工具在照片主体不知情或同意的情况下将非色情照片转换为露骨的色情图像，”这份长达 12 页的起诉书称。该诉讼称，哈伍德上传了成人和未成年人的非性图片，然后试图制作所谓的“深度假货”，使这些图片性感化。诉状补充说：“对被告 xAI 账户的审查进一步表明，在相关期间，被告多次向 Grok 提交提示，要求其更改此类图像，以使图像主题性感化，而 Grok 的回应是拒绝遵循提示，因为此类材料违反了 Grok 的内容审核护栏。” “作为回应，被告多次提交了进一步的提示，并进行了修改，以规避 Grok 的审核努力。” xAI 还寻求金钱赔偿，但案件没有具体说明具体金额，以及法院命令永久禁止 Harwood 使用该拥有超过 260 万用户的平台。

Grok 一直受到华盛顿的关注，成为欧洲监管机构的关注焦点，并在马来西亚和印度尼西亚面临针对在该平台上创建的露骨色情内容的禁令。今年早些时候，马斯克反驳了有关 Grok 制作人工智能生成的儿童性感图像（尤其是裸体图像）的指控。

“我不知道 Grok 生成过任何裸体未成年人图像。几乎为零，”马斯克在一月份的 X 帖子中说道。

xAI 的投诉称，该公司“通过暂停帐户、终止帐户以及向国家失踪和受虐儿童中心报告涉嫌儿童性虐待的材料，对违规者执行规定。”投诉指出，该平台已暂停了 52,000 多个账户，并向该组织提出了 73,000 多起投诉，仅 2026 年就有近 250 人被捕。