旧金山命令 Meta 停止“允许”人工智能虐待儿童广告

周二，《连线》杂志报道称，Meta 近几个月投放了 350 多个广告，将未成年人的静态图像（其中一些被确认为真实个体，包括欧洲王室成员）转换成可以描绘他们进行性行为的短片。点击后，这些广告会引导人们下载人工智能图像和视频生成应用程序，其中一些应用程序可用于以数字方式脱掉人们的衣服或创建其他未经同意的亲密图像。这些广告由技术透明项目 (TTP) 的研究人员发现，其中包括一些已多次上传的相同广告，总共覆盖了欧盟国家的 29,000 多个帐户。

Facebook、Instagram 和 Threads 上展示的广告还针对美国、澳大利亚和印度的账户。

《连线》杂志最初在 8 月初报道了一批 53 个广告，但在这份初步报告之后，Meta 平台上投放的广告总数超过 250 个。旧金山市检察官 David Chiu 在给《连线》杂志的一份声明中表示：“Meta 未能解决人工智能生成的儿童露骨广告这一已知问题，同时还从中获利。” “这些广告令人深感不安，并对真正的儿童造成伤害。Meta 声称对儿童剥削采取零容忍态度，但这些问题的规模和持续存在表明目前的努力远远不够。这是不可接受的，Meta 必须做得更好。” “任何公司——尤其是那些声称所有广告在分发前都经过审查和批准，然后接受分发费用的公司——不应允许其广告系统以这种方式使用，”Chiu 在他的办公室发给 Meta 律师的四页信中写道。这封信提出了一系列有关 Meta 的广告政策和安全系统如何运作的问题，并要求该公司的法律、儿童安全和广告人员与市政府办公室进行“及时讨论”。

“这些发现尤其令人不安，因为它们似乎并没有反映出 Meta 在首次发现该问题时纠正的孤立故障，”Chiu 写道。梅塔表示，“没有迹象表明”这些广告是在旧金山展示的，这意味着它们“不在市检察官的管辖范围内”。