Meta 对成人内容的打击未能阻止人工智能裸体应用程序的蓬勃发展

尽管 Facebook 和 Instagram 最近发生了政策变化,但包括人工智能生成的裸体在内的成人内容仍然被禁止。

然而,这并没有阻止“裸体”应用程序——创建未经同意的人工智能生成的名人和影响者裸体的平台——在 Meta 平台上做广告。这些广告至少对于一项名为 Crush AI 的服务来说非常成功。

根据一份新报告404媒体,正如 Alexios Mantzarlis 最初报道的那样伪造的据通讯报道,Crush AI 修改器应用程序的绝大多数流量来自 Facebook 和 Instagram 等 Meta 平台。根据 Sametimeweb 的数据,上个月 Crush AI 的服务访问量超过 25 万次,其中大约 90% 的流量来自 Meta 的平台。

Crush AI 在其广告中非常明确地说明了其服务的目的。该公司的广告包括现实生活中人物的照片,例如 Instagram 影响者兼模特 Mikayla Demaiter 和 OnlyFans 创始人 Sophie Rain。这些广告宣称用户可以“上传照片”和“擦除任何人的衣服”。

可混搭光速

虽然 Meta 试图打击这些广告,但 Crush AI 发现了一个非常简单的解决方法。 Crush AI 使用 AI 生成的个人资料图片创建虚假个人资料页面,并使用这些页面投放新广告。这些广告宣传不同的域名,点击后会重定向到 Crush AI。

Mashable 此前曾报道过其他和利用 Meta 的广告平台从人工智能生成的成人内容中产生流量和收入。这些广告严格违反 Meta 的政策,一旦发现特定广告,该公司通常会删除它们。

然而,正如 404Media 之前报道、Meta 似乎对广告审核有不同的标准。用户以 Facebook 或 Instagram 帖子形式发布的违反政策的内容通常会被 Meta 自动检测到并随后删除。然而,当上传到 Meta 的广告平台时,不会检测到相同的内容。

在过去的一年里,Meta 推出了以及防止性勒索等有害在线行为的政策。但 Crush AI 的广告是 Meta 平台如何被武器化以促进 Meta 表示希望保护其年轻用户免受侵害的行为的一个例子。