“AI脱衣”应用横行 访问量剧增达2400万人次

12月8日 消息:近期“AI脱衣”应用横行，访问量剧增达到2400万人次，引发了对技术滥用和用户隐私的担忧。这种应用的兴起凸显了技术背后可能存在的伦理和隐私问题。

Graphika的数据显示，许多这些“脱衣”服务利用流行社交网络进行营销，自今年年初以来，在社交媒体上广告这些应用的链接数量增长了超过2400%，包括在X和Reddit等平台。这些服务利用人工智能重新创建图像，使人物呈现裸体状态，而其中许多服务仅适用于女性。

这些应用是深度伪造色情的一个令人担忧的趋势的一部分，这种趋势源于人工智能技术的发展，即通过AI制作的虚构媒体，被称为深度伪造色情。由于这些图像通常来自社交媒体，而且在主体不知情的情况下传播，其传播涉及到严重的法律和伦理障碍。

其中一个在X发布的广告图像使用了一种语言，暗示客户可以创建裸体图像并发送给数字化“脱衣”的人物，引发骚扰问题。另一款应用在谷歌的YouTube上购买了赞助内容，并在搜索“nudify”时首次出现。

对此，谷歌公司发言人表示公司不允许包含性别暴力内容的广告，已审查了相关广告并将违反政策的广告删除。而X和Reddit则未对置评请求作出回应。

长期以来，网络上针对公众人物的非同意深度伪造色情一直是互联网的顽疾，但隐私专家越来越担心，AI技术的进步使深度伪造软件变得更加容易和有效。

“我们看到越来越多的普通人以及普通目标成为这类行为的受害者，” 电子前沿基金会网络安全主任Eva Galperin表示，“这在高中生和大学生中尤其突出。”

许多受害者从未发现这些图像，即使发现了，他们也可能难以让执法机构进行调查或找到资金采取法律行动。

目前，尽管美国政府禁止制作这类儿童图像，但尚无联邦法律禁止深度伪造色情的制作。去年11月，北卡罗来纳州的一名儿童精神病医生因使用“脱衣”应用对患者照片进行深度伪造被判刑40年，这是根据儿童深度伪造色情材料制作禁令法律的首次起诉。

为了遏制相关内容，TikTok已屏蔽了与此服务相关的关键词“undress”，并警告任何搜索该词的用户，该词“可能与违反我们指南的行为或内容相关”。而Meta Platforms Inc.也开始屏蔽与搜索“脱衣”应用相关的关键词。关于此举，一位TikTok代表拒绝置评，Meta Platforms发言人也拒绝置评。