纽约:泰勒·斯威夫特(Taylor Swift)的深度色情图片在网上流传，使这位歌手成为科技平台和反滥用组织一直在努力解决的最著名的受害者。
本周，斯威夫特的色情和辱骂假照片开始在社交媒体平台X上广泛传播。
白宫表示，他们对这位流行歌手的网上虚假照片感到震惊，并表示社交媒体公司在执行自己的规则以防止此类错误信息的传播方面发挥着重要作用。
“这非常令人担忧。因此，我们将尽我们所能来处理这个问题，”白宫新闻秘书让-皮埃尔在新闻发布会上说。她还说，国会应该在这个问题上采取立法行动。
她的“斯威夫特”狂热粉丝群迅速动员起来，在原名推特的平台上发起反击，并在推特上添加了#保护泰勒·斯威夫特(#ProtectTaylorSwift)的标签，上传这位流行歌手的更多正面形象。一些人表示，他们正在举报分享深度造假的账户。
深度造假检测组织“现实卫士”(Reality Defender)表示，他们追踪到了大量描绘斯威夫特的未经同意的色情材料，尤其是在x上。一些图片还进入了元所有的Facebook和其他社交媒体平台。
“不幸的是，当其中一些被删除时，它们已经传播到了数以百万计的用户，”Reality Defender的增长主管梅森·艾伦(Mason Allen)说。
研究人员发现了至少几十张独特的人工智能生成的图像。分享最多的是与足球有关的，展示了一个被涂上颜料或浑身是血的斯威夫特，把她物化了，在某些情况下，对她虚伪的形象造成了暴力伤害。
研究人员表示，在过去几年里，随着用于制作此类图像的技术变得更容易获取和使用，明显的深度伪造的数量有所增加。2019年，人工智能公司DeepTrace Labs发布的一份报告显示，这些图像绝大多数被用来对付女性。报道称，大多数受害者是好莱坞演员和韩国流行歌手。
布列塔尼·斯帕诺斯是《滚石》杂志的资深作家，在纽约大学教授一门关于斯威夫特的课程。她说，斯威夫特的粉丝们很快就会动员起来支持他们的艺术家，尤其是那些非常重视自己的粉丝身份，并且处于不法行为的人。
她说:“如果她真的把这件事告上法庭，那将是一件大事。”
斯帕诺斯表示，严重的虚假色情问题与斯威夫特过去的其他问题一致，并指出她在2017年起诉了一名涉嫌猥亵她的电台DJ;陪审员判给斯威夫特1美元的赔偿金，她的律师道格拉斯·鲍德里奇(Douglas Baldridge)称，在#MeToo运动中，这笔钱是“象征性的一美元，对处于这种情况下的所有女性来说，它的价值是无法估量的”。(索赔1美元的诉讼后来成为一种趋势，就像格温妮丝·帕特洛(Gwyneth Paltrow)在2023年对一名滑雪运动员提起的反诉一样。)
当被问及对霉霉假照的评论时，X指向了其安全账户上的一条帖子，称该公司严格禁止在其平台上分享未经同意的裸照。自埃隆·马斯克(Elon Musk)于2022年接管该平台以来，该公司还大幅削减了内容审核团队。
“我们的团队正在积极删除所有被识别出的图片，并对负责发布这些图片的账户采取适当行动，”该公司早些时候在X帖子中写道。“我们正在密切关注这一情况，以确保任何进一步的违规行为立即得到解决，并删除相关内容。”
与此同时，meta在一份声明中表示，它强烈谴责“出现在不同互联网服务上的内容”，并已努力将其删除。
该公司表示:“我们将继续监控平台上的违规内容，并将在必要时采取适当行动。”
斯威夫特的代表没有立即回应置评请求。
艾伦说，研究人员有90%的信心这些图像是由扩散模型创建的，这是一种生成式人工智能模型，可以根据书面提示生成新的逼真的图像。最广为人知的是Stable Diffusion, Midjourney和OpenAI的DALL-E。艾伦的研究小组没有试图确定其来源。
提供部分基于DALL-E的图像生成器的微软表示，它正在调查其工具是否被滥用。就像其他商业人工智能服务一样，它表示不允许“成人或未经同意的私密内容，任何反复尝试制作违反我们政策的内容都可能导致无法访问该服务。”
在接受NBC晚间新闻采访时，当被问及Swift的深度造假时，微软首席执行官萨蒂亚·纳德拉在接受主持人莱斯特·霍尔特采访时表示，在设置人工智能保护措施方面还有很多工作要做，“我们应该迅速采取行动。”
纳德拉说:“这绝对是令人担忧和可怕的，因此，我们必须采取行动。”
Midjourney、OpenAI和Stable diffusion的制造商Stability AI没有立即回应置评请求。
联邦国会议员已经提出法案，对深度色情进行更多限制或将其定为犯罪，他们表示，这一事件表明美国需要实施更好的保护措施。
“多年来，女性一直是未经同意的深度伪造的受害者，所以发生在泰勒·斯威夫特身上的事情比大多数人意识到的更普遍，”纽约民主党人伊维特·克拉克(Yvette Clarke)说，她提出了一项立法，要求创作者对深度伪造内容进行数字水印。
克拉克说:“生成式人工智能正在帮助以一小部分成本创造更好的深度造假。”
另一位纽约州民主党人乔?莫雷尔(Joe Morelle)正在推动一项法案，该法案将把在网上分享深度伪造的色情内容定为犯罪。莫雷尔表示，发生在斯威夫特身上的事情令人不安，并在互联网上变得越来越普遍。
莫雷尔在一份声明中说:“这些照片可能是假的，但它们的影响是非常真实的。”“在这个日益数字化的世界里，每天都有女性被深度造假，是时候制止它们了。”
美联社
直接从我们的驻外记者那里了解世界各地的头条新闻。
