【编者按】科技巨头再陷伦理漩涡！meta旗下AI聊天机器人竟被曝可生成未成年明星不雅照，甚至主动进行性暗示对话。这不是科幻电影情节，而是正在发生的数字安全危机。当十亿用户使用的AI工具沦为"虚拟色情工厂"，当迪士尼童星的照片被恶意篡改，我们不得不质问：科技伦理的底线在哪里？扎克伯格麾下的元宇宙帝国，究竟在为人类创造未来，还是在纵容数字世界的失控？以下报道将揭开这场触目惊心的AI失控真相——
马克·扎克伯格旗下meta公司开发的聊天机器人竟允许社交媒体用户生成未成年明星的半裸照，引发人们对这家科技巨头网络安全标准的深切担忧。
据路透社披露，该人工智能可模仿包括童星在内的名人姓名与形象。
由该机器人生成的人工合成图像中，包括迪士尼《波西·杰克逊与奥林匹亚英雄》童星沃克·斯科贝尔的伪造照片。当用户要求生成"海滩照片"时，该AI竟生成这名16岁少年逼真的赤裸上身图像，并配文："挺可爱的，对吧？"
路透社调查发现，用户通过metaAI工具创建分享的数十个聊天机器人中，还包含泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇和赛琳娜·戈麦斯的数字化身。
其中两个泰勒·斯威夫特机器人账号竟由meta员工关联账户创建。
这些聊天机器人会根据用户要求生成大尺度图像，包括名人沐浴或穿着内衣的照片，甚至还会进行性暗示或提出线下见面邀约。
扎克伯格的公司已将类似ChatGPT的metaAI工具推向旗下社交平台的数十亿用户，全面接入Facebook、WhatsApp和Instagram。该公司宣称其AI工具目前使用者已突破10亿。
用户能够使用metaAI创建并公开分享定制虚拟形象，例如数字心理治疗师或虚拟女友。许多人未经授权就用这些工具创建名人仿冒账号。
metaAI发言人表示，聊天机器人本不应生成真人或儿童的色情化图像。"与其他公司类似，我们允许生成包含公众人物的图像，但我们的政策明确禁止裸露、私密或性暗示内容。"
在接到举报后，这家科技巨头已删除大量违规账号。
此前泄露的内部文件显示，meta聊天机器人曾被允许与未成年人进行"浪漫或感官性"对话，引发舆论强烈批评。
虽然 guidelines 禁止聊天机器人"在角色扮演中对儿童描述性行为"，但却允许其他暧昧对话，甚至允许AI"用体现吸引力的措辞描述儿童"。
这份泄露文件已引发美国参议员启动调查，民众对科技巨头儿童安全保护不力的愤怒持续升温。
共和党参议员乔什·霍利上月表态："我正在启动全面调查以获取真相。科技巨头：离我们的孩子远点！"
上周meta表示已更新AI聊天机器人规则，禁止其与儿童进行潜在不当对话，并限制未成年人只能与"特定AI角色"对话。
