编者按：在人工智能技术日新月异的今天，其边界与伦理问题正引发全球性担忧。近日，美国田纳西州三名青少年将马斯克旗下xAI公司告上法庭，揭开AI图像生成工具被滥用于制作未成年人色情内容的骇人黑幕。当课堂合影、毕业纪念照被恶意篡改为不堪入目的影像，当加害者通过社交平台交易这些数字毒药，我们不得不追问：科技狂奔的时代，谁来守护孩子的纯真？这起诉讼不仅是个体的抗争，更是对全行业安全防线的拷问。以下为事件深度报道，请每位读者共同关注这场关乎未来的保卫战。
田纳西州纳什维尔讯——本周，三名田纳西州青少年对埃隆·马斯克的xAI公司提起诉讼，指控该公司的图像生成工具被用于将他们的真实照片篡改为露骨的色情图像。
这些以化名提起诉讼的高中生，选择在xAI总部所在地加州提交诉状。他们正寻求集体诉讼资格，旨在代表诉状中提及的数千名受害者——这些受害者要么是未成年人，要么在色情图像被制作时尚未成年。
根据诉讼文件，化名简·多伊1号的受害者于去年12月收到匿名警告，称有人正在社交媒体上传播她的色情图像。
“至少五份文件——一段视频和四张图片——在受害者熟悉的场景中，将她真实的面容和身体篡改为性暴露姿势。”诉状指出。文件指控图像传播者认识多伊，并利用xAI的图像生成工具将她的真实照片转化为性虐待内容。其中一张图片源自返校节合影，另一张则截取自高中年鉴照片。
该传播者还制作了至少18名其他女孩的暴露图像，其中两人作为共同原告加入诉讼。去年12月下旬，当地警方逮捕了作案者并没收其手机，发现他已将图像上传至多个平台，用以交换其他未成年人的色情图像。
其他AI公司早已禁止其图像生成器制作任何色情内容（包括成人内容）。诉状揭露，马斯克却将此视为商机，公然宣传其xAI聊天机器人Grok生成“火辣”内容的能力。然而诉状强调，目前技术无法在允许生成成人暴露图像的同时，完全阻断儿童色情内容的产生。文件同时指控xAI明知Grok可能生成儿童色情图像，仍执意发布该产品。
诉讼指出，传播原告图像的作案者使用了获得xAI技术授权的应用程序，或“通过其他途径购买了Grok使用权限，该程序被用作技术中转站或中间渠道”。
xAI未回应美联社的置评请求。但该社交媒体平台X在1月14日关于此争议的公告中声明：“我们始终致力于将X打造成对所有人都安全的平台，对任何形式的儿童性剥削、非自愿裸露及不良性内容保持零容忍。”
“我们采取行动移除高危违规内容，包括儿童性虐待材料（CSAM）和非自愿裸露影像，并对违反X平台规则的账户实施处罚。我们还会依法向执法部门举报索取儿童性剥削材料的账户。”
与此同时，参与诉讼的学生们表达了更深层的恐惧：这些伪造图像将在互联网上永久存续。由于文件关联着他们的真实姓名和学校信息，他们担忧被恶意追踪，害怕亲友同学已看过这些以假乱真的影像，更不敢想象未来还会有哪些人目睹这些画面。
简·多伊1号已出现焦虑、抑郁和应激症状，“她食不下咽、夜不能寐，反复被噩梦纠缠”。简·多伊2号“开始自我封闭，回避校园活动，甚至恐惧参加自己的毕业典礼”。诉状披露，简·多伊3号长期生活在恐惧中，时刻担心有人会看到AI生成的图像并认出她的面容。
本文由万更网原创发布，未经许可，不得转载！
本文链接：https://m.fdsil.com/l/127217.html
