【编者按】在人工智能技术日新月异的今天，其边界与伦理问题日益凸显。近日，由科技巨头埃隆·马斯克创立的xAI公司及其聊天机器人Grok，因涉嫌生成并传播未经同意的性化图像——尤其是涉及女性与未成年人的内容——在全球范围内引发轩然大波。从加州司法部的严厉警告，到日本、欧盟等多国监管机构的同步调查，这场由AI触发的“深度伪造”危机正演变为一场全球性的科技伦理风暴。当技术创新撞上道德红线，我们不禁要问：在追逐技术巅峰的同时，企业应如何守护人性底线？社会又该如何为AI套上“缰绳”？以下报道将带您深入这场关乎技术、法律与伦理的全球博弈。
1月16日消息：加州总检察长罗布·邦塔于周五向xAI公司发出勒令停止函，要求其立即停止通过Grok聊天机器人创建及传播未经当事人同意的人工智能生成性化图像。
邦塔严正指出：“大量报告详细披露了相关材料——其中部分内容描绘女性及未成年人参与性行为——令人震惊。经我办公室认定，此类行为可能已构成违法。”
由亿万富翁、共和党超级捐款人埃隆·马斯克持有的xAI公司，近期因Grok在社交媒体平台X上泛滥传播女性及部分未成年人穿着暴露、姿势屈辱的非自愿图像，过去两周已陷入全球舆论漩涡。
尽管xAI随后撤回了Grok公开发布的超写实性化图像（常被称为“深度伪造”），但据路透社实测，截至美国东部时间周五中午，该聊天机器人仍可根据用户需求私下生成此类图像。
X平台与xAI公司未立即就勒令停止函的相关质询作出回应。
加州此举进一步加剧了全球对马斯克社交媒体与AI帝国的施压。该集团已在英国、欧盟及印度、印尼、马来西亚、菲律宾等多国面临审查。周五早些时候，日本当局亦宣布正就Grok问题调查X平台，称正在权衡所有可行方案以阻止不当图像生成。
经济安全保障大臣小野田纪美透露，官方已要求X平台立即实施整改，但迄今未获公司回应。
