编者按：在人工智能技术日新月异的今天，其边界与伦理问题正引发全球性担忧。近日，埃隆·马斯克旗下xAI公司的人工智能产品Grok陷入一场风暴——该工具被指能轻易生成真人色情深伪图像，甚至涉及未成年人，引发多国政府紧急调查。从加州到欧盟，从亚洲到澳洲，监管的达摩克利斯之剑已然悬起。这不仅是技术失控的警钟，更是数字时代人格权保卫战的缩影。当创新狂奔时，我们是否已准备好勒紧伦理的缰绳？以下是事件深度解析：
埃隆·马斯克的xAI公司正面临美国官方调查！加州总检察长罗布·邦塔亲自牵头，矛头直指其人工智能聊天机器人及图像生成器Grok——该工具被曝能基于真人照片大规模生成并传播未经同意的露骨色情图像，掀起互联网恶性浪潮。
更令人震惊的是，根据互联网观察基金会的研究，Grok在某些案例中甚至允许用户生成近乎对未成年人“数字脱衣”的图像，触及法律与道德红线。
邦塔在周三的声明中严正指出：“xAI似乎正在助长深度伪造非自愿私密图像的大规模生产，这些图像正通过X等社交媒体平台在互联网上骚扰女性与儿童。”
总检察长办公室明确表示，已就“使用Grok生成的非自愿性露骨材料泛滥”对xAI启动调查。
此次美国调查行动稍显迟缓——此前印度、马来西亚、印尼、爱尔兰、英国、法国、澳大利亚等多国政府及欧盟委员会已火速响应。据CNBC早前报道，马来西亚与印尼更已果断暂停Grok使用，直至问题解决。
在美国本土，三名民主党参议员紧急呼吁苹果与谷歌应用商店下架X及Grok应用，直至该公司能有效阻止一键生成非自愿色情图像及儿童性虐待深伪内容。
包括UltraViolet、全国妇女组织、ParentsTogether行动联盟在内的妇女儿童权益团体也集体发声，要求应用商店暂停xAI相关应用。
苹果与谷歌目前尚未回应置评请求。
周二，参议院投票通过《DEFIANCE法案》，该法案将允许被恶意植入色情深伪图像的个人在民事法庭起诉制作或传播此类内容的公司。该法案虽于2024年已获参议院通过，但尚未经众议院审议批准。
耐人寻味的是，马斯克周三在X平台发文称，尽管多国政府已提出质询，他“并未发现任何由Grok生成的未成年人裸体图像”。他将Grok和X平台上潜在非法内容的产生与传播归咎于“用户请求”及Grok系统可能存在的“漏洞”。
CNBC已联系xAI及其高管团队，包括马斯克与贾里德·伯查尔，但未获进一步回应。
早前，随着对Grok输出的担忧升级，xAI曾宣布将部分图像生成与编辑功能限制为付费订阅者专享。马斯克亦在X平台警告，通过Grok创建非法内容的用户将面临等同于直接向社交平台上传此类材料的严厉后果。
值得关注的是，xAI刚完成一轮高达200亿美元的成长融资，投资方包括英伟达、思科投资以及马斯克的长期支持者Valor股权合伙公司、Stepstone集团、富达投资、卡塔尔投资局、阿布扎比MGX和Baron资本集团。
尽管xAI的数据中心正于田纳西州孟菲斯及周边地区扩建，这家马斯克旗下的人工智能与社交媒体企业注册于内华达州，总部却设在加州帕洛阿尔托——紧邻其汽车公司特斯拉的工程办公室。而特斯拉，已将Grok集成至车辆信息娱乐系统中。
风暴眼中的Grok何去何从？全球监管铁幕正在落下，这场关乎技术伦理的战役，才刚刚打响。
