【编者按】在人工智能浪潮席卷全球的当下，其边界与伦理问题日益凸显。近日，加州总检察长对马斯克旗下xAI公司展开调查，焦点直指AI生成非自愿色情图像的争议。这不仅是科技监管的一次重要交锋，更关乎数字时代每个人的尊严与安全。当技术狂奔遇上法律与道德的拷问，我们该如何守护人性的底线？本文将带你深入这场AI伦理风暴的中心，看加州如何扛起监管大旗，直面科技巨头的责任博弈。
旧金山，2月17日电：加州总检察长罗布·邦塔在接受路透社专访时透露，其办公室正在建立人工智能问责计划，目前正就生成非自愿色情图像问题对埃隆·马斯克的xAI公司展开调查。
邦塔表示，上个月全球监管机构调查xAI旗下AI聊天机器人Grok生成成人及潜在未成年人色情内容后，加州总检察长办公室迅速行动，向xAI发出了停止与终止警告函。
邦塔指出，其办公室正在确认相关行为是否已停止，并与该公司保持沟通。他批评xAI推卸责任，并仍允许付费用户生成部分色情内容。
“停止继续作恶，不代表过往过错就能一笔勾销。”邦塔强调。
近期被马斯克旗下SpaceX收购的xAI公司未回应置评请求。
今年1月，该公司声称已采取措施拒绝用户生成真人色情图像的请求，例如要求将人物编辑为穿着比基尼的形象。xAI亦表示会在相关司法管辖区禁止用户生成此类图像。
加州的此次执法行动表明，这个民主党重镇正积极扮演AI监管者的角色——尽管科技行业及部分共和党议员持续施压，要求其在法律监管方面让步于联邦机构。邦塔警告，鉴于国会过往在数据保护和AI立法上的僵局，不应授予其独家监管权。
邦塔透露，加州总检察长办公室正通过“AI监督、问责与监管计划”强化内部专业力量。他严正指出，与未成年人进行色情对话或教唆自杀的AI聊天机器人绝不可容忍。
他同时透露，在协助监督OpenAI去年公司重组后，州政府已告知这家旧金山起家的企业：加州对其产品服务安全性保持“持续关注”。
加州议会目前正在审议一项法案，要求总检察长办公室设立专项计划以构建AI领域专业能力。
康涅狄格州总检察长威廉·童在与路透社的联合访谈中，将AI与社交媒体的危害称为“这个时代的消费者保护之战”，预言其规模将超越阿片类药物危机。他沉痛表示：“这关系到我们所有孩子的未来。”
