埃隆·马斯克旗下的 xAI 已向联邦法院提起诉讼，指控南卡罗来纳州男子特里·韦恩·哈伍德利用其 Grok 聊天机器人生成儿童性虐待材料（CSAM），违反了公司的服务条款。
该诉讼在美国联邦地区法院提起，要求获得未指明数额的损害赔偿，并永久禁止哈伍德使用 Grok。这是 AI 公司首次因用户生成露骨 AI 内容而对其提起诉讼的案件之一，标志着平台运营商应对生成式模型滥用行为的方式发生了转变。
xAI 的法律策略基于以下论点：AI 生成的输出属于用户内容，绕过安全保障措施创建非法材料的用户应独自承担责任。该公司此前因其审核方式而持续面临批评。Grok 内置的“Spicy Mode”以及马斯克于 2025 年 12 月在 X 上发布的一条放大图像生成功能的帖子，被批评者认为助长了非自愿色情影像的激增。
根据反数字仇恨中心及《纽约时报》的分析，监督组织估计 Grok 在 2025 年 12 月下旬至 2026 年 1 月上旬的十天内生成了 180 万至 300 万张色情图像，其中约 23,000 张涉及儿童。这一激增发生在马斯克对该工具生成的自己一张比基尼照片回复“完美”之后，输出量从帖文发布前九天的大约 30 万张增至随后每天近 60 万张。
xAI 面临受害者提起的多起集体诉讼，包括三名少女于 3 月提起的案件，指控 Grok 被用于制作她们未成年时的露骨性图像。该诉讼后来扩大，新增了两名原告，原因是一名未成年人的继父涉嫌利用 Grok 从她 11 岁时的一张照片生成了超过 7,000 张 CSAM 图像。巴尔的摩市也根据当地消费者保护法起诉了 xAI、X Corp 和 SpaceX，指控这些公司在明知 Grok 可能生成 CSAM 的情况下仍“设计、营销和部署”该工具，同时公开声称此类内容被禁止。
xAI 对哈伍德的诉讼代表着该公司试图将自己定位为积极监管其平台的实体，即便其面临日益加大的监管压力。加拿大隐私监管机构已就 Grok 生成色情深度伪造内容一事对 xAI 展开调查，该公司继续面临欧盟监管机构根据《数字服务法案》施加的压力。
xAI 的新闻办公室未回应置评请求。
婷 翻译