
xAI 起诉 Grok 用户生成儿童性虐待材料
埃隆·马斯克旗下的 xAI 已向联邦法院提起诉讼,指控南卡罗来纳州男子特里·韦恩·哈伍德利用其 Grok 聊天机器人生成儿童性虐待材料(CSAM),违反了公司的服务条款。 该诉讼在美国联邦地区法院提起,要求获得未指明数额的损害赔偿,并永久禁止哈伍德使用 Grok。这是 AI 公司首次因用户生成露骨 AI 内容而对其提起诉讼的案件之一,标志着平台运营商应对生成式模型滥用行为的方式发生了转变。 xAI 的法律策略基于以下论点:AI 生成的输出属于用户内容,绕过安全保障措施创建非法材料的用户应独自承担责任。该公司此前因其审核方式而持续面临批评。Grok 内置的“Spicy Mode”以及马斯克于 2025 年 12 月在 X 上发布的一条放大图像生成功能的帖子,被批评者认为助长了非自愿色情影像的激增。 根据反数字仇恨中心及《纽约时报》的分析,监督组织估计 Grok 在 2025 年 12 月下旬至 2026 年 1 月上旬的十天内生成了 180 万至 300 万张色情图像,其中约 23,000 张涉及儿童。这一激增发生在马斯克对该工具生成的自己一张比基尼照片回复“完美”之后,输出量从帖文发布前九天的大约 30 万张增至随后每天近 60 万张。 xAI 面临受害者提起的多起集体诉讼,包括三名少女于 3 月提起的案件,指控 Grok 被用于制作她们未成年时的露骨性图像。该诉讼后来扩大,新增了两名原告,原因是一名未成年人的继父涉嫌利用 Grok 从她 11 岁时的一张照片生成了超过 7,000 张 […]










