イーロン・マスク氏のxAIは、サウスカロライナ州在住のテリー・ウェイン・ハーウッド氏を相手取り、連邦裁判所に訴訟を提起した。同氏がGrokチャットボットを使用して児童性的虐待素材（CSAM）を生成したことは、同社の利用規約に違反するとしている。
米連邦地方裁判所に提出されたこの訴訟は、特定されていない損害賠償と、ハーウッド氏のGrokへのアクセスを永久に禁止する命令を求めている。AI企業がユーザーを明示的なAIコンテンツの生成で訴えた最初の事例の一つであり、プラットフォーム運営者が生成モデルの悪用にどう対処するかの転換点を示している。
xAIの法的戦略は、AIが生成した出力はユーザーコンテンツであり、安全対策を迂回して違法な素材を作成したユーザーは単独で責任を負うという主張に基づいている。同社はこれまでモデレーションアプローチに関して継続的な批判に直面してきた。Grokに組み込まれた「Spicy Mode」や、2025年12月にマスク氏がX上で画像生成機能を増幅させた投稿は、非同意の性的画像の急増に寄与したとして批判者によって引用されている。
ウォッチドッグ団体は、Grokが2025年12月下旬から2026年1月上旬にかけての10日間で180万から300万の性的画像を生成し、そのうち約23,000が子どもを描写していると推定している（Center for Countering Digital Hateおよびニューヨーク・タイムズの分析による）。この急増は、マスク氏が自身のビキニ画像（ツールで生成）に対して「Perfect」と応答した後に続き、投稿前9日間で約30万画像だった出力が、その後1日あたり約60万画像に増加した。
xAIは被害者からの複数の集団訴訟に直面している。3月には10代の少女3名が、Grokが未成年だった頃の彼女たちの性的に露骨な画像を作成するために使用されたと申し立てて訴訟を提起した。この訴訟は後に、ある未成年の継父が彼女が11歳の時の1枚の写真から7,000以上のCSAM画像を生成したとして、2名の原告を追加して拡大された。ボルチモア市もxAI、X Corp、SpaceXを現地の消費者保護法に基づいて訴えており、企業がCSAMを生成できることを認識しながら、そのようなコンテンツは禁止されていると公に主張してGrokを「設計、マーケティング、展開」したと主張している。
ハーウッド氏に対するxAIの訴訟は、規制監視が強まる中で、同社が自社プラットフォームを積極的に監視していると位置づける試みを表している。カナダのプライバシー監視機関は、Grokによる性的ディープフェイクの生成に関してxAIの調査を開始しており、同社は引き続きデジタルサービス法に基づくEU規制当局からの圧力に直面している。
xAIの広報室はコメント要請に応じなかった。
雅子 訳