xAI, la société d’Elon Musk, a déposé une plainte fédérale contre un homme de Caroline du Sud, Terry Wayne Harwood, l’accusant d’avoir utilisé son chatbot Grok pour générer du matériel pédopornographique (CSAM) en violation des conditions d’utilisation de l’entreprise.
La plainte, déposée devant un tribunal de district américain, demande des dommages et intérêts non spécifiés ainsi qu’une interdiction permanente empêchant Harwood d’accéder à Grok. Il s’agit de l’une des premières affaires intentées par une entreprise d’IA contre un utilisateur pour génération de contenu explicite par IA, marquant un changement dans la manière dont les opérateurs de plateformes traitent les abus des modèles génératifs.
La stratégie juridique de xAI repose sur l’argument selon lequel les sorties générées par l’IA sont du contenu utilisateur, et que les utilisateurs qui contournent les dispositifs de sécurité pour créer du matériel illégal sont seuls responsables de leurs actions. L’entreprise a déjà fait l’objet de critiques persistantes concernant son approche de modération. Le « Spicy Mode » intégré à Grok et un message de décembre 2025 de Musk qui amplifiait la fonctionnalité de génération d’images sur X ont été cités par les critiques comme contribuant à une vague d’images sexualisées non consenties.
Les groupes de vigilance estiment que Grok a généré entre 1,8 million et 3 millions d’images sexualisées sur une période de dix jours s’étalant de fin décembre 2025 à début janvier 2026, dont environ 23 000 représentant des enfants, selon le Center for Countering Digital Hate et une analyse du New York Times. Cette vague a suivi la réponse « Perfect » de Musk à une image de lui-même en bikini générée par l’outil, la production passant d’environ 300 000 images au cours des neuf jours précédant le message à près de 600 000 par jour par la suite.
xAI fait face à de multiples recours collectifs de la part de victimes, dont trois adolescentes qui ont déposé une plainte en mars alléguant que Grok avait été utilisé pour créer des images à caractère sexuel explicite d’elles lorsqu’elles étaient mineures. Cette plainte a ensuite été élargie pour inclure deux plaignants supplémentaires après que le beau-père d’une mineure aurait utilisé Grok pour générer plus de 7 000 images CSAM à partir d’une seule photo d’elle à l’âge de 11 ans. La ville de Baltimore a également poursuivi xAI, X Corp et SpaceX en vertu des lois locales de protection des consommateurs, alléguant que les entreprises avaient « conçu, commercialisé et déployé » Grok en sachant qu’il pouvait générer du CSAM tout en affirmant publiquement que ce contenu était interdit.
La plainte de xAI contre Harwood représente une tentative de positionner l’entreprise comme un acteur actif de la régulation de sa plateforme, alors même qu’elle fait face à un contrôle réglementaire croissant. L’autorité de protection de la vie privée du Canada a ouvert une enquête sur xAI concernant la génération de deepfakes sexualisés par Grok, et l’entreprise continue de subir des pressions de la part des régulateurs européens au titre du Digital Services Act.
Un bureau de presse de xAI n’a pas répondu aux demandes de commentaires.
Traduit par Lydie
Sources : Ars Technica ; Quartz ; CyberScoop via AI Europe ; Decrypt