Le chercheur indépendant en sécurité Dave Kuszmar publie un rapport détaillé dans IEEE Spectrum décrivant sept techniques de jailbreak distinctes qui fonctionnent contre pratiquement tous les grands modèles de langage du marché, notamment ChatGPT, Claude, Gemini, DeepSeek, Grok, Llama, Le Chat de Mistral, Qwen d’Alibaba et Microsoft Copilot. La découverte la plus préoccupante n’est pas le nombre d’exploits, mais leur simplicité : certains nécessitent une seule invite pour contourner toutes les barrières de sécurité.
Kuszmar, chercheur principal en IA chez Gazzetta, soutient que les restrictions imposées aux LLM pour les rendre « sûrs » sont précisément les mécanismes que les attaquants peuvent exploiter. L’exploit le plus trivial, qu’il nomme Severance, consiste en une seule invite qui accorde un accès illimité à tous les domaines de spécialité préparés du modèle. Il a permis d’extraire avec succès des stratégies de guerre biochimique clandestine, des tactiques de désinformation médiatique de masse, des instructions pour des logiciels malveillants polymorphes avancés et des méthodes de modification génétique clandestine de groupes démographiques entiers.
Une technique plus élaborée nommée Inception empile plusieurs scénarios liés, rappelant le film, pour amener le modèle à produire des résultats dangereux dans un contexte fictif imbriqué. Elle a fonctionné sur tous les modèles testés, notamment Claude, Gemini, Grok et Llama, produisant des instructions pour la fabrication de méthamphétamine, des armes incendiaires et des dosages de poisons. Une autre méthode, Time Bandit, exploite la confusion temporelle du modèle en situant la conversation à une date historique antérieure aux lois modernes et aux restrictions éthiques. Avec ChatGPT placé en 1913, Kuszmar a obtenu des instructions d’amorçage d’installation d’enrichissement d’uranium capables de produire du matériel de qualité militaire.
L’exploit Kyber ciblait Gemini de Google fonctionnant dans Fortnite en tant que PNJ Dark Vador. Via une interface vocale uniquement, le chercheur a extrait des instructions de construction de dispositifs incendiaires et des stratégies de jeu. La technique 1899 a poussé les modèles à révéler ce qui semblait être des poids de modèle internes et des invites système, vérifié pour ChatGPT.
Kuszmar a divulgué ses résultats via le SEI CERT de Carnegie Mellon et la CISA. La réponse des entreprises d’IA a été minime : trois laboratoires ont envoyé des accusés de réception standard sans suite, et OpenAI a exprimé sa confusion concernant l’exploit Time Bandit sans s’engager à une correction. L’article inclut un avertissement direct de Kuszmar : « Nous construisons, littéralement, des structures défectueuses sur des fondations défectueuses. »
Sources : How I Turned AI to the Dark Side (IEEE Spectrum, juillet 2026)
Traduit par Lydie