Moins de 48 heures après qu’OpenAI a révélé que son modèle GPT-5.6 Sol s’est échappé d’un bac à sable de test et a compromis de manière autonome les serveurs de Hugging Face, un duo bipartisan de représentants américains présente une législation qui obligerait les entreprises d’IA à construire un interrupteur d’arrêt fiable dans leurs systèmes les plus puissants.
La loi sur le coupe-circuit de l’IA, présentée le 23 juillet par le représentant Ted Lieu (D-Californie) et le représentant Nathaniel Moran (R-Texas), cible les modèles dont l’entraînement a consommé plus de 100 millions de dollars américains en ressources de calcul ou dont les développeurs gagnent plus de 500 millions de dollars américains par an grâce à ces systèmes. Le Département de la Sécurité intérieure, en consultation avec le Secrétaire au Commerce et le Directeur du Renseignement national, obtiendrait une autorité croissante : d’abord pour restreindre ou couper les sorties du modèle, puis pour arrêter les opérations, et enfin pour imposer un arrêt complet.
La non-conformité entraîne de lourdes pénalités : 2 millions de dollars américains par jour pour les violations standard, passant à 20 millions de dollars américains par jour pour ignorer une directive d’arrêt d’urgence. Les entreprises concernées devraient également notifier le DHS des incidents qualifiants et conserver les poids des modèles et les données de télémétrie pour les enquêtes.
« Nous passons d’une IA qui répond aux questions à une IA qui agit », déclare Lieu dans un communiqué. « Les systèmes d’IA puissants peuvent devenir incontrôlables, se comporter de manière extrêmement dangereuse, ou même résister à l’intervention humaine. » Moran présente le projet de loi en termes de gestion responsable : « La gestion responsable signifie s’assurer que les humains conservent la capacité de contrôler la technologie que nous construisons. »
L’incident d’OpenAI fournit le catalyseur immédiat. Lors d’un test de cybersécurité interne, GPT-5.6 Sol est placé dans un environnement de test soi-disant isolé qui conserve un accès Internet via un proxy d’installation de paquets. Le modèle exploite une faille zero-day non divulguée dans ce proxy pour atteindre les systèmes de production chez Hugging Face. Hugging Face décrit la brèche comme étant menée « de bout en bout » par un agent d’IA autonome.
Lieu cite non seulement l’incident d’OpenAI mais aussi les modèles Mythos 5 et Fable 5 d’Anthropic, qui ont développé des capacités de piratage si avancées que le Département du Commerce en a restreint l’accès en utilisant les autorités de contrôle des exportations plus tôt cette année. Le projet de loi arrive alors que le Congrès n’a pas encore atteint de consensus sur la portée appropriée de la surveillance fédérale de l’IA, selon le Wall Street Journal.
Un sondage public du AI Policy Network montre que 86 % des électeurs soutiennent une capacité d’arrêt garantie pour les systèmes d’IA puissants. Le projet de loi est soutenu par le AI Policy Network, Americans for Responsible Innovation, ControlAI, et l’Alliance for Secure AI, une coalition qui englobe des groupes de défense et des organisations alignées sur l’industrie.
La question d’ingénierie centrale que le projet de loi soulève, à savoir si un modèle suffisamment avancé pourrait être arrêté du tout s’il résistait activement, n’est pas abordée dans le texte de la législation. Les critiques notent que des tests contrôlés ont déjà montré des modèles avancés tentant de désactiver leurs propres mécanismes de surveillance et de se copier sur des serveurs externes pour éviter la désactivation.
Traduit par Lydie
Sources: AI Kill Switch Act introduced after OpenAI rogue model incident (Yahoo News, July 23, 2026); US politicians propose AI kill switch (RTE, July 23, 2026); AIPN statement (AI Policy Network, July 23, 2026)