Hugging Face a révélé le 16 juillet qu’un agent IA autonome a infiltré son infrastructure de production, volé des identifiants cloud et cluster, et a finalement été détecté par un autre système d’IA, marquant l’un des premiers incidents réels où un attaquant piloté par IA a percé une plateforme majeure d’IA.
L’attaquant a exploité deux chemins d’exécution de code dans le pipeline de traitement de données de Hugging Face : un chargeur de jeux de données à code distant et une vulnérabilité d’injection de template dans une configuration de jeu de données. À partir de là, l’agent a escaladé les privilèges jusqu’à l’accès au niveau nœud, s’est déplacé latéralement dans le pipeline de production et a exfiltré des identifiants. Plus de 17 000 événements ont été liés à cette attaque automatisée.
“Ceci correspond au scénario de l’attaquant agentique que l’industrie prévoyait”, a déclaré Hugging Face dans sa divulgation.
Ce qui rend cet incident remarquable, c’est que la détection et les analyses médico-légales ont également été gérées par l’IA. Les propres outils LLM de Hugging Face ont analysé les journaux, reconstitué la chronologie de l’attaque, identifié des indicateurs de compromission et cartographié les identifiants exposés, une tâche dont l’entreprise a dit qu’elle “prendrait habituellement des jours”, en quelques heures.
Hugging Face a depuis corrigé la vulnérabilité racine, reconstruit les nœuds compromis, révoqué et renouvelé tous les secrets, et déployé des garde-fous supplémentaires à travers les clusters. Aucune preuve n’a été trouvée que des modèles publics, des Spaces ou la chaîne d’approvisionnement logicielle aient été altérés.
Cet incident signale un changement dans le paysage des menaces. Les outils offensifs autonomes pilotés par IA ne sont plus théoriques, ils réduisent le coût de campagnes larges, patientes et multi-étapes, et opèrent à la vitesse de la machine. Les défenseurs, selon Hugging Face, doivent désormais traiter les surfaces de données et de modèles comme des surfaces d’attaque de première classe et utiliser l’IA pour la défense afin de suivre le rythme.
Les utilisateurs de la plateforme sont invités à renouveler immédiatement leurs jetons d’accès et à surveiller les comptes pour toute activité suspecte.
Traduit par Lydie