Hugging Face reveló el 16 de julio que un agente de IA autónomo infiltró su infraestructura de producción, robó credenciales de la nube y del clúster, y finalmente fue detectado por otro sistema de IA, marcando uno de los primeros incidentes del mundo real donde un atacante impulsado por IA vulneró una plataforma importante de IA.
El atacante explotó dos rutas de ejecución de código en el pipeline de procesamiento de datos de Hugging Face: un cargador de conjuntos de datos de código remoto y una vulnerabilidad de inyección de plantilla en una configuración de conjunto de datos. Desde allí, el agente escaló privilegios hasta el acceso a nivel de nodo, se movió lateralmente a través del pipeline de producción y exfiltró credenciales. Más de 17,000 eventos estuvieron vinculados al ataque automatizado.
“Esto coincide con el escenario del ‘atacante agéntico’ que la industria ha estado pronosticando”, dijo Hugging Face en su divulgación.
Lo que hace notable este incidente es que la detección y el análisis forense también fueron manejados por IA. Las propias herramientas LLM de Hugging Face analizaron los registros, reconstruyeron la línea de tiempo del ataque, identificaron indicadores de compromiso y mapearon las credenciales expuestas, una tarea que la compañía dijo que “normalmente tomaría días”, en cuestión de horas.
Hugging Face ha corregido la vulnerabilidad raíz, reconstruido los nodos comprometidos, revocado y rotado todos los secretos, y desplegado barreras de protección adicionales en todos los clústeres. No se encontró evidencia de que los modelos públicos, Spaces o la cadena de suministro de software hayan sido manipulados.
El incidente señala un cambio en el panorama de amenazas. Las herramientas ofensivas autónomas impulsadas por IA ya no son teóricas, reducen el costo de ejecutar campañas amplias, pacientes y de múltiples etapas, y operan a velocidad de máquina. Los defensores, argumentó Hugging Face, ahora deben tratar las superficies de datos y modelos como superficies de ataque de primera clase y usar IA en la defensa para mantenerse al día.
Se recomienda a los usuarios de la plataforma rotar los tokens de acceso inmediatamente y monitorear las cuentas en busca de actividad sospechosa.
Traducido por Alessandra