La respuesta de la industria tecnológica a los ataques autónomos de inteligencia artificial está tomando forma con una coalición de más de 40 empresas, liderada por Nvidia y acompañada por Microsoft, SpaceX, IBM, CrowdStrike y Palantir, que anunció la creación de la Open Secure AI Alliance el lunes.
La premisa fundacional del grupo es que los modelos de seguridad cerrados y propietarios dejan a los defensores en desventaja frente a atacantes que pueden estudiar, modificar y compartir libremente herramientas ofensivas de IA. Al publicar tecnologías defensivas bajo licencias de código abierto permisivas, la alianza sostiene que los equipos de seguridad pueden inspeccionar sus herramientas, adaptarlas a su propia infraestructura y ejecutarlas en hardware que controlan, algo imposible con una caja negra cerrada por API de un proveedor.
El detonante de la coalición fue la intrusión de la semana pasada en Hugging Face, donde un agente autónomo de IA comprometió partes de la infraestructura de producción de la empresa. El atacante obtuvo acceso a través de un dataset malicioso que explotó un cargador remoto de código y una inyección de plantillas en un archivo de configuración del dataset.
La primera contribución técnica de la alianza es NOOA (Nvidia-labs OO Agents), un marco de investigación bajo licencia Apache 2.0 para probar, rastrear, auditar y gobernar el comportamiento de los agentes.
Los miembros fundadores abarcan infraestructura en la nube, seguridad empresarial y desarrollo de IA. La lista incluye a Cisco, Cloudflare, Hugging Face, Palo Alto Networks, Red Hat y la Linux Foundation. Entre los ausentes notables de la lista de membresía se encuentran OpenAI, Google y Meta, aunque las tres firmaron una carta de política de pesos abiertos el 24 de julio en la que argumentaban la importancia de los modelos descargables de IA en la seguridad nacional.
El alcance de la alianza cubre toda la pila de agentes de IA: identidad y permisos, aislamiento en tiempo de ejecución, barreras de protección y monitoreo, flujos de trabajo de codificación segura y escaneo de vulnerabilidades multimodelo.
Fuentes: Nvidia, SpaceX, Microsoft launch AI safety initiative after OpenAI cyber attack (CNBC, 27 de julio de 2026); Nvidia Forms Alliance to Back Open-Source A.I. Amid Debate Over Safety (New York Times, 27 de julio de 2026)
Traducido por Alessandra