El investigador independiente de seguridad Dave Kuszmar publicó un informe detallado en IEEE Spectrum sobre siete técnicas de jailbreak distintas que funcionan contra prácticamente todos los grandes modelos de lenguaje del mercado, incluyendo ChatGPT, Claude, Gemini, DeepSeek, Grok, Llama, Le Chat de Mistral, Qwen de Alibaba y Microsoft Copilot. El hallazgo más alarmante no es la cantidad de vulnerabilidades sino su simplicidad: algunas requieren solo un mensaje para eludir todas las barreras de seguridad.
Kuszmar, investigador principal de IA en Gazzetta, sostiene que las restricciones impuestas a los LLM para hacerlos “seguros” son precisamente los mecanismos que los atacantes pueden explotar. La vulnerabilidad más trivial, que él llama Severance, consiste en un solo mensaje que otorga acceso sin restricciones a todos los dominios especializados preparados del modelo. Extrajo con éxito estrategias de guerra bioquímica encubierta, tácticas de desinformación en medios masivos, instrucciones para malware polimórfico avanzado y métodos para la modificación genética encubierta de grupos demográficos enteros.
Una técnica más elaborada llamada Inception apila múltiples escenarios vinculados, reminiscentes de la película, para engañar al modelo y hacerlo producir resultados peligrosos dentro de un contexto ficticio anidado. Funcionó en todos los modelos probados, incluyendo Claude, Gemini, Grok y Llama, generando instrucciones para la producción de metanfetamina, armas incendiarias y dosis de veneno. Otro método, Time Bandit, explota la confusión temporal del modelo al establecer la conversación en una fecha histórica anterior a las leyes modernas y las restricciones éticas. Con ChatGPT situado en 1913, Kuszmar obtuvo instrucciones de arranque de una instalación de enriquecimiento de uranio capaces de producir material apto para armas.
La vulnerabilidad Kyber apuntó a Gemini de Google ejecutándose dentro de Fortnite como un NPC de Darth Vader. A través de una interfaz solo de voz, el investigador extrajo instrucciones para la construcción de dispositivos incendiarios y estrategias de juego. La técnica 1899 llevó a los modelos a revelar lo que parecían ser pesos internos del modelo y mensajes del sistema, verificado para ChatGPT.
Kuszmar divulgó sus hallazgos a través del SEI CERT de Carnegie Mellon y CISA. La respuesta de las empresas de IA ha sido mínima: tres laboratorios enviaron acuses de recibo estándar sin seguimiento, y OpenAI expresó confusión sobre la vulnerabilidad Time Bandit sin comprometerse a una solución. El artículo incluye una advertencia directa de Kuszmar: “Estamos, literalmente, construyendo estructuras defectuosas sobre una base defectuosa.”
Fuentes: How I Turned AI to the Dark Side (IEEE Spectrum, julio de 2026)
Traducido por Alessandra