Investigadores han propuesto una novedosa defensa contra el uso indebido de generadores de imagenes de IA, incorporando puertas traseras protectoras directamente en los modelos de difusion para evitar que sean personalizados para generar retratos no autorizados o replicar estilos artisticos.
El articulo, titulado PersGuard y publicado en arXiv, presenta lo que sus autores describen como el primer marco basado en puertas traseras para prevenir la personalizacion maliciosa de modelos de difusion de texto a imagen (T2I). Las defensas existentes se basan principalmente en agregar perturbaciones adversariales a las imagenes de referencia antes de que se utilicen para el ajuste fino, un enfoque que asume que todas las imagenes de entrenamiento estan pre-perturbadas y falla cuando los conjuntos de datos contienen imagenes limpias o sufren transformaciones menores.
PersGuard adopta un enfoque fundamentalmente diferente: en lugar de perturbar las imagenes de entrada, incorpora una puerta trasera protectora en el propio modelo antes de su publicacion. Si un usuario posterior ajusta el modelo en imagenes protegidas, la puerta trasera permanece activa y el modelo genera salidas protectoras predefinidas, imagenes efectivamente inutilizables. Si el modelo se ajusta en imagenes no protegidas y legitimas, la puerta trasera se elimina automaticamente durante el entrenamiento y el modelo conserva su utilidad normal.
El marco formula la inyeccion de puerta trasera como un problema de optimizacion unificado con tres objetivos: una perdida de comportamiento de puerta trasera que activa la proteccion, una perdida de preservacion previa que mantiene la generacion estandar para entradas limpias, y una novedosa perdida de retencion que refleja la perdida de personalizacion para garantizar que la puerta trasera sobreviva al ajuste fino posterior.
Los investigadores probaron PersGuard en escenarios de caja gris (donde el atacante sabe que existe una defensa pero no los detalles de la puerta trasera) y de caja negra (sin conocimiento de la defensa), asi como en proteccion multi-objeto (evitando la personalizacion de multiples sujetos) y proteccion de identidad facial. El metodo demostro una mejor robustez que los metodos de perturbacion adversarial, particularmente cuando los conjuntos de datos incluian imagenes limpias.
El articulo fue escrito por Xinwei Liu, Xiaojun Jia, Yuan Xun, Hua Zhang y Xiaochun Cao, y fue revisado el 15 de julio de 2026, habiendo sido presentado originalmente en febrero de 2025.
El enfoque aborda una preocupacion creciente a medida que los modelos T2I se vuelven mas potentes y accesibles. Servicios como Midjourney, DALL-E y modelos de pesos abiertos como Stable Diffusion han hecho que sea trivialmente facil generar imagenes con la apariencia de una persona especifica o el estilo de un artista en particular, planteando preguntas urgentes de privacidad y derechos de autor que los marcos legales existentes han tenido dificultades para abordar.
Fuente: arXiv
Traducido por Alessandra