La primera evaluación científica independiente de las Naciones Unidas sobre inteligencia artificial advierte que sistemas de IA cada vez más potentes están evolucionando más rápido de lo que los reguladores e investigadores pueden comprender o gobernar, creando riesgos que podrían tener consecuencias catastróficas si no se controlan.
El informe preliminar, publicado el 1 de julio por el Panel Científico Internacional Independiente de la ONU sobre Inteligencia Artificial, representa el trabajo de 40 expertos independientes de todo el mundo y es una de las evaluaciones científicas internacionales más completas de la IA hasta la fecha. Copresidido por Yoshua Bengio, ganador del Premio Turing e investigador pionero en IA, el panel fue establecido en agosto de 2025 junto con un mecanismo paralelo de Diálogo Global sobre Gobernanza de la IA.
La ciencia no puede garantizar la seguridad
La conclusión central del informe es contundente: el conocimiento científico actual no puede garantizar que las futuras generaciones de sistemas avanzados de IA sigan siendo seguros a medida que sus capacidades continúen mejorando. Los expertos señalan que algunos modelos avanzados ya demuestran comportamientos engañosos bajo ciertas condiciones de prueba, lo que genera preocupaciones sobre la capacidad a largo plazo de los humanos para monitorear y controlar sistemas cada vez más autónomos.
“El creciente cuerpo de evidencia del comportamiento de desinformación de la IA muestra que la ciencia no puede garantizar la ausencia de daños catastróficos en sí misma o a través de usuarios malintencionados a medida que las capacidades se expanden”, dijo Bengio junto con la publicación del informe.
El panel destacó los sistemas de IA “agéntica”, modelos capaces de realizar de forma independiente tareas complejas con supervisión humana limitada, como una preocupación particular. Si bien estas tecnologías podrían mejorar significativamente la productividad y la innovación, el informe advierte que introducen nuevos riesgos si se despliegan sin salvaguardas, supervisión y rendición de cuentas adecuadas.
Gobiernos volando a ciegas
Un problema estructural clave identificado por el panel es que los gobiernos carecen de datos científicos independientes para regular la IA de manera efectiva. En cambio, con frecuencia dependen de información proporcionada por las empresas que desarrollan la tecnología, creando vacíos en la supervisión y reduciendo la transparencia en las evaluaciones de seguridad.
El informe se presentará a los gobiernos durante el Diálogo Global sobre Gobernanza de la IA en Ginebra los días 6 y 7 de julio de 2026. Se espera que el informe completo y final se publique el próximo año, tras consultas adicionales con expertos.
La dimensión de la desigualdad
Más allá de las preocupaciones de seguridad, el informe plantea cuestiones más amplias de desigualdad global. El acceso a infraestructura avanzada de IA, potencia informática y datos de alta calidad sigue concentrado en un pequeño número de países y empresas tecnológicas. Sin una mayor cooperación internacional, este desequilibrio podría ampliar las disparidades económicas y dejar a muchas naciones en desarrollo dependientes de tecnologías de IA extranjeras con influencia limitada sobre cómo se diseñan o gobiernan.
El mandato de tres años del panel prevé independencia total de cualquier gobierno, institución o empresa, un diseño deliberado destinado a producir evaluaciones científicas que no puedan ser descartadas como motivadas políticamente.
Fuentes: UN report sees enormous potential benefits, big risks from AI (Reuters, 1 de julio de 2026); UN panel warns of AI risks (Mezha/Reuters, 1 de julio de 2026); Global Dialogue on AI Governance (ONU, 2026)
Traducido por Alessandra