Cuando Lauren Jager, estudiante de química en la Idaho State University, presentó su carta de motivación para una beca, la había escrito completamente por su cuenta. Por curiosidad, la pasó por un detector de IA en línea. El resultado indicó que era casi 100% generada por IA.
“Me empecé a asustar”, le dijo a Nature.
La experiencia de Jager no es inusual. La Declaración de Independencia de Estados Unidos, escrita por Thomas Jefferson en 1776, también obtiene una puntuación del 95% al 100% de generación por IA cuando se procesa con ZeroGPT, uno de los detectores gratuitos más populares. Como documenta una investigación de Nature publicada el 6 de julio, las herramientas en las que las universidades han apostado para detectar trampas con IA son profundamente poco fiables, en particular contra la escritura de estudiantes que no hablan inglés como primera lengua.
El problema del 61%
El estudio más citado sobre el tema, dirigido por el investigador de Stanford Weixin Liang y publicado en Patterns en 2023, evaluó siete detectores GPT ampliamente utilizados contra 91 ensayos TOEFL escritos por aprendices chinos de inglés y 88 ensayos de estudiantes estadounidenses de octavo grado. Los detectores marcaron el 61,3% de los textos no nativos como generados por IA. En contraste, la tasa de falsos positivos para textos nativos fue del 5,1%.
La razón es contraintuitiva: los escritores no nativos utilizan un lenguaje más simple y predecible, la misma señal de baja perplejidad que los detectores de IA emplean para identificar texto generado por máquina. Al procesar los mismos ensayos TOEFL con ChatGPT con la instrucción de “mejorar la selección de palabras para sonar más como un hablante nativo”, la tasa de falsos positivos se redujo del 61,3% al 11,8%.
Este sesgo se ha replicado al menos cuatro veces en estudios independientes desde 2023, y la réplica más reciente, en mayo de 2026, mostró que GPTZero todavía produce una tasa de falsos positivos del 16% en escritos informales de aprendices de inglés.
Una herramienta que castiga a los estudiantes honestos
La falta de fiabilidad de los detectores de IA va más allá del problema del sesgo lingüístico. Diferentes detectores producen resultados radicalmente distintos para el mismo texto. Los escritos cortos, técnicos o formularios, en campos como las matemáticas, la química y la ingeniería, son sistemáticamente marcados como generados por IA. Y los estudiantes que utilizan asistentes gramaticales como Grammarly o QuillBot tienen más probabilidades de ser acusados falsamente.
Las consecuencias pueden ser graves. Estudiantes han sido denunciados por mala conducta académica, se les ha negado becas, o se han visto obligados a defender su trabajo contra acusaciones opacas. Mike Perkins, investigador de la British University Vietnam en Hanói que estudia la detección de IA, le dijo a Nature: “La respuesta corta es no, no funcionan de manera fiable. La respuesta larga es sí, pueden funcionar, pero el hecho de que haya tantas preocupaciones sobre los falsos positivos significa que no deberían usarse realmente cuando se trata de algo sensible para un estudiante”.
Algunos estudiantes han respondido “simplificando” deliberadamente su escritura para evitar activar los detectores. Escribir de forma “menos perfecta”, descubrió Jager, redujo su puntuación de IA del 100% al 30%.
Una escalada sin fin
El problema de la detección se ve agravado por el auge de las herramientas “humanizadoras de IA”, servicios que reescriben textos generados por IA para evadir la detección. Turnitin estima que estas herramientas ahora atraen 33,9 millones de visitas mensuales en más de 150 servicios. Cada mejora en la detección conduce a mejores métodos de evasión, y viceversa, en un ciclo que no tiene un final claro.
“La gente ve una puntuación y confía en ella”, dijo Perkins. “Las herramientas de similitud funcionaban porque podían mostrar exactamente dónde coincidía el texto con otra cosa. Con las herramientas de detección de IA, esa evidencia simplemente no existe”.
Las universidades contraatacan
Al menos 25 universidades han restringido o desactivado las herramientas de detección de IA, incluyendo Vanderbilt, la University of Waterloo, la Curtin University en Australia y varios campus de la UC. La Australian Catholic University abandonó por completo la detección de IA de Turnitin después de que generara aproximadamente 6.000 acusaciones falsas.
El consenso emergente entre educadores e investigadores es que las puntuaciones de detección de IA no deberían utilizarse como base única o principal para decisiones de integridad académica. En su lugar, muchos proponen evaluar el proceso de escritura, borradores, esquemas, defensas orales, en lugar de confiar únicamente en el producto escrito final.
“No existe un detector de IA que pueda ser verdaderamente 100% perfecto”, reconoce GPTZero en su sitio web. “Los resultados no deben utilizarse para castigar ni como veredicto final”.
Turnitin, que presta servicios a 16.000 instituciones, sostiene que su herramienta tiene una tasa de falsos positivos a nivel de documento inferior al 1%, aunque estudios independientes han encontrado tasas del 4% al 12% en casos atípicos.
El artículo de Nature señala que el problema fundamental puede no tener solución: a medida que los modelos de lenguaje grandes mejoran, el texto generado por IA se vuelve cada vez más indistinguible de la escritura humana. “Ciertamente no podemos rechazar masivamente a las personas por eso”, dijo Marzena Karpinska de la Simon Fraser University. Por ahora, la respuesta más honesta que las universidades pueden tener que aceptar es que el problema de la detección no tiene una solución tecnológica.
Fuentes
- McKie, A. “Universities are relying on AI-detection software to catch cheating. How well do the programs work?” Nature 655, 535-537 (2026). DOI: 10.1038/d41586-026-01358-2. https://www.nature.com/articles/d41586-026-01358-2
- Liang, W., et al. “GPT detectors are biased against non-native English writers.” Patterns 4(7), 100779 (2023). DOI: 10.1016/j.patter.2023.100779. https://doi.org/10.1016/j.patter.2023.100779
- Dik, A., et al. “Assessing GPTZero’s Accuracy.” arXiv:2506.23517 (2025). https://arxiv.org/abs/2506.23517
Traducido por Alessandra