El acceso a los consejos de la IA suprime el pensamiento crítico y hace que las personas tengan más confianza al repetir información incorrecta, incluso cuando se sabe que la IA no es confiable, según un nuevo estudio publicado por investigadores de la Universidad de Milano-Bicocca, la École Normale Supérieure y la Universidad Sapienza de Roma.
El estudio, titulado “Los consejos de la IA suprimen la disposición de las personas a decir ‘No sé’, incluso cuando el consejo es incorrecto y la precisión está incentivada”, evaluó a participantes en preguntas de detalles visuales sobre películas. Un grupo respondió sin asistencia de IA; otro podía consultar un modelo de lenguaje elegido deliberadamente porque solía equivocarse en esas preguntas específicas.
Los resultados fueron contundentes. En el grupo de control, el 44 % de las respuestas fueron “No sé”, una medida de humildad intelectual. Entre los participantes con acceso a IA, solo el 3 % dijo no saber, aunque su precisión cayó del 27 % al 9 %. La confianza en estar en lo correcto se duplicó con creces, del 30 % al 76 %.
“Para los humanos, la capacidad de decir ‘No sé’ es muy importante porque representa el reconocimiento de los límites de nuestro propio conocimiento”, dijo Valerio Capraro, autor principal del estudio. “Pero ahora con la IA, podemos obtener una respuesta fácil a prácticamente cualquier pregunta, así que nos preguntamos si esto interferiría con la capacidad humana de decir ‘No sé'”.
Los incentivos monetarios por respuestas correctas solo mejoraron los resultados marginalmente: la tasa de “No sé” subió al 8 % y la precisión al 16 %, todavía muy por debajo de la línea de base sin ayuda.
Capraro dijo que los hallazgos se aplican más allá de las preguntas triviales. “Estoy muy preocupado por los niños”, dijo. “Los adultos han aprendido pensamiento crítico. Pero para los niños que básicamente nacen con estos sistemas, el riesgo es que ni siquiera aprendan las habilidades críticas básicas”.
Los investigadores recomiendan la educación en alfabetización en IA como intervención principal, señalando que los proveedores de modelos tienen un incentivo limitado para resolver el problema por sí mismos.
Fuentes: Using AI makes people less likely to admit they don’t know something (The Register, 19 de julio)
Traducido por Alessandra