L’accès aux conseils de l’IA supprime la pensée critique et rend les gens plus confiants lorsqu’ils répètent des informations incorrectes, même lorsque l’IA est connue pour être peu fiable, selon une nouvelle étude publiée par des chercheurs de l’Université de Milan-Bicocca, de l’École Normale Supérieure et de l’Université Sapienza de Rome.
L’étude, intitulée « Les conseils de l’IA suppriment la volonté des gens de dire « Je ne sais pas », même lorsque les conseils sont erronés et que la précision est encouragée », a testé des participants sur des questions de détails visuels concernant des films. Un groupe a répondu sans assistance IA ; un autre pouvait consulter un modèle de langage choisi délibérément parce qu’il était généralement faux sur ces questions spécifiques.
Les résultats ont été frappants. Dans le groupe témoin, 44 % des réponses étaient « Je ne sais pas », une mesure de l’humilité intellectuelle. Parmi les participants ayant accès à l’IA, seulement 3 % ont dit ne pas savoir, même si leur précision est passée de 27 % à 9 %. La confiance dans la justesse de leur réponse a plus que doublé, passant de 30 % à 76 %.
« Pour les humains, la capacité à dire « Je ne sais pas » est très importante car elle représente la reconnaissance des limites de notre propre savoir », a déclaré Valerio Capraro, auteur principal de l’étude. « Mais maintenant avec l’IA, nous pouvons obtenir une réponse facile à pratiquement toutes les questions, donc nous nous sommes demandé si cela interférerait avec la capacité humaine à dire « Je ne sais pas ». »
Les incitations monétaires pour les réponses correctes n’ont amélioré les résultats que marginalement, le taux de « Je ne sais pas » est passé à 8 % et la précision à 16 %, toujours bien en dessous de la référence sans assistance.
Capraro a déclaré que les résultats s’appliquent au-delà des questions de trivia. « Je suis très préoccupé par les enfants », a-t-il dit. « Les adultes ont appris la pensée critique. Mais pour les enfants qui naissent essentiellement avec ces systèmes, le risque est qu’ils n’apprennent même pas les compétences critiques de base. »
Les chercheurs recommandent l’éducation à la littératie en IA comme intervention principale, notant que les fournisseurs de modèles ont des incitations limitées à résoudre le problème eux-mêmes.
Sources : Using AI makes people less likely to admit they don’t know something (The Register, 19 juillet)
Traduit par Lydie