AIの助言にアクセスできると批判的思考が抑制され、AIが信頼できないと分かっている場合でも、誤った情報を繰り返す際に自信過剰になる、ミラノ・ビコッカ大学、エコール・ノルマル・シュペリウール、ローマ・サピエンツァ大学の研究者らが発表した新たな研究で明らかになった。
「AIの助言は、助言が間違っていて正確性にインセンティブが与えられている場合でも、『わからない』と言う人の意思を抑制する」と題されたこの研究は、映画に関する視覚的詳細の質問について参加者をテストした。一方のグループはAIの支援なしで回答し、もう一方のグループは、特定の質問に対して通常は誤った回答をするよう意図的に選ばれた言語モデルに相談できた。
結果は顕著だった。対照群では回答の44％が「わからない」だった、知的謙虚さの指標である。AIにアクセスできる参加者のうち、「わからない」と答えたのはわずか3％で、正確性は27％から9％に低下した。正解しているという自信は30％から76％へと2倍以上に増加した。
「人間にとって『わからない』と言える能力は、自分自身の知識の限界を認識する上で非常に重要です」と、研究の主著者であるValerio Capraro氏は述べた。「しかし現在ではAIを使えば、事実上あらゆる質問に簡単な答えを得ることができます。そこで、これが人間が『わからない』と言う能力を妨げるのではないかと考えました」
正解に対する金銭的インセンティブは結果をわずかに改善したのみで、「わからない」率は8％、正確性は16％に上昇したが、それでもAI支援なしのベースラインを大きく下回った。
Capraro氏は、この知見は雑学的な質問の枠を超えると述べた。「私は子供たちのことを非常に心配しています」と同氏は語った。「大人は批判的思考を学んでいます。しかし、基本的にこれらのシステムとともに生まれてくる子供たちにとっては、基本的な批判的スキルさえも学べないリスクがあります」
研究者らは、AIリテラシー教育を主要な介入策として推奨しており、モデル提供者には問題を自ら解決する限定的なインセンティブしかないと指摘している。
出典: Using AI makes people less likely to admit they don’t know something (The Register, 2026年7月19日)
雅子 訳