アイダホ州立大学で化学を専攻するローレン・イェーガーさんは、奨学金のための志望動機書を提出した。それはすべて彼女自身が書いたものだ。それでも好奇心から、オンラインのAI検出ツールにかけてみた。結果はほぼ100%がAI生成と判定された。
「パニックになりました」と彼女はNatureに語った。
イェーガーさんの経験は珍しいことではない。トーマス・ジェファーソンが1776年に書いたアメリカ独立宣言も、最も人気のある無料検出ツールの一つであるZeroGPTにかけると、95%から100%がAI生成とスコアされる。7月6日に発表されたNatureの調査が示すように、大学がAIによる不正を摘発するために導入したツールは、特に英語を第一言語としない学生の文章に対して、極めて信頼性が低い。
61%の問題
この問題に関する最も引用されている研究は、スタンフォード大学の研究者Weixin Liangが主導し、2023年にPatternsに掲載された。7種類の広く使われているGPT検出ツールを、中国人英語学習者が書いた91のTOEFLエッセイと、米国生まれの中学2年生が書いた88のエッセイに対してテストした。検出ツールは非ネイティブの英語文章の61.3%をAI生成と判定した。対照的に、ネイティブ英語文章の偽陽性率は5.1%だった。
その理由は直感に反する。非ネイティブの英語書き手は、より単純で予測可能な言語を使う。これはAI検出ツールが機械生成テキストを識別するために使用するのと同じ低パープレキシティのシグナルである。同じTOEFLエッセイをChatGPTに「ネイティブ話者のように聞こえるよう単語選択を強化せよ」という指示で処理すると、偽陽性率は61.3%から11.8%に低下した。
このバイアスは2023年以降、少なくとも4回の独立した研究で再現されており、2026年5月の最新の再現研究では、GPTZeroが非公式なESL文章に対して16%の偽陽性率を示していることが明らかになった。
誠実な学生を罰するツール
AI検出ツールの信頼性の低さは、言語バイアスの問題にとどまらない。同じ文章でも検出ツールによって結果が大きく異なる。数学、化学、工学などの分野における短くて技術的あるいは定型的な文章は、日常的にAI生成と判定される。GrammarlyやQuillBotのような文法支援ツールを使用する学生は、誤って告発される可能性が高くなる。
その結果は深刻である。学生は学術不正で報告され、奨学金を拒否され、不透明な告発に対して自身の文章を擁護せざるを得なくなる。ハノイのBritish University VietnamでAI検出を研究するマイク・パーキンス研究員はNatureに次のように語った。「短い答えはノーです。それらは信頼できる形では機能しません。長い答えはイエスです。機能することもあります。しかし偽陽性に関する懸念がこれほど多くあるということは、学生にとって何か重要なことに関しては、本当に使うべきではありません。」
一部の学生は、検出を避けるために意図的に文章を「劣化」させている。イェーガーさんは、「完璧でない」文章にすることで、AIスコアが100%から30%に低下したことを発見した。
エスカレートするいたちごっこ
検出の問題は、AI生成テキストを検出を逃れるために書き換える「AI人間化」ツールの台頭によってさらに複雑化している。Turnitinは、これらのツールが現在150以上のサービスで月間3390万回の訪問を集めていると推定している。検出の改善は回避手段の改善につながり、その逆もまた然りで、終わりのないサイクルとなっている。
「人々はスコアを見てそれを信頼します」とパーキンス氏は述べた。「類似性ツールは、テキストが他の何かとどこで一致したかを正確に示すことができたので機能しました。AI検出ツールでは、その証拠が単に存在しません。」
大学が反撃に転じる
Vanderbilt大学、ウォータールー大学、オーストラリアのカーティン大学、および複数のカリフォルニア大学キャンパスを含む少なくとも25の大学が、AI検出ツールを制限または無効にしている。オーストラリア・カトリック大学は、TurnitinのAI検出によって約6000件の虚偽の告発が発生した後、完全に使用を中止した。
教育者と研究者の間で浮上しているコンセンサスは、AI検出スコアを学術的正直性に関する判断の唯一または主要な根拠として使用すべきではないということだ。代わりに、多くの関係者は、最終的な文章だけに頼るのではなく、草稿、アウトライン、口頭弁論などの執筆プロセスを評価することを提案している。
「100%完璧なAI検出器など存在し得ません」とGPTZeroは自社ウェブサイトで認めている。「結果を罰則や最終的な判決に使用すべきではありません。」
16,000の教育機関にサービスを提供するTurnitinは、自社ツールの文書レベルの偽陽性率は1%未満であると主張しているが、独立した研究では特殊なテキストで4%から12%の率が報告されている。
Natureの記事は、根本的な問題は解決不可能かもしれないと指摘している。大規模言語モデルが向上するにつれて、AI生成テキストは人間の書いた文章とますます区別がつかなくなっている。「だからといって大量に人々を不合格にすることはできません」とサイモン・フレーザー大学のマルゼナ・カルピンスカ氏は述べた。現時点で大学が受け入れなければならない最も正直な答えは、検出問題には技術的な解決策がないということかもしれない。
出典
- McKie, A.「Universities are relying on AI-detection software to catch cheating. How well do the programs work?」Nature 655, 535-537 (2026). DOI: 10.1038/d41586-026-01358-2. https://www.nature.com/articles/d41586-026-01358-2
- Liang, W., et al.「GPT detectors are biased against non-native English writers.」Patterns 4(7), 100779 (2023). DOI: 10.1016/j.patter.2023.100779. https://doi.org/10.1016/j.patter.2023.100779
- Dik, A., et al.「Assessing GPTZero’s Accuracy.」arXiv:2506.23517 (2025). https://arxiv.org/abs/2506.23517
雅子 訳