大規模言語モデル（LLM）は研究の退屈な作業を自動化することで、科学的発見を加速させると期待されている。しかし、ワシントン大学のカール・バーグストロムを含むチームによる新しい数学モデルは、同じ速度向上が意図せず科学的成果の質を低下させ、研究者が発表する内容の選択性を低下させ、精査の徹底性を低下させる可能性があると警告している。
シカゴ大学、ノースカロライナ州立大学、ワシントン大学の研究者らがarXivに投稿したこのプレプリントは、多くの科学者が直感的に懸念してきたこと、すなわちLLMが研究の摩擦を減らすことで、科学のインセンティブ構造を害する方向に変えてしまう可能性を形式化している。
「労働増強技術として、大規模言語モデルは研究パイプライン全体にわたって科学活動を加速する可能性を秘めている」と著者らは書いている。しかし、その効果は一様に肯定的なものではないと警告している。
選択性のパラドックス
このモデルは、LLMがどのように使用されるかに応じて、発表の選択性に逆の効果をもたらすと予測している。
LLMが主に有望なプロジェクトを発見するためのツールとして機能する分野（仮説を探すための文献調査、未開拓の質問の特定、実験計画の提案）では、研究者は追求する内容についてより選択的になる。より多くの可能性をふるいにかけ、最良のものに努力を集中できる。
しかし、LLMが主に既存データの発表プロセスを促進する分野（論文の執筆、図の生成、結果の要約）では、研究者は選択性を低下させる。かつては境界線上の否定的結果を放棄させたり、準備が整っていない論文を飛ばさせたりしていた摩擦が消え、発表される研究の量が増加する。
著者らは、第2のシナリオが多くの分野で支配的になる可能性が高いと指摘しており、それは科学文献の信頼性にリスクをもたらす。より多くの論文が、それぞれ著者自身による入念な精査を経ずに発表されれば、ピアレビューシステムが圧倒され、真の研究成果が際立つことが難しくなる。
スピードの機会費用
このモデルの2番目の主要な予測はより直感に反するものである。科学者がより速く作業できるようになると、LLMは研究者の時間の機会費用を引き上げる。論文の洗練に費やす1時間は、次の論文を始めない1時間でもある。
「科学者がより速く作業できるようにすることで、LLMは研究者の時間の機会費用を引き上げ、次の作業に移る前に論文を徹底的に洗練するインセンティブを低下させる」と著者らは書いている。
この予測は、LLMが科学者を退屈な作業から解放し、深い思考のための時間を増やすという楽観的な物語に真っ向から反する。このモデルは、解放された時間が、個々の研究へのより深い関与ではなく、より多くの成果へと振り向けられることを示唆している。
「退屈な作業から時間を節約することで、LLMが深く考え、プロジェクトを完全に発展させるためのより多くの時間を提供してくれると想像するのは魅力的ですが、私たちの結果はそのような期待を和らげるものです。」
形式的枠組み
この論文は、研究者の意思決定の単純な数学モデルを開発し、時間を発見（新しいプロジェクトの発見）と生産（結果の開発と発表）に配分できる資源として扱っている。LLMはこれらの活動の相対的コストを変化させ、モデルは発表量、選択性、徹底性に対する均衡効果を予測する。
この枠組みは意図的に単純化されている（著者らは実際の科学コミュニティはより複雑であることを認めている）が、これまで主に逸話的に表現されてきた懸念に形式的な基盤を提供している。
科学出版と科学の社会学に関する研究で知られる生物学者バーグストロムは、経験的に根拠づけられた分析の実績をこの問題に持ち込んでいる。これまでの研究で、彼は出版圧力、指標ベースの評価、逆インセンティブがどのように科学実践を歪めてきたかを文書化してきた。LLMモデルは、その枠組みを研究を再形成している最新技術に拡張する。
政策への示唆
この論文は、科学におけるLLMの使用に反対するものではない。その効果は文脈に依存すると主張し、政策立案者、資金提供機関、ジャーナル編集者は、LLMの採用が現在研究者の行動を形成している摩擦のバランスをどのように変えるかを考慮すべきだとしている。
このモデルが正しければ、昇進基準、助成金審査、ジャーナル基準といった報酬構造を調整せずに単にLLMを採用することは、すでに進行中の傾向、すなわちより多くの論文、より低い信頼性、生産性を量で測定するシステムを加速させる可能性がある。問題は科学にLLMを使うかどうかではなく、その周りにどのようにインセンティブを設計するかである。
雅子 訳