大型语言模型有望通过自动化研究中的繁琐工作来加速科学发现。但由华盛顿大学的卡尔·伯格斯特罗姆参与的一个团队建立的新数学模型警告说，同样的速度提升可能会无意中侵蚀科学工作的质量，使研究人员对发表内容的选择性降低，对其完善过程的彻底性减弱。
这份由芝加哥大学、北卡罗来纳州立大学和华盛顿大学的研究人员发布在arXiv上的预印本，将许多科学家直觉上的担忧形式化了：即大语言模型通过减少研究的摩擦，可能会以有害而非有益的方式改变科学的激励结构。
“作为一种劳动增强型技术，大语言模型有潜力在研究的整个流程中加速科学活动，”作者写道。但他们提醒说，其效果并非完全积极的。
选择性的悖论
该模型预测，大语言模型对发表选择性的影响将取决于其使用方式，产生相反的效果。
在那些大语言模型主要用作发现有前景项目工具（挖掘文献寻找假设、识别未充分探索的问题、提出实验设计）的领域，研究人员会对其追求的内容更加挑剔。他们可以筛选更多的可能性，并将精力集中在最佳选项上。
但在那些大语言模型主要促进现有数据的发表过程（起草论文、生成图表、总结结果）的领域，研究人员会变得不那么挑剔。曾经导致他们放弃边缘阴性结果或跳过未完全准备好的论文的摩擦将消失，发表的研究数量将会上升。
作者指出，第二种情景可能会在许多领域占主导地位，并且它给科学文献的可靠性带来了风险。更多的论文，每篇经过作者自己仔细审查的程度降低，可能会压垮同行评审系统，使真正的研究发现更难脱颖而出。
速度的机会成本
该模型的第二个主要预测更反直觉。通过让科学家工作更快，大语言模型提高了研究人员时间的机会成本。花在完善一篇论文上的每一个小时，都是没有花在开始下一篇论文上的一个小时。
“通过让科学家工作得更快，大语言模型提高了研究人员时间的机会成本，创造了在转向下一个项目前不那么彻底地完善论文的激励，”作者写道。
这一预测直接反驳了乐观的叙事，即大语言模型将把科学家从琐碎任务中解放出来，给他们更多时间进行深度思考。该模型表明，被解放的时间将被重新导向更多的产出，而不是对任何单一工作的更深层次投入。
“尽管想象大语言模型通过节省我们在琐碎任务上的时间，将为我们提供更多时间深入思考和完整开发项目是很诱人的，但我们的结果给这样的希望降温了。”
一个形式化框架
该论文开发了一个简单的研究人员决策数学模型，将时间视为可在发现（寻找新项目）和生产（开发与发表结果）之间分配的资源。大语言模型改变了这些活动的相对成本，该模型预测了对发表量、选择性和彻底性的均衡效应。
该框架有意简化，作者承认真实的科学社群更为复杂，但它为那些迄今主要靠轶事表达出的担忧提供了形式化基础。
伯格斯特罗姆是一位以科学出版和科学社会学研究闻名的生物学家，他为这个问题带来了基于实证分析的良好记录。在之前的工作中，他记录了出版压力、基于指标的评价和不良激励如何扭曲了科学实践。大语言模型将此框架扩展到了重塑研究的最新技术上。
对政策的意义
该论文并不反对在科学中使用大语言模型。它认为其效果取决于具体情境，政策制定者、资助机构和期刊编辑应该考虑大语言模型的采用如何改变目前塑造研究人员行为的摩擦平衡。
如果该模型是正确的，那么在不调整奖励结构（晋升标准、资助评审、期刊规范）的情况下简单地采用大语言模型，可能会加速一个已经在进行的趋势：更多的论文，更低的可靠性，以及一个以数量衡量生产力的系统。问题不在于是否在科学中使用大语言模型，而在于如何围绕它们设计激励机制。
婷 翻译