根据密歇根州立大学的新研究，人工智能可能会自信地将非生命识别为外星生命，且永远不会标记自己的错误，这对即将到来的天体生物学任务具有令人担忧的影响。
计算生物学家克里斯托夫·阿达米和他的学生安基特·古普塔已经证明，当被要求识别不熟悉的生命形式时，AI分类系统对误报的脆弱性令人震惊。这项研究在加拿大滑铁卢召开的2026年人工生命会议上发表，测试了AI在一个名为Avida的数字进化平台上的表现，该平台运行着争夺CPU时间的自我复制数字生物。
结果是鲜明的：在分子序列发生大约15次微小改动后，无论起始序列如何，AI都100%确信非生命样本是活的。
分布外问题
核心问题是机器学习研究人员所说的”分布外”数据。当测试数据与训练数据相似时，AI表现良好，但当面对真正不熟悉的数据时，它就会崩溃。地球外生命按照定义属于这一类别。我们无法训练AI了解外星生物化学的样子，因为我们从未遇到过它。
“我们之前已经看到，AI在尝试分类与训练示例不同的东西时有一个巨大的弱点，”阿达米说。”我们称这些为分布外样本，让AI误分类简直太容易了。”
研究人员在三个月内使用1，000台并行机器进行了分析，训练AI将Avida的数字生物分类为生命或非生命。一旦AI在熟悉的数据上表现良好，团队就开始一次一个改动地调整分子序列。在大约15次改动后，AI就完全确信它看到的是生命，而实际上并不是。
“这意味着如果某次任务中有AI在分析特定的质谱样本，那么尽管它在地面上经过大量生物和非生物样本的训练，它仍然很有可能在样本与生命完全无关时给出阳性结果，”阿达米说。
真实任务的影响
这种脆弱性并非均匀分布在所有检测方法中。微生物生命的直接视觉证据，例如火星车切开岩石以显示清晰的生物结构，很可能可以通过不依赖AI分类的传统方法进行验证。危险最大的是远程检测技术：质谱分析、光谱学和大氣分析。
这些正是未来几十年中最令人兴奋的目标将使用的方法：金星云层、木卫二地下海洋，以及NASA计划于2040年代发射的宜居世界天文台观测的系外行星大气。在每种情况下，经过地球生物和非生物样本训练的AI都会犯同样的错误，即高置信度地将非生物信号标记为生命。
阿达米和古普塔计划用真实世界的数据重复实验，从数字生物转向实际的物理样本。下一阶段将测试同样的脆弱性是否适用于真实的生化分析。
AI是工具，不是裁判
阿达米并不呼吁将AI排除在天体生物学之外。他承认AI在处理大型数据集和识别人类分析师可能遗漏的模式方面很有价值。警告是关于过度依赖的。AI系统容易产生幻觉，生成自信但错误的分类，这个问题在日常AI使用中已有充分记录，但当问题变成人类是否发现了外星生命时，它就变得事关重大。
“你需要了解你的训练数据，如果你知道你的测试数据与训练数据属于同一分布，那就没问题，”阿达米说。”但你不能对地球外生命做出这样的保证。”
这项研究为设计生命探测任务的航天机构提出了一个根本性问题：当赌注是人类历史上最深刻的发现时，自动化应该在多大程度上被信任？目前，答案似乎是：比AI自己认为的要少。
婷 翻译