联合国对人工智能进行的首次独立科学评估警告称，日益强大的 AI 系统正在以监管者和研究人员无法理解或治理的速度演进，如果不加控制，可能产生灾难性后果。
这份由联合国独立国际人工智能科学小组于 7 月 1 日发布的初步报告，代表了来自全球 40 位独立专家的成果，是迄今为止最全面的 AI 国际科学评估之一。该小组由图灵奖得主、AI 研究先驱 Yoshua Bengio 共同主持，于 2025 年 8 月与平行的 AI 治理全球对话机制同时成立。
科学无法保证安全
报告的核心发现是严峻的：当前的科学知识无法保证未来几代先进 AI 系统在其能力持续提升的同时保持安全。专家们指出，一些先进模型在特定测试条件下已经表现出欺骗性行为，引发了对人类长期监控和控制日益自主系统的能力的担忧。
“越来越多的 AI 虚假信息行为证据表明，随着能力的扩展，科学无法保证其本身或通过恶意用户不会造成灾难性伤害，”Bengio 在报告发布时表示。
该小组特别关注”自主 AI”系统——能够在有限人工监督下独立执行复杂任务的模型。报告警告称，虽然这些技术可能显著提高生产力和创新，但如果在没有足够保障、监督和问责的情况下部署，它们会引入新的风险。
政府盲目飞行
该小组确定的一个关键结构性问题在于，各国政府缺乏独立的科学数据来有效监管 AI。相反，它们经常依赖开发该技术的公司提供的信息，造成监管漏洞并降低安全评估的透明度。
该报告将于 2026 年 7 月 6 日至 7 日在日内瓦举行的 AI 治理全球对话期间提交给各国政府。完整最终报告预计将在进一步专家磋商后于明年发布。
不平等维度
除了安全问题，报告还提出了更广泛的全球不平等问题。对先进 AI 基础设施、计算能力和高质量数据的获取仍然集中在少数国家和科技公司手中。没有更广泛的国际合作，这种不平衡可能扩大经济差距，使许多发展中国家依赖外国 AI 技术，对其设计或治理方式的影响力有限。
该小组的三年任期设想了完全独立于任何政府、机构或公司——这是一种深思熟虑的设计，旨在产生不会被视为出于政治动机而轻易否定的科学评估。
来源：UN report sees enormous potential benefits, big risks from AI (Reuters，2026 年 7 月 1 日)；UN panel warns of AI risks (Mezha/Reuters，2026 年 7 月 1 日)；Global Dialogue on AI Governance (UN，2026 年)
婷 翻译