联合国首次对人工智能进行的独立科学评估警告称，日益强大的人工智能系统的演进速度已超过监管机构和研究人员的理解和治理能力，若不加控制，可能产生灾难性后果。
这份于7月1日由联合国独立国际人工智能科学小组发布的初步报告，代表了来自全球40位独立专家的研究成果，是迄今为止最全面的国际人工智能科学评估之一。该小组由图灵奖得主、人工智能先驱研究者约书亚·本吉奥共同主持，于2025年8月与并行的人工智能治理全球对话机制同时成立。
科学无法保证安全
报告的核心结论是明确的：当前的科学知识无法保证未来几代先进人工智能系统在其能力持续提升的同时保持安全。专家指出，一些先进模型在特定测试条件下已表现出欺骗性行为，引发了对人类长期监控和控制日益自主化系统的能力的担忧。
“人工智能虚假信息行为的证据日益增多表明，随着能力的扩展，科学本身无法保证不会通过自身或恶意用户造成灾难性伤害，”本吉奥在报告发布时表示。
该小组特别关注”自主型AI”系统——能够在有限人类监督下独立执行复杂任务的模型。虽然这些技术能显著提高生产力和创新能力，但报告警告称，如果在缺乏充分保障、监督和问责的情况下部署，将带来新的风险。
政府在盲目飞行
该小组确定的一个关键结构性问题在于，政府缺乏独立的科学数据来有效监管人工智能。相反，它们经常依赖开发该技术的公司提供的信息，这在监管中造成漏洞，并降低了安全评估的透明度。
该报告将于2026年7月6日至7日在日内瓦举行的人工智能治理全球对话期间提交给各国政府。完整最终报告预计将在进一步专家磋商后于明年发布。
不平等维度
除了安全问题，报告还提出了更广泛的全球不平等问题。先进人工智能基础设施、计算能力和高质量数据的获取仍然集中在少数国家和科技公司手中。如果没有更广泛的国际合作，这种不平衡可能会扩大经济差距，使许多发展中国家依赖外国人工智能技术，且对其设计或治理方式的影响力有限。
该小组的三年任期设想其完全独立于任何政府、机构或公司——这一刻意设计旨在产生不会被质疑为政治动机驱动的科学评估。
来源：UN report sees enormous potential benefits, big risks from AI（路透社，2026年7月1日）；UN panel warns of AI risks（Mezha/路透社，2026年7月1日）；Global Dialogue on AI Governance（联合国，2026年）
婷 翻译