咨询机构汇集了来自各国政府、产业界、学术界和公民社会的专家，覆盖所有地区，正是为了让全球治理提案获得西方俱乐部或单一政府无法赋予的合法性。它的最终报告在UN2024年“未来峰会”前提交，诊断了治理空白，并提出一套职能和机构来填补这一空白。不论其局限如何，它都是这场辩论中最接近官方、普适起点的方案。

其2024年报告《为人类治理AI》是迄今为止勾勒全球架构最权威的尝试，也揭示了主流讨论与前沿风险之间仍有多大差距。

报告的建议内容

报告没有提议设立单一强大机构，而是推荐一套分层的轻量级职能，设计为政治上可行。核心建议包括：建立AI国际科学小组以形成共享的政策相关理解；各国政府定期政策对话；帮助制定可互操作标准的交流机制；帮助全球南方参与的能力发展网络；以及UN秘书处内的一个小型协调办公室来整合各部分。它还提出了全球基金和数据治理框架的想法。

谦逊背后的逻辑

报告的谨慎是有意为之且值得理解的。它反映了一种判断，即鉴于各国分歧严重，可实现的第一步并非具有约束力的监管机构，而是连接性的基础设施（共享科学、对话和标准），在此基础上日后可构建更强的治理。科学小组尤其借鉴了臭氧和气候的经验，在那里，一份权威的共享评估（以IPCC为模型）创造了使协议成为可能的共同事实基础。在这种解读下，报告是在奠定基础，而非竖起壁垒。

  • 科学专家小组 为世界提供关于AI能力和风险的共享、可信图景，这是任何治理所依赖的事实基础。
  • 一场政策对话 以保持政府间的对话，并防止竞争性区域方法的碎片化。
  • 一个标准交易所 努力实现互操作性，而非一堆互不兼容的国家规则。
  • 能力建设 将全球南方纳入治理作为参与者而非事后考虑，这是合法性的前提。

关于灾难性风险的差距

这份报告虽具权威，但从安全角度看有一个明显局限：它将ASI治理主要视为管理广泛社会危害（偏见、虚假信息、不平等、劳动力冲击）的问题，对失去对超级智能系统控制这一具体危险的重视相对不足。报告未提出红线、算力阈值、核查机制或禁止条款。它推荐的工具用于协调与理解，而非约束。

这一差距很重要，因为报告提出的连接性基础设施虽有价值，但并未设计来做前沿安全最需要的一件事：阻止开发过于危险而无法控制的系统。一个科学小组和政策对话能建立共享理解，从而使约束性协议成为可能，但无法替代协议本身。UN进程是必要的基础，但仅靠它不够，这描述也适用于当前大部分治理格局。

UN的蓝图搭建了人人可坐的桌子，这确实有价值。但桌子本身不是协议。最难的问题（如何阻止无人能控的系统开发）正是主流进程至今不愿摆上桌的。

为什么它仍然重要

咨询机构的这项工作之所以重要，正是因为其合法性与影响力。它在国际体系的最高层面确立了ASI治理是需要全球机构应对的全球性关切，并提出了共享科学与对话机制，这些机制可随时间推移，构建约束性条约所需的共同理解。现实路径是将UN框架视为包容性基础，在此基础上叠加更严格、以安全为重点的治理：利用其提出的科学小组和政策对话，将主流讨论引向目前被低估的灾难性风险，以及只有约束性协议才能提供的红线与核查。UN搭建了论坛。任务是提高论坛内活动的雄心。