2023年11月的布莱切利AI安全峰会、2024年5月的首尔AI安全峰会以及2025年2月的巴黎AI行动峰会形成了一种新兴模式:定期举行的高级别国际会议,讨论ASI治理,由各国政府和AI公司参加,产生宣言和承诺。这在结构上类似于气候变化缔约方大会进程,而这种比较在支持者和批评者通常都低估的方面具有启发性。
这种模式能否产生有约束力的治理,完全取决于气候模式一直推迟的执法选择。
通过COP进程的气候治理既非批评者所描述的失败,也非其设计者预期的成功。理解它已完成和未完成的事物及其原因,是决定类似进程是否适用于超级智能的起点。
COP结构实际如何运作
缔约方大会是条约的治理机构,由所有已批准条约的国家组成,定期召开会议审查实施情况、评估进展并谈判新承诺。气候COP可追溯至1992年通过的UN气候变化框架公约,该公约确立了定期审查和逐步承诺的基本结构。《京都议定书》(1997年)和《巴黎协定》(2015年)都是COP进程的产物。
《巴黎协定》的核心创新,是用国家自主贡献取代《京都议定书》采用的自上而下国际排放目标,后者曾导致大量不遵守和退出。各国自行设定减排目标,提交给UNFCCC秘书处,随后按自身承诺接受评估,而非按国际强加标准。巴黎缔约方大会对照将升温限制在工业化前水平以上1.5摄氏度的全球温度目标审查总体进展,每一审查周期旨在提高国家雄心。
这种设计的结构性吸引力在于它可实现。一个允许各国设定自身目标、根据自身雄心进行评估、采用透明机制而非对不足施加处罚的进程,能够确保广泛参与。全球所有主要经济体都是《巴黎协定》缔约方。而《京都议定书》因设定具有明确不遵守后果的约束性国家目标,失去了美国,最终也失去了加拿大、日本和俄罗斯。
这种设计的结构性问题是参与度和有效性并非同一回事。巴黎协定下提交的国家自主贡献总量,显著低于IPCC评估实现1.5度目标所需的水平。合规机制是透明度和政治压力,而非正式处罚。未达自身目标的国家在下一轮审查中面临公众审视,但无法律后果。
气候模型中的三个结构性弱点
气候COP中限制其有效性的三个特征,若被ASI治理COP采用,将直接转移过来。
共识要求。COP多数决定需各方一致同意,任何单一国家都可对结果行使事实上的否决权。这导致谈判语言被压到最抵触一方能接受的雄心水平,在历届气候COP中体现为“逐步减少”而非“逐步淘汰”化石燃料、走向净零的“路径”而非有约束力的时间表,以及“注意到”科学发现而非正式采纳其含义。基于共识的国际谈判系统性地产出各方政治可行性的最低公分母。
承诺的自决性。国家自主贡献模式解决了《京都议定书》造成的参与问题,但制造了雄心问题。当各国自行设定目标且没有强制性下限时,这些目标既反映国内政治约束,也反映基础目标的技术要求。拥有强大化石燃料产业的国家设定的目标是其产业能达到的。面临近期选举的国家设定的目标在短期内政治上可辩护。总体结果是既定雄心与所需减排总量之间存在差距,COP审查记录了这一差距,却无法在没有强制提高雄心机制的情况下弥合它。
《巴黎协定》通过允许各国自行设定目标,解决了《京都议定书》的参与问题。《京都议定书》具有约束力的国家目标导致美国、加拿大、日本和俄罗斯退出。《巴黎协定》实现了近乎普遍的参与。但近乎普遍的参与加上国家自主且不具约束力的承诺,正是在最需要治理的时刻制造了治理缺口:当既定雄心与所需行动之间的差距最大时。ASI治理面临同样的权衡。
执行差距。巴黎协定根据第15条设立的合规机制明确是非对抗性和非惩罚性的。它通过透明度运作:各国报告进展,缔约方大会审查报告,公开评估带来的政治与声誉压力是短缺的主要后果。对于气候,这已造成数十年有记录的短缺却响应有限。对于AI而言,单一年份未受监控的前沿发展就可能产生超越任何治理响应的能力,仅靠透明度的执行机制在结构上是不足的。
COP结构起作用的地方
气候 COP 的弱点有充分记录。其优势较少被承认,但对 ASI 治理设计确实相关。
定期召开会议本身就是一种治理机制。COP年会形成政治日历,每年集中关注底层治理问题。公民社会、记者和决策者将COP会议视为问责时刻,无论是否存在正式执法。全球媒体在年度COP审查中记录的明显违规政治成本,已促使一些政府加强国家承诺。定期召开也为边会、技术工作组和双边谈判提供场所,若无 recurring 全球聚会,这些更难组织。
渐进式承诺结构能在长时间尺度上发挥作用。巴黎协定内置的棘轮机制要求每一份后续的国家自主贡献都不低于前一份,即使没有强制性下限,也形成了方向性改善的法律义务。数十年过去,这能带来显著的总体进展,因为“当前政策”的政治基准会逐步提高。对于气候这类治理问题,政策失败的后果需数十年累积,这种缓慢棘轮或许足够。但对于ASI治理,灾难性后果可能在数年内而非数十年内到来,它就太慢了。
COP进程在建立全球国内气候政治运作的规范框架方面最为有效。《巴黎协定》的1.5度目标现已成为几乎每个国家评估国内气候政策的公开参照点。这种规范功能——创造一个国内政治必须据此证明自身的共享标准——正是AI安全峰会进程已开始实现并应继续推进的。
更强的ASI治理COP需要什么
一个仿照COP结构但旨在避免气候COP执行缺口的ASI治理进程,需要巴黎协定故意省略的三项特征。
强制性最低承诺。与没有约束性底线的国家自主贡献不同,ASI治理条约可以确立所有缔约方必须履行的强制性最低义务,同时保留高于该底线的国家自主贡献结构。强制性最低义务将涵盖最高风险活动:超过规定算力阈值的前沿模型训练、在特定高风险领域部署AI系统,以及部署前强制进行安全评估。各国可以走得更远,但不能少于底线。
一个独立核查机构。气候COP依赖各国自行报告的国家清单,由UNFCCC下属的技术专家组进行独立审查。一个拥有直接获取相关信息权限的ASI治理核查机构,类似于OPCW的视察团,将比自行报告产生更可靠的合规评估。这是《化学武器公约》与《生物武器公约》之间最能解释两者有效性差异的单一结构性区别。
有牙齿的后果。超出透明度的违规后果,需要将条约的市场准入利益与遵守安全义务绑定。未能达到强制性最低要求的国家将失去条约成员国享有的优惠市场准入和技术共享安排。这创造了一种无需安理会授权、且与推动AI发展的竞争利益直接相关的后果结构。
“气候COP表明,定期国际聚会能够围绕治理问题建立规范框架和政治日程。它同时也表明,如果底层承诺缺乏强制性底线、执行机制缺乏正式后果,这还远远不够。ASI治理可以沿用COP的结构,并从这些具体设计缺陷中吸取教训。”
始于布莱切利的AI安全峰会进程值得延续,而非抛弃。每年或每两年一次的峰会恰好能为治理提供所需的定期国际关注。问题在于,这些峰会是继续充当自愿承诺的仪式场所,还是要成为条约的治理机构,承担有约束力的义务,并建立可行的核查与执行架构。这个问题不会由峰会本身回答,而是取决于各国政府在峰会间隙决定如何谈判。