当人们主张国际ASI治理不可能时,最常见的结构性论据之一就是UN安理会。该论点称,中国和俄罗斯会直接否决任何对AI发展的约束性限制。UN无法行动。因此约束性ASI治理不可能发生。

任何通过安理会执行ASI治理的框架,都会让其中任一国家拥有完全否决权。了解这一约束有助于塑造有效的ASI治理架构,以及它不可能的样子。

这一论点误解了国际治理的实际运作方式。安理会否决权真实存在且影响重大,但它适用的决策范围远比大多数人想象的狭窄。准确理解否决权覆盖什么、不覆盖什么,是设计ASI治理架构的前提,而该架构必须能在中俄不会自愿约束AI发展的世界中实际运转。

安全理事会否决权实际涵盖的内容

UN安全理事会根据UN宪章第七章拥有授权执行行动的权力,当它认定国际和平与安全受到威胁时。这些行动包括经济制裁、武器禁运和授权使用武力。五个常任理事国——美国、英国、法国、中国和俄罗斯——各自对这些第七章决议拥有否决权。

否决权不涵盖的是条约的谈判和批准。国家通过单独程序谈判条约。它们双边或多边签署条约。它们通过国内立法程序批准条约。安全理事会在此过程中不发挥作用。中国无法否决《化学武器公约》。俄罗斯无法否决《核不扩散条约》。两国都无法阻止其他国家谈判和批准AI安全条约。

否决权在执行阶段而非缔约阶段发挥作用。若一国违反条约且受害方希望安理会授权执行措施,常任理事国否决权即可阻挡授权。这对条约设计而言是真实难题。它意味着任何依赖安理会执行来获得约束力的治理架构,都会在最需要执行的那一刻暴露于常任理事国阻挠之下。

解决方案是不依赖安理会的执行。

成功的条约如何绕过否决

《化学武器公约》(1993年)是最具启发性的先例。总部设在海牙的禁止化学武器组织负责对成员国化学设施进行例行检查,并调查涉嫌违规行为。其理事机构——缔约国大会——可以认定违规责任,并决定相应后果,包括暂停违规国的权利和特权。这些程序均无需安理会授权。

2013年以及2017年、2018年叙利亚使用化学武器时,OPCW进行了调查、归责,并暂停了叙利亚在该组织的权利。俄罗斯多次否决安理会关于叙利亚化学武器问题的决议,但俄罗斯的否决无法推翻OPCW的事实认定,也无法取消缔约国大会通过自身程序施加的后果。OPCW在运作上独立于安理会,这正是它在五常阻挠下仍能发挥作用的关键。

OPCW 设计教训

OPCW的创始条约有意将核查、归因和后果权力置于该组织自身的治理机构内,而不是安全理事会。当俄罗斯在安全理事会阻挠对叙利亚使用化学武器的行动时,OPCW的调查和问责程序通过其自身程序继续进行。这一设计选择使《化学武器公约》制度在安全理事会依赖型设计会崩溃的政治条件下依然能够运作。

国际原子能机构采用类似的双轨结构。IAEA理事会可认定一国未履行保障义务,并将该认定报告给安全理事会。但理事会的认定无论安全理事会如何处理都成立。2005年伊朗被认定未履行义务时,IAEA理事会的决议在安全理事会采取任何行动前,已是具有法律和政治意义的事实。IAEA还将不合规情况报告给UN大会,后者虽无权授权执行,但可通过自身决议放大政治压力。

大会替代方案

UN大会有193个成员,其决议无法被否决。大会决议在法律约束力上不如安理会决议,但远非无关紧要。它们代表国际社会的共识立场,确立了指导条约谈判、国内立法和关于国家在习惯国际法下义务的司法裁决的规范框架。

联大已经开始参与ASI治理。2024年3月,联大以协商一致方式通过一项决议,抓住安全、可靠、可信人工智能促进可持续发展的机遇。这不是一项具有约束力的治理文书,但它是联大首次就负责任AI发展的特征确立国际共识语言。这些决议中的语言将成为条约谈判的起点。

《联合一致共策和平》程序(1950年)确立了当安理会因否决而陷入僵局时,大会可召开紧急特别会议审议国际和平与安全事项。该程序已被多次援引,最近一次是2022年俄罗斯入侵乌克兰。如果安理会僵局阻碍对AI相关灾难的应对,理论上《联合一致共策和平》程序可将审议转交大会。这不会产生具有约束力的执行授权,但会产生具有实际分量的政治与规范回应。

什么条约架构能避免否决权问题

一个设计用于UNSC否决阻挠世界的ASI治理条约,会与现有最有效的军控和裁军机制共享若干特征。

核查权必须归于条约机构,而非安全理事会。条约将设立一个独立组织,类似于OPCW或IAEA,拥有自己的理事会、检查团以及认定违规和施加后果的决策程序。条约机构可采取的后果包括暂停成员权利、通过公开归因报告点名羞辱,以及排除技术合作项目。这些后果无需安全理事会授权。

条约机构将向安理会报告调查结果,但该报告将具有独立意义。ASI治理条约机构对某国违反义务的正式认定,无论安理会随后是否授权执行,都将是一个重要的政治和法律事实。这就是IAEA模式:理事会向安理会的转交不只是程序性步骤,而是会产生独立于安理会是否采取行动的政治压力。

批准条约的国家将接受独立争端解决机制的管辖。贸易法在此提供了有用范例。世界贸易组织争端解决机制可授权报复性贸易措施,且独立于安理会运作。WTO成员国接受这一管辖权作为加入条件。一项ASI治理条约可包含类似条款,通过贸易后果建立不受安理会否决权影响的执行机制。

“否决权问题确实存在。但它适用的治理范围比人们以为的要窄。最高效的军备控制机制已经建立了独立于安理会授权运行的核查、归因和后果机制。ASI 治理可以遵循同样的架构逻辑。”

更难的问题:治理非缔约方

绕过安理会否决权解决了约束已加入条约却违反义务的缔约方的问题,但无法解决更难的难题:约束那些从未加入条约的国家。

如果中国或俄罗斯拒绝批准 ASI 治理条约,其人工智能项目将完全不受条约义务约束。任何检查制度、条约机构或争端解决机制都不适用于非缔约方。在这种情况下,安全理事会否决权问题变得无关紧要,因为相关国家完全处于条约框架之外。

这是ASI治理真正的结构性挑战,有时会被与安理会否决权问题混淆。它需要一套不同的解决方案:市场准入条件(将遵守安全标准作为AI出口或进口的条件)、构建联盟以使不参与代价高昂,以及通过大会和其他多边论坛进行的规范设定过程,这些过程会提高置身框架之外的政治成本。这些正是将《禁止地雷条约》和国际刑事法院转变为即使没有美国、中国和俄罗斯参与也具有重要影响的工具的策略。

安理会否决权确实对具有约束力的国际ASI治理形式构成限制,但并不限制这种治理是否可能。成功治理大规模杀伤性武器的机构已通过精心设计的条约、独立核查机构以及不依赖安理会授权的执行机制绕过了这一限制。ASI治理架构师应研究这些设计,而非将否决权视为可实现目标的永久上限。