对国际ASI治理的主权反对是,关于一国可开发和部署哪些技术的决定是国内决定,由对其公民负责的国家政府作出。一项限制AI发展的有约束力国际条约会将这些决定的实际权力转移给国际机构,或转移给其他国家的否决权。这侵犯了主权。该论点听起来像是AI辩论的原创,其实不然。针对NPT、化学武器公约、蒙特利尔议定书以及其他所有限制国家在危险技术上行动自由的重大国际条约,都曾提出过完全相同的论点。在每个案例中,这一论点最终都被克服。理解其方式很有用。

NPT无论如何在1968年由62个国家签署。这里是它如何发生的,以及对AI意味着什么。

主权论证实际上主张什么

把这个论点用于军事技术时最有力。面临真实安全威胁的国家,有具体利益要维持对其军事能力的行动自由。要把它们绑定到国际对军事领域 AI 发展的限制,就必须接受对手可能不接受的约束,而在这个领域,能力直接关系国家存亡。这是主权反对意见中最难应对的版本,也与冷战期间核武国家的立场如出一辙。

这一论点应用于民用AI开发时就弱得多。没有哪个国家的国家安全依赖于其运行未受监测的商业AI训练的能力。申报和监测大规模民用AI开发计划的主权成本很低。主权论点的政治使用往往远远超出了其根本关切真正合理的情况。

区分案例对条约设计至关重要。针对主权关切真实存在的具体活动——具有文明规模影响潜力的大规模AI开发计划——的治理框架,可以设计为基本不触及民用和商用AI,从而大幅降低反对意见的力度。

核主权论点是如何解决的

NPT并未消除主权异议,而是对其进行了重构。该条约建立了一种主权选择的正式架构:各国可以加入并接受保障义务,也可以留在条约之外,面对被排除在国际体系之外的政治与经济后果。五个宣布拥有核武器的国家获准保留武器,换取接受不扩散与裁军义务。无核国家接受对其民用核计划的监测,换取和平核技术准入保障与安全保证。

让这一机制奏效的关键是:主权在形式上得以保留,实质上却受到实质约束。NPT签署国原则上可以退出条约,第十条允许提前90天通知退出,正如朝鲜2003年所为。但退出的政治和经济成本巨大。主权论点称各国无法接受对其核选择的外部约束。NPT通过让选择正式且可见,同时让错误选择的成本高到几乎所有国家都认为加入更可取,从而解决了这一问题。

结果是一项如今有191个缔约国的条约。九个国家拥有核武器。只有印度、巴基斯坦和以色列三个国家从未加入NPT。朝鲜退出后现已拥有武器。主权反对意见在20世纪60年代初似乎强大到足以阻止任何有约束力的核治理,却造就了一个191个政府为其核计划接受有约束力监测义务的世界。

化学武器主权争论是如何解决的

《化学武器公约》(1993)提供了另一种模式。与制造正式两级世界(核有核无)的NPT不同,《化学武器公约》禁止所有人(包括谈判的主要大国)拥有化学武器。美国和苏联这两个全球化学武器库存最大的国家,接受了在国际监督下申报并销毁库存的约束性义务。

《化学武器公约》中的主权容纳是国家化学工业继续从事民用目的的权利,但须接受监测。各国可以维持化学工业。它们不能维持化学武器。禁止化学武器组织检查申报设施并调查违规指控。各国保留对其民用化学部门的主权;它们已交出对这些部门某一特定应用的主权。

这一模式可能比NPT模式更适用于AI,因为AI开发主要为民用且具有双重用途。一项限制最前沿AI系统(超过特定能力或计算阈值)开发、同时完全放开商用和消费级AI的条约,将遵循《化学武器公约》的逻辑而非NPT逻辑。这类条约的主权成本低于NPT,因为它不会基于条约签署时的既有能力建立永久的许可与禁止层级。

臭氧层模式与科学共识

1987 年《关于消耗臭氧层物质的蒙特利尔议定书》通过另一种机制化解了主权异议:科学共识使不参与在政治上站不住脚。一旦氯氟烃造成臭氧层可测量损害、臭氧耗竭将给地球上每个国家造成可测量危害的事实变得清晰可辨,在国内政治中以主权为由拒绝加入议定书的论点就难以维持。那些援引主权回避 CFC 限制的政府,将不得不回答:当后果是本国公民遭受紫外线辐射伤害时,他们究竟在保护什么主权。

《蒙特利尔议定书》还包含技术转让机制。承担逐步淘汰CFCs经济成本的发展中国家将获得财政和技术援助,以促进合规。这解决了主权论点的一个版本,即国际环境协议让发展中国家为富裕国家造成的问题买单。到2009年,《蒙特利尔议定书》实现普遍批准:197个缔约方,包括所有UN成员国。

AI的类比并不完美,因为AI存在风险的科学共识并不像1987年时臭氧科学的共识那样统一。但《蒙特利尔议定书》模式表明,更清晰、更公开的AI风险专家共识会显著改变主权反对的政治动态。风险被理解得越具体,主权论点就越难持续。

真正仍然困难的是什么

主权反对意见不只是政府逃避不便义务的借口。它反映了真实的政治约束。政府要对国内选民负责,而选民期望政府维持国家能力和行动自由。要求一个国家接受对手尚未接受的约束的条约,会面临持续的国内反对,就像 1979 年苏联干预阿富汗后,美国参议院拒绝批准已签署的 SALT II 条约一样。

对AI而言,最尖锐的约束出现在US与中国关系中。一项约束美国却不约束中国的ASI治理条约,或中国批准却缺乏有意义执行的条约,将构成单边约束。这一担忧常以主权名义提出,但更准确地说是参与问题。主权异议可通过条约设计解决。参与问题只能通过外交解决,即创造条件让US和中国都认为加入有约束力框架优于置身其外。

主权论调在历史上每项重大条约签署前都出现过,但它从未成为最终定论。

历史表明,对ASI治理的主权反对是需要围绕设计的真实政治约束,而非根本障碍。已成功的条约架构是通过保留主权选择的形式,同时使错误选择的成本足够高来实现的。同样的方法可用于ASI治理。挑战在于营造政治条件,让政府得出加入是正确选择的结论,这是公共理解、科学共识和持续外交努力的问题,而不是有约束力的国际治理是否与主权兼容的问题。