当条约失败时：:
ASI 治理的教训。

AI安全治理文献存在偏好成功类比的倾向。《化学武器公约》被频繁引用，《蒙特利尔议定书》出现在大多数严肃讨论中，IAEA的核保障体系被视为AI监测机构可能效仿的典范。这些都是有价值的参照，但它们描绘出关于国际治理能与不能完成之事的完整画面。

其中两项尤为突出：《全面禁止核试验条约》从未生效，《生物武器公约》缺乏核查机制，且曾被大规模违反长达二十年。

失败同样具有启示意义，在某些方面甚至更甚。它们揭示了导致治理机制崩溃或不足的具体设计选择和政治条件。对于尚未设计的ASI治理，理解这些失败模式比研究成功案例更具可操作性，因为决定成败的设计选择仍未确定。

失效模式一：生效陷阱

《全面禁止核试验条约》于 1996 年 9 月开放签署。截至 2026 年，已有 187 个国家签署、178 个国家批准，但条约尚未生效。

原因是第十四条，该条要求条约仅在所有44个在谈判时拥有核电站或研究反应堆的国家批准后方可生效。这份44个附件2国名单旨在确保条约覆盖与核试验最相关的国家，却反而成为由八国持有的永久否决权：中国、埃及、印度、伊朗、以色列、朝鲜、巴基斯坦和美国。除非这八国全部批准，否则无论其他国家批准多少，《全面禁止核试验条约》都无法生效。

《全面禁止核试验条约》并非毫无用处。全面禁止核试验条约组织运行着一个由地震、水声、次声和放射性核素台站组成的全球监测系统，能够高可靠性地探测核试验。这种监测已为非签署国的核计划提供了真实情报，包括朝鲜在2006年至2017年间进行的六次核试验。即使在目前临时适用的情况下，CTBTO的监测系统若没有条约框架也不会存在。但该条约的核心义务——禁止核试验——对最有可能进行试验的国家不具有法律约束力，因为它从未生效。

对于ASI治理，《全面禁止核试验条约》的失败指向一个具体设计选择：生效条款。若条约要求所有主要AI开发国参与后才生效，则赋予每个国家单方面阻挠整个机制的权力。可将US、中国、EU、UK以及另外五到十个国家列为必需缔约方，任何一国都可无限期阻止条约生效。

更稳健的设计允许条约在愿意各方达到临界质量时生效，建立一个运行中的治理机制，同时为非缔约方留出稍后加入的大门。非缔约方将面临被排除在条约利益之外（技术共享、市场准入优惠、合作安全研究），这会产生加入的激励。同时，现有缔约方之间的条约有效性创造了一个已证实的治理模式，降低了加入所涉及的不确定性。《禁止地雷条约》和国际刑事法院都采用了这种方法。

失败模式之二：无核查的禁令

《生物武器公约》于1972年开放签署，1975年生效。它禁止生物武器的开发、生产和储存，并要求各国销毁任何现有库存。它有183个缔约国。它没有核查机制、没有检查机构，也没有正式机构有权调查指控的违规行为或作出不遵守的裁定。

苏联于1975年批准《生物武器公约》。1973年，即批准前两年，苏联部长会议已批准成立生物制剂公司，这是一个名义上的民用研究机构网络，构成了世界上最大的进攻性生物武器计划。该计划在20世纪80年代达到顶峰，雇用了约6万名科学家，以工业规模生产鼠疫、天花和炭疽武器，以及经基因改造、对抗生素和疫苗具有抗性的制剂。该计划在整个20世纪70至80年代直接、全面违反《生物武器公约》，直到苏联解体后被苏联叛逃者揭露。《生物武器公约》机制无从发现。

这是战后时期军备控制核查最重大的失败。无法核查的禁令只是一种规范，而非问责机制。它在许多情况下对国家行为产生实际影响，创造了一种可接受行为的社会标准，但结构上无法发现有手段和动机秘密违反的国家所进行的系统性违规。

为《生物武器公约》添加核查议定书的谈判从1995年持续到2001年。美国于2001年7月拒绝了拟议议定书，理由是其检查程序对合法商业生物技术过于侵入性，同时又过于薄弱而无法可靠检测违规行为。谈判崩溃，此后未以任何可能产生约束性核查机制的形式恢复。《生物武器公约》作为一种没有核查机构的规范继续有效。

BWC的失败对ASI治理意味着什么

生物武器与AI之间的类比并不完美，但BWC失败的若干特征可直接转移至ASI治理。

双重用途是核心核查挑战。生物武器使用实验室设备、知识和流程生产，这些与合法的制药和公共卫生研究在很大程度上相同。区分进攻性与防御性研究，或民用与武器应用，需要受过高度训练的核查员接触机密商业和技术信息，而且在许多情况下仍会产生真正的模糊性。这种双重用途特性使得《生物武器公约》的核查议定书在技术上要求高、在政治上 contentious，这与化学或核武器（具有更清晰的特征）的情况不同。

AI在更根本层面具有同样的双重用途特性。一个为自然语言生成训练的大语言模型，在技术上与一个为大规模说服训练的模型无法区分。一个为科学研究辅助训练的模型，在技术上与一个为高风险环境自主行动训练的模型完全相同。使前沿AI具有商业价值的那些能力，正是使其可能危险的相同能力。ASI治理核查面临击败生物武器公约核查的同一挑战：必须区分技术上相同系统的危险应用与合法应用。

“《生物武器公约》恰恰表明，没有核查的禁令会随时间产生什么结果。一项被广泛接受的规范，却被一个大国大规模违反二十年，却没有任何机制能发现或应对违规。对于ASI治理而言，如果把核查推迟到可能永远不会到来的未来协议，这正是默认结果，而非理论担忧。”

教训并非AI验证不可能，而是验证必须从一开始就纳入条约，而非推迟到后续议定书。《生物武器公约》的验证谈判在二十六年努力后失败。一项ASI治理条约若先确立禁令、再推迟验证架构，面临同样的风险：一种缺乏问责机制的规范，与它无法看见的发展计划并存。

失效模式三：无成本退出

朝鲜于1985年加入核不扩散条约，1993年和2003年两次宣布退出，并于2006年进行首次核试验。NPT的退出条款（第十条）允许任何国家在认定特殊事件危及其最高国家利益时，提前九十天通知退出。朝鲜退出发生在IAEA认定其未遵守保障义务之后，此举实际上终止了IAEA对朝鲜核计划的监测能力。

对于ASI治理，NPT/朝鲜先例指向退出成本的重要性。一项可在九十天通知期内无惩罚退出的条约提供薄弱保障，因为希望从事条约禁止活动的国家可在这些活动变得可见前简单退出。ASI治理条约中的退出条款应包括：足够长的通知期，让条约机构和其他缔约方有时间回应；在退出通知后保留一段时期的检查权；以及在发出退出意图通知时而非生效时自动暂停利益。

这些设计选择不会阻止退出，但会确保退出代价高昂且可见，而非常规且无声。目标不是把国家困在它们反对的条约承诺中，而是确保退出该机制的行为成为引发国际关注和外交反应的重大政治事件。

ASI治理设计者拥有在制定相关条款前研究这些失败案例的优势。《全面禁止核试验条约》、《生物武器公约》和NPT的失败案例均有记录、分析和公开资料。导致这些失败的设计选择是可以避免的。问题在于，产生ASI治理条约的政治进程是否会允许这些失败案例的技术设计洞见在与主要大国的谈判立场碰撞后得以保留。

最强烈的反对

最公平的反对意见是，失败的条约证明条约永远行不通。失败的设计只证明条款糟糕。生效陷阱、缺失核查、廉价退出都是可修复的起草选择。教训是写出相反的内容，而不是放弃法律。