冷战时期,互不信任的对手仍会交换通知、观察员与热线。这些做法并未终结军备竞赛,却降低了单纯恐惧引发战争的可能性。AI政策同样需要这种朴实无华的机制,同时推进更艰巨的条约工作。
冷战对手即使尚未就军控达成一致,仍会建立防止危机演变为灾难的机制。这些‘建立信任措施’成本低、见效快、现在就能用,它们正是最终缔结条约的途径。
冷战工具箱
US和苏联在相互敌对的高峰期,建立了数量惊人的此类基础设施。1963年的热线让领导人能够直接沟通,防止误读信号导致螺旋式升级。1972年的《海上事故协定》制定了规则,防止海军遭遇升级为冲突。后来的措施要求提前通报导弹试验和大型军事演习,并设立24小时值班的核风险降低中心。这些措施没有限制任何单一武器,但都降低了恐惧和误解引发双方都不希望的灾难的可能性。
AI的CBM可能是什么样子
事件通知与共享报告
及时相互通报(并通报一个共享机构)严重AI安全事件、接近失误或危险能力发现的协议,以便一次令人担忧的事件不必在黑暗中以最坏的假设来解读。
危机沟通渠道
在敌对国家相关机构之间建立一条专用且经过测试的热线,以便在疑似失控事件或能力突跃出现时直接沟通,而非产生误判。
意图与红线的透明度
自愿申报国家AI战略、安全实践,以及一国认为不可接受的能力红线,以减少驱动军备竞赛的误判,并揭示红线可能重叠之处。
重大训练运行的提前通知
承诺在最大规模的开发行动前通知监测机构,类似于导弹试射和演习通知,以培养日后核查所需的申报习惯。
科学家与科学家之间的对话
安全研究人员跨国界的持续技术交流,保持这一历史上即使官方关系冻结也能催生军控突破的渠道。
为什么它们比看起来更重要
建立信任措施能做三件事,使最终缔约成为可能。它们在条约前窗口期降低即时危险,而事故与误判正是此时的尖锐风险。它们积累合作的实际经验(共享报告格式、测试过的渠道、工作关系),而这正是约束性核查所依赖的。它们还产生小的、互惠的善意示范,使更大承诺变得可谈判。一个多年来遵守事件通报的国家,比一个冷启动的国家更可信作为条约伙伴。
它们在政治上也成本低廉。因为CBM不要求一国放弃某种能力,从而避开了会让约束性协议失败的主权与竞争反对。一国政府可以同意危机热线或事件报告渠道,而无需在AI发展权上做出任何让步。正是这种低成本,使它们成为更难谈判仍遥不可及时的现实第一步。
你不会通过索取来建立信任。你通过成本低微却能证明可靠性的小而可核查的步骤来建立。历史上每一项军控条约,都建立在先行的多年信任建立之上。
从可能达成一致的地方开始
CBM的战略价值在于,它们现在就可以在远未达成条约的对手之间启动,正是因为它们要求极少。它们是当前US与中国AI对话、峰会进程以及安全研究所网络的自然内容。把它们当作严肃轨道(而非安慰奖)对待,是让条约前时期变得富有成效而非仅仅危险的方式。全面协议是目的地。建立信任措施是道路,而且今天就可以通行。任务是在可避免的事故以艰难方式证明合作必要之前,开始走这条路。