历史上决定国际技术治理成败的国家,并非总是最强大的国家。《蒙特利尔议定书》关于臭氧层消耗的推动,主要来自加拿大、北欧国家和欧洲共同体,而非最初持抵制态度的美国。《禁止杀伤人员地雷公约》(1997年)完全在主要大国框架之外谈判,由加拿大与民间社会组织联盟推动,尽管美国、中国和俄罗斯未参与,仍获164国批准。国际刑事法院的设立也曾遭遇持续US反对。
《禁止地雷条约》完全由加拿大在主要大国框架之外推动建立。中等强国也能塑造技术治理。以下是它们如何为AI做到这一点。
中等国家在国际治理中举足轻重。它们尚未有效运用对ASI治理的影响力。理解这种影响力是什么、历史上如何运作,是改变现状的起点。
相关中等强国是谁
在ASI治理语境中,中等强国是指拥有显著AI监管能力、显著AI市场影响力或两者兼具,且非美国或中国的国家,而非单纯的中等规模国家。
欧盟是最大的监管行为体。2024年生效的EU《AI法案》对在EU市场部署的AI系统施加了约束性义务,并对任何寻求在EU单一市场运营的公司产生合规影响。这正是布鲁塞尔效应在发挥作用:EU监管标准成为事实上的全球标准,因为公司更愿意维持单一全球合规方案,而非针对不同市场采用不同标准。无论US或中国在条约层面采取何种行动,EU对AI的治理影响力已经相当可观。
英国设有AI安全研究所(2023年成立,原名AI Safety Institute),这是首个专门为评估前沿AI系统安全特性而设立的国家机构。UK于2023年11月主办了布莱切利AI安全峰会,这是首次专门聚焦前沿AI安全风险的大型多边聚会。脱欧后,UK将AI安全定位为独立于EU行使国际影响力的领域,并通过科学外交和制度创新而非监管市场规模来追求这一角色。
日本、韩国和澳大利亚是与美国紧密结盟的主要技术经济体。日本正在主持产生广岛AI进程原则的G7ASI治理进程。韩国于2024年共同主办了首尔AI安全峰会后续会议。澳大利亚一直积极制定国家AI安全框架。这三个国家共同代表了亚太地区可观的AI市场份额和监管能力,并与US以及(更谨慎地)中国保持着西方国家直接无法获得的对话渠道。
加拿大在多边技术治理方面有着悠久传统,曾在渥太华地雷进程中发挥核心作用,那是近年来中等强国不顾大国反对建立有约束力国际规范的最成功案例。加拿大积极参与 ASI 治理讨论,但尚未围绕前沿 AI 安全组建类似的联合行动。
中等强国拥有的影响力
ASI 治理中的中等强国拥有四种特定的影响力形式,其中任何一种都不依赖于等待 US 和中国达成一致。
监管市场准入是最直接的方式。拥有重要AI市场的国家可将市场准入与安全标准合规挂钩。若UK、加拿大、日本、韩国和澳大利亚将其国家AI监管框架相互协调并与EU保持一致,它们将共同覆盖除US和中国外世界大部分先进经济体的市场。寻求在这些市场运营的公司将面临监管压力,必须达到这些国家设定的治理标准。这是基于市场的治理,而非基于条约的治理,但通过国内法对公司具有约束力。
联盟信号改变了US与中国讨论的谈判环境。20世纪80年代,当加拿大、北欧国家和EU在臭氧治理上保持一致时,美国留在《蒙特利尔议定书》之外的政治成本显著上升。国内选区(受不参与影响的企业、科学界、盟国政府)提高了持不同立场的价格。一个可信、团结的中等强国联盟在AI安全上,会对US和中国留在治理框架之外施加类似的政治成本。
加拿大特意在渥太华召开了1997年《禁雷条约》谈判,故意避开裁军谈判会议,因为US、中国和俄罗斯在那里阻挠进展。最终条约获得164个国家批准,甚至影响了非签署国的军事学说。一个愿意在没有大国同意的情况下推进的前沿AI安全联盟可以效仿这一路径。
技术能力建设创造了正式核查制度所需的制度基础设施。UK的AI安全研究所、部分在UK模式后设立于NIST的US机构(现为AI标准与创新中心),以及其他国家的对等机构,正在构建评估方法并积累前沿AI安全评估的制度经验。一个拥有共享评估标准和数据共享安排的国家AI安全研究所网络,将作为事实上的核查基础设施发挥作用,无需等待条约谈判启动。当正式治理义务到来时,实施这些义务的制度能力就已经存在。
国际机构托管让中等强国持续影响治理机构。OPCW设在海牙。IAEA设在维也纳。这些地点并非偶然:东道国与这些机构保持持续关系,并对其发展有一定影响力。如果成立全球AI监测机构,就需要选址。把自己定位为该机构可信中立东道国的国家,将获得超越其原始AI开发能力的长期治理影响力渠道。
渥太华条约模式
《禁止地雷条约》(1997年)是通过一个明确旨在绕过大国阻挠的进程谈判达成的。加拿大外交部长劳埃德·阿克斯沃西于1996年10月在渥太华召集谈判会议,特意绕过美国、中国和俄罗斯阻挠地雷禁令进展的裁军谈判会议。该条约由一个由愿意国家组成的联盟在民间社会运动支持下,在大约一年内完成。已有164个国家批准。
美国、中国、俄罗斯、印度和巴基斯坦均未加入。但该条约确立了强大规范:杀伤性地雷的使用在国际上被污名化,即使在非签署国也影响了军事学说与采购。US此后的军事规划显示,该规范在US不受法律约束的情境中仍产生了影响。没有主要大国的条约,通过改变主要大国的行为发挥了作用。
以渥太华模式建模的前沿人工智能安全进程将接受US和中国在初始阶段不参与,同时在自愿国家间建立足以塑造商业行为的约束性规范。它本身不会解决前沿ASI治理问题,因为不约束从事最多前沿人工智能开发的组织的条约存在关键缺口。但它会创造制度基础设施、政治势头和已证实的可行性,最终可能吸引主要大国,正如《禁止地雷公约》创造了逐步提高使用地雷成本的规范环境。
中等实力联盟现在能做什么
无需等待全面多边条约,也无需US或中国从一开始就参与,就有几个步骤可用。
前沿 AI 系统的通用安全评估标准。若 UK 的 AI 安全研究所、EU 的 AI 监管机构,以及加拿大、日本、韩国和澳大利亚的对应机构采用共享标准评估前沿 AI 模型,企业需达到这些标准才能进入其市场。这通过市场准入而非条约义务实现治理,且无需外交突破即可在近期达成。
国家AI安全研究所之间的数据共享安排。UK的AI安全研究所已对前沿AI模型进行评估,政府可获取非公开发现。盟国安全研究所之间的数据共享安排将增加关于前沿AI安全属性的集体情报,并为治理决策建立共享证据基础。此安排所需的机构关系已部分到位。
一个关于核查设计的委托技术工作组。ASI治理条约设计中最难的问题是如何核查对声明义务的遵守。一个中等强国联盟可以委托权威的技术核查系统设计工作,产出分析报告,以便在政治条件允许时加速条约谈判。这项工作需要在谈判开始前完成,而非谈判期间。
通过无需US-中国框架的双边渠道直接接触中国。日本和韩国与中国有各自复杂但持续的技术关系。EU通过《数字市场法案》及相关框架与中国科技公司有监管接触。这些渠道提供了关于ASI治理规范的对话,且独立于US-中国动态,可能产生与当前US-中国双边讨论不同的接触方式。
“从有效的ASI治理中获益最多的国家,不一定是当前竞争中最有权力的国家。中等强国既有动力,也有能力构建大国尚未同意的治理架构。”
ASI治理的两国框架低估了可用的选项。在US与中国尚未就具有约束力的AI安全义务达成一致的世界里,处于两国之间的国家需要承担更多工作,正如它们在臭氧治理、地雷、化学武器以及国际刑事法院方面所做的那样,而非一个治理无望的世界。先例已经存在。问题在于,能力一旦超出机构能够治理的范围,联盟是否还能及时形成。