当2023年布莱切利AI安全峰会以关于前沿AI风险的联合宣言结束时,共有28国签署。未签署方包括印度、巴西、印度尼西亚、墨西哥、沙特阿拉伯、尼日利亚以及非洲大陆大部分国家。这些国家代表了世界人口、经济产出以及国际机构政治分量的可观份额。任何在西方国家与中国参与的同时排除这一群体的ASI治理框架,都存在不完整的授权和将随时间累积的合法性问题。

正在设计的框架、提出的机构以及起草的条约语言,反映的是同时作为领先AI开发者和治理倡导者的国家的优先事项。世界其他地区很大程度上被视为事后才考虑的对象。历史表明,这种做法产生的框架无法持久。

这不是新问题。每一项重大技术治理条约都曾面对这一问题,而真正实现广泛参与的条约,都通过对非主要架构国关切的明确包容来解决。

发展中国家对技术治理的一贯说法

发展中国家对国际技术治理框架提出的关切,在核能、臭氧层消耗、知识产权等多个领域一贯如此。这些关切并非不合理,也无需同意其所有版本,就能认识到它们的政治重要性。

公平关切在于,技术治理框架所针对的问题主要由富裕、技术先进国家造成。这些框架施加的限制适用于所有国家。其结果是,发展中国家为它们并未造成的问题承担成本,并放弃富裕国家在限制实施前已行使的发展选项。《不扩散核武器条约》冻结了1968年存在的核现状;无核国家同意不发展核国家已拥有的东西。《蒙特利尔议定书》要求所有国家逐步淘汰氟氯化碳,而富裕国家早已在依赖氟氯化碳的制冷和空调基础上建立了经济。ASI治理框架存在同样的动态风险:已在其开发的AI应用基础上建立经济的富裕国家,要求发展中国家接受原本会适用于这些应用的限制。

随之而来的还有准入关切。发展中国家在技术治理谈判中通常要求获得被治理技术的有益应用的保障准入。非核NPT缔约方获得了和平利用核技术的保障准入。《蒙特利尔议定书》缔约方以补贴价格获得了CFC替代品。考虑参与ASI治理的发展中国家会问,加入能带来什么积极利益。

代表性问题具有结构性。国际机构由召集它们的国家设计。它们产生的治理框架反映了这些国家的优先事项和威胁模型。发展中国家一直认为,他们的优先事项(技术获取、发展路径、国家监管主权)在没有他们参与设计的框架中被低估了。

蒙特利尔议定书如何解决了公平问题

《蒙特利尔议定书》对发展中国家参与的处理方式,是ASI治理最具直接参考价值的先例,因为所涉技术确实具有双重用途,且转型成本集中在对问题贡献最小的国家身上。

该议定书通过第5条确立了差异化义务:人均消耗臭氧消耗物质低于规定阈值的发展中国家,在履行发达国家所需的逐步淘汰时间表时可延迟十年。这承认了对现有大气层CFC存量贡献较小的国家不应承担与贡献较大的国家相同的即时成本。

1990年设立的多边基金向第5条国家提供财政资源,支付遵守议定书的增量成本。它还资助技术转让,向发展中国家提供氟氯烃替代品及其使用技术能力。该基金自设立以来已拨款超过四十亿美元。它是《蒙特利尔议定书》实现近乎普遍批准的原因:原本会以无力承担合规成本为由的国家,获得了合规所需的资源。

关键机制

蒙特利尔议定书给予发展中国家两样东西:时间和资金。延后的履约时间表承认它们并非臭氧消耗的主要原因。资金与技术援助则承认转型成本不应完全落在责任最小的国家身上。这两项规定对于实现普遍参与在政治上都是必要的。二者都直接适用于 ASI 治理设计。

结果是一项最终获得197个缔约方(所有UN成员国)批准的议定书。最初抵制的国家在适应机制到位、且臭氧层消耗的科学共识使无限期不参与在政治上站不住脚之后加入了进来。

NPT大交易及其相关性

《核不扩散条约》的参与架构提供了另一种模式。NPT的交易是明确且互惠的:无核国家同意不发展武器,以换取在IAEA保障下获得和平核技术的保证、来自有核国家的安全保证,以及有核国家追求裁军的承诺。无核国家放弃了一种能力,并获得了积极的回报,而不仅仅是不受威胁的承诺。

这种互惠结构对条约的广泛性至关重要。技术上能够发展核武器的国家(西德、日本、瑞典、埃及、巴西)同意不发展,部分原因是条约的和平利用条款让它们获得了原本需独立开发或放弃的核能技术。治理框架同时也是一项技术共享安排。

基于此模型构建的ASI治理框架将向发展中国家提供对人工智能技术、培训资源和发展援助的保障性获取,以换取它们接受对其开发的任何前沿人工智能项目进行安全监测的义务。接受监测义务的国家将有权享受共享治理机制的福利,包括获取条约缔约国优先向其他缔约方提供的AI系统和基础设施。

印度与参与问题

印度是全球ASI治理参与中最重要的国家:它是世界上人口最多的国家,拥有庞大且不断增长的技术部门,在包括印度理工学院在内的机构拥有大量AI研究能力,且未签署2023年布莱切利宣言,目前未参与主要治理框架。印度在它认为由大国设计并服务于大国的国际治理框架中,有一贯的不结盟历史,可追溯到其未参与NPT。

印度在ASI治理上的立场反映了多重关切。它在多个国际论坛主张ASI治理应聚焦当前伤害而非推测的未来风险,体现出与前沿AI安全倡导不同的风险评估。它对可能约束本国技术发展的ASI治理框架表示担忧。它还秉持国家监管主权的原则立场,使具有约束力的国际框架在国内政治上难以推行。

要真正与印度接触,就必须直接回应这些关切,而非简单邀请其批准一个未考虑它的框架。这意味着在早期阶段就让印度代表参与设计过程,认真对待其对当前危害与未来风险的不同优先级排序,并确保任何治理框架都能为印度提供切实利益(技术准入、能力建设、治理机构中的代表权),使参与优于置身事外。

一个包容各方参与的ASI治理框架能带来什么

借鉴《蒙特利尔议定书》和NPT模式,一个旨在实现广泛参与的前沿ASI治理框架将包含当前提案很大程度上忽略的若干要素。

差异化合规时间表。AI发展起步较晚的国家,其项目在监测义务生效前可获得更长过渡期,承认它们目前并非条约所针对的前沿AI风险源头。

一项技术准入基金。类似于《蒙特利尔议定书》的多边基金,这一专用融资机制将为发展中国家提供获取人工智能系统、云计算资源以及参与有益人工智能开发的技术能力的机会。准入将以加入条约为条件,从而形成加入的正向激励。

在治理机构中有意义的代表权。全球AI监测机构的治理结构应按人口和经济权重给予发展中国家投票权和领导职位,而非仅按当前AI开发能力分配。如果一个机构的董事会由五六个主要AI开发国控制,世界其他国家就不会认为它具有合法性。

“富裕国家为自己设计、然后要求世界其他地区按这些条款加入的治理框架,在国际关系史上有一个名称。它叫帝国主义,不会产生持久的协议。”

前沿AI带来的存在风险一旦显现,不会选择性伤害特定国家。一个因忽视世界大多数人口关切而无法实现广泛参与的治理框架,不可能持久到发挥作用。ASI治理的技术设计确实困难,而政治设计(确保框架为足够多的国家提供足够利益,以建立所需参与度)同样困难,却远未得到足够重视。《蒙特利尔议定书》的设计者同时理解这两个问题。前沿ASI治理的讨论尚未认真应对第二个问题。

最强烈的反对

最合理的反对意见是,前沿AI是US-中国问题,其他所有人只是旁观者。旁观者仍拥有算力、人才以及国际机构的投票权。若一项制度将世界其他地区排除在有益的窄AI之外,它在政治上将失败。若一项制度分享工具同时阻断ASI路径,它就能行得通。