1968年,《核不扩散条约》经过多年工作组、僵局和国内斗争,从草案语言变为签署文件。说“我们需要一份AI条约”的人很少想象那套机制。他们应该想想。口号与批准文本之间的差距,正是大多数计划夭折的地方。
国际条约谈判是漫长、技术性、历时多年的过程,由外交使团、法律专家和技术顾问共同开展。
国际条约谈判如何运作
大多数现代多边条约始于政治授权:通常是UN大会决议或多边机构决定,授权启动谈判。这为谈判会议或现有论坛(如日内瓦裁军会议)中的常设委员会奠定正式基础。没有这一政治授权,条约讨论仅为筹备性和非正式的。有了它,它们就成为有授权产生文本的正式谈判进程。
谈判机构以会议形式召开,通常每年数周,会间工作由正式会议之间的技术工作组进行。工作组并行处理具体问题:定义、核查机制、制度安排、实施义务、财务条款。每个工作组产出草案文本,在 successive 会议中合并为完整条约的滚动草案。
条约草案通过协商一致谈判达成,意味着在所有参与方同意前,任何条款都不会最终确定。这比多数投票门槛更高,但能产生合法性更持久、参与更广泛的条约,因为没有国家在不可接受的条款上被否决。代价是协商一致需要更多时间,节奏由反对意见最多的代表团决定。
文本定稿后,即开放签署。签署是政治上的背书行为,而非法律承诺。法律承诺发生在国家通过国内宪法程序批准条约之时。大多数条约规定了生效前所需的最低批准数量。
前沿AI条约需要哪些工作组
一份旨在治理前沿AI发展的条约,需要围绕国际法中尚无定论的问题设立工作组。主要问题包括::
定义。 条约需要明确其管辖哪些AI系统。这比定义核武器或化学制剂更难,因为AI是一个连续的能力谱,在危险与安全版本之间没有清晰界限。提案集中在将计算阈值作为代理:超过特定计算规模的训练运行将触发条约义务。该阈值需要技术论证、随计算成本下降定期修订,以及针对边界附近案例的争端解决机制。
受监管系统开发者的义务。 一旦系统跨越既定阈值,需要采取哪些行动?多数方案包括训练运行前或期间向监测机构事先通报;按指定安全标准强制评估训练后的系统;报告评估结果;以及限制部署未达标的系统。每项要求都需要界定何为充分合规,而这本身就是一场技术与法律争议,谈判尚未开始就已存在。
验证机制。 独立机构如何确认申报活动与实际活动一致?这是技术要求最高的工作组。目前流传的方案结合了硬件级监控(与芯片制造商合作,追踪超过规定规格的销售)、设施检查(有权访问大型计算集群)以及对训练日志和评估记录的审计权。每项要素都涉及不易解决的商业保密和国家安全分类问题。
制度结构。 哪个机构将管理该条约?由条约本身设立的新机构(类似于OPCW)治理价值最高,但需要最多政治努力和资源来建立。委托给现有机构政治成本较低,但可能缺乏任务或所需技术专长。IAEA拥有双用技术监测经验;ITU对AI相关议题有一定管辖权主张。每种选择都有不同的资源影响和不同的脱离主要大国政治独立的历史。
生效要求。 该条约需要明确规定哪些国家必须批准才能使其具有法律效力。一项在没有US、中国或UK的情况下生效的条约,不会约束负责前沿AI开发的组织。NPT要求由特定国家群体批准。AI条约需要类似机制,明显的困难在于要求US和中国批准会赋予两国对条约存在的否决权。
分阶段的谈判过程
准备性讨论
非正式专家会议和二轨对话,用于发展正式谈判将要成文的那些技术和法律概念。目前正通过 AI 安全峰会、学术会议和双边政府讨论以碎片化形式进行。
政治授权
通过UN、G7/G20或专门峰会做出高层政治决定,授权启动正式谈判进程并明确范围与时间表。这一步将准备性讨论转化为条约谈判。
框架公约
在更难的技术细节解决前,先就原则和制度结构达成广泛共识。这种模式(气候公约等曾使用)允许在政治上达成重要协议的同时,技术工作组继续制定具体内容。
技术协议
规定核查机制、阈值、评估标准和实施义务的约束性附件。这些附件在框架之后单独谈判,使最具技术复杂性的问题能在政治协议已就位的情况下得到解决。
批准与生效
各签署国完成国内批准程序,随后在规定数量的关键国家批准后条约生效。根据生效要求,这一阶段可能在条约文本定稿后耗时数年。
可预见的症结
类似谈判的经验表明,会有若干可预见的争端出现,这些争端需要从一开始就设计应对方案。
核查与保密的张力。拥有前沿AI项目的国家和公司,会抵制要求披露商业或军事敏感信息的核查机制。AI能力代表竞争优势。让核查体系可信的检查权,将遭到那些其合规性使条约有意义的同一方抵制。核制度通过范围严格的保障协议解决了这一问题:核查核材料未被转用,而无需披露武器设计信息。ASI治理需要类似的范围界定工作。
阈值定义争议。无论用何种算力阈值定义受管辖系统,都会受到质疑。刚好低于阈值的缔约方会主张应设得更低;刚好高于阈值的缔约方会主张设得太低。而且任何固定阈值都会随着算力成本下降而过时,需要修订机制,而修订机制本身也存在政治争议。其他条约采用的一种方法是将阈值设定委托给技术机构,而非将固定数字写入条约文本,从而允许在不修改条约的情况下进行修订。
中国参与难题。一项条约若在没有中国加入的情况下生效,就无法约束US之外最主要的AI开发组织。要让中国接受对其前沿AI开发的约束性义务,需要在相互高度猜疑的条件下,提供可信的回报(很可能包括技术准入保障和对US开发的对称限制)。这是条约设计无法完全解决的外交问题。
私人主体问题。前沿人工智能主要由私营公司开发。条约将约束国家,再由国家通过适用于公司的国内法落实义务。这带来了核武器和化学武器条约未曾面对的监管复杂性,因为那些条约主要针对国家项目。一项前沿人工智能条约需要明确规定国家义务如何转化为公司义务,以及公司违规如何归责于其所在国。
“每一项重大军控条约在达成之前都看似不可能。问题始终在于政治条件是否已成熟到让持续不作为的代价超过达成协议的代价。”
前沿AI安全条约是尚未正式启动的持续政治进程的产物,而非单一事件。目前正在进行的AI安全峰会、双边政府讨论、国家安全研究所、学术治理框架提案,都属于准备阶段。将其转化为正式谈判授权、再到条约文本、最后批准,需要数年时间。紧迫之处在于,被治理的能力可能比治理进程更快发展。这种紧迫性正是现在就认真启动的理由。
最强烈的反对
最合理的反对意见是,大国永远不会约束自己的前沿实验室,因此描述谈判纯属纸上谈兵。每一项重大军备条约在达成前都看似不可能,直到不作为的代价变得无法承受。准备工作已经存在,缺失的只是公众需求和产业杠杆所迫使的政治意愿,而非一套新词汇。