当治理倡导者呼吁建立全球AI监测机构时,他们描述的是一个终态。更难的问题是通往这个终态的路径:一个拥有授权、人员、预算、法律权限和技术能力来监测前沿AI开发的国际机构,究竟如何建立。其他危险技术已有类似机构的先例,其历史比治理文献所暗示的要复杂得多。
机构是构建而非宣布的。以下是构建全球 AI 监测机构实际所需的内容。
IAEA要发挥作用需要什么
IAEA于1957年由国际法令设立,比艾森豪威尔总统1953年在UN大会上提出“原子能和平利用”计划晚两年。其创始法令界定了任务(促进核能和平利用,同时确保不被转用于武器),并设立理事会和大会作为机构的治理机构。
IAEA于1961年进行了首次保障监督检查,距其成立仅四年,覆盖西欧少量研究反应堆。其采用的保障体系按后来标准是 rudimentary 的:检查员审查设施记录并进行核材料盘点,但实体准入权有限,也没有环境监测能力。该体系在1950-60年代的技术环境下足以应对和平核研究,却不足以发现有决心的武器计划。
IAEA能力的决定性扩张并非来自该机构的创始章程,而是来自失败的后果。伊拉克在1991年海湾战争期间及之后被发现的秘密核武器计划,揭示了IAEA的常规检查完全遗漏了一个正在向核武器推进的项目。回应是1997年通过的《附加议定书》,它扩大了对未申报地点的检查权,并将环境取样作为标准工具。1997年前存在的IAEA与1997年后存在的IAEA在可检测能力上是 substantially 不同的机构。
教训在于:国际监测机构是在暴露其初始设计局限的失败中,逐步发展出真正能力的。创始架构确立框架;运行效能则通过失败驱动的改革,在数十年间逐步积累。
OPCW要发挥作用需要什么
OPCW 成立于 1997 年《化学武器公约》生效之时。与早于其主要条约框架的 IAEA 不同,OPCW 从一开始就被设计为现有条约的核查机构,条约义务明确。这赋予该机构更清晰的初始授权和更集中的行动范围。
OPCW在首次核查前需要大量准备工作。该条约的核查附件长达数百页,详细规定了不同类型核查的程序、核查员权利、被核查国义务以及机密信息处理方式。将这些程序转化为操作规程、培训核查团队、建立安全通信系统、建设能从环境样本中识别化学制剂的分析实验室,并与首批主要储存国谈判设施协议,所有这些工作都在条约生效后耗时多年。
OPCW首批销毁核查任务,即监测US和俄罗斯化学武器库存的销毁,始于1990年代末,并持续了二十多年。安全销毁化学武器的技术复杂性及其带来的核查挑战,要求在此期间不断进行机构适应。OPCW今日所做的工作,反映了其首任总干事上任时并不存在的二十五年运营经验。
最重要的设计决策
一个国际AI监测机构将面临一系列决定其长期有效性的基础制度设计问题。这些决定不是技术性的,而是政治性和组织性的,必须在机构开门前正确做出。
授权范围是第一个决策。监测机构可设计为狭义,专注于核查超过特定算力阈值的前沿AI训练申报;或广义,拥有评估AI系统安全属性并发布全球AI安全状况调查结果的权力。狭义授权在政治上更容易达成,实施也更直接。广义授权赋予机构更多治理影响力,但需要更大预算、更多样化人员,以及对机构获准发言内容的政治共识。IAEA的授权最初狭义,后续扩大;OPCW的授权保持聚焦。两种模式在其各自语境中均取得成功。
独立架构是第二个决策。国际组织在不受大国政治压力影响的程度上差异很大。UN安全理事会的否决结构意味着五个常任理事国可以阻止任何安理会行动。IAEA理事会采用加权结构,赋予主要国家不成比例的影响力。OPCW则采用更民主的治理结构,所有缔约国在缔约国大会上拥有平等投票权。一个主要决策可被拥有最大AI项目的国家阻挠的AI监测机构,比拥有独立总干事和技术人员(可凭专业判断行事)的机构要弱得多。
IAEA约有2500名员工,其中包括数百名拥有深厚核工程专业知识的核查员。OPCW雇佣数百人,其中包括能够进行化学样品现场分析的化学家。一个能够评估前沿AI系统的AI监测机构需要具备目前在私营部门薪资高昂的专业知识的员工。在国际公务员薪酬结构内组建并留住这些员工,是该机构面临的最棘手设计问题之一。
资金模式是第三个决策。国际组织通过成员国分摊会费供资,会费按GDP及其他因素比例确定,自愿捐款则用于补充特定项目的预算。分摊会费预算每年谈判,受政治压力影响:反对机构活动的成员国可拒绝缴款或投票削减预算。IAEA的经常预算约为每年5亿US美元;OPCW约为7000万欧元。一个具备实质技术能力的人工智能监测机构需要这一量级或更高的预算,而资金稳定性问题(如何在主要捐助国的政治周期中维持机构预算)需要设计答案。
检查员的法律授权是第四个决定。检查员只能做条约授权他们做的事。IAEA最初的保障协议赋予检查员有限的准入权,后由《附加议定书》扩大;在没有《附加议定书》的旧协议下运作的检查员仍享有较少权利。AI监测机构的检查员需要明确规定的准入权(设施、记录、硬件日志和人员),建立该机构的条约需要清楚地规定这些权利,因为模糊性在实践中将有利于被检查方。
在条约之前建立技术能力
IAEA 和 OPCW 的一个共同教训是,技术能力无法在机构成立后临时拼凑。两个机构都受益于早已存在的科学与技术社群:IAEA 依靠核物理和核工程,OPCW 依靠分析化学。核查核不扩散承诺或从土壤样本中识别化学战剂所需的专长,在国际核查机构需要它之前,就已存在于大学和国家实验室。
ASI治理核查所需的技术社群——能够评估前沿AI系统安全属性、审计训练记录并为大型计算集群设计硬件监测协议的人——规模很小,几乎全部集中在私营AI公司和少数学术机构。建立一个国际监测机构可从中招募人才的专业基础,本身就是先于该机构成立的治理任务。
这就是为什么国家人工智能安全机构,例如UK的人工智能安全研究所(2023年成立时名为人工智能安全研究所),对长期治理项目至关重要的原因之一。它们正在构建评估方法、机构经验和专业社区,而这些正是未来国际监测机构需要依托的资源。国际监测的技术基础正在部分且不完善地奠定,这一切发生在条约与机构成立所需的政治条件就绪之前。
“你无法在一年内建立一个核查机构。技术方法、训练有素的人员、操作程序和法律框架都必须经过时间发展。启动的时间就是现在,而不是条约签署之后。”
全球AI监测机构是一个需要具体设计决策、具体资源承诺、具体法律授权和具体技术能力才能运作的机构,而非遥远的乌托邦目标。IAEA和OPCW证明此类机构可以建立并发挥作用。它们也证明,建立这些机构所需时间比条约文本显示的更长,需要通过多届领导层持续的政治投入,并通过暴露初始设计局限的失败来发展真实能力。呼吁建立监测机构却不讨论这些机构设计问题的治理倡导者,描述的只是愿望,而非计划。
最强烈的反对
最公平的反对意见是,国家永远不会接受检查员靠近其最有价值的算力。在核保障措施之前,人们也说过类似的话。对突破的共同恐惧,加上拒绝向违约者提供硬件,是 reluctant parties 仍能建立监督的方式。没有访问权的机构只是个logo。访问权才是值得解决的设计问题。