反对国际ASI治理最常见的理由是“做不到”。可一个世纪的条约史证明并非如此。针对共同灭绝风险的协调早已发生过;那是严肃国家记录在案的习惯,而非乌托邦。
核武器。化学武器。臭氧层。全球对存在性威胁的协调是人类有据可查的成就。ASI的问题不在于是否可能,而在于我们是否会及时行动,并具备早期案例所需的政治意愿。
每当人类面对协调一致的存在性威胁时,同样的反对意见都会被提出:问题过于复杂,对手数量过多,核查过于困难,背叛过于可能。每一次,那些克服这些反对意见的人都建立了框架,尽管不完美,却阻止了灾难性后果。
这种模式已足够一致,可称为一条规律:当威胁清晰、科学可信、倡导有组织时,国际协调便有可能。并非容易,也非必然,但有可能。
ASI威胁清晰可见。科学可信。倡导正在聚集。现在需要的是让协调不仅可能而且必要的政治压力。
以下四个案例,是人类文明在面对任何单一国家都无力独自解决的威胁时所能取得的标志性成就。每一个案例最初都遭遇了今天ASI治理批评者提出的同样质疑。
核武器在1945年被用于战争。几年内,多个国家已开发或正在开发核武器。数十个国家拥有核武库的前景代表着文明终结的风险。批评者曾说《不扩散核武器条约》不可能实现:参与者太多,国家利益冲突太大,无法核查合规。
《不扩散核武器条约》于1968年开放签署,1970年生效。它建立了一个框架:大多数国家同意不发展核武器,以换取民用核技术的准入。通过国际原子能机构的核查机制监督履约情况。
如今九个国家拥有核武器,而原本可能有数百个国家造出核武器。自1945年以来,核武器从未在战争中使用。NPT并不完美,它未能阻止所有扩散,但它阻止了批评者声称不可避免的灾难性情景。八十年的核和平并非偶然发生。
国际原子能机构成立于1957年,其任务是促进和平利用核能,同时防止其转用于武器。其视察与保障机制允许国际核查员核实申报设施中的核材料未被超民用目的进行浓缩。
这一监测制度之所以有效,是因为核材料与AI算力一样,会经过可识别的瓶颈。铀必须在特定设施富集。离心机可追踪。IAEA开发了监测技术的机制,这种技术具有构成存在风险的双重用途潜力。
与 AI 的平行直接对应。训练前沿 AI 模型所需的硬件——特别是 NVIDIA 生产的 GPU 集群,以及台积电使用 ASML 光刻设备制造的先进半导体——其集中程度使得监控在技术上可行。少数公司掌控着这些瓶颈。出口管制已经在尝试追踪这些芯片。
IAEA表明,对双用技术的国际监测已是成熟实践。该机构已运行近七十年,在数十个国家进行了数千次核查。将同样机制应用于AI算力的基础设施已经存在。它需要的不是技术创新,而是政治意愿。
20世纪70年代中期,科学家发现用于制冷剂、气雾剂和工业过程的氯氟烃(CFC)正在破坏保护地球免受紫外线辐射的臭氧层。没有臭氧层,地球生命将面临灾难性后果。工业界称消除CFC在经济上不可能。
《蒙特利尔议定书》于1987年由46国签署,1989年生效。它按具有约束力的国际时间表逐步淘汰消耗臭氧层物质的生产和消费。发展中国家获得延长的时限和财政支持。该条约已被全球所有国家批准,是唯一获得普遍批准的国际条约。
臭氧层正在恢复。科学评估预测,到本世纪中叶它将回到 1980 年的水平。《蒙特利尔议定书》被广泛称为历史上最成功的环境条约。最初反对它的化学工业开发了替代化合物,并继续保持盈利。“不可能”最终并非不可能。
化学武器曾在第一次世界大战、殖民冲突以及1980年代的伊朗—伊拉克战争中使用。1993年开放签署、1997年生效的《化学武器公约》禁止化学武器的开发、生产、储存和使用,并要求核查销毁现有库存。
超过190个国家已批准该公约。包括美国和俄罗斯在内拥有大量化学武器库存的国家,在禁止化学武器组织(该组织于2013年获诺贝尔和平奖)的国际监督下销毁了库存。
《化学武器公约》证明,国际协议可以实现对各国投入数十年、数千亿美元开发的武器的核查销毁。有人反对说,如果条约要求,各国不会放弃战略优势,这一反对意见已被反复证明是错误的,横跨现代史上最敌对的关系。
《公约》违规行为会发生并招致国际后果。该框架并非完美工具。然而,它使化学武器使用成为违反规范的行为,引发全球谴责和回应,而在《公约》之前,这是一种有争议的军事选项。国际规范的这一转变本身就是治理成功的一种形式。
这四个案例结构相似。在每个案例中,威胁最初都被视为过于投机或技术上过于复杂,无法纳入国际治理;相关行业都声称监管在经济上不可行;核查也被描述为幻想。而最终,协议得以达成,核查机制得以建立,威胁也切实减少了。
ASI治理今天面临完全相同的反对意见,来自同一类行为者。科技公司称监管会扼杀创新,国安机构称对手会违约,评论者则称问题过于复杂,立法者无法理解。这些都不是新论点,而是早已被证明错误的旧论点;依赖这些论点的人应该被问问,他们在无视哪些先例。
ASI治理与这些先例的区别在于紧迫性。《NPT》是在核武库增长但仍由人类控制的多年间谈判完成的。《蒙特利尔议定书》是在臭氧层持续变薄但仍可恢复的数十年间实施的。AI发展速度更快,而一旦足够先进,所构建的系统可能以臭氧分子和核弹头无法做到的方式抵制治理。
这不是悲观的理由,而是需要比以往更快行动的理由。我们知道协调是可能的。我们知道核查是可能的。我们知道行业反对并不妨碍达成国际协议。我们现在需要的是压缩时间表的政治意愿,而这种意愿来自那些明白 stakes 并拒绝等待的人。
加入那些正在构建政治联盟的人,使ASI治理成为可能。