军备控制史的标准叙述以政府为中心：谈判代表、签署条约的国家元首、批准或拒绝批准条约的参议员。这一叙述不完整。在每一项关于危险技术的重大国际协定背后，都有持续的公民社会努力：它们为政治铺路、建立公众对风险的理解、发展谈判者采纳的治理方案、在官方渠道关闭时维持跨分歧对话，并在政府宁愿视而不见的时期保持议题的政治活力。

环保NGO让《蒙特利尔议定书》在政府动摇时仍能维持政治生命力。以下是公民社会在技术治理中的作用，以及AI安全倡导尚未建立的部分。

了解民间社会在军备控制治理中的实际作为，是评估AI安全领域民间社会需要建立什么的前提。

帕格沃什会议为核军控做了什么

帕格沃什科学与世界事务会议成立于1957年，源于1955年的《罗素-爱因斯坦宣言》，宣言由伯特兰·罗素和阿尔伯特·爱因斯坦联合另外九位知名科学家签署，呼吁各国政府认识到核武器威胁文明，并寻求和平解决冲突而非战争。宣言由东西方阵营的科学家签署，包括几位诺贝尔奖得主。

帕格沃什模式属于二轨对话：敌对国家科学家以个人身份而非政府代表身份会面，讨论军控提案，并建立最终会影响官方谈判的个人关系与共享技术框架。20世纪50年代末至60年代的早期帕格沃什会议探讨了核试验限制的核查提案，这些提案后来以修改形式出现在1963年《部分禁止核试验条约》中。国家技术手段用于军控核查的概念（利用卫星侦察监测合规，无需地面视察员）在帕格沃什会议上得到发展和辩论，随后被纳入SALT协议。

帕格沃什并未起草条约。它发展理念、建立关系，并在冷战双方科学家之间创造了一个空间，让他们能就官方外交渠道无法处理的技术问题展开讨论。当政治条件改变、官方谈判成为可能时，那些谈判可能达成的协议的智力基础设施早已存在，因为帕格沃什已为此建设多年。帕格沃什及其创始人约瑟夫·罗特布拉特于1995年共同获得诺贝尔和平奖。

地雷运动做了什么

国际禁雷运动由一批非政府组织于1992年创立，他们认为杀伤性地雷的人道主义后果——冲突后国家每年数千平民伤亡、农业用地大面积污染、儿童在布雷冲突数十年后仍致残——需要全面禁止而非渐进限制。该运动的核心策略是以具体、可视、可归因于特定技术的表述记录人道主义后果，并将这些记录与明确的政治诉求相联系。

文件工作由受影响国家的非政府组织完成： Handicap International、人权观察、医生促进人权组织等。他们撰写报告、收集受害者证词，并持续制造媒体报道，使该问题在捐助国具有政治重要性。该运动系统性地建立政府盟友（加拿大最为关键），并找到外交路径绕过裁军会议——在那里，主要军事大国曾阻挠进展。

渥太华模式

地雷禁令并非始于外交部。它始于幸存者、医生和组织者，他们让这种武器在政治上付出代价。AI安全已有论文和峰会。它仍需要这种外部压力，才能让法律约束那些宁愿永远自我监管的实验室。

该运动的成功建立在一系列区别于其他较不成功倡导努力的因素之上。危害是当下且可记录的。诉求具体且非专业人士也能理解。该运动与可能充当制度支持者的同情政府建立了关系。它愿意在没有主要大国参与的情况下推进，接受即使没有US、中国和俄罗斯的条约也能确立规范并随时间塑造行为。

环境NGO为《蒙特利尔议定书》做了什么

限制消耗臭氧层物质的运动建立在科学传播的基础上，这种传播将技术发现转化为公众关切。当 F. Sherwood Rowland 和 Mario Molina 于 1974 年发表关于氯氟烃化学的发现，证明 CFC 会催化破坏平流层臭氧时，这一科学发现需要解释和放大才能成为政治议题。环境非政府组织，特别是地球之友和自然资源保护委员会，在 20 世纪 70 年代末和 80 年代开展了这一转化工作。

NGO运动结合了公众教育、媒体 outreach 和直接政治倡导。在美国，NGO支持在任何国际协议达成前就成功限制气溶胶喷雾中使用CFC，创造了国内监管先例，US政府可在国际谈判中以此证明政治可行性。1985年南极臭氧空洞的发现提供了CFC破坏的戏剧性视觉与科学确认，NGO的传播基础设施已准备好立即放大其意义。

蒙特利尔议定书缔结后，非政府组织监督其实施情况，发现合规问题，并推动后续修正案，在随后几十年里不断扩大议定书的覆盖范围。公民社会的作用并未在条约签署时结束，而是贯穿整个实施阶段，持续施加监督，让各国政府对其承诺负责。

AI 安全公民社会已建成与未建成的内容

AI安全领域已在前沿AI系统风险方面产出大量技术和思想成果。这些成果已积累在大学和主要AI实验室研究者的学术论文、会议论文集和公开交流中。包括杰弗里·辛顿和约书亚·本吉奥在内的几位研究者，已公开以吸引大量媒体关注的措辞谈论AI生存风险。目前已有少量由慈善资助的组织在从事ASI治理与政策工作。

然而，与支持核军控和地雷禁令的公民社会基础设施相比，当前的 AI 安全公民社会努力在若干具体方面仍显薄弱。

不存在普格瓦什式的对应物：没有持续、结构化的论坛，让US、中国、EU及其他主要AI开发国的AI研究者以个人身份、脱离官方渠道定期会面，共同制定治理的技术框架。现有的双边和多边政府进程是官方的，而非二轨，因此受制于官方外交的所有限制。

没有ICBL式的等价物：没有大规模会员运动、没有清晰具体诉求、没有把诉求与真实民众当下经历联系起来的伤害记录。AI存在风险是预期的而非已体验的，这使地雷运动实现的情感与政治动员更难复制。ASI的伤害尚未以地雷伤亡那种现在时方式呈现。

目前尚无持续的监测职能：没有民间组织追踪政府在ASI治理上的承诺、衡量自愿承诺的遵守情况，并以能形成问责的方式公布结果。那些监测军控条约执行情况的非政府组织、评估各国是否履行裁军义务的团体、调查涉嫌违规行为并记录承诺与行动之间差距的机构，在ASI治理领域都没有明确的对应者。

“每一项重大军控成就之前，都经过多年民间社会工作：建立公众理解、提出治理方案并保持政治压力。这项工作现在必须为AI启动。”

AI安全公民社会已经建立起一个具有显著智力水准的研究与政策社区。它尚未建立的，是公共动员能力、跨国科学对话基础设施，以及持续监测职能——而这些正是其他技术领域有效治理运动的标志。建设这些能力是达成可谈判、可批准、可维持的条约的政治与制度前提，而非与之分离的工作。

最强烈的反对

最公平的反对意见是，非政府组织和学者无法撼动大国，因此公民社会只是评论。运动不会签署条约，它们改变的是不签署的代价。公共压力、专家起草和捐助者资助的倡导，正是让落后国家被迫进入它们宁可避开的房间的方式。