AI 竞赛动态：:
竞争如何
损害安全

AI开发者对自家系统的风险了解程度远超公开表态，这一点已有充分记录。主流AI实验室的内部安全团队已记录了重大担忧。离开实验室的研究人员描述了内部关于当前系统部署是否过快的争论。安全担忧已为人所知，在许多情况下只是部分处理，开发却仍在继续，而非未知。

没有哪个实验室或国家能仅靠更好的选择独自解决这一激励问题。它需要多边治理。

这是一个关于协调问题的故事：在其中，即使是注重安全的参与者也面临结构性激励，推动他们以快于自身风险评估所建议的速度进行开发和部署，而这主要不是关于坏参与者的故事。理解这些激励（AI竞赛动态）对于理解为什么单个组织的安承诺不足，以及实际需要何种治理结构至关重要。

竞赛的结构

AI竞赛动态的基本结构 straightforward。多方参与者（一国内的公司、世界上的国家）竞相开发最强大的AI系统并率先部署。安全投资需要时间和资源，而这些本可用于加速能力开发。任何为认真投资安全而放慢脚步的参与者，都会落后于不这样做的参与者。赢得竞赛的参与者，从结构性激励看，很可能是对安全最激进地妥协的那一个。

这造成了一种动态：注重安全的参与者面临两种糟糕选项之间的选择。他们可以维持安全标准并落后，导致前沿由较不注重安全的参与者塑造。或者他们可以降低安全投入以保持竞争力，导致自身标准退化。无论哪种方式，竞争压力都会系统性地产生比任何个体参与者在能够协调时所偏好的更差的结果。

国家维度

实验室层面的竞赛在原则上可以通过国内监管解决：一国政府可以同时对境内所有 AI 实验室施加安全要求，从而消除该管辖区内安全投入带来的竞争劣势。这正是国内 AI 监管重要的原因。它可以解决国内协调问题，即使无法解决国家间问题。

国家层面的竞赛动态在结构上更难应对。US与中国在AI领域的竞争常被描述为一场具有重大地缘政治后果的战略竞赛，这种框架在国家层面产生了同样的激励结构：任何为安全放慢脚步的国家都会落后于不这么做的国家。安全监管会造成相对于监管较松的竞争对手的战略劣势，这一担忧是一个真正的协调问题，而非恶意反对。

这正是为何单纯的国内AI监管（即使是严格的国内监管）不足以应对AI竞赛动态。 国际治理空白 这是一个需要多边框架和执行机制的结构性协调问题，类似于部分解决了核军备竞赛的军控条约，而非哪个国家监管更优的技术问题。

解决竞赛动态的先例

对危险技术竞赛进行协调在政治上不可能的担忧，与历史记录不符。US和苏联在冷战高峰期谈判了SALT I和SALT II，这些战略武器限制条约对双方最危险的武器施加了约束性限制，尽管存在深刻的不信任和持续的战略竞争。《化学武器公约》在世界大多数国家禁止了整个类别的武器。《生物武器公约》对生物武器做了同样的事。《蒙特利尔议定书》协调了全球逐步淘汰消耗臭氧物质的行动。

这些成就无一不是在困难、背叛和执行挑战中实现的。它们都代表了相对于无协调竞赛的真正改进。 危险技术国际协调的历史先例 比ASI治理讨论中悲观框架所暗示的要广泛得多。

“安全意识强的实验室应赢得竞赛”这一说法正在发生，无论安全倡导者的偏好如何；让有安全意识的行动者处于前沿，总好过让漠视安全的行动者占据前沿，但这还不够

对AI竞赛动态担忧的常见回应是，解决方案是让注重安全的实验室获胜，从而由关心安全的参与者塑造前沿。

这一论点有必要明确说明的局限。首先，处于前沿并不能消除竞赛动态。它反而让注重安全的实验室面临为保持前沿地位而偷工减料的竞争压力。其次，竞争压力论点可被用来为任何加速辩护，因为总能找到一个更不注重安全的竞争对手。第三，该论点依赖于注重安全的实验室获胜，却未提供任何确保这一点的机制。它只是一种希望，而非治理结构。

解决AI军备竞赛需要与部分解决核军备竞赛相同的东西：适用于所有主要参与者的协调限制，以及用于检测违约的核查机制和用于威慑违约的执行机制。这是一个多边治理问题。威慑框架如 MAIM 描述了竞赛国家之间的僵局，但并未解决竞赛本身。基金会的 治理提案 是围绕这一要求构建的，而不是围绕正确实验室先完成的希望。