通过剖析一份假设条约的结构并非学术练习。它将模糊的愿望转化为一套具体、可辩论的设计决策,并揭示ASI治理的障碍是政治性的而非概念性的。法律机制已经存在;以下每项条款在现有条约中都有先例。接下来是对《人工智能安全条约》必须解决的问题的结构草图,而非完整文本。
条约是一种结构化的法律文书,具有清晰的组成部分:范围、定义、义务、核查、机构和执行。以下具体介绍防止不安全超级智能的协议所需条款,以及每项条款带来的抉择。
前言与目的
每项条约开头都会阐明其目的和指导原则。此处的目标是永久防止人工超级智能的开发。超级智能无法被控制,同时保留低于该阈值的AI带来的益处,并确保这些益处得到共享。序言将援引预防原则,确认风险是全人类的共同关切,并将条约置于现有国际法框架内。这为后续一切内容设定了解释框架。
范围与阈值
最难的起草问题是界定条约涵盖范围。与核材料不同,AI能力是一个连续谱,没有天然界限。可行的办法是使用可测量的代理指标:超过一定训练算力阈值的系统将受条约义务约束,同时辅以基于能力的标准,针对展现特定危险能力的系统。确切数字应交由一个有权修订的技术机构决定,因为写入文本的任何固定数字几年内就会过时。
核心义务
禁止跨越红线
核心义务:缔约方同意,在商定的安全条件达成前,不开发或部署超过规定危险阈值的系统,这相当于条约对禁止行为的禁令。
声明与通知
各方必须申报大型计算设施,并在开展受管制训练运行前通知条约机构,从而建立起核查所依赖的透明度基线。
强制部署前评估
涵盖系统必须在部署前根据既定标准接受独立安全评估,结果报告给条约机构。
国内实施
每一缔约方必须在本国领土上对公私开发者实施这些义务,因为条约约束的是国家而非公司。
验证
禁止无人核查的条款毫无价值,因此条约需要一套核查机制。借鉴IAEA与化学武器公约的先例,该机制将结合大型计算集群的申报设施监测、先进芯片的供应链追踪、训练与评估记录的审计权、规定访问权限的现场检查,以及(最新要素)内置于芯片的硬件保障,使隐蔽的大规模训练可被发现。设计目标与核保障一样,是核查关键事项,而不强迫披露每一项商业或安全机密。
机构
条约将设立一个国际机构(可称为AI安全组织)来管理:一个技术秘书处和检查机构、一个设定和修订阈值的科学小组、一个作为决策机构的缔约方会议,以及一个无需全面重新批准即可更新附件的机制,参照蒙特利尔模式。这是一个常设机构,能将静态文件转化为能跟上技术步伐的持续制度。
执行、生效与修正
- 执法。 对违规行为的渐进式回应,从认定不合规,到取消共享收益和算力准入,再到严重违约时提交安理会,同时承认核查能产生证据,但后果仍需政治支持。
- 生效。 要求托管前沿实验室和芯片生产国的国家在条约生效前完成批准,从而约束关键行为体,同时避免任何单一国家能无限期否决条约存在的设计。
- 修正与调整。 一种快速通道机制,通过合格多数票收紧阈值和技术附件,使条约能够随技术演进,而非在签署时冻结。
人工智能条约的障碍不在于我们缺少法律工具。它所需的每项条款在现有条约中都已存在。障碍在于政治意愿,而一份清晰的草案恰恰能帮助凝聚这种意愿。
为什么勾勒它很重要
如此具体地列出条款有两件事。它揭开了条约的神秘面纱,表明它是由多个广为人知的组成部分组装而成,每个部分都有先例,而非跳入未知。它还澄清了真正困难所在:不在法律架构(这是可处理的),而在关于阈值、核查侵入性和使条约具有约束力的大国交易的政治选择。草案不会创造签署意愿。但它将“我们需要一条约”转变为“这里是条约,这里正是我们必须同意的内容”,这是严肃外交必须开始的地方。