当桥梁倒塌时,律师们已经知道如何追责责任方。但当AI堆栈在模型、云端和集成商层面同时失效时,追责就会停滞。无法指明被告的责任规则无法阻止下一次失败。这是个治理问题,而非形而上学问题。

无法为违规行为分配责任的条约是无法执行的,而这些问题对AI这类技术而言确实棘手。

两个不同的问题

将两个经常混淆的事物分开会有所帮助。 责任 是法律问题:当伤害发生时,谁该承担责任并支付代价,这涉及在开发者、部署者和用户之间分配责任。 署名 是确定实际发生了什么、是谁做的这一事实和技术问题,需要将有害行为追溯到特定系统、模型或行为者。治理需要两方面的答案:分配责任的规则,以及确定这些规则所适用事实的取证能力。

为什么AI让两者都困难

  • 因果链漫长而分散。 一次有害结果可能牵涉基础模型开发者、改编模型的公司、部署方和最终用户,每一方都可能合理地指向他人。
  • 行为是涌现且不透明的。 当系统做了其制造者都没有具体意图或预见的事情时,传统的过错和疏忽概念就 strained。
  • 归因在技术上可能难以捉摸。 确定某个输出或行动由哪个系统产生(尤其在模型被复制、微调或私有运行时),若无刻意的可追溯措施,确实可能非常困难。
  • 危害可能跨越国界。 一个国家开发、另一个国家部署、第三个国家造成伤害的系统,提出了普通责任法无法应对的管辖权问题。

国际维度

在国家层面,国际法已有责任框架。根据长期确立的国家责任规则(编纂于国际法委员会条款),国家对其国际不法行为负责,包括在特定情况下对其指挥、控制或未能监管的私人行为者行为负责。AI条约将以此为基础:国家将负责确保其领土上的行为者遵守,并对未能遵守的后果负责。这正是约束国家的条约转化为对实际构建前沿AI的私营公司问责的方式。

但国家责任取决于归因,即证明违规行为发生且源于某一国家管辖范围。这正是治理与核查相遇之处:检测不合规的同一套监测和可追溯工具,正是使归因从而使责任成为可能的东西。一项条约的执行条款,其可信度仅取决于其确立谁做了什么的能力。

治理制度需要什么

1

明确的分配规则

规定开发与部署链条上各方对哪些损害承担责任的法律,使责任无法消散成无人担责。新兴框架,例如EU在AI责任方面的探索,就是早期尝试。

2

设计上的可追溯性

内置技术措施(日志记录、模型识别、硬件级记录),以便将有害行为追溯到源头,把归因从猜测变成证据。

3

护理标准

为前沿开发者设定明确义务,未履行即构成过错,将举证责任转嫁给风险制造者。

4

国际归因能力

共享核查与取证能力,以便跨境确认违规行为,并将其与责任国家和行为体关联起来。

无人可被追究的规则根本不是规则。在我们能够执行危险AI的限制之前,必须先回答两个问题:谁负责?我们如何证明?这些答案是每项可信条约的隐形基础。

条约之下的基础

责任与归属很少出现在ASI治理的头条呼吁中,但它们决定一切是否有效。一项有门槛和禁令却无法为违约分配责任的条约,只是一份意图声明,而非可执行规则。因此,构建沿AI供应链分配责任的法律框架,以及追踪损害来源的技术能力,是条约项目的基础,而非与之分离。这些领域现在就能取得进展——通过国内责任法和可追溯性标准,在任何国际协议之前并支持之。治理的可见架构(红线、监测机构)建立在这一更低调的基础工作之上。没有它,执法就是无人能兑现的承诺。