出口规则可以规定谁能购买芯片。芯片若在硅中强制执行许可条款,则更进一步。硬件赋能治理赌的是:某些规则应存在于金属中,而非仅存在于决心实验室可以无视的PDF里。
这一想法基于一个让AI unusually 可治理的事实:训练前沿模型需要海量专用芯片,集中在大型数据中心,由极少数公司通过存在严重瓶颈的供应链生产。软件可以无形且即时复制,而数以万计消耗兆瓦电力的先进处理器则做不到。这一物理足迹正是治理能抓住的抓手,与 算力治理, ,细化到芯片层面。
可以内置到硬件中的内容
这些提案从温和到雄心勃勃不等。
- 使用验证。 芯片可以以防篡改且保护隐私的方式证明其正在执行的属性,例如某次训练消耗了多少算力,让检查员无需读取模型或数据即可确认合规。
- 使用限制。 Hardware could enforce ceilings, refusing to participate in a training run above a set scale unless authorized, turning a legal limit into a physical one.
- 位置与完整性。 这些机制可验证芯片是否位于申报地点且未被篡改,从而支持出口管制并防止其被转移到未受监控的设施。
其中一些利用了现代处理器中已有的安全硬件特性。工程难度高且部分尚未解决,但这不是科幻,已有严肃工作正在推进。
为何这是如此有吸引力的杠杆
其吸引力在于它解决了削弱大多数ASI治理的问题:核查。一项无法检查的条约是 生物武器公约, 一种真实存在的禁令,数十年来被违反却未被察觉。能够真正确认合规的治理,就像 核查察制度 确认裂变材料所需的,正是这种能够落实的治理。以硬件为基础的机制为AI提供了这样一条验证路径,其根基是物理而非信任。它们能让国家就限制达成一致,并相互确认遵守情况——这正是几乎所有国际提案中缺失的要素。
任何AI协议中最难的部分是证明规则正在被遵守,而不是制定规则。硬件可能是证明的所在。
双刃剑
诚实要求我们直面风险。让合法机构能够核查并限制算力的机制,同时也是控制机制,而控制可能被滥用。为执行安全限制而建的基础设施,落入错误手中可能强化垄断、巩固掌权者,或成为监视与胁迫的工具。能支撑公平国际暂停的同一杠杆,也能支撑 权力集中 该基金会在别处警告反对的。
这不是反对该技术。它主张在建造时对治理本身进行治理:透明说明机制的作用、限制谁能控制它们,以及采用国际而非单边权威。以这种方式处理,硬件赋能的治理是最有前景的工具之一,因为它从根源上解决核查问题。这是基金会相信一个可信、可核查的国际框架可以实现而非乌托邦的更具体理由之一,它贯穿于 我们的计划.