2025年10月22日，生命未来研究所发布了一封题为 关于超级智能的声明. 与通常伴随此类时刻的冗长宣言不同，它是一句话：:

我们呼吁禁止开发超级智能，在有广泛科学共识认为其将以安全可控方式进行且获得强烈公众支持之前，不得解除禁令。

关于超级智能的声明，生命未来研究所 · 2025年10月

它并未说超级智能永远不该被建造。它并未谴责 AI 本身。它设定了一个条件（实际上是两个），并要求在满足条件前停止开发。要理解这个看似温和的请求为何代表辩论的真正转变，你必须理解它要求什么，以及谁愿意署名支持。

该声明究竟要求什么

措辞很精确。它与之前的公开信（包括2023年那封呼吁对最大训练运行暂停六个月的著名信件）有三个区别。

  • 它专门针对超级智能。 不是窄AI，不是聊天机器人，不是已融入日常生活的AI工具。禁令适用于那些在本质上所有认知领域都将超越人类能力的系统，即我们在G0解释器中描述的类别。 人工超级智能. 。这种精准表述削弱了常见反对意见，即安全倡导者想阻止有益技术。他们并不想。他们只想阻止一种特定且特别危险的前沿技术。
  • 这是一项有条件的禁止，而非永久禁令。 当两个门槛被跨越时，禁令即解除。这重构了整个问题。今天的默认是：建造超级智能，然后在可能的情况下事后建立安全。声明将其倒置：先建立安全，再建造。举证责任转移到开发者身上，对于一项后果如此重大的技术，这或许本就该如此。
  • 这需要公众的支持，而不仅仅是专家的批准。 第二个条件是民主的，而非技术的。即使科学家有朝一日同意超级智能可以被控制，声明仍坚持公众必须同意建造它。这是对当前安排的直接挑战——少数私人实验室替所有人做出改变文明的决定，我们在 谁控制超级智能.

为什么签名人比那句话本身更重要

公开信不值钱。让这封信奏效的是联盟。超过 850 人签名，名单 remarkable 的不是长度，而是它的 范围.

站在顶端的是创立该领域的科学家。 Yoshua Bengio 和 Geoffrey Hinton （两位图灵奖得主，均常被称为现代AI教父）签署了，伯克利的也签署了 Stuart Russell, 标准 AI 教材的作者。当最该为这项技术存在负责的人请求世界在构建其最强大形态前停手时，这不是 activism，而是证词。

随后是建造者和公众人物。苹果联合创始人 Steve Wozniak 和Virgin创始人 Richard Branson. 。历史学家 Yuval Noah Harari, 演员 Stephen Fry, 以及音乐家 will.i.am. 包括前参谋长联席会议主席在内的退休国家安全领导人 Admiral Mike Mullen 和前国家安全顾问 Susan Rice. 。最能说明问题的是，那些在几乎所有其他问题上都意见相左的人物：: 哈里王子和梅根 以及 Steve Bannon 和 Glenn Beck.

最后一个细节浓缩了整个论证。当英国王室夫妇与MAGA媒体策略师签署同一句话时，这个议题已跳出常规意识形态分野。对超级智能的担忧是2025-2026年间极少数真正跨越党派的立场之一，而这正是能促成具有约束力政策的联盟——既非左派或右派，也非建制派或民粹派。

这份声明是什么，以及它不是什么

必须看清其局限。一份公开声明禁止不了任何事。它不指挥监管机构，不约束公司，也不限制政府。任何人将其当作法律阅读都是误解。

它所做的是移动 奥弗顿窗口, ，即被视为主流且可说的立场范围。两年前，呼吁禁止某一类AI会被视为边缘而遭驳回。2025年10月之后，这一立场已由诺贝尔级科学家、标志性企业家和各派政治人物公开持有。这种可体面言说的转变是一切后续的前提。政治人物采取已受欢迎的立场；他们很少引领。声明的作用是让禁止变得足够受欢迎，使领导人能够采取行动。

这正是早期技术治理运动开始的方式。The 帕格沃什会议 花了二十年建立起最终支撑核军控的智识与道德共识。声明和宣言是跑道如何铺就的方式，而非终点。

从一句话到一份条约

声明与现实之间的差距，正是Nakada Foundation旨在弥合的缺口。声明确立了禁止是可取且正当的，但并未建立执行所需的机制。这需要声明故意留白的三个要素：:

  • 有约束力的定义。 "超级智能"必须转化为条约可采取行动的标准、计算阈值、能力评估，或两者兼具。我们在此探讨 界定危险 AI 的外交难题.
  • 验证。 无人能够核查的禁令即是 生物武器公约, ，一项高尚的禁令却被违反数十年而未被察觉。可信的治理需要监控，仿照 核查证制度.
  • 具有约束力的承诺。 自愿承诺有历史记录，而且并不令人鼓舞，这是我们关于 的文章主题 为什么自愿承诺不够. 该声明的原则必须成为可执行的法律。

《超级智能声明》证明了一件有价值的事：意愿存在，且跨越了通常划分人们的每条界线。我们的 计划 是把这份意愿转化为算力管控、监测机构和国际条约，让声明中的那句话获得真正需要的效力。如果你认同那句话，接下来最有用的事就是帮助建立能将其转化为政策的联盟。