如果你在网上AI辩论里待过，就会见过这个后缀。人们把“e/acc”加在用户名后面，就像上一代人戴着翻领徽章。它代表 有效加速主义, 它是对AI安全运动最清晰、最自信、最具影响力的制衡。认真对待它（而非漫画化它）是反对它的唯一诚实方式。

有效加速主义相信什么

有效加速主义于 2022 年左右从匿名社交媒体账号中兴起，其中最著名的是自称“Beff Jezos”的账号，后来被确认为前 Google 工程师 Guillaume Verdon，他与一位被称为 Bayeslord 的合作者共同工作。它借用了一个更早哲学思潮的名字——加速主义，但在实践中比其学术前辈更简单、更乐观。

核心主张：:

  • 技术是人类繁荣的引擎。 健康、财富与自由的几乎每一次进步都源于技术进步。更多、更快的进步意味着更多繁荣。
  • AI是迄今为止最强大的此类引擎，, 加速它是最快治愈疾病、结束稀缺并扩展人类能做和能成为的事物的途径。
  • 灾难性风险很低或可忽略不计。 一些著名的加速主义者将AI导致的存在性灾难概率定为“零或接近零”，并将末日情景视为不可证伪的焦虑。
  • 不亲手构建，你无法理解一项技术。 克制会切断让我们学会如何使技术安全的经验。我们通过实践学习，而不是通过暂停。
  • 限制本身就很危险。 重度监管会集中权力、扼杀竞争，还可能把未来拱手让给更不讲原则的行动者。开放、快速、去中心化的发展比受控的减速更安全。

这样表述的话，e/acc是一种可辨识的美国式、可辨识的启蒙式进步信仰，指向一项真正有前景的技术，并非愚蠢。我们自己的立场与它的重合之处，远比网上争吵所显示的更多：正如我们明确指出的，, 我们不反对AI. 。窄AI已治愈疾病并加速发现。分歧远比“乐观派对末日派”更窄、更尖锐。

e/acc 正确的地方

诚实的反驳从承认强有力的观点开始，因为它们确实强有力。

进步确实一直是伟大的人道主义力量。 预期寿命、儿童死亡率、识字率、绝对贫困的长期趋势线是人类历史上最好的消息，而技术驱动了它们。对新技术的 blanket 怀疑并无良好记录。

预防性限制确实有成本，, ，而且往往看不见。每年延误一次治愈，就会有人本可存活却死去。“首先，不伤害”不能意味着“首先，什么都不做”，因为不作为也是一种有死亡人数的选择。任何严肃的安全论证都必须承担这一负担，而非挥手忽略。

权力的集中确实是一种风险。 把 AI 控制权交给少数在位者卡特尔或单一政府的治理体制，本身就是一种灾难，我们在关于 AI 单一实体 和 民主监督. 。e/acc说得对，“只管就行”可能酿成大错。

论证的破绽

然而结论并不成立。失败在于三个具体步骤，而非 e/acc 对技术的普遍乐观。

1. 它把未经证实的说法当作既成事实

支撑性前提是灾难性AI风险“接近于零”。但这不是一项发现。没有人证明过它。它与构建现代AI的研究者——Geoffrey Hinton、Yoshua Bengio，以及签署2023年声明将灭绝风险与流行病和核战争并列的数百人——的深思熟虑判断相悖。当一个运动的核心假设被该领域先驱直接否定时，将这一假设称为“乐观”低估了正在发生的事。这是一场赌注，而加速主义者悄然假定了整个论证所依赖的那个问题的答案。我们在关于 的解释器中考察了专家估计的实际范围。 P(doom).

2. “边建边学”在无法承受的错误面前失效

我们通过建造来最好理解技术的说法，对几乎所有事物都成立，唯独对这里唯一重要的那一类是完全错误的。迭代、从失败中学习的开发在失败可存活且可逆时有效。你发布有bug的软件，它崩溃，你修补。这个循环是所有工程进步的引擎。

当第一次严重失败也是最后一次时，它不起作用。一个失调的 超级智能 不是你可以修补的崩溃；根据 的逻辑，它是 工具性收敛 和 叛逆转向, 一个抗拒修正和关闭的系统。“我们边走边学”假定有第二次尝试。在这个具体问题上，可能没有。我们认为 e/acc 所追求的乌托邦式好处需要我们尚不知道如何实现的对齐, ，而未对齐的超级智能不会带来富足，它只会终结故事。

3. 它将协调问题误认为是价值观问题

e/acc 将辩论框定为热爱进步的乐观者与惧怕它的悲观者对立。但即使是坚定的乐观者也面临 the 竞赛动态: ：当多个实验室和国家竞争率先构建时，每一方都有动机削减安全措施，因为放慢脚步的人只会输给不放慢的人。结果是 每个人 比...更快 任何人 认为明智。那不是乐观主义的胜利，而是典型的集体行动失败——这种失败会产生没有哪个参与者愿意单独选择的结果。加速并不能解决这个陷阱，只会让它更深。唯一能解决它的，是协调，正是e/acc所反对的那种有约束力的国际框架。

分歧，精确陈述

剥去迷因后，两个阵营只在一件事上存在分歧：操作顺序。e/acc主张先建造，相信控制与理解会随能力而来。安全立场主张先确立控制，因为对这项技术而言，顺序出错的代价是无界且不可逆的。

你不必是悲观主义者才能持第二种观点。你只需注意到一种不对称。如果加速主义者正确而我们仍进行治理，我们只是损失一些速度和效率，这些是真实但可恢复的成本。如果加速主义者错误而我们不治理，我们就永远失去引导我们物种所创造的最强大之物的能力。面对这种不对称，坚持安全第一是最基本的审慎，适用于我们将做出的最高风险决策，而非对进步的恐惧。

这就是为什么Nakada Foundation不反对AI，也不反对美好未来。它主张在汽车达到全速前先装上刹车。如果你想要加速主义者承诺的丰裕，最可靠的办法是确保我们能活下来享受它。我们的 计划 就是“安全第一”在实践中的样子。