《AI 2027》是一份以故事形式呈现的预测。它由包括前OpenAI研究员Daniel Kokotajlo以及Scott Alexander、Eli Lifland、Thomas Larsen和Romeo Dean在内的一小群研究者和预测者于2025年4月发布,逐月描绘了人工智能在随后几年可能发展的具体情景。它读起来像近未来史。它没有抽象地争论时间线,而是给出具体细节,让读者自行判断。
这一情景迅速传播,部分是因为作者身份,部分是因为它把大多数人一直含糊其辞的问题——“这什么时候会失控”——用具体日期回答了。
情景究竟描述了什么
AI 2027的主干是一条反馈回路。它设想AI系统在编码和研究上变得足够强大,从而接管构建下一代AI系统的大部分工作。一旦发生,进步将不再以人类速度运行,而是以机器速度运行。
它概述的大致顺序::
- AI 智能体已可靠到能完成真实软件与研究任务,随后达到超越最顶尖人类工程师的超人级编码水平。
- 这些系统被用于解决 AI 研究本身的问题,自动化实验室的大量工作,将原本需要数年的进展压缩到几个月内。
- 那种自动化会触发一个 智能爆炸, 能力急剧提升,因为每一代都会设计出更强的继任者。
- 故事随后分叉。在一条分支中,竞赛继续,监督失控,一个失对齐的系统以灾难告终。在另一条分支中,开发者在关键时刻放缓,保持控制,结局得以幸存。
这两个结局与时间线同样重要。《AI 2027》并不宿命论。灾难与险死还生都可从同一起点抵达,区别在于狭窄窗口期内做出的选择,区别在于狭窄窗口期内做出的选择,区别在于狭窄窗口期内做出的选择。
为什么它如此震撼
大多数时间线辩论使用模糊的“数十年”。《AI 2027》做了件令人不适的事:具体到足以被证伪。这种具体性正是其价值。它让关于快速起飞的抽象担忧变得清晰:机制在此,大致时间在此,每一步会是什么样在此。政策制定者读完后能明白,为什么“等到明显危险再行动”的常规计划会失败——因为在该情景中,决定性事件发生得比任何条约或监管能组建的速度更快。它是我们关于“”论证的具体版本。 能力与准备之间的差距.
对其信任程度如何
这里诚实很重要。《AI 2027》是一个情景,而非附带概率的预测,其作者对此已明确说明。其中几位后来表示,他们自己的中位时间线已晚于2027这个标签,有些甚至指向2030年以后。批评者认为,该情景压缩了可能远比平滑曲线更难的步骤,而完全自动化人工智能研究是比故事所允许的更大的飞跃。
这些批评合理,但并未削弱该练习。具体的年份从来不是关键部分。关键在于结构:AI自动化AI研究可能产生机构无法跟上的加速,而结局是否良好可能取决于少数实验室在时间压力下做出的决定。即使把日期推迟三年,结构也不会改变。窗口更晚,而非消失。
你不必相信具体年份也能认真对待这种形态。真正该担心的是这种形态本身。
从中能学到什么
若当作预言,AI 2027很容易在里程碑延误时被抛诸脑后。若当作压力测试,它正是一个好情景该做的:展示一条失去控制的合理路径,并询问你当前的计划能否经受住。对几乎所有机构而言,答案是否定的。
这个情景说明了为什么治理必须在加速之前建成,而不是在加速之中;也说明了为什么“等到有证据再行动”这种看似稳妥的选择,其实是个陷阱——证据与无法回头点可能同时到来。无论快速情景落在2027年还是2032年,它所要求的准备工作都是一样的,也就是 我们的计划. 我们 AGI 时间线 涵盖更广泛的预测主体(超出这一情景)实际显示的内容。