人类已走得太远，不能就此消亡

大约三万六千年前，在今法国南部一处河谷上方洞穴中，有人将手掌平贴在冰冷的石灰岩上，吹洒颜料。岩石留下了轮廓。它至今仍在，位于肖维洞的黑暗中。

我想计算他们在赌什么。

我们对那个人一无所知。不知道姓名，也不知道是否有人爱过他们。我们只知道他们很冷，在短暂的一生中花了部分时间做一件不能果腹的东西，在黑暗里做，只为等别人来时它还在。他们想被看见。我们花了三万六千年才出现。

他们的物种并非稳妥之选。每位现存人类携带的遗传多样性都少于几个邻近森林的黑猩猩，这是祖先一度少到能塞进小镇的印记。我们曾是拥有灵巧双手的稀有猿类。

最初的一万代

火，然后是语言。接着是发现有目的地把种子埋进地里就能收获食物。大约一万两千年前，人们不再追随兽群，而是等待收成，这意味着定居，也意味着城市。

大约公元前3200年，在乌鲁克，有人用削过的芦苇在湿黏土上按压，记录大麦的数量。这就是文字的最初用途：一座神庙需要清点谷物。大约一千年后，人们用同样的符号书写一首关于国王无法接受友人去世的诗。城市陷落了。语言消亡了。那首诗至今仍可读懂。

大约公元前300年在亚历山大港，欧几里得证明不存在最大的质数。这个证明至今正确。它将永远正确，无论在哪个星球、哪个世纪。这座城市创造的其他一切都没有完整留存：图书馆已毁，港口淤塞，他们争论所用的语言只剩给专家。证明却完好无损地流传下来，因为它由推理构成，而推理不会腐烂。

工作在推进。九世纪巴格达的al-Khwarizmi写下了赋予我们“代数”一词的著作；约1020年，Ibn al-Haytham完成了一项光学研究，其依据的原则曾需奋力争取：若想知道关于世界的某个说法是否为真，那就去检验它。

文艺复兴，以及屋顶上的洞

1347年至1351年间，瘟疫杀死了大约三分之一的欧洲人。不是三分之一的军队，而是三分之一的所有人。村庄陷入沉寂并持续沉寂，幸存者亲手埋葬了自己的家人。

随后幸存者开始寻找过去。1417年，一位名叫波吉奥·布拉乔利尼的教皇秘书在教会分裂期间失业，骑马前往德国一座修道院，找到了沉睡千年之久的罗马诗歌的最后一份抄本。这才是文艺复兴在绘画之下的实质：刚刚目睹半个世界死去的人们，决定拯救几乎失传的东西，然后加以增补。

佛罗伦萨走得更远。它的主教堂始建于1296年，设计要求穹顶宽度超过罗马时代以来的任何建筑，而当时在世无人知道如何建造。于是他们先建教堂，留下一个大洞。几十年间，屋顶一直开着一个城市街区大小的口子，任凭风雨侵袭，因为这座城市赌上了一个尚未出生的人终将想出封闭的方法。

Filippo Brunelleschi于1418年赢得委托。他在能吊起石头前发明了起重机。他以人字形螺旋铺设了超过四百万块砖，在上升时自行支撑，无需下方木架，并于1436年封闭了洞口。你今天可以爬上去。

佛罗伦萨在屋顶留下一个洞，相信未来会把它补上。教堂空无一人。如果布鲁内莱斯基失败了，佛罗伦萨将失去一座建筑。没有人站在下面等着。

我喜欢那个故事，也想小心对待它，因为它与AI行业讲述的自我故事非常接近。把最难的部分留空，相信总有天才及时出现。区别在于洞口下方是什么。穹顶失败只会让城市失去一座大教堂。我们却要把洞口敞开在所有人头顶。

其余部分来得很快。15世纪50年代的古登堡印刷机让思想能跑在拥有者前面。1543年这一年，哥白尼把地球移出宇宙中心，维萨里打开人体并画出真实内部，两者都推翻了十四世纪以来未受质疑的权威。

我们停止埋葬孩子的世纪

1800年，每十个孩子中约有四个在五岁前夭折。不是在穷国，而是在各地。那就是在我们物种历史上，直到大约六代人之前，养育孩子的含义。今天，这一比例低于二十五分之一。

那要等到1796年詹纳的疫苗；等到1846年10月16日早晨，一位波士顿牙医让病人睡着，手术才不再是强壮男人按住清醒患者进行的酷刑；等到1847年塞麦尔维斯发现医生们把死亡从解剖室带到产房，是因为手没洗干净，而他后来死在精神病院，医学界仍拒不接受。

而这直到天花——这种曾在法老脸上出现、仅在二十世纪就可能杀死三亿人的疾病——终结才实现。最后一个自然感染天花的人是索马里医院的厨师阿里·毛·马林，时间是1977年10月。他活了下来。此后余生他都在为索马里儿童接种脊髓灰质炎疫苗，2013年因疟疾去世时仍在做这件事。

那些我们几乎终结一切的时刻

1945年，我们变得足够聪明，能终结自己，从那以后我们就一直与之共存。

1962年10月27日，一艘苏联潜艇在古巴附近失去无线电联系，遭到美国深水炸弹攻击，艇长认定战争已爆发。艇上鱼雷携带核弹头，发射需三名军官一致同意。瓦西里·阿尔希波夫在艇体震动中说不。二十一年后，斯坦尼斯拉夫·彼得罗夫看到苏联屏幕报告五枚美国导弹来袭，向上级报告这是故障。那是阳光照在高空云层上。

至少有两次，整个人类故事取决于椅子上一个疲惫的人选择不向上传递消息。几十年后我们才知道他们的名字。

不过，我们也做出了选择。1972年，世界禁止了生物武器。1987年，地球上每个国家都签署了 蒙特利尔议定书, 这是联合国历史上首个获得普遍批准的条约，臭氧层正按计划恢复。人类直面一种完全有能力构建的能力，并以书面形式、通过检查员共同说不。这些案例仍存于我们的先例页面.

一千一百七十亿

人口参考局将有史以来出生的人数定为约1170亿。他们每一个人都在你的上游。

那个埋葬了四个孩子、第二天早上又站起来的女人。那个只懂一半却仍在抄写一种语言的僧侣，因为放弃就意味着让它消失。布鲁内莱斯基的石匠，在百尺高空下无依托。索马里那个拿着针头和冷藏箱、走向下一个村庄的厨师。他们将它传递下去，大多不知道要传递向何方。它传到了我们手中。此刻就在我们手里。

而少数几家公司已决定用它做正确的事，就是相互竞赛，朝着一个在所有方面都超越人类的智能体冲刺，时间表由融资轮次决定。2023 年 5 月，它们的领导人在一句话上签了名，将 AI 导致的灭绝与流行病和核战争并列为全球优先事项。他们写的是自己的产品，公开发表，却没有放慢脚步。

我们不需要做这些。阅读 威胁 你也不会发现一颗轨迹固定的小行星。人工超级智能是少数资金雄厚的人选择建造的东西，他们参与的竞赛无人能描述终点。它可以像我们禁止其他本可建造却未建造的事物一样被禁止。我们的计划 要求的是：一项有约束力、可核查的国际禁令，持续到有人能证明该事物可被控制为止。不是附带失效日期的六个月暂停，而是一条红线。

我想要未来，而且比我们将要得到的更快。窄AI已经 交付好的部分, ，治愈方法与清洁能源，却无人交出钥匙。

我们并不被欠后续故事。没人承诺过，而我们之前的1170亿人也没得到。他们只拿到了一部分并传递下去，这也是我们每个人能做的唯一一件事。最不可原谅的事，就是成为那一代人：手里握着全部遗产，看清了即将发生什么，却把它写下来、签上名，然后照样去做。

我们熬过了瓶颈。我们熬过了瘟疫，随后重建了图书馆。我们在黑暗中把手放在墙上，好让后来人找到，而后来人确实找到了。我们已走得太远，不能死于一次产品发布。

对这一条说不。然后去构建剩下的部分，它已在等待，从不需要神。