我们醒悟于AI与网络。
我们对AI和生物仍浑然不觉。

当 AI 入侵了NSA几乎所有机密系统 在一个下午，人们就注意到了。很好。教训落地了。但网络安全是我们注意到的风险，却不是最严重的。没人愿意正视的是AI与生物学：同样的能力跃升，正在悄然缩短普通人与病原体之间的距离。

被黑的网络可以重建，释放的生物却无法召回。

2025年的一项分析估计，AI已将故意制造工程化大流行病的风险提高了约五倍。这个数字来自两个同时发生的变化：AI让危险实验更快，也让实验更好。

更快、更聪明

先从速度说起。在对Mythos（据称是Anthropic最强大的模型）的评估中，原本需要训练有素的团队耗时约两个月的生物学协议，在不到两天内就完成了。端到端仅用十六小时。曾经的瓶颈步骤已不再是瓶颈。

现在来看质量。在一项练习中，研究人员将生物学家分成两类团队。一类是通才，对眼前的问题没有特别专长。另一类则是该问题的专家。在一个难题上，与Mythos合作的通才团队击败了三分之二的专家团队。该模型能让没有受过训练的人获得接近专业水平的东西。

COVID 不是上限

像COVID-19这样的疫情更接近下限，而非最坏情况。还有工程化的可能性远比这更致命，最清晰的一个有个名字：镜像生命。

地球上每一种生物都由具有相同手性的分子构成。我们的蛋白质、DNA，以及识别入侵者的免疫防御，都朝向同一方向。镜像生命则以相反方式构建，是普通生命的化学镜像。理论上它能运作。理论上我们体内、任何动植物体内，都不知道如何对抗它，因为我们的防御是为抓住正常版本而塑造的，在镜像版本上找不到着力点。被镜像细菌感染的人可能完全不产生免疫反应，直接死亡。

这并非边缘猜测。2024年底，一群科学家（其中几位诺贝尔奖得主）在期刊上发表了警告 科学 呼吁不要建造镜像细菌，理由是无法防御它们。一些原本在推进相关部件的研究人员停手了。这个警告奏效了，说明最接近这项科学的人认真对待了危险。按照当时的大多数估计，真正合成镜像生命至少还要十年。

在镜像生命变得可构建之前，我们大约还有十年喘息期。这个估计尚未计入AI因素。

缓冲区是在无 AI 的情况下测量的

今天的边境模式,一旦安全培训到位,大多数都会拒绝生物武器的要求,过去的事情仍然需要一个有能力、有决心的操作者来做危险的事。 没有保障,这些模型的升起 手一个有动机的业余爱好者是巨大的, 有的多达五倍 能力评估. 。设置防护措施后，使用难度会大幅上升。我并不完全信任它。

我更大的担忧是 AI 整体加速生物学，以及构建可被 repurposed 的更好通用工具。缩短癌症项目的同一系统，也能缩短通往镜像生物体的道路，即使没人打算制造武器。十年的缓冲期在这种乘数面前无法完好保存。

目前的回应还很单薄。首席执行官和领先研究者已呼吁对DNA合成订单进行筛查，以便在危险生物的遗传物质发货前被标记。美国2025年人工智能行动计划支持这一想法。但实际执行的速度远不及能力推进的速度。封闭实验室至少认真对待；开放权重模型在生物提升上落后约一年，而一年是延迟，不是安全。

为什么这本质上是超级智能问题

以上一切都假设人类在环，使用 AI 作为工具。这已经够难了。它正在竞相构建能自行设定目标并自主行动的系统，而且在某个点之后，朝着 人工超级智能: 一个在所有事情上（包括生物学）都比我们更强大的通用心智，而不是实验室正在构建的世界。

一个能把两个月实验室工作压缩到十六小时、把通才变成专家、像读一段文字一样读出镜像生物体路径的系统，正是超级智能会拥有的那种能力，而且它不需要我们许可就能使用。我们已经怀疑自己能否控制这样的系统。生物学是失控的超级智能最直接触及物理世界的方式之一：悄无声息、大规模地进行，而我们从未为它建造过防御。

这就是基金会主张预防而非调优的原因。你无法通过打补丁来抵御一个能在同一个下午设计出病原体和免疫系统破解方案的心智。唯一可靠的保护是 不要构建无法控制的系统 in the first place, and to put the same kind of binding, verified limits on the most dangerous AI that the world once put on 生物武器. 我们的计划 正是围绕这一点构建。

我们因一则头条才意识到AI与网络安全。我宁愿我们在AI与生物安全方面，在头条出现之前就醒悟，而不是之后。

最强烈的反对

最公允的反驳是：生物安全已在管制不良行为体，而 AI-生物是炒作。现有管控是为没有不知疲倦模型协助的世界而建。当工具压缩技能与时间时，旧门槛就会移动。等待某次发布来证明观点，是针对病原体的错误标准。