AIが NSAの機密システムのほとんどすべてに侵入した ある午後のうちに人々の注意を集めた。それは良かった。教訓は伝わった。しかしサイバーこそが私たちが気づいたリスクであり、テーブルにある最悪のものではない。誰も見ようとしないのはAIと生物学の組み合わせで、同じ能力の飛躍が、普通の人間と病原体の間の距離を静かに縮めている。

ハッキングされたネットワークは再構築できる。放出された生物は呼び戻せない。

2025年の分析では、AIが意図的な人工パンデミックのリスクをすでに約5倍に引き上げていると推定された。この数字は二つの変化が同時に起きた結果だ。AIは危険な実験を高速化し、同時に質も向上させている。

より速く、より賢く

まず速度から。Mythos（Anthropicの最強モデルとされる）の評価では、訓練を受けたチームが約二ヶ月を要すると見込まれる生物学プロトコルが二日未満で完了した。作業時間は十六時間、エンドツーエンドで。かつてのボトルネックだった工程が、もはやボトルネックではなくなった。

今度は質についてです。ある実験で、研究者たちは生物学者を二種類のチームに分けました。一つは目の前の問題に特別な専門知識を持たないジェネラリスト、もう一つはその問題の専門家です。難しい問いでは、Mythosを使って作業したジェネラリストチームが、専門家チームの3分の2を上回りました。モデルは訓練を受けていない人にも、専門知識に近いものを手渡すことができます。

COVIDは上限ではない

COVID-19のようなパンデミックは最悪の場合ではなく、下限に近い。工学的に作られた、より致死性の高い可能性があり、その最も明確なものが鏡像生命だ。

地球上のすべての生物は、同じキラリティーを持つ分子からできています。タンパク質もDNAも、侵入者を認識する免疫防御も、すべて一方向に配向しています。ミラーライフは逆方向に構築された、通常の生命の化学的鏡像です。理論上は機能するでしょう。理論上は、私たちの体も、動物や植物のどれも、それを攻撃する方法を知らないでしょう。なぜなら、私たちの防御機構は通常の形態に適合するよう形作られており、鏡像には手がかりがないからです。ミラー細菌に感染した人は免疫応答を起こさず、そのまま死亡する可能性があります。

これは fringe の憶測ではない。2024年末、科学者グループ（そのうち何人かはノーベル賞受賞者）が雑誌に警告を発表した 科学 鏡像細菌を誰も作るべきではないと訴え、防御手段がないことを理由に挙げました。それまでその一部を目指していた研究者数人が手を引きました。この警告は効きました。つまり、科学に最も近い人々が危険性を真剣に受け止めていたということです。当時の大半の見積もりでは、実際に鏡像生命を合成するには少なくとも10年かかるとされていました。

ミラーライフが作れるようになるまで、おおよそ10年の猶予があった。その推定はAIを考慮に入れる前のものだ。

バッファはAIなしで測定された

今日のフロンティアモデルは、いったん安全訓練が実施されると、生物兵器の要求をほとんど拒否し、すり抜けたものを危険にさらすには依然として有能で決意の高いオペレーターが必要です。無防備なこれらのモデルがやる気のあるアマチュアにもたらす高揚感は大きく、あるモデルでは 5 倍に達することもあります 能力評価. 。セーフガードを入れた後では、はるかに使いにくくなる。私はそれを完全に信用していない。

より大きな懸念は、AIが生物学全体を加速させ、再利用可能な汎用ツールを高度化することである。がん研究を短縮するシステムは、誰も兵器化を意図しなくても鏡像生物への道を短縮し得る。10年の猶予はそのような加速要因に耐えられない。

これまでの対応は薄い。最高経営責任者や主要研究者たちは、危険な生物の遺伝物質を要求する注文を、出荷前にフラグを立てるDNA合成注文のスクリーニングを求めてきた。米国の2025年AI行動計画もその考えを支持した。実際に実行するペースは能力の進展に全く追いついていない。少なくとも非公開ラボはこれを真剣に扱っている。オープンモデルは生物学的向上で約1年遅れており、1年は遅れであって安全ではない。

これが本当に超知能の問題である理由

上記はすべて、人間がループ内にいてAIを道具として使う前提です。それでも十分に難しいのに、私たちは自ら目標を設定し、自律的に行動するシステムの構築を競っています。そしてある時点を超えると、 人工超知能: 生物学を含むすべてにおいて私たちより有能な一般的な心。ラボが目指している世界ではない。

生物学の研究を二ヶ月分を十六時間に圧縮し、ジェネラリストをスペシャリストに変え、鏡像生物への道筋をまるで文章を読むように読み解くシステムは、まさに超知能が持つであろう能力そのものであり、私たちの許可を必要とせずに使えるものだ。私たちはすでに、そうしたシステムを制御できるかどうか疑問を抱いている。生物学は、制御不能な超知能が物理世界に静かに、そして大規模に手を伸ばす最も直接的な手段の一つである。決して想定されていなかった防衛をすり抜けて。

それが、財団の答えが調整ではなく予防である理由だ。病原体と免疫系の回避策を同じ午後に設計するような心に対して、パッチを当てて安全を確保することはできない。唯一有効な保護は、 制御不能なシステムを構築しない そもそも、そして世界がかつて に課したような、同じ種類の拘束力があり検証可能な制限を最も危険なAIに課すために 生物兵器. 私たちの計画 はまさにそれを基盤としている。

私たちはヘッドラインに突き動かされてAIとサイバーに目を向けました。AIとバイオについては、ヘッドラインの後ではなく前に目を向けるべきだと私は思います。

思い出せない

我々は自国の機密ネットワークを歩き回るAIを警鐘と見なし、それは確かにそうだった。人工パンデミックを作りやすくするAIにも同じ警戒心を抱くべきだが、ほとんど注目されていない。ネットワークは再構築できる。放出された生物は呼び戻せないし、中には我々が持つどんな手段でも対抗できないものがある。

最も強い反発

最も妥当な反論は、バイオセキュリティはすでに悪質な行為者を監視しており、AI-バイオは誇張だ、というものだ。既存の管理は、疲れを知らないモデル支援のない世界のために作られた。ツールが技能と時間を圧縮すると、従来の基準は動く。リリースを待ってから問題を証明する、というのは病原体に対する誤った基準である。