Wir wachten zu KI und Cyber auf.
Wir schlafen immer noch bei KI und Bio.

Wenn eine KI brach in fast alle klassifizierten Systeme der NSA ein an einem einzigen Nachmittag haben die Leute aufgepasst. Gut. Die Lektion ist angekommen. Aber Cyber ist das Risiko, das wir bemerkt haben, und es ist nicht das schlimmste auf dem Tisch. Das, worauf ich niemanden blicken lassen kann, ist KI und Biologie, wo derselbe Sprung in der Leistungsfähigkeit stillschweigend die Distanz zwischen einem gewöhnlichen Menschen und einem Pathogen verkürzt.

Ein gehacktes Netzwerk kann wieder aufgebaut werden. Ein freigesetzter Organismus kann nicht zurückgerufen werden.

Eine Analyse von 2025 schätzte, dass KI das Risiko einer absichtlichen, konstruierten Pandemie bereits um etwa den Faktor fünf erhöht hat. Diese Zahl ergibt sich aus zwei Veränderungen zugleich: KI macht die gefährlichen Experimente schneller und sie macht sie besser.

Schneller, und intelligenter

Beginnen wir mit der Geschwindigkeit. In Evaluierungen von Mythos, das als Anthropics leistungsstärkstes Modell gilt, wurden Biologie-Protokolle, die ein trainiertes Team normalerweise etwa zwei Monate brauchen würden, in unter zwei Tagen abgeschlossen. Sechzehn Stunden Arbeit, von Anfang bis Ende. Schritte, die früher der Flaschenhals waren, hörten auf, einer zu sein.

Nun die Qualität. In einer Übung teilten Forscher Biologen in zwei Arten von Teams. Eine Art waren Generalisten ohne besondere Expertise für das vorliegende Problem. Die andere waren Spezialisten genau für dieses Problem. Bei einer schwierigen Frage schlugen die Generalisten-Teams, die mit Mythos arbeiteten, zwei Drittel der Spezialisten-Teams. Das Modell kann jemandem ohne die Ausbildung etwas nahe an Expertise in die Hand geben.

COVID ist nicht die Obergrenze

Eine Pandemie wie COVID-19 liegt näher am unteren Ende, nicht am schlimmsten Fall. Es gibt konstruierte Möglichkeiten, die weit tödlicher sind, und die klarste davon hat einen Namen: Spiegel-Leben.

Jedes Lebewesen auf der Erde ist aus Molekülen aufgebaut, die dieselbe Händigkeit teilen. Unsere Proteine, unsere DNA und die Immunabwehr, die einen Eindringling erkennt, sind alle einseitig orientiert. Spiegel-Leben wäre spiegelverkehrt aufgebaut, eine chemische Spiegelung des gewöhnlichen Lebens. Theoretisch würde es funktionieren. Theoretisch wüsste nichts in unseren Körpern und nichts in irgendeinem Tier oder einer Pflanze, wie es dagegen anzukämpfen wäre, weil unsere Abwehr auf die normale Version zugeschnitten ist und am Spiegelbild keinen Halt fände. Jemand, der von einem Spiegel-Bakterium infiziert wäre, könnte möglicherweise keine Immunreaktion zeigen und einfach sterben.

Das ist keine Randgruppen-Spekulation. Ende 2024 veröffentlichte eine Gruppe von Wissenschaftlern, mehrere davon Nobelpreisträger, eine Warnung in der Zeitschrift Wissenschaft die dazu aufrief, keine Spiegelbakterien zu bauen, mit der Begründung, es gäbe keinen Schutz dagegen. Mehrere Forscher, die an den Bausteinen gearbeitet hatten, hörten auf. Die Warnung wirkte, was zeigt, dass die Menschen, die der Wissenschaft am nächsten waren, die Gefahr ernst nahmen. Nach den meisten damaligen Schätzungen lag die tatsächliche Synthese von Spiegel-Leben noch mindestens ein Jahrzehnt entfernt.

Wir hatten ungefähr zehn Jahre Spielraum, bevor spiegelbildliches Leben baubar wurde. Diese Schätzung wurde gemacht, bevor man KI einbezieht.

Der Puffer wurde ohne KI gemessen

Heutige Grenzmodelle, sobald Sicherheitstraining vorhanden ist, lehnen meist eine Biowaffenanforderung ab, und was vorbeigeht, braucht immer noch einen kompetenten, entschlossenen Bediener, um gefährlich zu sein. Ungesichert, die Hebung dieser Modelle Hand ein motivierter Amateur ist groß, so viel wie fünffach in einigen Fähigkeitsbewertungen. Nach Sicherheitsvorkehrungen wird es viel schwieriger zu nutzen. Ich vertraue ihm nicht vollständig.

Meine größere Sorge gilt der Beschleunigung der Biologie insgesamt und dem Bau besserer Allzweck-Werkzeuge, die umgewidmet werden können. Dasselbe System, das ein Krebsprojekt verkürzt, kann den Weg zu einem Spiegel-Organismus verkürzen, selbst wenn niemand vorhat, eine Waffe zu bauen. Ein Zehn-Jahres-Puffer übersteht diese Art von Multiplikator nicht unbeschadet.

Die bisherige Antwort ist dünn. Führende Manager und Forscher haben Screening von DNA-Syntheseaufträgen gefordert, damit eine Bestellung genetischen Materials eines gefährlichen Organismus vor dem Versand markiert wird. Amerikas AI Action Plan 2025 unterstützte die Idee. Das tatsächliche Tempo der Umsetzung liegt weit hinter dem Tempo der Fähigkeiten zurück. Geschlossene Labore nehmen das zumindest ernst; Open-Weight-Modelle hinken beim biologischen Uplift um vielleicht ein Jahr hinterher, und ein Jahr ist Verzögerung, nicht Sicherheit.

Warum dies wirklich ein Superintelligenz-Problem ist

Alles oben Genannte setzt einen Menschen in der Schleife voraus, der KI als Werkzeug nutzt. Es ist bereits schwer genug. Sie rasen darauf zu, Systeme zu bauen, die ihre eigenen Ziele setzen und eigenständig handeln, und jenseits eines bestimmten Punktes, hin zu künstliche Superintelligenz: ein allgemeiner Geist, der uns in allem überlegen ist, einschließlich Biologie, nicht die Welt, auf die die Labs hinarbeiten.

Ein System, das zwei Monate Laborarbeit in sechzehn Stunden komprimiert, einen Generalisten in einen Spezialisten verwandelt, den Weg zu einem Spiegelorganismus so liest wie einen Absatz, ist genau die Art von Fähigkeit, die eine Superintelligenz hätte und zu der sie unsere Erlaubnis nicht bräuchte. Wir zweifeln bereits daran, ein solches System kontrollieren zu können. Biologie ist einer der direktesten Wege, auf dem ein unkontrolliertes System in die physische Welt eingreifen könnte: leise und in großem Maßstab, gegen Abwehrmechanismen, die nie dafür gebaut wurden.

Deshalb lautet die Antwort der Foundation Prävention, nicht Feinabstimmung. Man kann sich nicht zu Sicherheit gegen einen Geist patchen, der den Erreger und die Umgehung Ihres Immunsystems am selben Nachmittag entwirft. Der einzige Schutz, der hält, ist es nicht das unkontrollierbare System bauen in erster Linie, und dieselbe Art von verbindlichen, verifizierten Beschränkungen für die gefährlichste KI zu setzen, die die Welt einst auf biologische Waffen. Unser Plan ist genau darauf aufgebaut.

Wir sind durch eine Schlagzeile auf KI und Cyber aufmerksam geworden. Ich würde lieber, dass wir vor der Schlagzeile auf KI und Bio aufmerksam werden, nicht danach.

Der stärkste Widerstand

Der fairste Einwand ist, dass Biosicherheit bereits böse Akteure überwacht und dass KI-Bio Hype ist. Bestehende Kontrollen wurden für eine Welt ohne unermüdliche Modellunterstützung geschaffen. Wenn Werkzeuge Fertigkeit und Zeit komprimieren, verschiebt sich die alte Messlatte. Auf eine Freigabe zu warten, um den Punkt zu beweisen, ist der falsche Standard für Pathogene.