Eine Kernwaffe ist ein Design um ein Materialproblem. Man braucht spaltbares Material, meist hochangereichertes Uran oder Plutonium aus einem Reaktorweg, in Mengen und Reinheiten, die nicht vom Himmel fallen. Anreicherungsanlagen sind groß, energiehungrig und voll von Ausrüstung, die Geheimdienste siebzig Jahre lang gelernt haben zu erkennen. Diese Härte ist nicht die ganze Nichtverbreitungsgeschichte, aber der Teil, den die Physik umsonst beigesteuert hat.

Führen Sie nun das Gedankenexperiment durch, das der Slogan auslässt. Angenommen, die genaue Atomkonfiguration, die eine Bombe ausmacht, wäre einfach. Angenommen, die Eingaben wären billig, dual-use und palettenweise erhältlich. Angenommen, ein fertiges Design könnte wie eine Datei kopiert werden. Wie viele Jahre bleibt der Spezies?

Nicht viele. Verträge würden trotzdem zählen. Ebenso Normen und Angst. Sie müssten all die Arbeit leisten, die derzeit Materialschwierigkeit leistet, und zwar in einem Maßstab, den noch kein Durchsetzungssystem je bewältigt hat. Der teilweise Erfolg des 20. Jahrhunderts mit Atomwaffen ist ohne die Reibung in der Lieferkette nicht verständlich. Wir hatten Glück, dass Uran wählerisch ist.

Was Härte uns brachte

Neun Staaten sind im Besitz von Atomwaffen bekannt. Diese Zahl ist ein Skandal und zugleich eine Art Gnade. Hunderte von Staaten verfügen über das wissenschaftliche Talent, die Physik zu verstehen. Weit weniger haben den industriellen Marathon unter Sanktionen, Überwachung und Kosten abgeschlossen. Der Nichtverbreitungsvertrag, Exportkontrollregime und das IAEA-Sicherungssystem stützen sich alle auf eine einfache Tatsache: Der Engpass ist sichtbar genug, um überwacht zu werden.

Entfernt man den Flaschenhals, erhält man kein etwas schwierigeres diplomatisches Problem. Man erhält eine Welt, in der der marginale Akteur – ein dünner Staat, eine gut finanzierte Gruppe, ein abgesplittertes Kommando – Städte als Geiseln nehmen kann. Abschreckungsrechnungen, die unter einer Handvoll nüchterner Mächte gerade noch funktionieren, funktionieren nicht unter Dutzenden Akteuren mit kürzeren Zeithorizonten. Die Bombe ist schrecklich. Einfache Bomben sind eine andere Art von Problem.

Wir überleben leicht verfügbares Nuklearmaterial nicht durch bessere Reden. Wir überleben schwer verfügbares Nuklearmaterial durch Inspektionen obendrauf. Superintelligenz driftet in Richtung „leicht“.

In welche Richtung bewegt sich die KI?

Frontier-Training erfordert immer noch ernsthaftes Geld, ernsthafte Chips und ernsthafte Ingenieursarbeit. Ein Cluster, groß genug, um die Frontier voranzutreiben, ist ein physisches Objekt in einem Gebäude mit einer Stromrechnung.

Die Trendlinie ist nicht die des Urans. Modelle werden pro Dollar fähiger. Techniken verbessern sich. Gewichte können nach dem Training nahezu kostenlos kopiert werden. Offene Veröffentlichungen und Lecks verbreiten Fähigkeiten seitwärts. Talente sind global. Nichts davon macht Superintelligenz morgen früh kostenlos. Alles deutet weg von dem zufälligen Geschenk, das die nukleare Nichtverbreitung ermöglichte: ein hartnäckiges Materialtor.

Vergleichen Sie die beiden Stapel ehrlich. Für ein zweites Nukleararsenal braucht es immer noch Anlagen, Rohstoffe und Zeit unter Teleskopen. Für eine zweite Kopie eines trainierten Modells braucht es ein Laufwerk. Wenn das gefährliche Objekt der Agent und nicht der Sprengkopf ist, begünstigt die Replikation das Softwaremuster, nicht das Isotopenmuster. Wir nehmen die Grenzen der Metapher ernsthaft woanders.

Die falsche Lektion und die richtige

Die falsche Lehre ist Fatalismus: Die Eingaben werden leichter, also ist Governance hoffnungslos. Es ist das Spiegelbild des Laborslogans, dass nur mehr Fähigkeit uns retten könne. Beide überspringen das Intervall, in dem wir uns noch befinden, in dem Frontier-Runs sichtbar sind und die Zahl ernsthafter Akteure klein ist.

Die richtige Lehre ist Dringlichkeit bezüglich der Härte, die wir erfinden müssen. Wenn Physik das Tor nicht eng halten wird, müssen Recht und Industriestandards es tun. Know-your-customer-Regeln für fortschrittliche Chips. Meldeschwellen für Trainingsläufe. Audit-Rechte. Hardware-Features, die groß angelegtes verdecktes Training schwerer verbergen lassen. Ein Vertrag, der Superintelligenz als nicht zulässiges Produkt erklärt. Superintelligenz kann nicht kontrolliert werden. Die NPT und die Modellvertragsentwurf sind Versuche, diese Schwierigkeit auf Papier festzuhalten, bevor der einfache Weg sich vollständig öffnet.

Das Gedankenexperiment abschließen

Stellen Sie sich vor, 1960 einem Präsidenten ein bewährtes Design und eine Welt zu präsentieren, in der Bombenmaterial wie Dünger verkauft wurde. Jeder Instinkt im Raum würde nach Kontrolle an der Quelle schreien. Niemand würde diesen Instinkt als wissenschaftsfeindlich bezeichnen. Niemand würde sagen, die Antwort sei, eine intelligentere Bombe zu erfinden, um die erste zu überwachen.

Wir bauen auf eine Fähigkeit zu, deren natürliches Materialtor schwächer ist als das der Bombe, während wir uns einreden, dass Geschwindigkeit Sicherheit ist. Das Gedankenexperiment ist nicht subtil. Wenn das Gefährliche leicht herzustellen ist, bekommt die Welt keine zweite Chance. Machen Sie es absichtlich schwer, solange das noch möglich ist, oder finden Sie heraus, wie sich „leicht“ anfühlt, ohne ein Fossilienprotokoll von Überlebenden, aus dem man argumentieren könnte.