MAIM: Die Logik des Kalten Krieges
Jetzt auf Superintelligenz ausgerichtet

„Superintelligence Strategy“ erschien im März 2025 mit einer Autorenliste, die in Washington ernst genommen werden sollte: Dan Hendrycks, Direktor des Center for AI Safety; Eric Schmidt, ehemaliger CEO von Google; und Alexandr Wang, Gründer von Scale AI. Ihr Zweck war es, Superintelligenz aus der Forschungsliteratur in die Sprache der nationalen Sicherheit zu überführen, und nach diesem Maßstab gelang es. Innerhalb weniger Wochen wurde sie von Rüstungskontrollexperten diskutiert, in Think Tanks durchgespielt und in Kongressanhörungen zitiert.

Die Analogie ist das Interessanteste daran, und auch das Problem.

In seinem Zentrum steht ein einziges, sorgfältig gewähltes Akronym. MAIM, für Mutual Assured AI Malfunction, ist ein bewusstes Echo von MAD und trägt die Kernbehauptung des Papiers: dass die schreckliche Pattsituation, die die Atommächte davon abhielt, einander zu vernichten, ein Gegenstück in der KI hat, das bereits existiert, ob jemand es anerkennt oder nicht.

Wir finden, dass der Artikel etwas wirklich Wichtiges richtig erfasst, und wir finden, dass sein zentraler Mechanismus das Gewicht nicht tragen kann, das darauf gelegt wird. Beide Hälften sind wichtig.

Die Sackgasse, von der das Papier sagt, dass sie bereits existiert

Das Argument läuft so: Angenommen, ein Staat steht kurz vor einem entscheidenden Durchbruch, einem System, das ihm, in der Formulierung des Papiers, eine Superwaffe und die Herrschaft über die Zukunft verschaffen würde. Kein Rivale kann es sich leisten, das geschehen zu lassen. Eine Welt, in der eine einzige Hauptstadt Superintelligenz kontrolliert, ist für jede andere Hauptstadt unerträglich in derselben Weise, wie ein Erstschlagvorteil im Kalten Krieg unerträglich war.

Aber anders als ein stationiertes nukleares Arsenal ist ein laufendes KI-Projekt verwundbar. Es lebt in Rechenzentren mit bekannten Koordinaten, läuft auf Stromnetzen und hängt von monatelangen Trainingsläufen ab, die ein gut platzierter Einbruch stillschweigend korrumpieren kann. Also hat ein bedrohter Rivale Optionen unterhalb von Krieg, und eine Leiter davon: Spionage, verdeckte Cyberangriffe, die einen Trainingslauf verschlechtern oder seine Daten vergiften, Sabotage der umgebenden Infrastruktur und, auf der extremsten Stufe, physische Angriffe auf die Einrichtungen selbst.

Der Aufsatz behauptet, es handele sich um eine Beschreibung, die nach Ansicht der Autoren bereits die strategische Realität abbildet, vor der die KI-Supermächte stehen. Jeder Staat, der einen aggressiven, sichtbaren Vorstoß nach KI-Dominanz unternimmt, muss damit rechnen, dass sein Projekt durch seine Rivalen sabotiert wird. Daher der Name und daher die paradoxe Hoffnung: Wenn jeder Akteur weiß, dass ein Sprint um Dominanz sabotiert wird, sprintet niemand, und der destabilisierendste Zug im Spiel wird abgeschreckt. Wie beim MAD argumentieren die Autoren, dass der Stillstand durch bewusste Praxis stabilisiert werden kann: Datenzentren außerhalb von Städten anzusiedeln, damit die extremen Stufen weniger katastrophal ausfallen, die Cyber-Stufen der Eskalationsleiter klar von den kinetischen zu trennen und die Transparenz zwischen Rivalen zu erweitern, damit niemand ein kommerzielles Projekt mit einem Dominanzvorstoß verwechselt.

Die anderen beiden Säulen

MAIM bekam die Schlagzeilen, aber die Strategie hat drei Teile, und der zweite ist der, den wir für am nützlichsten halten. Nichtverbreitung wendet die Maschinerie, die gebaut wurde, um spaltbares Material von Terroristen fernzuhalten, auf KI an: Verfolge fortschrittliche Chips so, wie angereichertes Uran verfolgt wird, sichere Modellgewichte gegen Diebstahl und baue Schutzmechanismen in Systeme ein, damit sie sich weigern, bei der Konstruktion von Biowaffen oder Angriffen auf kritische Infrastruktur zu helfen. Diese Säule setzt voraus, dass Staaten bei Rechen-Governance auch während sie in allem anderen konkurrieren, genau wie Washington und Moskau die Nichtverbreitung durch die schlimmsten Jahre des Kalten Krieges gemeinsam betrieben.

Wettbewerbsfähigkeit ist der realistische Zehnt: Staaten sollten ihre Wirtschaft und Militärs mit KI stärken und vor allem fragile Chip-Lieferketten durch heimische Fertigung reparieren, eine Sorge, die sich seither zu die Exportkontrollpolitik gestalten nun die Industrie.

Das Papier stellt dieses Triad zwei Strategien gegenüber, die es ablehnt: das hands-off-Rennen, zuerst Superintelligenz zu bauen und zu hoffen, und das, was es als unpraktikables globales Moratorium abtut. Abschreckung ist in dieser Darstellung die erwachsene Option zwischen Rücksichtslosigkeit und Naivität.

Was die Arbeit richtig macht

Beginnen wir mit der Leistung. Jahrelang lautete das Standardargument für das Wettrennen, dass die Superintelligenz eines Rivalen katastrophal wäre, also müssten wir zuerst dort ankommen. „Superintelligence Strategy“ kehrt dies stillschweigend um. Wenn ein einseitiger Griff nach Dominanz für Rivalen unerträglich ist, dann ist jeder Griff für jemanden unerträglich, und der Sprint selbst wird zur Bedrohung der nationalen Sicherheit statt der Antwort darauf. Von Autoren dieses Profils ausgehend, leistete diese Umkehrung echte Arbeit. Sie brachte Kontrollverlust und strategische Instabilität auf die Schreibtische von Menschen, die nie ein Alignment-Paper lesen würden, und stellte in respektabler Sprache fest, dass Zurückhaltung durchgesetzt werden kann, statt nur erbeten zu werden.

Die Nichtverbreitungssäule ist derweil lediglich ein Teil der Vertragsarchitektur, für die wir eintreten und die aus einer anderen Richtung erreicht wurde. Chip-Tracking, Gewichts-Sicherheit und hardwaregestützte Governance dienen sowohl einem Abschreckungsregime als auch einem Verifikationsregime gleichermaßen. Jeder Dollar, der in sie fließt, ist ein Dollar, der eine künftige Vereinbarung überprüfbar macht.

Wo die Kernenergie-Analogie hinkt

Der Ärger beginnt, wenn man fragt, was MAD stabil machte, und jedes Element mit seinem KI-Gegenstück abgleicht.

Ein nuklearer Abschuss ist eindeutig. Er ist innerhalb von Minuten zurechenbar, sein Ursprung auf den Meter genau bekannt, und die Reaktion, die er auslöst, ist sicher und allen im Voraus bekannt. Nun der Vergleich: Ein „destabilisierender“ Trainingslauf sieht von außen wie ein kommerzieller aus; dieselben Cluster, derselbe Stromverbrauch, dieselbe Satellitensignatur. Der Schwellenwert ist undefiniert, und nicht wegen mangelnder Entwurfsarbeit, sondern weil Fähigkeit sich nicht ankündigt wie eine Raketenwolke. Das ist das Problem, das wir genannt haben gefährliche KI definieren, und MAIM erbt es ganz: Ein Abschreckungsregime braucht eine rote Linie, und das Papier kann nicht genau sagen, wo die Linie ist.

Attribution versagt auch in die andere Richtung. Wenn ein Trainingslauf zusammenbricht, war es Sabotage, ein Bug oder schlechte Daten? Ein Staat kann angegriffen werden, ohne es zu wissen, was bedeutet, dass der Angriff nichts abschreckt, oder sich angegriffen glauben, wenn er es nicht war, was schlimmer ist. Abschreckung funktioniert durch sichtbare, glaubwürdige, zurechenbare Bedrohungen. Verdeckte Cyberoperationen sind keine der drei. Analysten bei MIRI, RAND und anderswo haben genau diese Punkte innerhalb von Wochen nach der Veröffentlichung hervorgehoben, und die Observability-Kritik insbesondere wurde nie zufriedenstellend beantwortet: Mehrere Forscher kamen zu dem Schluss, dass die Bedingungen für stabile Abschreckung derzeit nicht gegeben sind und möglicherweise tiefe, gegenseitige Transparenz in die Datenzentren der Rivalen erfordern, bevor sie es könnten.

Da ist auch die Eskalationsleiter selbst. Angriffe auf die kritische Infrastruktur nuklear bewaffneter Staaten als Routine-Staatskunst zu normalisieren, ist offensichtlich keine Rezeptur für Stabilität. Die Antwort des Papiers, die Cyber-Sprossen deutlich unter den kinetischen zu halten, setzt voraus, dass das Ziel einer Sabotagekampagne Ihre Lesart teilt, auf welcher Sprosse Sie stehen. Die Geschichte des Kalten Krieges ist ein Katalog von Momenten, in denen solche Lesarten auseinandergingen, und sie bietet eine weitere Warnung, auf die das Papier nicht eingeht: MAD scheiterte mehrmals beinahe, durch Unfälle, Fehlalarme und Fehleinschätzungen, und wurde ebenso durch Glück wie durch Doktrin gerettet. Seine Logik zu übernehmen bedeutet, seine Versagensmodi zu übernehmen.

Abschreckung braucht einen eindeutigen Stolperdraht und eine unverwechselbare Reaktion. MAIM hat bisher keines von beiden.

Was MAIM nicht kann, selbst wenn es funktioniert

Gewähre dem Rahmenwerk alles, und eine tiefere Grenze bleibt. MAIM schreckt vor einem bestimmten Versagen ab: dem absichtlichen, sichtbaren Sprint eines Staates nach einseitiger Dominanz. Es tut nichts gegen die Versagensart, die uns am meisten Sorgen bereitet, denn diese hat keinen Aggressor, den man abschrecken könnte.

Fehlausrichtung kümmert es nicht, welche Flagge über dem Rechenzentrum weht. Eine Welt rivalisierender Programme, die alle sorgfältig unter der Sabotageschwelle bleiben, ist immer noch eine Welt auf dem Weg zu Systemen, die niemand kontrollieren kann, mit dem üblichen Druck des Wettrennens, Sicherheitsmaßnahmen zu kürzen, vollständig erhalten. Schlimmer noch: MAIM erzeugt einen eigenen Druck: Projekte unter Sabotagedrohung haben allen Grund, sich zu verstecken, zu verhärten und zu verteilen, und Geheimhaltung ist der Feind jeder Sicherheitspraktik, die etwas taugt. Abschreckung kontrolliert die Konkurrenten, während die Kontrollproblem selbst bleibt unkontrolliert, und die langsameren, leiseren Wege zur Katastrophe, einschließlich der schrittweise Entmachtung das keinen Dominanzversuch erfordert, vollständig unter seinem Radar bleibt.

Eine Pattsituation ist ebenfalls kein Ruhezustand. MAD war erträglich, weil die Abschreckung des Einsatzes einer existierenden Waffe eine begrenzte Aufgabe ist. MAIM muss die Entwicklung einer sich bewegenden Fähigkeit für immer abschrecken, mit Schwellen, die sich jedes Jahr verschieben, wenn Algorithmen effizienter werden und die Compute-Grenze dezentralisiert. Dauerhaftes Krisenmanagement ist ein Countdown mit gutem Branding, keine Strategie.

Abschreckung und Verträge sind keine Rivalen

Nukleare Abschreckung stand nie allein. Sie wurde über Jahrzehnte durch die unscheinbare Maschinerie überlebensfähig gemacht, die daran befestigt wurde: Hotlines, Inspektionen, die NPT, SALT, START, die Verifikationsprotokolle die es jeder Seite ermöglichen, die Sprengköpfe der anderen zu zählen. MAD lieferte die Angst; Rüstungskontrolle wandelte die Angst in Regeln um, bevor die Angst sich selbst in Krieg umwandeln konnte. Die erste Hälfte dieser Geschichte zu beschwören und die zweite abzuwinken, wie es das Papier tut, wenn es koordinierte Zurückhaltung als utopisch abtut, zitiert den Kalten Krieg selektiv.

Und die zwei Hälften teilen sich eine Antriebsmaschine. Um Sabotage glaubwürdig zu drohen, muss ein Staat tief genug in die KI-Programme seiner Rivalen blicken, um zu erkennen, wann ein Dominanzversuch läuft. Diese Überwachung, die Satelliten, das Chip-Tracking, die Erkenntnisse über Trainingsläufe, ist das meiste dessen, was eine Vertrag über Superintelligenz Bedarf an Verifikation. Das Papier ist, gegen seine eigenen Absichten gelesen, ein Argument dafür, dass der schwierige Teil eines Vertrags bereits im Aufbau ist.

Unser Urteil ist daher enger, als es sowohl die Befürworter des Papers als auch seine schärfsten Kritiker formulieren würden. MAIM ist wertvoll als Beschreibung: Es benennt die Pattsituation korrekt, stellt fest, dass unilaterale Sprints auf Widerstand stoßen werden, und sagt den Verteidigungsbehörden, dass das Rennen eine Bedrohung und keine Lösung ist. Es scheitert als Ziel, weil eine dauerhafte, undefinierte, verdeckte Pattsituation zwischen Nuklearmächten keine Stabilität darstellt und weil es die eigentliche Quelle existenziellen Risikos, die Systeme selbst, unregiert lässt. Abschreckung kauft Zeit. Eine verifizierte internationale Vereinbarung ist wofür die Zeit ist.