Der MIRI Treaty Draft zur Verhinderung
Superintelligenz, erklärt

Das Papier ist betitelt Ein internationales Abkommen zur Verhinderung der vorzeitigen Schaffung künstlicher Superintelligenz (arXiv:2511.10783), geschrieben von Aaron Scher, David Abecassis, Peter Barnett und Brian Abeyta vom Technical Governance Team des Machine Intelligence Research Institute und veröffentlicht im November 2025. Es handelt sich nicht um einen unterzeichneten Vertrag, und er gibt auch nicht vor, dass der politische Wille dazu bereits besteht. Was er tut, ist die Lücke zu schließen, die Gegner einer ASI-Governance seit Jahren ausnutzen: die Behauptung, ein Verbot von Superintelligenz sei nur eine Parole ohne Substanz. Der MIRI-Entwurf ist das „etwas dahinter“, ausgearbeitet bis ins Detail, das Diplomaten brauchen würden.

MIRIs Technical Governance Team hat einen vollständigen Entwurf veröffentlicht, eine internationale Vereinbarung zum Stopp des Wettrennens zur Superintelligenz, komplett mit Compute-Limits, einer Chip-Cluster-Linie und einem Verifikationsregime, das für Rivalen geschaffen wurde, die einander nicht vertrauen. Hier steht, was er tatsächlich sagt, und warum es wichtig ist, dass er jetzt existiert.

Es kam zusammen mit seinem natürlichen Begleiter. Tage zuvor, die Erklärung zu Superintelligenz sammelte mehr als 850 Unterzeichner (darunter Geoffrey Hinton, Yoshua Bengio und Stuart Russell) hinter einem einzigen Satz: dass die Entwicklung von Superintelligenz verboten werden sollte, bis es einen breiten wissenschaftlichen Konsens gibt, dass dies sicher und kontrollierbar geschehen kann, und starke öffentliche Zustimmung. Die Erklärung ist die Forderung. Der MIRI-Entwurf ist der Mechanismus. Der eine sagt Stopp; die andere sagt here is how you would actually make stopping verifiable.

Eine Koalition, nicht ein universeller Vertrag

Der Entwurf baut auf einer Kernkoalition auf, statt auf die Zustimmung aller etwa 190 Regierungen zu warten, in der Formulierung der Autoren „eine von den Vereinigten Staaten und China geführte Koalition, die den Umfang des KI-Trainings und gefährlicher KI-Forschung einschränken würde“. Diese Wahl ist bewusst und realistisch. Die fortschrittlichen Chips, die führenden Labore und die Fertigungsnadelöhre konzentrieren sich auf wenige Jurisdiktionen. Wenn Washington und Peking sich binden und ihren Einfluss über die Lieferkette nutzen, um andere einzubinden, regelt das Abkommen die Akteure, die tatsächlich zählen, ohne zuerst universelle Zustimmung zu verlangen. Es ist dieselbe Logik, die das Montrealer Protokoll funktionieren ließ: Beginnt mit den Parteien, die das Problem bewegen können.

Die Schwellenwerte, die "zu weit" definieren

Da KI-Fähigkeit ein kontinuierliches Spektrum ohne natürliche Grenze ist, verankert der Entwurf seine Regeln an etwas Messbarem: Trainings-Compute, gezählt in FLOP (Floating-Point Operations). Er legt zwei Stufen fest.

Die 16-GPU-Linie: Abgedeckte Chip-Cluster

Eine Rechenleistungsgrenze ist nur so gut wie die Fähigkeit, die Rechenleistung zu sehen. Deshalb knüpft der Entwurf seine Regeln an eine physische Einheit, die er als Covered Chip Cluster bezeichnet: jede Gruppe von KI-Chips oder jedes vernetzte Cluster mit einer aggregierten effektiven Rechenkapazität von mehr als sechzehn H100-Äquivalenten. Um das konkret zu machen, merkt das Papier an, dass sechzehn H100-Chips etwa 15.840 TFLOP/s liefern und 2025 in der Größenordnung von 500.000 Dollar kosten. Oberhalb dieser Grenze dürfen Chips nicht außerhalb überwachter Einrichtungen konzentriert werden.

Das ist der physische Anker für das gesamte Regime. Ein Frontier-Training-Lauf kann nicht aus der Luft gezaubert werden; er erfordert die Zusammenstellung eines großen, stromhungrigen Clusters aus knappen Chips. Indem jede Konzentration oberhalb der Sechzehn-GPU-Linie in deklarierte, überwachte Standorte gezwungen wird, macht der Entwurf die verbotene Handlung (einen verdeckten groß angelegten Lauf) ohne Entdeckung schwer ausführbar. Alles andere im Verifikationsregime hängt an dieser einen Anforderung.

Wie man ein Versprechen zwischen Rivalen überprüft

Verifikation ist der schwierige Teil jeder Vereinbarung zwischen Parteien, die einander misstrauen, und der Entwurf behandelt sie als zentral und nicht als nachträglichen Einfall. Er schichtet mehrere Mechanismen übereinander, von denen jeder ein Vorbild in bestehenden Rüstungskontrollabkommen hat:

• Lieferketten-Tracking. Fortschrittliche KI-Chips werden von der Fertigung über Verkauf bis zur Installation verfolgt, damit die Koalition weiß, wo sich der weltweite Compute physisch befindet.
• Überwachung des Stromverbrauchs. Große Trainingsläufe verbrauchen enorme, charakteristische Mengen an Strom; die Überwachung des Energieprofils von Rechenzentren ist eine Möglichkeit, nicht deklarierte Rechenleistung zu markieren.
• Konsolidierung in überwachte Einrichtungen. Die Regel, dass Cluster oberhalb der Schwelle in deklarierten Standorten leben müssen, verwandelt „finde das versteckte Rechenzentrum“ in „Rechenschaft über die bekannten ablegen“.
• Herausforderungsinspektionen. Eine Partei kann eine kurzfristige Vor-Ort-Inspektion eines verdächtigen Ortes verlangen, ein Mechanismus, den der Entwurf an Teil X der Chemiewaffenkonvention anlehnt, wo er auf jahrzehntelange Praxis zurückblickt.

Keines davon ist Science-Fiction. Jedes ist eine Anpassung einer Technik, die bereits zur Verifikation nuklearer oder chemischer Verpflichtungen eingesetzt wird. Neu ist die Anwendung auf Rechenleistung – und zwar bevor, nicht nachdem die gefährliche Fähigkeit existiert.

Die Forschung einschränken, nicht nur die Rechenleistung

Die neuartigste (und umstrittenste) Bestimmung des Entwurfs geht über Hardware hinaus. Sie beschränkt bestimmte Forschung selbst: Arbeiten, die zur Entwicklung von Frontier-KI beitragen oder die Verifikationsmethoden gefährden könnten, auf denen das Abkommen beruht. Die Logik ist, dass algorithmischer Fortschritt Roh-Compute ersetzen kann; ein Durchbruch, der das Training zehnmal effizienter macht, senkt stillschweigend den Compute-Bedarf, um die Gefahrenlinie zu überschreiten. Ein Regime, das nur die Chips beobachtet und die Wissenschaft ignoriert, würde schließlich von ihr überholt. Diese Linie zu ziehen, ohne gewöhnliche, nützliche Forschung zu ersticken, ist wirklich schwierig, und die Autoren räumen offen ein, dass es eines der härtesten Probleme des Vorschlags ist.

Die Autoren argumentieren, dass der Vorschlag technisch ausreichen würde, die Entstehung künstlicher Superintelligenz zu verhindern, wenn er heute umgesetzt würde, und räumen gleichzeitig ein, dass der politische Wille dazu derzeit noch fehlt.

Scher, Abecassis, Barnett & Abeyta, MIRI Technical Governance Team, arXiv:2511.10783 (2025)

Von einem Entwurf zu einem Gesetz: Die ersten Schritte existieren bereits

Ein Paper auf arXiv ist kein bindendes Instrument. Aber die Welt beginnt nicht auf einer leeren Seite, und der Weg von hier zu etwas Durchsetzbarem ist kürzer, als es scheint. Drei bestehende Regime sind teilweise Präzedenzfälle, jedes davon erfüllt bereits einen Teil dessen, was der MIRI-Entwurf bräuchte:

Die Arbeit, diese Fragmente in einen kohärenten Pfad zu verwandeln, ist genau dort, wo eine Advocacy-Organisation nützlich ist. Sie bedeutet, den MIRI-Entwurf, die Erklärung zu Superintelligenz, bestehende Exportkontrollen und die Europarats-Konvention in gezielte Outputs zu synthetisieren, die sich an die Menschen richten, die Gesetze schreiben und verhandeln: Modellgesetze zur nationalen Umsetzung; Analysen, wie heutige Chip-Kontrollen und der EU AI Act zu der Überwachung evolvieren könnten, die der Vertrag vorsieht; und verständliche Updates, die reale KI-Fähigkeiten mit den vorgeschlagenen Schwellenwerten abgleichen. Diese Outputs sind wenig wert, wenn sie auf einer Website liegen. Sie sind etwas wert vor Mitarbeitern des Kongresses, Stellen der Exekutive, dem wachsenden Netzwerk von nationale KI-Sicherheitsinstitute, und diplomatische Kanäle, wo die der Foundation Politikarbeit zielt sie an.

Warum ein Entwurf das Gespräch verändert

Der Wert des MIRI-Papiers besteht darin, dass es eine vage Aspiration in eine Reihe spezifischer, diskutierbarer Entscheidungen umwandelt – einen strengen Schwellenwert, den man als zu niedrig oder zu hoch argumentieren kann, eine Sechzehn-GPU-Grenze, die man anfechten kann, eine Forschungsbeschränkung, die man einzugrenzen versuchen kann –, nicht darin, dass jemand es so unterzeichnen wird, wie es geschrieben ist. Das ist ein großer Schritt nach vorn. Es verschiebt die Debatte von „ein Vertrag ist unmöglich“ zu „hier ist der Vertrag; hier ist genau das, worauf wir uns einigen müssten“. Wie bei unserem eigenen struktureller Entwurf eines Modellvertrags, der Punkt ist zu zeigen, dass die Barriere nicht das Fehlen rechtlicher oder technischer Instrumente ist. Jeder Mechanismus, den der Entwurf nutzt, existiert bereits irgendwo. Das fehlende Ingrediens ist politischer Wille, und ein konkreter Entwurf ist eines der wenigen Dinge, die dabei helfen können, ihn aufzubauen.