Die Governance-Literatur zur KI-Sicherheit weist eine Tendenz zu erfolgreichen Analogien auf. Die Chemiewaffenkonvention wird häufig zitiert. Das Montrealer Protokoll taucht in den meisten ernsthaften Diskussionen auf. Das IAEA-System nuklearer Sicherungsmaßnahmen wird als Modell dafür angeführt, wie eine KI-Überwachungsbehörde aussehen könnte. Das sind wertvolle Referenzen, doch sie ergeben ein unvollständiges Bild dessen, was internationale Governance leisten kann und was nicht.
Zwei stechen besonders hervor: der Umfassende Teststopp-Vertrag, der nie in Kraft getreten ist, und die Biowaffenkonvention, der kein Verifikationsmechanismus fehlt und die zwei Jahrzehnte lang massiv verletzt wurde.
Die Misserfolge sind ebenso lehrreich, in mancher Hinsicht sogar mehr. Sie zeigen die konkreten Designentscheidungen und politischen Bedingungen, die dazu führen, dass Governance-Regime zusammenbrechen oder hinter den Erwartungen zurückbleiben. Für ASI-Governance, die noch nicht entworfen ist, ist das Verständnis dieser Fehlermodi handlungsrelevanter als das Studium von Erfolgsgeschichten, weil die Designentscheidungen, die über Erfolg oder Misserfolg entscheiden, noch offen sind.
Fehlermodus eins: die Inkrafttretensfalle
Der Vertrag über das umfassende Verbot von Nuklearversuchen wurde im September 1996 zur Unterzeichnung aufgelegt. Bis 2026 haben 187 Länder ihn unterzeichnet und 178 ratifiziert. Er ist nicht in Kraft getreten.
Der Grund ist Artikel XIV, der vorschreibt, dass der Vertrag erst in Kraft tritt, nachdem alle 44 Staaten ratifiziert haben, die zum Zeitpunkt der Verhandlungen Kernkraftwerke oder Forschungsreaktoren besaßen. Diese Liste von 44 Annex-2-Staaten sollte sicherstellen, dass der Vertrag die für Atomtests relevantesten Staaten erfasst. Stattdessen ist sie zu einem dauerhaften Vetorecht von acht Ländern geworden: China, Ägypten, Indien, Iran, Israel, Nordkorea, Pakistan und die Vereinigten Staaten. Bis alle acht ratifizieren, kann der CTBT unabhängig von der Zahl der übrigen Ratifikationen nicht in Kraft treten.
Der CTBT war nicht nutzlos. Die Comprehensive Nuclear-Test-Ban Treaty Organization betreibt ein globales Überwachungssystem aus seismischen, hydroakustischen, Infraschall- und Radionuklidstationen, das Kernwaffentests mit hoher Zuverlässigkeit erkennen kann. Diese Überwachung hat echte Erkenntnisse über die Nuklearprogramme von Nichtunterzeichnerstaaten geliefert, darunter Nordkoreas sechs Kernwaffentests zwischen 2006 und 2017. Das Überwachungssystem der CTBTO gäbe es ohne den Vertragsrahmen nicht, selbst in seiner derzeitigen vorläufigen Anwendung. Doch die Kernverpflichtung des Vertrags, Kernwaffentests zu verbieten, ist für die Staaten, die am ehesten Tests durchführen würden, nicht rechtsverbindlich, weil er nie in Kraft getreten ist.
Die Inkrafttretensbestimmung des CTBT, die die Ratifizierung durch alle 44 genannten Staaten verlangt, sollte eine universelle Abdeckung der relevantesten Akteure sicherstellen. Stattdessen schuf sie eine Struktur, in der jeder einzelne relevante Staat das gesamte Regime auf unbestimmte Zeit blockieren kann. Ein ASI Governance-Vertrag mit einer ähnlichen Bestimmung, der die Ratifizierung durch die Vereinigten Staaten, China, Russland, die EU und alle großen KI-entwickelnden Länder vor dem Inkrafttreten verlangt, würde derselben strukturellen Verwundbarkeit ausgesetzt sein. Der Vertrag sollte unter willigen Parteien bei einer definierten Schwelle in Kraft treten, nicht universelle Abdeckung als Voraussetzung verlangen.
Für die ASI-Governance verweist das Scheitern des CTBT auf eine konkrete Designentscheidung: die Bestimmungen zum Inkrafttreten. Ein Vertrag, der die Beteiligung aller großen KI-entwickelnden Staaten voraussetzt, bevor er wirksam wird, gibt jedem dieser Staaten eine einseitige Blockademacht über das gesamte Regime. Die US, China, die EU, die UK und vielleicht fünf oder zehn weitere Staaten könnten als erforderliche Parteien aufgeführt werden, und jeder einzelne von ihnen könnte das Inkrafttreten des Vertrags auf unbestimmte Zeit verhindern.
Das robustere Design erlaubt es dem Vertrag, unter einer kritischen Masse williger Parteien in Kraft zu treten, ein funktionierendes Governance-Regime zu schaffen und gleichzeitig die Tür für spätere Beitritte von Nichtparteien offen zu lassen. Nichtparteien sehen sich vom Ausschluss von den Vorteilen des Vertrags (Technologietransfer, Marktzugangspräferenzen, kooperative Sicherheitsforschung) gegenüber, was Anreize zum Beitritt schafft. Die Wirksamkeit des Vertrags unter bestehenden Parteien schafft gleichzeitig ein demonstriertes Governance-Modell, das Unsicherheit darüber reduziert, was ein Beitritt bedeuten würde. Der Mine-Ban-Vertrag und der Internationale Strafgerichtshof nutzten beide diesen Ansatz.
Fehlermodus zwei: ein Verbot ohne Verifizierung
Die Biowaffenkonvention wurde 1972 zur Unterzeichnung aufgelegt und trat 1975 in Kraft. Sie verbietet die Entwicklung, Herstellung und Lagerung biologischer Waffen und verpflichtet die Staaten, vorhandene Bestände zu vernichten. Sie hat 183 Vertragsparteien. Sie verfügt über keinen Verifikationsmechanismus, keine Inspektionsbehörde und kein formales Gremium mit der Befugnis, mutmaßliche Verstöße zu untersuchen oder Feststellungen der Nicht-Einhaltung zu treffen.
Die Sowjetunion ratifizierte die BWC 1975. 1973, zwei Jahre vor der Ratifizierung, hatte der sowjetische Ministerrat die Gründung von Biopreparat genehmigt, einem Netzwerk nominell ziviler Forschungsinstitute, das das weltweit größte offensive Biowaffenprogramm darstellte. Auf seinem Höhepunkt in den 1980er Jahren beschäftigte Biopreparat etwa 60.000 Wissenschaftler und produzierte Pest-, Pocken- und Milzbrandwaffen im industriellen Maßstab, zusammen mit gentechnisch veränderten Erregern, die gegen Antibiotika und Impfstoffe resistent sein sollten. Dieses Programm lief während der gesamten 1970er und 1980er Jahre in direkter und umfassender Verletzung der BWC, bis es nach dem Zusammenbruch der USSR durch sowjetische Überläufer aufgedeckt wurde. Das BWC-Regime hatte keine Möglichkeit, es zu entdecken.
Das ist das folgenschwerste Versagen der Rüstungskontrollverifikation in der Nachkriegszeit. Ein Verbot, das nicht verifiziert werden kann, ist eine Norm, kein Accountability-Mechanismus. Es schafft einen öffentlichen Standard akzeptablen Verhaltens, der in vielen Fällen reale Auswirkungen auf staatliches Handeln hat, während er strukturell nicht in der Lage ist, systematische Verstöße durch Staaten mit Mitteln und Motiven zu verdeckten Verstößen aufzudecken.
Verhandlungen über ein Verifikationsprotokoll zur BWC liefen von 1995 bis 2001. Die Vereinigten Staaten lehnten das vorgeschlagene Protokoll im Juli 2001 ab mit der Begründung, seine Inspektionsverfahren seien sowohl zu aufdringlich für die legitime kommerzielle Biotechnologie als auch zu schwach, um Verstöße zuverlässig aufzudecken. Die Verhandlungen brachen zusammen und wurden in keiner Form wiederbelebt, die einen verbindlichen Verifikationsmechanismus hätte hervorbringen können. Die BWC bleibt als Norm ohne Verifikationsorgan in Kraft.
Was das Scheitern der BWC für die ASI-Governance bedeutet
Die Analogie zwischen biologischen Waffen und KI ist nicht perfekt, aber mehrere Merkmale des Scheiterns der BWC lassen sich direkt auf die ASI-Governance übertragen.
Dual Use ist die zentrale Verifikationsherausforderung. Biowaffen werden mit Laborgeräten, Wissen und Prozessen hergestellt, die weitgehend identisch mit legitimer pharmazeutischer und Public-Health-Forschung sind. Die Unterscheidung zwischen offensiver und defensiver Forschung oder zwischen zivilen und Waffenanwendungen erfordert hochqualifizierte Inspektoren mit Zugang zu vertraulichen kommerziellen und technischen Informationen und erzeugt dennoch in vielen Fällen echte Ambiguität. Dieser Dual-Use-Charakter machte ein Verifikationsprotokoll für die BWC sowohl technisch anspruchsvoll als auch politisch umstritten auf eine Weise, wie es die Verifikation für chemische oder Kernwaffen, die klarere Signaturen aufweisen, nicht war.
KI hat denselben Dual-Use-Charakter auf einer grundlegenderen Ebene. Ein großes Sprachmodell, das für die Erzeugung natürlicher Sprache trainiert wurde, ist technisch nicht von einem zu unterscheiden, das für Überzeugung in großem Maßstab trainiert wurde. Ein Modell, das für wissenschaftliche Forschungshilfe trainiert wurde, ist technisch identisch mit einem, das für autonomes Handeln in risikoreichen Umgebungen trainiert wurde. Die Fähigkeiten, die frontier AI kommerziell wertvoll machen, sind dieselben, die sie potenziell gefährlich machen. ASI-Governance-Verifikation steht vor derselben Herausforderung, die die BWC-Verifikation scheitern ließ: Sie muss gefährliche von legitimen Anwendungen technisch identischer Systeme unterscheiden.
„Die Biowaffenkonvention zeigt genau, was ein Verbot ohne Verifikation über die Zeit hervorbringt. Eine weithin akzeptierte Norm, die von einer Großmacht zwanzig Jahre lang nachweislich in großem Maßstab verletzt wurde, ohne Mechanismus, die Verletzung zu erkennen oder darauf zu reagieren. Für die ASI-Governance ist dies das Standardergebnis, wenn Verifikation auf ein zukünftiges Protokoll verschoben wird, das möglicherweise nie kommt – kein theoretisches Problem.“
Die Lehre ist nicht, dass Verifizierung für KI unmöglich ist, sondern dass Verifizierung von Anfang an in den Vertrag eingebaut werden muss, anstatt auf ein späteres Protokoll verschoben zu werden. Die Verifizierungsverhandlungen der BWC scheiterten nach sechsundzwanzig Jahren Bemühungen. Ein ASI-Governance-Vertrag, der das Verbot zuerst festlegt und die Verifizierungsarchitektur aufschiebt, riskiert dasselbe Ergebnis: eine Norm ohne Rechenschaftsmechanismus, die neben Entwicklungsprogrammen operiert, die sie nicht sehen kann.
Fehlermodus drei: Rückzug ohne Kosten
Nordkorea trat 1985 dem Atomwaffensperrvertrag bei, kündigte 1993 und erneut 2003 den Austritt an und führte 2006 seinen ersten Atomtest durch. Die Austrittsbestimmung der NPT, Artikel X, erlaubt jedem Staat den Austritt mit neunzig Tagen Frist, wenn es entscheidet, dass außergewöhnliche Ereignisse seine obersten nationalen Interessen gefährdet haben. Nordkoreas Austritt erfolgte, nachdem die IAEA es wegen Nichteinhaltung seiner Safeguards-Verpflichtungen gerügt hatte, und der Austritt beendete faktisch die Möglichkeit der IAEA, Nordkoreas Atomprogramm zu überwachen.
Für ASI-Governance verweist das NPT/Nordkorea-Präzedenz auf die Bedeutung von Austrittskosten. Ein Vertrag, der mit neunzig Tagen Frist und ohne Strafe gekündigt werden kann, bietet schwache Gewähr, weil ein Staat, der verbotene Aktivitäten verfolgen will, einfach austreten kann, bevor diese Aktivitäten sichtbar werden. Austrittsbestimmungen in einem ASI-Governance-Vertrag sollten umfassen: eine definierte Kündigungsfrist, die lang genug ist, damit Vertragsorgane und andere Parteien reagieren können; die Beibehaltung von Inspektionsrechten für einen definierten Zeitraum nach der Austrittsanzeige; und die automatische Aussetzung von Vorteilen bei Anzeige der Austrittsabsicht statt erst bei Wirksamwerden des Austritts.
Diese Designentscheidungen würden keinen Rückzug verhindern, aber sie würden sicherstellen, dass Rückzug kostspielig und sichtbar statt routiniert und still ist. Das Ziel ist nicht, Staaten in Vertragsverpflichtungen zu fangen, denen sie widersprechen, sondern sicherzustellen, dass der Akt des Verlassens des Regimes ein politisch bedeutsames Ereignis ist, das internationale Aufmerksamkeit und diplomatische Reaktion erzeugt.
ASI-Governance-Designer haben den Vorteil, diese Fehlschläge studieren zu können, bevor sie die relevanten Bestimmungen schreiben. Die CTBT-, BWC- und NPT-Fehlschläge sind alle dokumentiert, analysiert und verfügbar. Die Designentscheidungen, die zu diesen Fehlschlägen führten, sind vermeidbar. Die Frage ist, ob der politische Prozess, der einen ASI-Governance-Vertrag hervorbringt, zulässt, dass die technischen Design-Erkenntnisse aus diesen Fehlschlägen den Kontakt mit den Verhandlungspositionen der Großmächte überstehen.
Der stärkste Widerstand
Der fairste Einwand ist, dass gescheiterte Verträge beweisen, dass Verträge nie funktionieren. Gescheiterte Entwürfe beweisen schlechte Klauseln. Inkrafttretensfallen, fehlende Verifikation und billiger Rückzug sind korrigierbare Formulierungsentscheidungen. Die Lehre ist, das Gegenteil zu schreiben, nicht das Recht aufzugeben.