Der Bletchley AI Safety Summit im November 2023, der Seoul AI Safety Summit im Mai 2024 und der Paris AI Action Summit im Februar 2025 bilden ein aufkommendes Muster: periodische hochrangige internationale Treffen zur ASI-Governance, besucht von Regierungen und KI-Unternehmen, die Erklärungen und Verpflichtungen hervorbringen. Das sieht strukturell dem Prozess der Klimakonferenz der Vertragsparteien ähnlich, und der Vergleich ist aufschlussreich in einer Weise, die sowohl seine Befürworter als auch seine Kritiker tendenziell untertreiben.
Ob dieses Muster zu verbindlicher Governance führt, hängt ausschließlich von Entscheidungen über Durchsetzung ab, die das Klimamodell stets aufgeschoben hat.
Klimagovernance durch den COP-Prozess ist weder das Versagen, das seine Kritiker beschreiben, noch der Erfolg, den seine Architekten beabsichtigten. Zu verstehen, was er erreicht hat und nicht erreicht hat und warum, ist der Ausgangspunkt, um zu entscheiden, ob ein analoger Prozess für Superintelligenz funktionieren könnte.
Wie die COP-Struktur tatsächlich funktioniert
Eine Konferenz der Vertragsparteien ist das Leitungsorgan eines Vertrags. Sie besteht aus allen Staaten, die den Vertrag ratifiziert haben, und tritt periodisch zusammen, um die Umsetzung zu prüfen, Fortschritte zu bewerten und neue Verpflichtungen auszuhandeln. Die Klimakonferenz der Vertragsparteien geht zurück auf die UN-Rahmenkonvention über Klimaänderungen von 1992, die die Grundstruktur periodischer Überprüfung und fortschreitender Verpflichtungen etablierte. Das Kyoto-Protokoll (1997) und das Pariser Abkommen (2015) sind beide Produkte des COP-Prozesses.
Die zentrale Innovation des Pariser Abkommens bestand darin, die von oben nach unten international festgelegten Emissionsziele, die Kyoto verwendet hatte und die zu erheblicher Nicht-Einhaltung und Rückzug führten, durch national festgelegte Beiträge zu ersetzen. Jedes Land legt sein eigenes Emissionsreduktionsziel fest, reicht es beim UNFCCC-Sekretariat ein und wird dann an seiner eigenen erklärten Ambition gemessen, nicht an einem international vorgegebenen Standard. Die Pariser COP überprüft den aggregierten Fortschritt gegenüber dem globalen Temperaturziel, die Erwärmung auf 1,5 Grad Celsius über dem vorindustriellen Niveau zu begrenzen, und jeder Überprüfungszyklus soll zu erhöhter nationaler Ambition führen.
Der strukturelle Reiz dieses Designs ist, dass es erreichbar ist. Ein Prozess, der es Ländern erlaubt, ihre eigenen Ziele festzulegen, anhand ihrer eigenen Ambitionen bewertet, mit Transparenzmechanismen statt Strafen bei Rückständen, kann breite Teilnahme sichern. Alle großen Volkswirtschaften der Welt sind Parteien des Pariser Abkommens. Kyoto, das verbindliche nationale Ziele mit definierten Konsequenzen bei Nichteinhaltung hatte, verlor die Vereinigten Staaten und schließlich Kanada, Japan und Russland.
Das strukturelle Problem dieses Designs ist, dass Teilnahme und Wirksamkeit nicht dasselbe sind. Die im Rahmen von Paris eingereichten national festgelegten Beiträge sind insgesamt deutlich hinter dem zurückgeblieben, was IPCC als notwendig für das 1,5-Grad-Ziel einschätzt. Der Compliance-Mechanismus ist Transparenz und politischer Druck, keine formalen Strafen. Länder, die ihre eigenen Ziele verfehlen, sehen sich in der nächsten Überprüfungsrunde öffentlicher Kritik ausgesetzt, aber keinen rechtlichen Konsequenzen.
Drei strukturelle Schwächen im Klimamodell
Drei Merkmale der Klimakonferenz COP, die ihre Wirksamkeit eingeschränkt haben, würden sich direkt auf eine ASI-Governance-COP übertragen, die dasselbe Design übernimmt.
Konsenserfordernisse. Die meisten COP-Entscheidungen erfordern die Zustimmung aller Parteien und geben damit jedem einzelnen Land ein faktisches Vetorecht über das Ergebnis. Das führt zu Formulierungen, die auf das Ambitionsniveau herunterverhandelt werden, das die widerstandsfähigste Partei akzeptieren wird. In aufeinanderfolgenden Klimakonferenzen bedeutete das Formulierungen über das „schrittweise Zurückfahren“ statt das „schrittweise Auslaufen“ fossiler Brennstoffe, über „Wege“ hin zu Netto-Null statt verbindlicher Zeitpläne und über das „Kenntnisnehmen“ wissenschaftlicher Erkenntnisse statt deren formeller Übernahme. Konsensbasierte internationale Verhandlungen erzeugen systematisch Ergebnisse auf dem kleinsten gemeinsamen Nenner politischer Machbarkeit unter den teilnehmenden Parteien.
Selbstbestimmung der Verpflichtungen. Das Modell der national festgelegten Beiträge löste das Partizipationsproblem, das Kyoto geschaffen hatte, schuf aber ein Ambitionsproblem. Wenn Länder ihre eigenen Ziele ohne verbindliche Untergrenze setzen, spiegeln die gesetzten Ziele ebenso sehr innenpolitische Zwänge wider wie die technischen Anforderungen des zugrunde liegenden Ziels. Länder mit mächtigen fossilen Brennstoffindustrien setzen Ziele, die ihre Industrie erreichen kann. Länder, die vor baldigen Wahlen stehen, setzen Ziele, die politisch kurzfristig vertretbar sind. Das aggregierte Ergebnis ist eine Lücke zwischen erklärten Ambitionen und der aggregierten Reduktion, die nötig wäre, die die COP-Reviews dokumentieren, aber ohne einen Mechanismus zur verbindlichen Erhöhung der Ambition nicht schließen können.
Das Pariser Abkommen löste das Teilnahmeproblem des Kyoto-Protokolls, indem es Ländern erlaubte, ihre eigenen Ziele festzulegen. Kyotos bindende nationale Ziele führten zum Austritt der Vereinigten Staaten, Kanadas, Japans und Russlands. Paris erreichte nahezu universelle Teilnahme. Aber nahezu universelle Teilnahme mit national festgelegten und nicht bindenden Verpflichtungen erzeugt genau dort eine Governance-Lücke, wo Governance am dringendsten gebraucht wird: wenn die Lücke zwischen erklärter Ambition und erforderlichem Handeln am größten ist. ASI-Governance steht vor demselben Trade-off.
Die Durchsetzungslücke. Der Compliance-Mechanismus des Pariser Abkommens, der gemäß Artikel 15 eingerichtet wurde, ist ausdrücklich nicht konfrontativ und nicht punitiv. Er funktioniert über Transparenz: Länder berichten über ihre Fortschritte, die COP prüft die Berichte, und der politische und reputationsbezogene Druck der öffentlichen Bewertung ist die primäre Folge von Rückständen. Beim Klima hat dies zu jahrzehntelang dokumentierten Rückständen mit begrenzter Reaktion geführt. Bei KI, wo ein einziges Jahr unüberwachter frontier-Entwicklung Fähigkeiten hervorbringen könnte, die jede Governance-Reaktion überholen, wäre ein ausschließlich auf Transparenz beruhender Durchsetzungsmechanismus strukturell unzureichend.
Wo die COP-Struktur funktioniert
Die Schwächen der Klimakonferenzen sind gut dokumentiert. Ihre Stärken werden seltener anerkannt und sind für die Gestaltung von ASI-Governance tatsächlich relevant.
Regelmäßige Zusammenkünfte sind selbst ein Governance-Mechanismus. Jährliche COP-Treffen schaffen einen politischen Kalender, der die Aufmerksamkeit jedes Jahr auf das zugrunde liegende Governance-Problem konzentriert. Zivilgesellschaft, Journalisten und politische Entscheidungsträger behandeln COP-Treffen als Rechenschaftsmomente, unabhängig davon, ob formelle Durchsetzung existiert. Die politischen Kosten sichtbarer Nichteinhaltung, die in der globalen Presse bei einer jährlichen COP-Überprüfung dokumentiert werden, haben einige Regierungen motiviert, ihre nationalen Zusagen zu stärken. Regelmäßige Zusammenkünfte bieten auch ein Forum für Nebenabkommen, technische Arbeitsgruppen und bilaterale Verhandlungen, die ohne eine wiederkehrende globale Zusammenkunft schwerer zu organisieren sind.
Progressive Verpflichtungsstrukturen können über lange Zeiträume funktionieren. Der Ratchet-Mechanismus im Pariser Abkommen, der vorschreibt, dass jeder nachfolgende national festgelegte Beitrag nicht weniger ambitioniert sein darf als der vorherige, schafft eine rechtliche Verpflichtung zur richtungsweisenden Verbesserung, auch ohne verbindliche Untergrenze. Über Jahrzehnte kann dies zu signifikanten aggregierten Bewegungen führen, da die politische Baseline für „aktuelle Politik“ zunehmend ambitionierter wird. Für ein Governance-Problem wie das Klima, bei dem die Folgen von Politikversagen sich über Jahrzehnte ansammeln, kann dieser langsame Ratchet ausreichen. Für ASI-Governance, bei der katastrophale Ergebnisse auf einer Zeitskala von Jahren statt Jahrzehnten eintreten könnten, ist er zu langsam.
Der COP-Prozess war am wirksamsten dabei, den normativen Rahmen zu schaffen, innerhalb dessen die nationale Klimapolitik weltweit operiert. Das 1,5-Grad-Ziel des Pariser Abkommens ist nun der Referenzpunkt, an dem nationale Klimapolitiken in nahezu jedem Land öffentlich gemessen werden. Diese normative Funktion, einen gemeinsamen Standard zu schaffen, an dem sich die Innenpolitik rechtfertigen muss, ist etwas, das der KI-Sicherheitsgipfel-Prozess begonnen hat zu erreichen und fortsetzen sollte.
Was eine stärkere ASI-Steuerung COP bräuchte
Ein ASI-Governance-Prozess, der dem COP-Modell nachempfunden ist, aber die Durchsetzungslücke des Klimaschutz-COP vermeiden soll, bräuchte drei Merkmale, die das Pariser Abkommen bewusst auslässt.
Verbindliche Mindestverpflichtungen. Statt national festgelegter Beiträge ohne verbindliche Untergrenze könnte ein ASI-Governance-Vertrag verbindliche Mindestverpflichtungen festlegen, die alle Parteien erfüllen müssen, kombiniert mit einer Struktur national festgelegter Beiträge für Maßnahmen darüber hinaus. Die verbindliche Mindestverpflichtung würde die risikoreichsten Aktivitäten abdecken: Training von Frontier-Modellen oberhalb eines definierten Compute-Schwellenwerts, Einsatz von KI-Systemen in bestimmten Hochrisikobereichen und obligatorische Sicherheitsevaluationen vor dem Einsatz. Länder könnten weiter gehen, aber nicht weniger weit.
Eine unabhängige Verifizierungsstelle. Die Klimakonferenz COP stützt sich auf selbstberichtete nationale Inventare, mit unabhängiger Prüfung durch technische Expertenteams unter dem UNFCCC. Eine ASI-Governance-Verifizierungsstelle mit direktem Zugang zu relevanten Informationen, analog zur Inspektoratsstelle der OPCW, würde eine zuverlässigere Compliance-Bewertung als Selbstberichterstattung liefern. Das ist der einzige strukturelle Unterschied zwischen der CWC und der Biowaffenkonvention, der ihre unterschiedliche Wirksamkeit am deutlichsten erklärt.
Konsequenzen mit Biss. Konsequenzen für Nichteinhaltung, die über Transparenz hinausgehen, würden erfordern, die Marktzugangs-Vorteile des Vertrags an die Einhaltung seiner Sicherheitsverpflichtungen zu binden. Staaten, die verbindliche Mindestanforderungen nicht erfüllen, würden den bevorzugten Marktzugang und die Technologie-Sharing-Vereinbarungen verlieren, die die Vertragsmitgliedschaft bietet. Dies schafft eine Konsequenzenstruktur, die keine Sicherheitsrats-Autorisierung erfordert und direkt an den Wettbewerbsinteressen anknüpft, die die KI-Entwicklung antreiben.
"Die Klimakonferenz COP zeigt, dass regelmäßige internationale Zusammenkünfte einen normativen Rahmen und einen politischen Kalender um ein Governance-Problem aufbauen können. Sie zeigt auch, dass dies nicht ausreicht, wenn den zugrunde liegenden Verpflichtungen verbindliche Untergrenzen fehlen und dem Durchsetzungsmechanismus formale Konsequenzen fehlen. ASI governance kann die COP-Struktur nutzen und aus diesen spezifischen Designlücken lernen."
Der KI-Sicherheitsgipfel-Prozess, der in Bletchley begann, ist es wert, weitergeführt und nicht aufgegeben zu werden. Jährliche oder zweijährliche Gipfel schaffen genau die Art regelmäßiger internationaler Aufmerksamkeit, die Governance erfordert. Die Frage ist, ob die Gipfel ein Ort für freiwillige Verpflichtungszeremonien bleiben oder zum Leitungsorgan eines Vertrags mit bindenden Verpflichtungen und einer funktionsfähigen Verifikations- und Durchsetzungsarchitektur werden. Diese Frage wird nicht von den Gipfeln selbst beantwortet, sondern davon, was Regierungen zwischen ihnen zu verhandeln beschließen.