Wenn Governance-Befürworter eine Global AI Monitoring Agency fordern, beschreiben sie einen Endzustand. Die schwierigere Frage ist, wie der Weg zu diesem Endzustand aussieht, wie ein internationales Gremium mit dem Mandat, dem Personal, dem Budget, der rechtlichen Autorität und der technischen Kapazität zur Überwachung der Frontier-KI-Entwicklung tatsächlich aufgebaut wird. Die Geschichte der Institutionen, die diese Arbeit für andere gefährliche Technologien leisten, ist informativ und durchweg komplizierter, als die Governance-Literatur nahelegt.

Institutionen werden gebaut, nicht erklärt. Hier ist, was der Aufbau einer Global AI Monitoring Agency tatsächlich erfordern würde.

Was der IAEA benötigt, um funktionsfähig zu werden

Die IAEA wurde 1957 durch ein internationales Statut gegründet, zwei Jahre nachdem Präsident Eisenhower 1953 in seiner Rede vor der UN-Generalversammlung das Atoms-for-Peace-Programm vorgeschlagen hatte. Das Gründungsstatut definierte ein Mandat (die friedliche Nutzung der Kernenergie zu fördern und gleichzeitig sicherzustellen, dass sie nicht zu Waffen umgeleitet wird) und richtete einen Gouverneursrat und eine Generalkonferenz als die Leitungsorgane der Agentur ein.

Die IAEA führte 1961 ihre ersten Safeguards-Inspektionen durch, vier Jahre nach ihrer Gründung, und deckte eine kleine Zahl von Forschungsreaktoren in Westeuropa ab. Das angewandte Safeguards-System war nach späteren Maßstäben rudimentär: Inspektoren prüften Anlagenaufzeichnungen und führten eine Buchhaltung des nuklearen Materials durch, hatten aber begrenzte Rechte auf physischen Zugang und keine Umweltüberwachungsfähigkeit. Das System war für friedliche Kernforschung unter den Technologiebedingungen der 1950er und 1960er Jahre angemessen; es war nicht geeignet, ein entschlossenes Waffenprogramm aufzudecken.

Die entscheidende Erweiterung der IAEA-Fähigkeiten kam nicht aus dem Gründungsstatut der Behörde, sondern aus dem Nachspiel eines Scheiterns. Iraks geheimes Atomwaffenprogramm, das während und nach dem Golfkrieg 1991 entdeckt wurde, zeigte, dass die routinemäßigen Inspektionen von IAEA ein Programm vollständig übersehen hatten, das auf eine Atombombe zustrebte. Die Antwort war das Zusatzprotokoll, das 1997 angenommen wurde und die Inspektionsrechte auf nicht deklarierte Standorte ausweitete sowie Umweltprobenahmen als Standardwerkzeug hinzufügte. Die IAEA vor 1997 und die IAEA nach 1997 sind wesentlich unterschiedliche Institutionen in dem, was sie entdecken können.

Die Lehre ist, dass internationale Überwachungsinstitutionen ihre tatsächlichen Fähigkeiten als Reaktion auf die Misserfolge entwickeln, die die Grenzen ihres ursprünglichen Designs aufzeigen. Die Gründungsarchitektur legt den Rahmen fest; operationale Wirksamkeit sammelt sich über Jahrzehnte durch von Misserfolgen getriebene Reformen an.

Was der OPCW benötigt, um funktionsfähig zu werden

Die OPCW wurde gegründet, als die Chemiewaffenkonvention 1997 in Kraft trat. Im Gegensatz zur IAEA, die ihrem Hauptvertragsrahmen vorausging, wurde die OPCW von Anfang an als Verifizierungsorgan für einen bestehenden Vertrag mit definierten Pflichten konzipiert. Das gab der Institution klarere anfängliche Mandate und einen fokussierteren operativen Rahmen.

Die OPCW erforderte erhebliche Vorarbeiten, bevor sie ihre ersten Inspektionen durchführen konnte. Der Verifikationsanhang des Vertrags, der Hunderte von Seiten umfasst, legt detailliert die Verfahren für verschiedene Inspektionsarten, die Rechte der Inspektoren, die Pflichten der inspizierten Staaten und den Umgang mit vertraulichen Informationen fest. Diese Verfahren in operationelle Protokolle zu übersetzen, Inspektorteams auszubilden, sichere Kommunikationssysteme einzurichten, analytische Labore aufzubauen, die chemische Kampfstoffe in Umweltproben identifizieren können, und Einrichtungsvereinbarungen mit den ersten großen Bestandsinhabern auszuhandeln, dauerte Jahre der Arbeit, die auf das Inkrafttreten des Vertrags folgten.

Die ersten Zerstörungsverifikationsmissionen der OPCW, die die Beseitigung von US- und russischen Chemiewaffenbeständen überwachten, begannen Ende der 1990er Jahre und dauerten mehr als zwei Jahrzehnte an. Die technische Komplexität der sicheren Chemiewaffenvernichtung und die damit verbundenen Verifikationsherausforderungen erforderten während dieses Zeitraums eine fortlaufende institutionelle Anpassung. Was die OPCW heute tut, spiegelt fünfundzwanzig Jahre operativer Erfahrung wider, die es noch nicht gab, als ihr Gründungsgeneraldirektor sein Amt antrat.

Die Designentscheidungen, die am wichtigsten sind

Eine internationale KI-Überwachungsbehörde stünde vor einer Reihe grundlegender institutioneller Gestaltungsentscheidungen, die ihre langfristige Wirksamkeit bestimmen würden. Diese Entscheidungen sind nicht technisch; sie sind politisch und organisatorisch, und sie müssen richtig getroffen werden, bevor die Institution ihre Türen öffnet.

Der Mandatsumfang ist die erste Entscheidung. Eine Überwachungsagentur kann eng gestaltet werden, mit Fokus auf die Verifizierung von Erklärungen zu frontier AI-Trainings oberhalb festgelegter Compute-Schwellenwerte, oder breit, mit der Befugnis, KI-Systeme auf Sicherheitseigenschaften zu evaluieren und Erkenntnisse über die globale KI-Sicherheitslandschaft zu veröffentlichen. Ein enges Mandat ist politisch leichter zu vereinbaren und einfacher umzusetzen. Ein breites Mandat verleiht der Institution mehr Governance-Einfluss, erfordert jedoch ein größeres Budget, vielfältigeres Personal und mehr politischen Konsens darüber, was die Agentur sagen darf. Das Mandat des IAEA war zunächst eng und wurde erweitert; das Mandat von OPCW ist fokussiert geblieben. Beide Modelle haben in ihren jeweiligen Kontexten Erfolg gehabt.

Die Unabhängigkeitsarchitektur ist die zweite Entscheidung. Internationale Organisationen unterscheiden sich erheblich darin, wie stark sie gegen politischen Druck von Großmächten abgeschirmt sind. Die Vetostruktur des UN-Sicherheitsrats bedeutet, dass die fünf ständigen Mitglieder jede Aktion des Sicherheitsrats blockieren können. Das Board of Governors des IAEA hat eine gewichtete Struktur, die großen Staaten überproportionalen Einfluss gibt. Der OPCW hat eine demokratischere Governance-Struktur, in der alle Vertragsstaaten in der Konferenz der Vertragsstaaten gleiche Stimmen haben. Eine KI-Überwachungsagentur, deren wichtige Entscheidungen von den Staaten mit den größten KI-Programmen blockiert werden können, ist eine schwächere Institution als eine mit einem unabhängigen Generaldirektor und technischem Personal, das nach fachlichem Urteil handeln kann.

Das Personalproblem

Die IAEA beschäftigt etwa 2.500 Menschen, darunter mehrere hundert Inspektoren mit tiefgehender Expertise in Kerntechnik. Die OPCW beschäftigt mehrere hundert, darunter Chemiker, die in der Lage sind, Feldanalysen chemischer Proben durchzuführen. Eine KI-Überwachungsbehörde, die in der Lage ist, Frontier-KI-Systeme zu evaluieren, bräuchte Personal mit Expertise, die derzeit in der Privatwirtschaft hohe Gehälter erzielt. Diese Mitarbeiter innerhalb einer internationalen Beamtenvergütungsstruktur aufzubauen und zu halten ist eines der schwierigsten Designprobleme, denen sich die Behörde stellen würde.

Das Finanzierungsmodell ist die dritte Entscheidung. Internationale Organisationen werden durch Pflichtbeiträge der Mitgliedstaaten finanziert, proportional zum BIP und anderen Faktoren, ergänzt durch freiwillige Beiträge für bestimmte Programme. Pflichtbeitragsbudgets werden jährlich verhandelt und unterliegen politischem Druck: Mitgliedstaaten, die Aktivitäten der Organisation ablehnen, können Beiträge zurückhalten oder für Haushaltskürzungen stimmen. Das reguläre Budget von IAEA beträgt etwa 500 Millionen USD pro Jahr; das von OPCW etwa 70 Millionen Euro. Eine KI-Überwachungsagentur mit sinnvoller technischer Kapazität würde ein Budget in dieser Größenordnung oder höher benötigen, und die Frage der Finanzierungsstabilität (wie das Budget der Agentur über politische Zyklen in großen Beitragsstaaten aufrechterhalten werden kann) erfordert eine gestalterische Antwort.

Die rechtliche Befugnis von Inspektoren ist die vierte Entscheidung. Inspektoren können nur das tun, wozu der Vertrag sie ermächtigt. Die ursprünglichen Safeguards-Vereinbarungen des IAEA gewährten Inspektoren begrenzte Zugangsrechte, die durch das Zusatzprotokoll erweitert wurden; Inspektoren, die unter älteren Vereinbarungen ohne Zusatzprotokoll arbeiten, haben weiterhin weniger Rechte. Inspektoren einer KI-Überwachungsbehörde bräuchten klar spezifizierte Zugangsrechte (zu Anlagen, Aufzeichnungen, Hardware-Logs und Personal), und der Vertrag, der die Behörde errichtet, muss diese Rechte klar festlegen, weil Unklarheiten in der Praxis zugunsten der inspizierten Partei aufgelöst werden.

Technische Kapazitäten vor dem Vertrag aufbauen

Eine Lehre aus sowohl der IAEA als auch der OPCW ist, dass technische Kapazität nicht nach der Gründung der Institution improvisiert werden kann. Beide Behörden profitierten von bereits existierenden wissenschaftlichen und technischen Gemeinschaften, die sie besetzen konnten: Kernphysik und Kerntechnik für die IAEA, analytische Chemie für die OPCW. Die Expertise, die nötig war, um nukleare Nichtverbreitungsverpflichtungen zu verifizieren oder chemische Kampfstoffe in Bodenproben zu identifizieren, existierte in Universitäten und nationalen Laboren, bevor die internationalen Verifikationsorgane sie brauchten.

Die entsprechende technische Gemeinschaft für die ASI-Governance-Verifikation, also Menschen, die Frontier-KI-Systeme auf Sicherheitseigenschaften prüfen, Trainingsaufzeichnungen auditieren und Hardware-Überwachungsprotokolle für große Compute-Cluster entwerfen können, ist klein und fast ausschließlich in privaten KI-Unternehmen und einer Handvoll akademischer Institutionen angesiedelt. Den Expertenpool aufzubauen, aus dem eine internationale Überwachungsbehörde rekrutieren könnte, ist selbst eine Governance-Aufgabe, die der Gründung der Institution vorausgeht.

Das ist einer der Gründe, warum nationale KI-Sicherheitsinstitute wie das UK's AI Security Institute (gegründet 2023 als AI Safety Institute) für das längerfristige Governance-Projekt wichtig sind. Sie bauen die Evaluationsmethodik, die institutionelle Erfahrung und die professionelle Gemeinschaft auf, auf die eine künftige internationale Überwachungsbehörde zurückgreifen müsste. Die technischen Grundlagen für internationale Überwachung werden teilweise und unvollkommen gelegt, bevor die politischen Bedingungen für einen Vertrag und eine Institution vorhanden sind.

"Man kann keine Verifikationsbehörde in einem Jahr aufbauen. Die technischen Methoden, das geschulte Personal, die operativen Verfahren und die rechtlichen Rahmenwerke müssen über Jahre entwickelt werden. Der Zeitpunkt zum Start ist jetzt, nicht nach der Vertragsunterzeichnung."

Eine globale KI-Überwachungsagentur ist eine Institution, die spezifische Designentscheidungen, spezifische Ressourcenzusagen, spezifische rechtliche Befugnisse und spezifische technische Kapazitäten erfordert, um zu funktionieren, kein fernes utopisches Ziel. Das IAEA und OPCW zeigen, dass solche Institutionen aufgebaut werden und funktionieren können. Sie zeigen auch, dass ihr Aufbau länger dauert, als Vertragstexte vermuten lassen, anhaltende politische Investitionen über mehrere Führungszyklen hinweg erfordert und seine tatsächlichen Fähigkeiten als Reaktion auf Versagen entwickelt, die die Grenzen seines ursprünglichen Designs offenlegen. Governance-Befürworter, die eine Überwachungsagentur fordern, ohne sich mit diesen institutionellen Designfragen auseinanderzusetzen, beschreiben eine Aspiration, keinen Plan.

Der stärkste Widerstand

Der fairste Einwand ist, dass Staaten niemals Inspektoren in die Nähe ihres wertvollsten Rechens lassen werden. Ähnliches wurde vor den nuklearen Sicherheitsmaßnahmen gesagt. Geteilte Angst vor einem Ausbruch plus Verweigerung von Hardware an Abweichler ist, wie zögerliche Parteien immer noch Augen aufbauen. Eine Behörde ohne Zugang ist ein Logo. Zugang ist das Designproblem, das es zu lösen gilt.