Als der Bletchley AI Safety Summit 2023 mit einer gemeinsamen Erklärung zu Frontier-KI-Risiken endete, unterzeichneten 28 Länder sie. Nicht unter den Unterzeichnern waren Indien, Brasilien, Indonesien, Mexiko, Saudi-Arabien, Nigeria und der größte Teil des afrikanischen Kontinents. Diese Länder repräsentieren einen erheblichen Anteil der Weltbevölkerung, ihrer Wirtschaftsleistung und ihres politischen Gewichts in internationalen Institutionen. Jedes ASI-Governance-Rahmenwerk, das die Teilnahme westlicher Länder und Chinas erreicht, diese Gruppe aber ausschließt, hat ein unvollständiges Mandat und ein Legitimitätsproblem, das sich mit der Zeit verschärfen wird.
Die entworfenen Rahmenwerke, die vorgeschlagenen Institutionen und die ausgearbeiteten Vertragstexte spiegeln die Prioritäten von Ländern wider, die gleichzeitig die führenden KI-Entwickler und die führenden Befürworter von Governance sind. Der Rest der Welt ist weitgehend ein nachträglicher Gedanke. Die Geschichte zeigt, dass dieser Ansatz Rahmenwerke hervorbringt, die nicht halten.
Dies ist kein neues Problem. Jedes große Technologie-Governance-Abkommen hat sich damit auseinandergesetzt, und die Verträge, die wirklich breite Beteiligung erreichten, lösten es durch explizite Zugeständnisse an die Belange von Ländern, die nicht die Hauptarchitekten des Rahmens waren.
Was Entwicklungsländer stets zur Technologieregulierung gesagt haben
Die Bedenken, die Entwicklungsländer gegenüber internationalen Technologie-Governance-Rahmenwerken geäußert haben, waren über mehrere Bereiche hinweg konsistent, von Kernenergie über Ozonabbau bis zu geistigem Eigentum. Es sind keine unvernünftigen Bedenken, und sie erfordern nicht, jeder Version von ihnen zuzustimmen, um ihre politische Bedeutung anzuerkennen.
Die Gerechtigkeitsfrage besteht darin, dass die Probleme, die Technologie-Governance-Rahmen adressieren, vor allem von wohlhabenden, technologisch fortgeschrittenen Ländern verursacht werden. Die Beschränkungen, die diese Rahmen auferlegen, gelten für alle Länder. Die Folge ist, dass Entwicklungsländer Kosten für Probleme tragen, die sie nicht verursacht haben, und auf Entwicklungsmöglichkeiten verzichten, die wohlhabende Länder bereits genutzt haben, bevor die Beschränkungen eingeführt wurden. NPT fror den nuklearen Status quo von 1968 ein; nicht-nukleare Staaten verzichteten darauf, zu entwickeln, was nukleare Staaten bereits besaßen. Das Montrealer Protokoll verpflichtete alle Länder zum Ausstieg aus FCKW, während wohlhabende Länder ihre Volkswirtschaften bereits auf FCKW-abhängiger Kühlung und Klimatisierung aufgebaut hatten. ASI-Governance-Rahmen bergen dasselbe Risiko: wohlhabende Länder, die ihre Volkswirtschaften auf KI-Anwendungen aufgebaut haben, die sie ohne Governance-Beschränkungen entwickelt haben, bitten Entwicklungsländer, Beschränkungen zu akzeptieren, die für diese Anwendungen gegolten hätten.
Die Zugangsfrage begleitet sie. Entwicklungsländer haben in Technologie-Governance-Verhandlungen typischerweise garantierten Zugang zu den nützlichen Anwendungen der zu regulierenden Technologie gefordert. Nichtnukleare NPT-Parteien erhielten garantierten Zugang zu friedlicher Nukleartechnologie. Montreal-Protokoll-Parteien erhielten Zugang zu FCKW-Alternativen zu subventionierten Preisen. Entwicklungsländer, die eine Beteiligung an ASI-Governance erwägen, werden fragen, welche positiven Vorteile eine Mitgliedschaft bietet.
Das Repräsentationsproblem ist strukturell. Internationale Institutionen werden von den Ländern entworfen, die sie einberufen. Die Governance-Rahmen, die sie hervorbringen, spiegeln die Prioritäten und Bedrohungsmodelle dieser Länder wider. Entwicklungsländer haben durchgehend argumentiert, dass ihre Prioritäten (Technologiezugang, Entwicklungspfade, nationale regulatorische Souveränität) in Rahmen, die ohne sie am Tisch entworfen wurden, unterrepräsentiert sind.
Wie das Montreal-Protokoll das Gerechtigkeitsproblem löste
Der Ansatz des Montreal-Protokolls zur Beteiligung von Entwicklungsländern ist der unmittelbarste Präzedenzfall für die ASI-Governance, weil die beteiligte Technologie wirklich dual-use war und die Übergangskosten auf Länder konzentriert waren, die am wenigsten zum Problem beigetragen hatten.
Das Protokoll etablierte differenzierte Verpflichtungen durch Artikel 5, der Entwicklungsländern, die weniger als einen definierten Pro-Kopf-Schwellenwert ozonschädigender Substanzen verbrauchten, eine zehnjährige Verzögerung bei der Erfüllung der für Industrieländer vorgeschriebenen Ausstiegspläne einräumte. Damit wurde anerkannt, dass Länder, die wenig zum bestehenden Bestand atmosphärischer FCKW beigetragen hatten, nicht dieselben unmittelbaren Kosten tragen sollten wie Länder, die wesentlich dazu beigetragen hatten.
Der Multilateral Fund, 1990 eingerichtet, stellte Artikel-5-Ländern finanzielle Mittel zur Deckung der zusätzlichen Kosten der Protokoll-Einhaltung zur Verfügung. Er finanzierte auch Technologietransfer und gab Entwicklungsländern Zugang zu FCKW-Alternativen sowie die technische Kapazität, diese zu nutzen. Der Fonds hat seit seiner Gründung mehr als vier Milliarden Dollar ausgezahlt. Er ist der Grund, warum das Montreal-Protokoll nahezu universelle Ratifizierung erreichte: Länder, die sonst argumentiert hätten, die Einhaltung übersteige ihre finanzielle Leistungsfähigkeit, erhielten die Mittel zur Einhaltung.
Das Montrealer Protokoll gab Entwicklungsländern zwei Dinge: Zeit und Geld. Ein verzögerter Umsetzungszeitplan anerkannte, dass sie nicht die Hauptverursacher des Ozonabbaus waren. Finanzielle und technische Unterstützung anerkannte, dass die Übergangskosten nicht vollständig bei denen liegen sollten, die am wenigsten verantwortlich waren. Beide Regelungen waren politisch notwendig für eine universelle Beteiligung. Beide sind direkt auf ASI-Governance-Design übertragbar.
Das Ergebnis war ein Protokoll, das schließlich von 197 Parteien ratifiziert wurde, jedem UN-Mitgliedstaat. Länder, die zunächst Widerstand leisteten, traten bei, sobald die Anpassungsmechanismen vorhanden waren und sobald klar wurde, dass der wissenschaftliche Konsens über Ozonabbau eine dauerhafte Nichtteilnahme politisch unhaltbar machte.
Der NPT große Pakt und seine Relevanz
Die Teilnahme-Architektur des Nuclear Non-Proliferation Treaty bietet ein anderes Modell. Das NPT-Abkommen war explizit und reziprok: Nichtnuklearstaaten verzichteten auf die Entwicklung von Waffen im Tausch gegen garantierten Zugang zu friedlicher Nukleartechnologie unter IAEA-Safeguards, Sicherheitszusagen von Nuklearstaaten und eine Verpflichtung der Nuklearstaaten zur Abrüstung. Nichtnuklearstaaten gaben eine Fähigkeit auf und erhielten positive Vorteile im Gegenzug, nicht nur eine Zusage, nicht bedroht zu werden.
Diese reziproke Struktur war für die Breite des Vertrags essenziell. Länder, die technisch in der Lage waren, Kernwaffen zu entwickeln (Westdeutschland, Japan, Schweden, Ägypten, Brasilien), verzichteten teilweise deshalb darauf, weil die friedliche Nutzungsbestimmungen des Vertrags ihnen Zugang zu Kernenergietechnologie gaben, die sie sonst unabhängig hätten entwickeln oder entbehren müssen. Der Governance-Rahmen war zugleich eine Technologie-Teilungsvereinbarung.
Ein ASI-Governance-Rahmenwerk, das auf diesem Modell aufbaut, würde Entwicklungsländern garantierten Zugang zu KI-Technologie, Trainingsressourcen und Entwicklungshilfe im Austausch für die Akzeptanz von Sicherheitsüberwachungspflichten für alle Frontier-KI-Programme, die sie entwickeln, bieten. Länder, die Überwachungspflichten akzeptieren, hätten Anspruch auf die Vorteile des gemeinsamen Governance-Regimes, einschließlich Zugang zu KI-Systemen und Infrastruktur, die Vertragsstaaten anderen Parteien bevorzugt zur Verfügung stellen.
Indien und das Teilnahmeproblem
Indien ist das wichtigste Land für globale ASI-Governance-Teilnahme, das bevölkerungsreichste Land der Welt, verfügt über einen substanziellen und wachsenden Technologiesektor, besitzt erhebliche KI-Forschungskapazitäten an Institutionen einschließlich der Indian Institutes of Technology und hat die Bletchley Declaration 2023 nicht unterzeichnet, ist derzeit nicht in die großen Governance-Rahmenwerke eingebunden. Indien hat eine konsistente Geschichte der Nichtausrichtung in internationalen Governance-Rahmenwerken, die es als von und für Großmächte entworfen wahrnimmt, seit seiner Nichtteilnahme an NPT.
Indiens Position zu ASI-Governance spiegelt mehrere Bedenken wider. Es hat in verschiedenen internationalen Foren argumentiert, dass ASI-Governance sich auf gegenwärtige Schäden statt auf spekulative Zukunftsrisiken konzentrieren sollte, was eine andere Risikobewertung als diejenige widerspiegelt, die die Frontier-KI-Sicherheits-Advocacy antreibt. Es hat Bedenken hinsichtlich ASI-Governance-Rahmenwerken geäußert, die seine eigene Technologieentwicklung einschränken könnten. Und es hat ein prinzipielles Bekenntnis zur nationalen regulatorischen Souveränität, das bindende internationale Rahmenwerke innenpolitisch schwierig macht.
Eine sinnvolle Einbindung Indiens erfordert, diese Bedenken direkt anzusprechen, statt es lediglich einzuladen, einen ohne es entworfenen Rahmen zu ratifizieren. Das bedeutet, indische Vertreter von Anfang an in den Designprozess einzubeziehen, seine unterschiedliche Priorisierung gegenwärtiger Schäden neben zukünftigen Risiken ernst zu nehmen und sicherzustellen, dass jeder Governance-Rahmen Indien greifbare Vorteile bietet (Technologiezugang, Kapazitätsaufbau, Repräsentation in Governance-Institutionen), die eine Teilnahme zur besseren Option machen als das Außenbleiben.
Was ein partizipationsinklusives ASI-Governance-Rahmenwerk bieten würde
Aufbauend auf dem Montreal-Protokoll und NPT-Modellen würde ein ASI-Governance-Rahmenwerk für breite Beteiligung mehrere Elemente umfassen, die aktuelle Vorschläge weitgehend auslassen.
Differenzierte Compliance-Zeitpläne. Länder mit aufstrebenden KI-Entwicklungsprogrammen erhalten längere Fristen, bevor Überwachungspflichten für ihre Programme gelten, in Anerkennung dessen, dass sie derzeit nicht die Quelle des Frontier-AI-Risikos sind, für das das Abkommen konzipiert ist.
Ein Technologie-Zugangsfonds. Analog zum Multilateralen Fonds des Montreal-Protokolls würde ein dedizierter Finanzierungsmechanismus Entwicklungsländern Zugang zu KI-Systemen, Cloud-Compute und der technischen Kapazität bieten, um an KI-Entwicklung für nützliche Zwecke teilzunehmen. Der Zugang wäre an die Teilnahme am Vertrag gebunden und schafft damit einen positiven Anreiz zum Beitritt.
Bedeutende Repräsentation in Governance-Institutionen. Die Governance-Struktur einer Global AI Monitoring Agency sollte Entwicklungsländern Stimmen und Führungspositionen geben, die ihrem Bevölkerungsanteil und wirtschaftlichen Gewicht entsprechen, nicht nur ihrer derzeitigen KI-Entwicklungskapazität. Eine Institution, deren Vorstand von den fünf oder sechs wichtigsten KI-entwickelnden Nationen kontrolliert wird, wird von der übrigen Welt nicht als legitim wahrgenommen.
„Ein Governance-Rahmenwerk, das wohlhabende Nationen für sich selbst entwerfen und dann den Rest der Welt zu diesen Bedingungen zum Beitritt auffordern, hat in der Geschichte der internationalen Beziehungen einen Namen. Es heißt Imperialismus und führt nicht zu dauerhaften Vereinbarungen.“
Das existenzielle Risiko durch Frontier-AI wird, falls es eintritt, nicht selektiv auswählen, welche Länder es schädigt. Ein Governance-Rahmenwerk, das keine breite Beteiligung erreicht, weil es die Anliegen der meisten Menschen weltweit ignoriert hat, ist kein Rahmenwerk, das lange genug Bestand hat, um zu zählen. Das technische Design der ASI-Governance ist wirklich schwierig. Das politische Design (dafür zu sorgen, dass das Rahmenwerk genug Ländern genug bietet, um die nötige Beteiligung aufzubauen) ist ebenso schwierig und erhält weit weniger Aufmerksamkeit. Die Architekten des Montreal-Protokolls verstanden beide Probleme. Die Frontier-ASI-Governance-Debatte hat sich mit dem zweiten noch nicht ernsthaft auseinandergesetzt.
Der stärkste Widerstand
Der fairste Einwand ist, dass Frontier-KI ein US-China-Problem ist und alle anderen Zuschauer sind. Zuschauer beherbergen dennoch Compute, Talent und Stimmen in internationalen Gremien. Ein Regime, das den Rest der Welt von nützlicher Narrow-KI ausschließt, wird politisch scheitern. Ein Regime, das Tools teilt, während es ASI-Pfade blockiert, kann reisen.