Die gängige Darstellung der Rüstungskontrollgeschichte konzentriert sich auf Regierungen: die Verhandler, die Staatsoberhäupter, die Verträge unterzeichneten, die Senatoren, die ratifizierten oder die Ratifizierung verweigerten. Diese Darstellung ist unvollständig. Hinter jedem großen internationalen Abkommen über gefährliche Technologien stand eine anhaltende zivilgesellschaftliche Anstrengung, die den politischen Boden vorbereitete, die öffentliches Verständnis für das Risiko schuf, die Governance-Vorschläge entwickelte, die Verhandler übernahmen, den Dialog über Gräben hinweg aufrechterhielt, wenn offizielle Kanäle geschlossen waren, und das Thema in Zeiten politisch am Leben hielt, in denen Regierungen lieber wegsahen.
Umwelt-NGOs hielten das Montreal-Protokoll politisch am Leben, als Regierungen wankten. Hier ist, was die Zivilgesellschaft in der Technologiegovernance leistet und was die KI-Sicherheits-Advocacy noch nicht aufgebaut hat.
Zu verstehen, was die Zivilgesellschaft in der Rüstungskontroll-Governance tatsächlich geleistet hat, ist Voraussetzung dafür, zu beurteilen, was die KI-Sicherheits-Zivilgesellschaft aufbauen muss.
Was Pugwash für die nukleare Rüstungskontrolle tat
Die Pugwash-Konferenzen über Wissenschaft und Weltangelegenheiten wurden 1957 gegründet, nach dem Russell-Einstein-Manifest von 1955, in dem Bertrand Russell und Albert Einstein zusammen mit neun weiteren prominenten Wissenschaftlern die Regierungen aufforderten anzuerkennen, dass Atomwaffen die Zivilisation bedrohten, und Konflikte friedlich statt durch Krieg zu lösen. Das Manifest wurde von Wissenschaftlern aus dem westlichen und sowjetischen Block unterzeichnet, darunter mehrere Nobelpreisträger.
Das Pugwash-Modell war Track-2-Dialog: Wissenschaftler aus gegnerischen Ländern trafen sich als Individuen, nicht als Regierungsvertreter, um Abrüstungsvorschläge zu diskutieren und die persönlichen Beziehungen und gemeinsamen technischen Rahmen aufzubauen, die später offizielle Verhandlungen informieren sollten. Frühe Pugwash-Treffen Ende der 1950er und in den 1960er Jahren untersuchten Verifikationsvorschläge für Grenzen bei Nukleartests, die später in modifizierter Form im Limited Test Ban Treaty von 1963 auftauchten. Das Konzept nationaler technischer Mittel zur Verifikation von Rüstungskontrolle (unter Verwendung von Satellitenaufklärung zur Überwachung der Einhaltung ohne Inspektoren vor Ort) wurde in Pugwash-Treffen entwickelt und diskutiert, bevor es in die SALT-Abkommen aufgenommen wurde.
Pugwash hat keine Verträge geschrieben. Es entwickelte Ideen, baute Beziehungen auf und schuf einen Raum, in dem Wissenschaftler beider Seiten des Kalten Krieges technische Probleme erörtern konnten, die offizielle diplomatische Kanäle nicht adressieren konnten. Als sich die politischen Bedingungen änderten und offizielle Verhandlungen möglich wurden, existierte die intellektuelle Infrastruktur für das, worauf sich diese Verhandlungen einigen konnten, bereits, weil Pugwash sie jahrelang aufgebaut hatte. Pugwash und sein Gründer Joseph Rotblat teilten sich 1995 den Friedensnobelpreis.
Was die Landminen-Kampagne bewirkte
Die Internationale Kampagne zum Verbot von Landminen wurde 1992 von einer Koalition von NGOs gegründet, die zu dem Schluss kam, dass die humanitären Folgen von Antipersonenminen – Tausende ziviler Opfer jährlich in Nachkriegsländern, weit verbreitete Kontaminierung landwirtschaftlicher Flächen, Kinder, die noch Jahrzehnte nach den Konflikten, die die Minen legten, verstümmelt wurden – ein vollständiges Verbot statt schrittweiser Beschränkungen erforderten. Die Kernstrategie der Kampagne war es, die humanitären Folgen in Begriffen zu dokumentieren, die spezifisch, visuell und einer benannten Technologie zuzuordnen waren, und diese Dokumentation mit einer klaren politischen Forderung zu verbinden.
Die Dokumentationsarbeit wurde von NGOs durchgeführt, die in den betroffenen Ländern operierten: Handicap International, Human Rights Watch, Physicians for Human Rights und andere. Sie erstellten Berichte, sammelten Opferzeugnisse und erzeugten anhaltende Medienberichterstattung, die das Thema in Geberländern politisch relevant machte. Die Kampagne arbeitete systematisch daran, Regierungsverbündete aufzubauen (Kanada war der wichtigste) und den diplomatischen Weg zu identifizieren, der die Konferenz über Abrüstung umgehen würde, wo die großen Militärmächte Fortschritte blockiert hatten.
Landminenverbote begannen nicht in Außenministerien. Sie begannen mit Überlebenden, Ärzten und Organisatoren, die die Waffe politisch teuer machten. KI-Sicherheit hat Papers und Gipfel. Sie braucht noch immer diese Art von Außendruck, wenn Gesetze Labore binden sollen, die lieber dauerhaft selbst regulieren würden.
Der Erfolg der Kampagne beruhte auf einer Kombination von Faktoren, die sie von weniger erfolgreichen Advocacy-Bemühungen unterschied. Der Schaden war gegenwartsbezogen und dokumentierbar. Die Forderung war konkret und für Nichtfachleute verständlich. Die Kampagne unterhielt Beziehungen zu sympathisierenden Regierungen, die als institutionelle Fürsprecher auftreten konnten. Und sie war bereit, ohne Beteiligung der Großmächte vorzugehen, in dem Wissen, dass ein Vertrag ohne die US, China und Russland dennoch eine Norm schaffen würde, die das Verhalten im Laufe der Zeit prägen würde.
Was Umwelt-NGOs für das Montreal-Protokoll getan haben
Die Kampagne zur Einschränkung ozonabbauender Substanzen baute auf einer Grundlage wissenschaftlicher Kommunikation auf, die technische Erkenntnisse in öffentliche Besorgnis übersetzte. Als F. Sherwood Rowland und Mario Molina 1974 ihre Erkenntnisse zur Chlorfluorkohlenwasserstoff-Chemie veröffentlichten und zeigten, dass FCKW die stratosphärische Ozonschicht katalytisch zerstören würden, erforderte die wissenschaftliche Erkenntnis Interpretation und Verstärkung, um zu einem politischen Thema zu werden. Umwelt-NGOs, insbesondere Friends of the Earth und der Natural Resources Defense Council, leisteten diese Übersetzungsarbeit während der späten 1970er und 1980er Jahre.
Die NGO-Kampagne kombinierte öffentliche Aufklärung, Medienarbeit und direkte politische Advocacy. In den Vereinigten Staaten unterstützten NGOs erfolgreiche Kampagnen zur Einschränkung der CFC-Nutzung in Aerosolsprays, bevor es eine internationale Vereinbarung gab, und schufen damit einen innenpolitischen Regulierungspräzedenzfall, auf den die US-Regierung in internationalen Verhandlungen als Beleg für politische Machbarkeit verweisen konnte. Als die Entdeckung des antarktischen Ozonlochs 1985 einen dramatischen visuellen und wissenschaftlichen Beleg für die Schäden durch CFCs lieferte, war die Kommunikationsinfrastruktur der NGOs bereit, dessen Bedeutung sofort zu verstärken.
Nach Abschluss des Montreal-Protokolls überwachten NGOs die Umsetzung, identifizierten Compliance-Probleme und setzten sich für die aufeinanderfolgenden Änderungen ein, die in den folgenden Jahrzehnten den Geltungsbereich des Protokolls erweiterten. Die Rolle der Zivilgesellschaft endete nicht mit der Unterzeichnung des Vertrags; sie setzte sich durch die Implementierungsphase des Protokolls fort und lieferte die fortlaufende Überwachung, die Regierungen zur Einhaltung ihrer Verpflichtungen anhielt.
Was die Zivilgesellschaft der KI-Sicherheit aufgebaut hat und was nicht
Das KI-Sicherheitsfeld hat substanzielle technische und intellektuelle Arbeit zu den Risiken von Frontier-KI-Systemen hervorgebracht. Diese Arbeit hat sich in akademischen Papern, Konferenzberichten und öffentlichen Mitteilungen von Forschern an Universitäten und großen KI-Laboren angesammelt. Mehrere Forscher, darunter Geoffrey Hinton und Yoshua Bengio, haben sich öffentlich zu existenziellen KI-Risiken in Formulierungen geäußert, die erhebliche mediale Aufmerksamkeit erregt haben. Es gibt nun eine bescheidene Anzahl philanthropisch finanzierter Organisationen, die an ASI-Governance und -Politik arbeiten.
Verglichen mit der Zivilgesellschaftsinfrastruktur, die die nukleare Rüstungskontrolle und das Landminenverbot stützte, ist der aktuelle zivilgesellschaftliche Einsatz für KI-Sicherheit jedoch in bestimmten Punkten dünn.
Es gibt kein Pugwash-Äquivalent: kein kontinuierliches, strukturiertes Forum, in dem KI-Forscher aus US, China, EU und anderen großen KI-entwickelnden Ländern sich regelmäßig als Individuen außerhalb offizieller Regierungskanäle treffen, um gemeinsame technische Rahmenwerke für Governance zu entwickeln. Die bestehenden bilateralen und multilateralen Regierungsprozesse sind offiziell, nicht Track-2, und unterliegen daher allen Beschränkungen offizieller diplomatischer Kontakte.
Es gibt kein ICBL-Äquivalent: keine Massenmitgliederkampagne mit einer klaren, konkreten Forderung und einer dokumentierten Schadensbilanz, die die Forderung mit der gegenwärtigen Erfahrung realer Menschen verbindet. Existenzielle KI-Risiken werden antizipiert, nicht erlebt, was die emotionale und politische Mobilisierung, die die Landminen-Kampagne erreichte, erheblich schwerer reproduzierbar macht. Der Schaden durch ASI ist noch nicht in der Gegenwartsform präsent, wie es Landminenopfer waren.
Es gibt keine kontinuierliche Monitoring-Funktion: keine zivilgesellschaftliche Organisation, die Regierungsverpflichtungen zur ASI-Governance verfolgt, die Einhaltung freiwilliger Zusagen misst und Ergebnisse so veröffentlicht, dass Verantwortlichkeit entsteht. Den NGOs, die die Umsetzung von Rüstungskontrollverträgen überwachen, Gruppen, die bewerten, ob Staaten ihren Abrüstungsverpflichtungen nachkommen, mutmaßliche Verstöße untersuchen, Lücken zwischen Verpflichtung und Handeln dokumentieren, steht kein klares Äquivalent im ASI-Governance-Bereich gegenüber.
„Jeder große Rüstungskontrollerfolg wurde von jahrelanger Zivilgesellschaftsarbeit vorausgegangen, die öffentliches Verständnis aufbaute, Governance-Vorschläge entwickelte und politischen Druck aufrechterhielt. Diese Arbeit muss jetzt für KI beginnen.“
Was die Zivilgesellschaft im Bereich KI-Sicherheit aufgebaut hat, ist eine Forschungs- und Politikgemeinschaft von erheblicher intellektueller Qualität. Was sie bisher nicht aufgebaut hat, ist die Fähigkeit zur öffentlichen Mobilisierung, die grenzüberschreitende wissenschaftliche Dialoginfrastruktur und die laufende Überwachungsfunktion, die erfolgreiche Governance-Kampagnen in anderen Technologiefeldern ausgezeichnet haben. Diese Kapazitäten aufzubauen, ist die politische und institutionelle Voraussetzung für einen Vertrag, der verhandelt, ratifiziert und aufrechterhalten werden kann, nicht getrennt von der Arbeit, einen solchen Vertrag zu befürworten.
Der stärkste Widerstand
Die fairste Einwirkung ist, dass NGOs und Akademiker keine Großmächte bewegen können, sodass die Zivilgesellschaft nur Kommentar bleibt. Bewegungen unterzeichnen keine Verträge. Sie verändern die Kosten des Nicht-Unterzeichnens. Öffentlicher Druck, fachliche Ausarbeitung und von Spendern finanzierte Advocacy sind der Weg, wie zurückfallende Staaten in Räume gezogen werden, die sie lieber auslassen würden.