Könnte ein IPCC-ähnliches Gremium aufbauen
Wissenschaftlicher Konsens zu KI-Risiken?

Governance ohne gemeinsame wissenschaftliche Grundlage ist Verhandlung ohne gemeinsame Karte. Die Klimaverhandlungen vor 1990 illustrieren dieses Problem: Regierungen, die darüber stritten, ob menschengemachte Erwärmung überhaupt stattfindet, konnten sich nicht darauf einigen, welches Maß an Reaktion angemessen ist, weil sie von unvereinbaren faktischen Prämissen ausgingen. Der erste Bewertungsbericht der IPCC, veröffentlicht 1990, stellte fest, dass Erwärmung stattfindet und auf menschliche Aktivität zurückzuführen ist. Er beendete nicht die politischen Streitigkeiten darüber, was zu tun ist, änderte aber den Charakter dieser Streitigkeiten von Argumenten darüber, ob ein Problem existiert, zu Argumenten darüber, wie auf eines zu reagieren ist.

Vor dem IPCC war Klimawissenschaft umstrittenes Terrain. Nach drei Jahrzehnten von IPCC-Bewertungsberichten ist die wissenschaftliche Grundlage für Klimapolitik effektiv geklärt, unabhängig von politischen Streitigkeiten über die Reaktion. KI-Risiko braucht dieselbe Art autoritativer Synthese. Was es bräuchte, ein gleichwertiges Gremium aufzubauen, ist eine Frage mit einer konkreten Antwort.

Die Politik des KI-Risikos befindet sich in einem prä-IPCC-Zustand. Es gibt kein autoritatives internationales Gremium, das die Evidenz zu Frontier-AI-Risiken synthetisiert, die Wahrscheinlichkeit und den Charakter katastrophaler Ausgänge bewertet und Feststellungen produziert, die Regierungen als gemeinsame faktische Grundlage für Governance-Entscheidungen behandeln. Diese Lücke ist kein geringfügiges Ärgernis. Governance-Verhandlungen, die ohne gemeinsame faktische Prämissen beginnen, tendieren dazu, Rahmen zu produzieren, die stärker von strategischen Interessen als vom Charakter des zu regierenden Risikos geprägt sind.

Wie der IPCC tatsächlich Konsens aufbaute

Das IPCC betreibt keine eigene Forschung. Es fasst bestehende, peer-reviewte Forschung, die von Tausenden Wissenschaftlern an Universitäten und Forschungsinstituten weltweit erstellt wurde, in umfassenden Bewertungsberichten zusammen. Am Syntheseprozess beteiligen sich Hunderte von Fachexperten als Autoren, die die veröffentlichte Literatur in ihren Fachgebieten sichten und zusammenfassen. Die Zusammenfassung für politische Entscheidungsträger, der Abschnitt, den Regierungen und Journalisten tatsächlich lesen, entsteht durch eine zeilenweise Verhandlung zwischen den wissenschaftlichen Autoren und Regierungsvertretern aller 195 IPCC-Mitgliedstaaten.

Dieser Verhandlungsprozess ist die Quelle der politischen Autorität der IPCC, aber auch ihres konservativen Charakters. Jede Regierung kann gegen bestimmte Formulierungen in der Zusammenfassung Einwände erheben, und der Prozess erfordert, dass diese Einwände vor der Annahme der Zusammenfassung behandelt werden. Das bedeutet, dass die Zusammenfassung den kleinsten gemeinsamen Nenner dessen widerspiegelt, was alle teilnehmenden Regierungen akzeptieren werden, was fast immer vorsichtiger ist, als es die zugrunde liegende Wissenschaft ohne politische Filter unterstützen würde. Die Zusammenfassungen der IPCC untertreiben durchgehend die Dringlichkeit im Vergleich zu den vollständigen Bewertungsberichten, die sie zusammenfassen, weil die Zusammenfassungssprache die Regierungsprüfung überstehen muss.

Trotz dieser konservativen Tendenz waren die Bewertungen des IPCC folgenreich. Die Entwicklung vom ersten Bewertungsbericht 1990, der den grundlegenden wissenschaftlichen Fall für menschengemachte Erwärmung darlegte, bis zum sechsten Bewertungszyklus, der 2022 abgeschlossen wurde und die Belege als eindeutig sowie die Risiken als schwerwiegend und weit verbreitet charakterisierte, hat eine kumulative normative Verschiebung bewirkt, die es Regierungen zunehmend erschwert hat, die grundlegenden Tatsachen des Klimawandels öffentlich zu leugnen. Die politischen Kosten der Leugnung sind mit jedem Bewertungszyklus gestiegen, weil die Autorität des IPCC in nahezu allen politischen Systemen anerkannt wird.

Die Pugwash-Alternative

Vor dem IPCC war die einflussreichste Wissenschaftspolitik-Schnittstelle für existenzielle Risiken die Pugwash Conferences on Science and World Affairs. Pugwash begann 1957 als Reaktion auf das Russell-Einstein-Manifest, eine 1955 von Albert Einstein, Bertrand Russell und neun weiteren prominenten Wissenschaftlern unterzeichnete Erklärung, die vor den Gefahren von Atomwaffen warnte und Regierungen aufforderte, Streitigkeiten auf friedlichem Wege zu lösen. Die erste Pugwash-Konferenz, die im Juli 1957 im nova-scotischen Dorf Pugwash stattfand, brachte zweiundzwanzig Wissenschaftler aus zehn Ländern, darunter die Vereinigten Staaten, die Sowjetunion und das Vereinigte Königreich, zusammen, um über Atomwaffenrisiken zu diskutieren.

Was Pugwash von formellen zwischenstaatlichen Prozessen unterschied, war sein informeller Charakter. Die Teilnehmer nahmen als Einzelpersonen teil, nicht als Regierungsvertreter. Die Diskussionen waren vertraulich. Wissenschaftler aus gegnerischen Ländern konnten Positionen und Ideen erkunden, die ihre Regierungen nicht offiziell autorisiert hatten. Diese Informalität ermöglichte die Art von offenem Austausch über die Linien des Kalten Kriegs hinweg, der in formellen diplomatischen Settings unmöglich war.

Pugwash hat keine Verträge hervorgebracht. Es hat das intellektuelle Fundament geschaffen, das spätere formelle Verhandlungen formalisiert haben. Das Konzept der gegenseitig zugesicherten Zerstörung als Grundlage für Abschreckungsstabilität wurde in Pugwash-Diskussionen verfeinert, bevor es US-offizielle Politik wurde. Der Vertrag über das Verbot von Kernwaffentests in der Atmosphäre (1963) und der Nichtverbreitungsvertrag (1968) griffen beide auf Ideen zurück, die in Pugwash-Diskussionen entwickelt worden waren. Die Organisation erhielt 1995 gemeinsam mit Joseph Rotblat, ihrem langjährigen Generalsekretär, den Friedensnobelpreis in Anerkennung dieses Beitrags zur Rüstungskontrolle.

Was ein Gremium zu KI-Risiken anders machen müsste

Ein internationales Gremium zu KI-Risiken nach dem Vorbild des IPCC stünde vor mehreren Herausforderungen, die es in der Klimawissenschaft nicht gibt.

Das Problem proprietären Wissens. Das meiste, was über die Fähigkeiten und Risiken von Frontier-KI-Systemen bekannt ist, wird von einer kleinen Zahl privater Unternehmen gehalten. Die Forschungsliteratur zur Frontier-KI-Sicherheit ist teilweise veröffentlicht, aber die relevantesten Informationen, einschließlich der Ergebnisse interner Fähigkeitsevaluierungen, von Sicherheitstests und von Vorfallberichten, sind proprietär. Der IPCC synthetisiert öffentliche, peer-reviewte Forschung. Ein KI-Risikogremium bräuchte Zugang zu nicht-öffentlichen Informationen, um die relevanteste Evidenz zu synthetisieren, was voraussetzt, dass Frontier-KI-Entwickler diese Informationen dem Gremium unter definierten Vertraulichkeitsregelungen zur Verfügung stellen. Diese Regelungen zu gestalten ist eine erhebliche Governance-Herausforderung ohne IPCC-Vorbild.

Das Tempo-Problem. Der IPCC erstellt alle fünf bis sieben Jahre umfassende Bewertungsberichte mit Zwischenaktualisierungen. Dieses Tempo passt zu einem physikalischen Phänomen, das sich auf dekadischen Zeitskalen verändert. KI-Fähigkeiten entwickeln sich auf Zeitskalen von Monaten. Ein KI-Risikopanel müsste deutlich häufigere Bewertungen erstellen oder eine ständige Überwachungsfunktion einrichten, die Fähigkeitsentwicklungen in nahezu Echtzeit verfolgt, um für Governance-Entscheidungen relevant zu bleiben. Häufigere Berichte wären durch das zeilenweise zwischenstaatliche Review-Verfahren des IPCC schwerer zu erstellen, weil dieses Verfahren von Design her langsam ist.

Das Dual-Use-Wissensproblem. Klimawissenschaft ist öffentlich verfügbares Wissen, das kein inhärentes Sicherheitsrisiko birgt. KI-Sicherheitsforschung beinhaltet manchmal das Verständnis, wie genau gefährliche Fähigkeiten missbraucht werden könnten, was eine Spannung zwischen der Transparenz, die Bewertungen autoritativ macht, und den Sicherheitsbedenken erzeugt, die für die Einschränkung einiger Ergebnisse sprechen. Ein KI-Risiko-Panel bräuchte Verfahren für den Umgang mit sensiblen Fähigkeitsbefunden, die die IPCC nie entwickeln musste.

Warum ist das Fehlen eines solchen Gremiums bereits kostspielig

Das Fehlen einer autoritativen internationalen Stelle, die KI-Risikobelege zusammenführt, verursacht konkrete Governance-Kosten, die jetzt schon sichtbar sind.

Governance-Verhandlungen gehen von unvereinbaren faktischen Prämissen aus. Verschiedene Regierungen und verschiedene Fraktionen innerhalb von Regierungen operieren mit grundlegend unterschiedlichen Einschätzungen darüber, wann künstliche Superintelligenz katastrophale Risiken darstellen könnte, welchen Charakter diese Risiken haben und welche Governance-Maßnahmen ihnen begegnen würden. Ohne eine gemeinsame faktische Grundlage neigen diese Verhandlungen dazu, Rahmenwerke zu produzieren, die um die politisch bequemste Sicht auf das Risiko herum konstruiert sind, statt um die genaueste Einschätzung davon.

Die Risikokommunikation ist fragmentiert und inkonsistent. Warnungen vor ASI-Risiken stammen aus einer heterogenen Sammlung von Quellen, darunter akademische Forscher, interne Sicherheitsteams von KI-Unternehmen, Denkfabriken und Advocacy-Organisationen, ohne gemeinsame Methodik, ohne gemeinsames Vokabular und ohne Verfahren zur Schlichtung von Meinungsverschiedenheiten. Das Ergebnis ist ein öffentlicher Diskurs, der zwischen Abwiegeln und Alarmismus schwankt, ohne einen verlässlichen autoritativen Bezugspunkt. Der Wert des IPCC für die Klimakommunikation bestand genau darin, Journalisten, politischen Entscheidungsträgern und der Öffentlichkeit eine einzige autoritative Quelle zu bieten, die sowohl gegen Abwiegeln als auch gegen Übertreibung zitiert werden konnte.

„Der IPCC hat keinen politischen Willen geschaffen, den Klimawandel anzugehen. Er hat die gemeinsame faktische Grundlage geschaffen, die das Ignorieren des Problems politisch kostspielig machte. ASI-Governance braucht dasselbe: ein Gremium mit der Autorität und Methodik, festzustellen, was die Evidenz tatsächlich über Frontier-KI-Risiken zeigt, damit Governance-Debatten von gemeinsamen Fakten statt von strategisch bequemer Unsicherheit ausgehen.“

Das wichtigste Präzedenz, das IPCC für KI bietet, ist nicht methodisch, sondern politisch. IPCC wurde 1988 gegründet, zwei Jahre vor seinem ersten Sachstandsbericht und vierunddreißig Jahre bevor die Ergebnisse des sechsten Bewertungszyklus als bereits weit verbreitet, rasch und sich verschärfend beschrieben wurden. Die institutionelle Investition in systematische Evidenzsynthese begann lange bevor der politische Wille eintraf, auf diese Evidenz zu handeln. Für KI-Risiken muss das institutionelle Äquivalent beginnen, bevor das Fenster für wirksame Governance sich schließt, nicht danach.

Ein Gremium zu KI-Risiken mit zwischenstaatlicher Mitgliedschaft, einem Mandat zur Synthese veröffentlichter und unter geeigneten Vertraulichkeitsregelungen nicht veröffentlichter Sicherheitsforschung, einem schnelleren Berichtsrhythmus als der IPCC und Zugang zu unabhängiger technischer Expertise aus KI-Sicherheitsforschungsgemeinschaften wäre innerhalb bestehender internationaler institutioneller Rahmen aufbaubar. Es würde keinen Vertrag erfordern. Es würde politisches Engagement einer ausreichenden Koalition von Regierungen erfordern, es einzurichten und zu finanzieren. Es ist die Art von Institution, die vor bindenden Governance-Verpflichtungen und zu deren Unterstützung geschaffen werden kann. Ob sie geschaffen wird, bevor die Technologie, die sie bewerten soll, frühe Bewertungen obsolet macht, ist eine Frage mit sich schließendem Antwortfenster.

Der stärkste Widerstand

Der fairste Einwand ist, dass ein weiteres Wissenschaftspanel zum Gerede wird, während Labs ausliefern. Fairer Risk. Das IPCC-Muster ist nützlich, wenn es geteilte Fakten in Räume zwingt, die Gesetze schreiben. Ein Panel ohne Pfad zu Schwellenwerten und Durchsetzung ist Theater. Verbindet Assessment mit Triggern.