Der hochrangige Berater der UN
Gremium zu KI, erklärt

Das Beratungsgremium vereinte Expertinnen und Experten aus Regierung, Industrie, Wissenschaft und Zivilgesellschaft aus allen Regionen, genau um einem Vorschlag zur globalen Governance die Legitimität zu verleihen, die weder ein westlicher Club noch eine einzelne Regierung schaffen kann. Sein Abschlussbericht, der vor dem UN-Gipfel der Zukunft 2024 vorgelegt wurde, diagnostizierte eine Governance-Lücke und schlug eine Reihe von Funktionen und Institutionen zu deren Schließung vor. Bei allen Grenzen stellt er das Nächstliegende zu einem offiziellen, universellen Ausgangspunkt für die Debatte dar.

Ihr Bericht von 2024, „Governing AI for Humanity“, ist der bisher autoritativste Versuch, eine universelle Architektur zu skizzieren, und eine aufschlussreiche Studie darüber, wie weit das Mainstream-Gespräch noch von Frontier-Risiken entfernt ist.

Was der Bericht empfahl

Statt einer einzigen mächtigen Behörde empfahl der Bericht ein gestaffeltes Set leichter Funktionen, die politisch erreichbar sein sollten. Zu den zentralen Empfehlungen gehörten ein internationales wissenschaftliches Gremium zu KI, um ein gemeinsames, politikrelevantes Verständnis aufzubauen; ein regelmäßiger Politikdialog zwischen Regierungen; ein Austausch zur Entwicklung interoperabler Standards; ein Netzwerk zur Kapazitätsentwicklung, damit der Globale Süden teilnehmen kann; und ein kleines Koordinationsbüro im UN-Sekretariat, das die Teile zusammenführt. Außerdem wurde ein globaler Fonds und ein Data-Governance-Rahmenwerk ins Spiel gebracht.

Die Logik hinter der Bescheidenheit

Die Vorsicht des Berichts ist absichtlich und wert, verstanden zu werden. Sie spiegelt die Einschätzung wider, dass angesichts der Spaltung der Staaten der erreichbare erste Schritt nicht ein bindender Regulator ist, sondern die verbindende Infrastruktur (gemeinsame Wissenschaft, Dialog und Standards), auf der später stärkere Governance aufgebaut werden könnte. Das wissenschaftliche Gremium insbesondere greift auf die Erfahrungen mit Ozon und Klima zurück, wo eine autoritative gemeinsame Bewertung (IPCC als Modell) die gemeinsame faktische Grundlage schuf, die Vereinbarungen möglich machte. In dieser Lesart legt der Bericht Fundamente, nicht Mauern.

• Ein wissenschaftliches Gremium um der Welt ein gemeinsames, glaubwürdiges Bild der KI-Fähigkeiten und -Risiken zu geben, die faktische Grundlage, von der jede Governance abhängt.
• Ein politischer Dialog um Regierungen im Gespräch zu halten und die Fragmentierung rivalisierender regionaler Ansätze zu verhindern.
• Ein Standards-Austausch eher auf Interoperabilität als auf ein Flickwerk inkompatibler nationaler Regeln hinzuarbeiten.
• Kapazitätsaufbau um den Globalen Süden als Teilnehmer in die Governance einzubeziehen, nicht als nachträglichen Gedanken, eine Voraussetzung für Legitimität.

Die Lücke beim katastrophalen Risiko

Trotz aller Autorität hat der Bericht aus sicherheitspolitischer Sicht eine auffällige Einschränkung: Er behandelt ASI-Governance weitgehend als Angelegenheit der Bewältigung eines breiten Spektrums gesellschaftlicher Schäden (Bias, Desinformation, Ungleichheit, Arbeitsmarktstörungen) und misst der spezifischen Gefahr des Kontrollverlusts über ein superintelligentes System vergleichsweise wenig Gewicht bei. Es gibt keine vorgeschlagene rote Linie, keinen Compute-Schwellenwert, kein Verifikationsregime, kein Verbot. Die von ihm empfohlenen Instrumente dienen der Koordination und dem Verständnis, nicht der Beschränkung.

Diese Lücke ist bedeutsam, weil die Verbindungsinfrastruktur, die der Bericht vorschlägt, so wertvoll sie auch ist, nicht darauf ausgelegt ist, das eine zu tun, was Frontier-Sicherheit am dringendsten braucht: die Entwicklung von Systemen zu verhindern, die zu gefährlich sind, um sie zu kontrollieren. Ein wissenschaftliches Gremium und ein politischer Dialog können das gemeinsame Verständnis aufbauen, das eine bindende Vereinbarung möglich macht, sie können diese aber nicht ersetzen. Der UN-Prozess ist notwendige Grundlagenarbeit und für sich genommen unzureichend, eine Beschreibung, die auf weite Teile der aktuellen Governance-Landschaft zutrifft.

Der Blueprint von UN baut den Tisch, an den jeder Platz nehmen kann, und das ist wirklich wertvoll. Aber ein Tisch ist keine Vereinbarung. Die schwierigste Frage (wie die Entwicklung von Systemen gestoppt werden kann, die niemand kontrollieren kann) ist die, die der Mainstream-Prozess bisher nicht auf ihn legen wollte.

Warum es noch immer zählt

Die Arbeit des Beratungsgremiums ist genau wegen seiner Legitimität und Reichweite wichtig. Es stellt auf höchster Ebene des internationalen Systems fest, dass ASI-Governance eine globale Angelegenheit ist, die globale Institutionen erfordert, und schlägt die Shared-Science- und Dialogmechanismen vor, die im Laufe der Zeit das gemeinsame Verständnis aufbauen könnten, das ein verbindlicher Vertrag erfordert. Der realistische Weg ist es, das UN-Rahmenwerk als inklusive Grundlage zu behandeln, auf der anspruchsvollere, sicherheitsfokussierte Governance aufgeschichtet wird: das wissenschaftliche Gremium und den politischen Dialog, den es vorschlägt, zu nutzen, um das Mainstream-Gespräch in Richtung der katastrophalen Risiken zu bewegen, die es derzeit untergewichtet, und in Richtung der roten Linien und der Verifikation, die nur eine bindende Vereinbarung liefern kann. UN hat das Forum geschaffen. Die Aufgabe ist es, den Ehrgeiz dessen zu erhöhen, was darin geschieht.