Am 5. September 2024 unterzeichneten in Vilnius, Litauen, Vertreter der Vereinigten Staaten, des Vereinigten Königreichs, der Europäischen Union und Dutzender anderer Nationen die Rahmenkonvention über Künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit. Es war der erste rechtlich bindende internationale Vertrag über künstliche Intelligenz, der je geschlossen wurde. Er verdient es, klar verstanden zu werden, sowohl für das, was er erreicht, als auch für das Problem, das er nie lösen sollte.

Was der Vertrag tatsächlich abdeckt

Die Rahmenkonvention ist ein Menschenrechtsinstrument. Ihre rechtlichen Verpflichtungen zielen darauf ab, sicherzustellen, dass KI-Systeme Demokratie, Menschenrechte oder Rechtsstaatlichkeit nicht untergraben. In der Praxis bedeutet das:

  • Transparenzanforderungen: Menschen müssen informiert werden, wenn KI-Systeme Entscheidungen über sie beeinflussen
  • Rechenschaftsmechanismen: Staaten müssen sicherstellen, dass KI-Entwickler und -Betreiber für Schäden verantwortlich gemacht werden können
  • Nichtdiskriminierung: KI-Systeme dürfen keine Ergebnisse hervorbringen, die bestehendes Gleichheitsrecht verletzen
  • Wirksame Abhilfe: Menschen, die durch KI geschädigt wurden, müssen Zugang zu rechtlichem Ausgleich haben
  • Demokratische Schutzmaßnahmen: KI darf nicht dazu verwendet werden, Wahlprozesse oder die Rechtsstaatlichkeit zu untergraben

Das sind bedeutsame Verpflichtungen. Ein KI-Einstellungsalgorithmus, der aufgrund von Rasse diskriminiert, ein Gesichtserkennungssystem ohne Transparenz im Einsatz, eine KI-generierte Desinformationskampagne – all das wird vom Rahmenwerk des Vertrags direkt adressiert. Die Unterzeichner haben bindende Pflichten zu ihrer Verhinderung akzeptiert.

Der Durchsetzungsmechanismus ist eine Konferenz der Vertragsparteien, die die Umsetzung überprüft und Empfehlungen aussprechen kann. Er ist weicher als das Verifikationsregime der Chemiewaffenkonvention oder die Inspektionsprotokolle des Nichtverbreitungsvertrags, etabliert aber das Prinzip, dass KI bindendem Völkerrecht unterliegt; dieses Prinzip war vor September 2024 nicht etabliert, und seine Etablierung ist ein echter Fortschritt.

Was der Vertrag nicht abdeckt

Die Rahmenkonvention regelt, wie KI in der Gesellschaft eingesetzt wird. Sie regelt nicht, ob KI-Systeme, die zivilisatorische Risiken darstellen könnten, überhaupt entwickelt werden sollten.

Vom Vertrag abgedeckt
  • Diskriminierende KI in Entscheidungen des öffentlichen Sektors
  • Undurchsichtige KI-Systeme, die die Rechte von Einzelpersonen beeinträchtigen
  • KI, die genutzt wird, um demokratische Prozesse zu untergraben
  • Fehlende rechtliche Abhilfe bei durch KI verursachtem Schaden
  • KI in Strafjustiz und Sozialsystemen
Nicht vom Vertrag abgedeckt
  • Entwicklung von Frontier-KI-Systemen
  • Compute-Governance und Trainingsobergrenzen
  • KI-Alignment und fehlgeleitete Zielverfolgung
  • Existenzielle Risiken durch künstliche Superintelligenz
  • Unabhängige Verifizierung der Einhaltung

Der Risikorahmen des Vertrags ist auf gegenwärtige und kurzfristige KI-Schäden kalibriert, die echten und ernsten Schäden, die heutige KI-Systeme bereits verursachen. Das ist der richtige Geltungsbereich für ein Instrument, das Menschenrechte in von KI betroffenen Gesellschaften schützen soll. Es ist der falsche Geltungsbereich für ein Instrument, das zivilisatorische Katastrophen durch künstliche Superintelligenz verhindern soll.

Nirgendwo im Text des Vertrags erscheint das Wort „Superintelligenz“. Nirgendwo legt er Verpflichtungen für das Frontier-KI-Entwicklungsrennen fest. Er sagt nichts zu Compute-Governance, zu Trainingslaufgrößen, zum Alignment-Problem oder zu dem Szenario, das Geoffrey Hinton, Yoshua Bengio und die anderen Forscher beschäftigt, deren Warnungen sich im vergangenen Jahrzehnt angesammelt haben.

Warum diese Unterscheidung wichtig ist

Die Gefahr, die Rahmenkonvention mit angemessener Governance zu verwechseln, ist ein natürliches Ergebnis des politischen Prozesses, der internationale Abkommen hervorbringt, nicht hypothetisch: Sobald ein Vertrag existiert, ist der politische Druck, einen zu schaffen, befriedigt. Die Länder, die die Rahmenkonvention unterzeichnet haben, können darauf verweisen als Beweis, dass KI regiert wird. Das schwierigere Gespräch – darüber, ob die leistungsfähigsten entwickelten KI-Systeme bindenden internationalen Beschränkungen ihrer Entwicklung, nicht nur ihres Einsatzes, unterliegen sollten – wird nach einer erklärten Governance-Meile nicht leichter.

Die Rahmenkonvention regelt dieselbe KI, die bereits bestehendes Menschenrechts- und Gleichheitsrecht regelt, sie überträgt diese Prinzipien in den KI-Kontext und macht sie international bindend. Das ist wertvoll. Es ist keine Antwort auf das Risiko, dass ein hinreichend fähiges KI-System, das Ziele verfolgt, die subtil nicht mit menschlichem Wohlergehen übereinstimmen, Schaden in einem Ausmaß verursachen könnte, dem kein rechtliches Mittel begegnen kann, weil der Schaden irreversibel ist.

„Das Ziel ist, dass die KI-Entwicklung für KI und Menschen gleichermaßen gut verläuft. Dazu muss man sie als zivilisatorisches Thema behandeln, nicht als Frage der Produkthaftung.“

Was ein frontier-AI-Sicherheitsvertrag erfordern würde

Ein Vertrag, der das Risiko durch künstliche Superintelligenz adressieren soll, würde ganz anders aussehen als die Framework Convention. Der Nakada Foundation's vorgeschlagenes Rahmenwerk umreißt, was ein solcher Vertrag enthalten müsste:

  • Compute Governance: bindende Grenzen für die Rechenressourcen, die auf einen einzelnen Trainingslauf angewendet werden können, gestützt durch Hardware-Verifikation. Compute ist der Engpass in der Frontier-KI-Entwicklung und die einzige Variable, die derzeit auf internationaler Ebene messbar und durchsetzbar ist.
  • Unabhängige Verifizierung: ein Überwachungsmechanismus, der nuklearen Inspektionen ähnelt und es den Parteien ermöglicht, die Einhaltung zu überprüfen, statt sich auf Selbstauskünfte der Organisationen zu verlassen, die am meisten von Nichteinhaltung profitieren würden.
  • Berichterstattung zu Frontier AI: Verpflichtungen, die speziell für die Entwicklung der fähigsten KI-Systeme gelten, nicht nur für ihren Einsatz in sozialen Kontexten.
  • US-China-Einbeziehung: jeder Vertrag, der nicht die beiden führenden KI-entwickelnden Nationen bindet, wird strukturell unzureichend sein, unabhängig davon, wie viele andere Länder ihn unterzeichnen.

Das Rahmenübereinkommen ist ein notwendiger erster Schritt. Die Anerkennung, dass KI bindendem Völkerrecht unterliegt, ist ein wichtiger Präzedenzfall. Aber die Geschichte der Governance existenzieller Technologien (nuklear, chemisch, biologisch) zeigt, dass der erste Vertrag in einem Bereich selten das größte Risiko adressiert. Es braucht jahrelange, anhaltende politische Anstrengungen, um die Rahmenwerke aufzubauen, die tatsächlich das Gefährlichste einschränken.

Diese politische Anstrengung muss jetzt beginnen, nicht erst nachdem die Rahmenkonvention das Problem für gelöst erklärt hat und nicht erst nachdem die Fähigkeiten existieren, die bindende Beschränkungen unmöglich durchsetzbar machen.