Warum freiwillige KI-Sicherheit
Zusagen fallen zu kurz.

Im Weißen Haus verpflichteten sich im Juli 2023 sieben führende US-KI-Unternehmen einschließlich OpenAI, Anthropic, Google, Meta und Microsoft zu einer Reihe freiwilliger Sicherheits-, Sicherheits- und Transparenzmaßnahmen. Beim Bletchley AI Safety Summit im November 2023 unterzeichneten achtundzwanzig Länder eine Erklärung, in der sie ihre gemeinsame Sorge über Frontier-AI-Risiken anerkannten. Beim Seoul AI Safety Summit im Juni 2024 unterzeichneten sechzehn KI-Unternehmen die Frontier AI Safety Commitments, die Sicherheits-Schwellenwerte, Modellevaluationen und Informationsaustausch abdecken.

Freiwillige unternehmerische Sicherheitszusagen haben in anderen Branchen eine lange Geschichte, und diese Geschichte zeigt, was sie leisten können und was nicht.

Das sind bedeutende politische Errungenschaften. Sie stellen das erste Mal dar, dass die führenden Entwickler von Frontier-KI-Systemen öffentlich akzeptiert haben, dass ihre Arbeit ernste Risiken birgt und dass eine Form von Governance angemessen ist. Sie abzulehnen wäre falsch. Sie jedoch als ausreichend zu akzeptieren wäre ein kostspieligerer Fehler.

Was freiwillige Verpflichtungen tatsächlich erfordern

Die Frontier AI Safety Commitments, die in Seoul unterzeichnet wurden, sind die substanziellsten der großen Zusagen. Die Unterzeichner verpflichteten sich: Sicherheits-Schwellenwerte zu identifizieren, ab denen sie ein Modell nicht mehr einsetzen oder weiter trainieren würden; Evaluierungen ihrer Frontier-Modelle gegen diese Schwellenwerte durchzuführen und zu veröffentlichen; Informationen über Sicherheitsvorfälle und Evaluierungen mit Regierungen und anderen KI-Unternehmen zu teilen; und in Sicherheitsforschung zu investieren. Das sind echte Zusagen in dem Sinne, dass sie sichtbare Handlungen erfordern, die öffentlich beobachtet und kommentiert werden können.

Was sie nicht erfordern: unabhängige externe Verifizierung, ob Schwellenwerte erreicht werden; bindende Konsequenzen bei Nichteinhaltung; irgendeinen Mechanismus zur Durchsetzung gegen einen Unterzeichner, der zu kurz greift; und die Beteiligung von Unternehmen, die sich nicht zum Beitritt entschließen. Die Verpflichtungen sind aspirative Absichtserklärungen von Unternehmen, die sich volle Entscheidungsfreiheit darüber vorbehalten, wie sie sie auslegen und umsetzen.

Dies ist die Struktur einer freiwilligen Verpflichtung, und der Unterschied zu einer bindenden Verpflichtung ist nicht subtil. Eine freiwillige Verpflichtung bindet die Partei moralisch und reputationsmäßig. Eine bindende rechtliche Verpflichtung bindet sie im Recht, mit formalen Konsequenzen bei Nichteinhaltung. Die Lücke zwischen moralischer und rechtlicher Verpflichtung ist genau dort, wo die folgenreichsten Sicherheitsentscheidungen unter Wettbewerbsdruck getroffen werden.

Das Muster aus anderen Hochrisikoindustrien

Freiwillige unternehmerische Sicherheitszusagen sind in den meisten großen Hochrisikobranchen der verbindlichen Regulierung vorausgegangen, und das Muster dessen, was diese Zusagen erreicht und nicht erreicht haben, ist ziemlich konsistent.

In Finanzdienstleistungen entwickelten die großen Banken in den 1990er und frühen 2000er Jahren brancheneigene Risikomanagement-Codes und -Praktiken. Diese Codes waren vorhanden und nominell in Betrieb, als die Finanzkrise von 2007 bis 2009 offenbarte, dass freiwilliges Risikomanagement die Anhäufung systemischer Risiken nicht verhindert hatte. Der Financial Stability Board, der Basel-III-Rahmen und erweiterte Pflichtoffenlegungen folgten. Freiwillige Zusagen hatten die Basispraktiken verbessert, reichten aber bei den Tail-Risiken nicht aus, wo die Kosten eines Scheiterns am höchsten waren.

In der chemischen Industrie wurde das Responsible-Care-Programm 1985 nach einer Reihe schwerer Chemieunfälle, darunter Bhopal 1984, gestartet. Teilnehmende Unternehmen verpflichteten sich, Sicherheit, Gesundheit und Umweltleistung zu verbessern und transparent über Fortschritte zu berichten. Responsible Care verbesserte die Sicherheitskultur der Branche und reduzierte über die folgenden Jahrzehnte die Häufigkeit routinemäßiger Unfälle. Es verhinderte keine signifikanten Zwischenfälle und wurde schließlich durch verbindliche regulatorische Anforderungen ergänzt. Die eigene Bewertung des Programms stellte fest, dass seine größte Limitation das Fehlen unabhängiger Verifizierung war.

Die Sicherheit von Kernkraftwerken in den Vereinigten Staaten wurde zunächst vor allem durch Selbstregulierung und Industriestandards geregelt. Der Unfall in Three Mile Island im März 1979 zeigte, dass eine freiwillige Sicherheitskultur der Industrie für eine Technologie unzureichend war, deren Versagensmodi große Bevölkerungen betreffen können. Der obligatorische Aufsichtsrahmen der Nuclear Regulatory Commission mit unabhängigen Inspektionen, obligatorischer Unfallmeldung und verbindlichen Betriebsstandards folgte. Die Industrie bekämpfte die obligatorische Regulierung damals; ihr wird heute allgemein zugeschrieben, die Sicherheitskulturverbesserungen hervorgebracht zu haben, die freiwillige Ansätze nicht erreicht hatten.

Das Problem des Wettbewerbsdrucks

Freiwillige Verpflichtungen haben eine strukturelle Schwachstelle, die verbindliche Regulierung nicht hat: das Wettbewerbsdruckproblem. Wenn eine Verpflichtung echte Kosten verursacht, wie etwa die Verlangsamung von Entwicklungszeitplänen, die Anforderung teurer Sicherheitsbewertungen oder den Ausschluss hochprofitabler Anwendungen, dann gewinnt jedes Unternehmen, das die Verpflichtung nicht unterzeichnet, einen Wettbewerbsvorteil, indem es diese Kosten vermeidet. Unternehmen, die unterzeichnen, stehen vor der Wahl, ihre Interpretation der Verpflichtung zu lockern, um wettbewerbsfähig zu bleiben, oder die Kosten zu tragen und zurückzufallen.

Diese Dynamik ist im KI-Sektor nicht hypothetisch. Die Unternehmen, die die Frontier AI Safety Commitments in Seoul unterzeichnet haben, konkurrieren direkt mit Unternehmen und staatlich geförderten Programmen in China, die kein vergleichbares Dokument unterzeichnet haben. Sie konkurrieren auch untereinander, und die Zusagen, die sie unterzeichnet haben, sind sprachlich so breit gefasst, dass vernünftige Auslegungsstreitigkeiten darüber, was die Einhaltung erfordert, unvermeidlich sind.

Verbindliche Regulierung löst dies, indem sie einen Boden schafft, den alle Wettbewerber erfüllen müssen, und damit den Wettbewerbsvorteil aus Nichteinhaltung beseitigt. Deshalb erzeugt verbindliche Regulierung Sicherheitsresultate, die freiwillige Selbstverpflichtungen in der Regel nicht erreichen können: Sie entfernt die Anreizstruktur, die Sicherheitsabkürzungen attraktiv macht.

Was freiwillige Verpflichtungen gut leisten

Die wertvollste Funktion freiwilliger Verpflichtungen in der Geschichte der industriellen Sicherheitsregulierung war die Normsetzung. Freiwillige Verpflichtungen schaffen ein Protokoll der Anerkennung der Industrie, dass ein Problem existiert und dass bestimmte Praktiken angemessene Reaktionen darstellen. Dieses Protokoll wird zur Grundlage, auf der verbindliche Regulierung aufbaut.

Wenn Regulierungsbehörden oder Gesetzgeber sich mit ASI-Governance befassen, werden die Frontier AI Safety Commitments bereits festgestellt haben, dass führende Unternehmen die Legitimität von Sicherheitsgrenzen, Modellevaluationen und Informationsaustausch als Governance-Konzepte anerkennen. Die Industrie wird in einer schwächeren Position sein, diese Anforderungen als technisch undurchführbar oder kommerziell unangemessen darzustellen, nachdem sie sich bereits freiwillig dazu verpflichtet hat. In diesem Sinne sind freiwillige Zusagen ein erster Schritt hin zu verbindlicher Governance, nicht deren Ersatz.

Freiwillige Verpflichtungen schaffen auch institutionelle Infrastruktur. Die Seoul-Verpflichtungen verlangten von Unternehmen, interne Prozesse für die Festlegung von Sicherheits-Schwellenwerten und Modell-Evaluationen zu entwickeln. Diese Prozesse und das in ihnen eingebettete institutionelle Wissen bilden die Grundlage, auf der ein verbindliches Verifikationsregime aufbauen kann. Eine Regulierungsbehörde, die verbindliche KI-Sicherheitsevaluationen beaufsichtigt, wird auf bestehende Unternehmenspraktiken zurückgreifen können, statt Compliance-Infrastruktur von Grund auf zu entwerfen.

"Freiwillige Zusagen erfüllen eine nützliche Funktion in der frühen Phase der Governance-Entwicklung, und die Bletchley- und Seoul-Zusagen haben etwas bewirkt. Doch die Geschichte jeder großen Hochrisiko-Branche zeigt dasselbe: Freiwillige Zusagen verbessern Basispraktiken und versagen bei Tail-Risiken. Genau um Tail-Risiken geht es bei der Regulierung von Superintelligenz."

Was bindende Governance erfordert, das freiwillige Zusagen nicht leisten können

Vier Elemente unterscheiden bindende von freiwilliger Governance, und alle vier sind für Frontier-AI wichtig.

Unabhängige Überprüfung. Eine freiwillige Selbstverpflichtung wird selbst gemeldet. Eine bindende Verpflichtung unterliegt der Überprüfung durch Dritte, sei es durch eine Regulierungsbehörde, eine internationale Inspektionsagentur oder einen unabhängigen Prüfer mit Rechtsstellung. Selbstmeldung liefert genaue Informationen, wenn die meldenden Organisationen keinen Anreiz haben, die Fakten zu verzerren. In Wettbewerbsmärkten ist diese Bedingung selten erfüllt.

Definierte Konsequenzen bei Nichteinhaltung. Freiwillige Zusagen erzeugen Reputationskosten bei Nichteinhaltung, die real, aber begrenzt sind. Verbindliche Verpflichtungen erzeugen rechtliche Konsequenzen: Geldstrafen, Lizenzentzüge, Marktzugangsbeschränkungen oder vertragsbasierte Sanktionen. Die Glaubwürdigkeit eines Governance-Rahmenwerks hängt von der Glaubwürdigkeit seiner Konsequenzen ab.

Abdeckung von Nichtunterzeichnern. Die folgenreichste KI-Entwicklung könnte von Unternehmen oder Regierungen kommen, die niemals eine freiwillige Verpflichtung unterzeichnen. Bindende nationale Regulierung und internationale Vertragsverpflichtungen schaffen Governance, die für Akteure gilt, unabhängig davon, ob sie im Voraus zustimmen. Ein Rahmen freiwilliger Verpflichtungen lässt die Akteure, die am ehesten ernsthafte Risiken schaffen, außerhalb des Rahmens, wenn sie sich dafür entscheiden.

Stabilität über Führungswechsel hinweg. Freiwillige Zusagen binden die aktuelle Führung eines Unternehmens. Wenn sich die Führung ändert, sich die Zusammensetzung des Vorstands ändert oder der Wettbewerbsdruck zunimmt, hat die Zusage keine rechtliche Kraft, diese Änderungen zu überdauern. Bindende Regulierung ist im Gesetz verankert und überdauert gewöhnliche organisatorische Veränderungen.

Die freiwilligen Zusagen von Bletchley und Seoul sind echte Errungenschaften, auf denen man aufbauen sollte. Darauf aufbauen bedeutet, ehrlich anzuerkennen, was sie leisten und was sie nicht leisten können, und die politische und institutionelle Dynamik, die sie repräsentieren, zu nutzen, um verbindliche Governance zu verfolgen, die die Lücken schließt, die sie offenlassen.

Der stärkste Widerstand

Der fairste Einwand ist, dass freiwillige Regeln der Weg sind, wie Industrien reifen, und dass das Fordern von Gesetzen zuerst den Fortschritt einfriert. Freiwillige Regeln helfen, wenn sie offenlegen. Sie versagen, wenn dieselbe Firma den Test schreibt, benotet und davon profitiert. Externer Biss ist es, was Reife wirklich macht.