Es ist inzwischen gut dokumentiert, dass KI-Entwickler mehr über die Risiken ihrer Systeme wissen, als sie öffentlich sagen. Interne Sicherheitsteams großer KI-Labore haben erhebliche Bedenken dokumentiert. Forscher, die diese Labore verlassen, beschreiben interne Debatten darüber, ob aktuelle Systeme zu schnell eingesetzt werden. Die Sicherheitsbedenken sind bekannt und in vielen Fällen nur teilweise umgesetzt, während die Entwicklung weitergeht, nicht unbekannt.
Kein Labor oder keine Nation kann dieses Anreizproblem allein durch bessere Entscheidungen lösen. Es erfordert multilaterale Governance.
Dies ist eine Geschichte über ein Koordinationsproblem, bei dem selbst sicherheitsbewusste Akteure strukturellen Anreizen ausgesetzt sind, die sie zu einer schnelleren Entwicklung und Einführung drängen, als ihre eigenen Risikobewertungen empfehlen würden, nicht in erster Linie eine Geschichte über böswillige Akteure. Das Verständnis dieser Anreize (die Dynamik des KI-Wettrüstens) ist essenziell, um zu begreifen, warum die Sicherheitszusagen einzelner Organisationen unzureichend sind und welche Art von Governance-Strukturen tatsächlich erforderlich sind.
Die Struktur des Rennens
Die Grundstruktur von KI-Wettrüsten-Dynamiken ist einfach. Mehrere Akteure (Unternehmen innerhalb eines Landes, Länder weltweit) konkurrieren darum, die fähigsten KI-Systeme zu entwickeln und sie zuerst einzusetzen. Investitionen in Sicherheit kosten Zeit und Ressourcen, die alternativ zur Beschleunigung der Fähigkeitsentwicklung genutzt werden könnten. Jeder Akteur, der langsamer wird, um ernsthaft in Sicherheit zu investieren, fällt hinter Akteure zurück, die das nicht tun. Der Akteur, der das Rennen gewinnt, wird strukturell wahrscheinlich derjenige sein, der am aggressivsten Sicherheit gegen Geschwindigkeit eingetauscht hat.
Dies erzeugt eine Dynamik, in der sicherheitsbewusste Akteure vor der Wahl zwischen zwei schlechten Optionen stehen. Sie können ihre Sicherheitsstandards aufrechterhalten und zurückfallen, sodass die Frontier von weniger sicherheitsbewussten Akteuren geformt wird. Oder sie können ihre Sicherheitsinvestitionen reduzieren, um wettbewerbsfähig zu bleiben, sodass ihre eigenen Standards nachlassen. In beiden Fällen erzeugt der Wettbewerbsdruck systematisch Ergebnisse, die schlechter sind als das, was jeder einzelne Akteur bevorzugen würde, wenn er koordinieren könnte.
Wenn ein Labor langsamer wird und sein Rivale nicht, verliert das vorsichtige Labor Marktanteile und das Wettrüsten behält sein Tempo. Diese einfache Auszahlungsmatrix ist der Grund, warum „wir werden die Verantwortlichen sein“ als Strategie scheitert. Sicherheit, die von einseitiger Zurückhaltung abhängt, ist eine Spende an den am wenigsten zurückhaltenden Akteur, keine Strategie.
Die nationale Dimension
Laborinterne Wettlaufdynamiken lassen sich grundsätzlich durch nationale Regulierung angehen: Eine Regierung kann allen KI-Labors in ihrer Jurisdiktion gleichzeitig Sicherheitsanforderungen auferlegen und so den Wettbewerbsnachteil von Sicherheitsinvestitionen innerhalb dieser Jurisdiktion beseitigen. Deshalb ist nationale KI-Regulierung wichtig. Sie kann das Koordinationsproblem innerhalb eines Landes lösen, auch wenn sie das Problem zwischen Ländern nicht löst.
Nationale Wettlaufdynamiken sind strukturell schwieriger. Der US-China-Wettbewerb in der KI wird häufig als strategisches Rennen mit erheblichen geopolitischen Konsequenzen dargestellt, und diese Rahmung erzeugt dieselbe Anreizstruktur auf nationaler Ebene: Jede Nation, die aus Sicherheitsgründen langsamer wird, fällt hinter Nationen zurück, die das nicht tun. Die Sorge, dass Sicherheitsregulierung einen strategischen Nachteil gegenüber weniger sicherheitsregulierten Konkurrenten schafft, ist ein echtes Koordinationsproblem, kein böswilliger Einwand.
Deshalb reicht rein nationale KI-Regulierung (selbst strenge nationale Regulierung) als Antwort auf KI-Wettrüstungsdynamiken nicht aus. Die internationale Regulierungslücke ist ein strukturelles Koordinationsproblem, das multilaterale Rahmenwerke mit Durchsetzungsmechanismen erfordert, vergleichbar mit den Rüstungskontrollverträgen, die den nuklearen Wettrüsten teilweise ein Ende setzten, kein technisches Problem darüber, welches Land bessere Regulierung hat.
Präzedenzfälle zur Lösung von Wettrüstungsdynamiken
Die Sorge, Koordination bei gefährlichen Technologiewettrennen sei politisch unmöglich, passt nicht zum historischen Befund. Die US und die Sowjetunion verhandelten auf dem Höhepunkt des Kalten Krieges SALT I und SALT II, strategische Rüstungsbegrenzungsverträge, die beiden Parteien bindende Grenzen für ihre gefährlichsten Waffen auferlegten, trotz tiefem Misstrauen und andauernder strategischer Konkurrenz. Die Chemiewaffenkonvention verbot eine ganze Waffenkategorie in den meisten Staaten der Welt. Die Biowaffenkonvention tat dasselbe für biologische Waffen. Das Montreal-Protokoll koordinierte den globalen Ausstieg aus ozonschädigenden Substanzen.
Keines davon wurde ohne Schwierigkeiten, Defektion und Durchsetzungsprobleme erreicht. Alle stellten echte Verbesserungen gegenüber unkoordinierten Wettrüsten dar. Die historischer Präzedenzfall für internationale Koordination bei gefährlichen Technologien ist umfangreicher, als es die pessimistische Rahmung der ASI-Governance-Diskussionen vermuten lässt.
Warum „sicherheitsbewusste Labs sollten das Rennen gewinnen“ unabhängig von den Präferenzen von Sicherheitsbefürwortern eintritt, ist es besser, sicherheitsbewusste Akteure an der Front zu haben als gleichgültige, nicht genug
Eine häufige Antwort auf Bedenken zu KI-Wettrüstungsdynamiken lautet, die Lösung sei, dass sicherheitsorientierte Labore erfolgreich sein sollten, damit die Frontier von Akteuren geformt wird, denen Sicherheit wichtig ist.
Das Argument hat Grenzen, die klar benannt werden sollten. Erstens: An der Frontier zu sein, beseitigt Wettrüsten-Dynamiken nicht. Es macht das sicherheitsbewusste Labor zumjenigen, das nun unter Wettbewerbsdruck steht, Abstriche zu machen, um an der Frontier zu bleiben. Zweitens: Das Wettbewerbsdruck-Argument kann genutzt werden, um jede Beschleunigung zu rechtfertigen, weil es immer einen weniger sicherheitsbewussten Konkurrenten gibt, den man anführen kann. Drittens: Das Argument setzt voraus, dass sicherheitsbewusste Labore gewinnen, liefert aber keinen Mechanismus, dies sicherzustellen. Es ist eine Hoffnung, keine Governance-Struktur.
Die Auflösung von KI-Wettrüstungsdynamiken erfordert dasselbe, was das nukleare Wettrüsten teilweise gelöst hat: koordinierte Grenzen, die gleichzeitig für alle großen Akteure gelten, mit Verifikationsmechanismen zur Aufdeckung von Defektion und Durchsetzungsmechanismen zu ihrer Abschreckung. Das ist ein multilaterales Governance-Problem. Abschreckungsrahmen wie MAIM beschreiben die Pattsituation zwischen wettrennenden Staaten, lösen aber das Wettrennen selbst nicht. Die Stiftung Steuerungsvorschläge sind um diese Anforderung herum strukturiert, nicht um die Hoffnung, dass die richtigen Labs zuerst fertig werden.