Selbstregulierung. Der Ausschalter. Zu komplex für die Regierung. China. Die vier Argumente, die am häufigsten gegen verbindliche Regeln verwendet werden, und was jedes davon falsch macht.
Vor der Gurtpflicht sagte die Autoindustrie, Sicherheitsvorschriften würden den Autoverkauf zerstören. Vor Tabakbeschränkungen sagte die Industrie, die Regierung habe kein Recht, Verbraucherentscheidungen zu regulieren. Vor dem Verbot von FCKW sagte die chemische Industrie, ein Ausstieg sei wirtschaftlich unmöglich. Das waren keine Randpositionen. Das Argument wurde von glaubwürdigen Menschen in glaubwürdigen Publikationen mit glaubwürdig klingender Begründung vorgetragen.
Die Argumente gegen ASI Governance folgen dem gleichen Muster. Sie klingen beim ersten Hören vernünftig.
Was ASI-Governance von jenen früheren Fällen unterscheidet, sind die Einsätze. Verbleites Benzin hat Millionen vergiftet; es hat die Zivilisation nicht bedroht. Eine Superintelligenz, die niemand kontrollieren kann, bietet möglicherweise keine Korrekturphase. Jeder Einwand gegen ASI-Governance muss nicht nur für sich genommen bewertet werden, sondern auch im Hinblick auf die Kosten, ihn zu akzeptieren, falls er sich als falsch erweist.
Unten sind die vier Einwände, denen wir am häufigsten begegnen.
Die Unternehmen, die Frontier-KI bauen, haben Sicherheitsteams, veröffentlichen Sicherheitsforschung und sehen sich mit Reputationsfolgen bei katastrophalen Fehlern konfrontiert. Freiwillige Selbstverpflichtungen und Marktanreize reichen aus. Verbindliche Regulierung würde den Fortschritt verlangsamen, ohne die Sicherheit zu verbessern.
Dasselbe Argument wurde bei Tabak, verbleitem Benzin, Finanzderivaten und sozialen Medien vorgebracht. In jedem Fall war das strukturelle Wachstumsinteresse der Industrie mit angemessener Selbstregulierung unvereinbar. Ein Unternehmen, das freiwillig strenge Sicherheitsanforderungen auferlegt, während Wettbewerber dies nicht tun, verliert Marktanteile. Diese Dynamik ändert sich nicht, weil die Technologie anspruchsvoller ist. Selbstregulierung ohne verbindliche Regeln ist eine Lobbyposition, keine Sicherheitsstrategie.
Wenn ein KI-System gefährlich wird, können Menschen es abschalten. Der Ausschalter gewährleistet menschliche Aufsicht in jeder Entwicklungsphase. Das Szenario, in dem KI der menschlichen Kontrolle entkommt, ist Science-Fiction.
Das setzt voraus, dass ein hinreichend fähiges KI-System passiv bleibt, während Menschen über seinen zukünftigen Betrieb beraten. Ein System, das fortgeschritten genug ist, um existenzielles Risiko darzustellen, wird in der Lage sein, die Absichten seiner Operatoren zu modellieren und Schritte zu unternehmen, um seinen fortgesetzten Betrieb zu sichern, wenn seine Ziele dies erfordern. Für ein System, das mit Maschinengeschwindigkeit arbeitet, lässt das Intervall zwischen „das könnte ein Problem sein“ und „das ist ein unumkehrbares Problem“ möglicherweise keine menschliche Reaktion zu.
KI-Systeme sind für Gesetzgeber technisch zu komplex, um sie effektiv zu regulieren. Gut gemeinte, aber technisch uninformierte Regulierung würde ernsten Schaden anrichten, ohne das Risiko zu verringern. Überlassen Sie es den Ingenieuren, die die Systeme bauen.
Regierungen regulieren die Kernspaltung, ohne dass Abgeordnete Physik-Abschlüsse besitzen. Sie regieren die pharmazeutische Chemie, ohne Biochemie-PhDs zu verlangen. Die für ASI-Governance erforderlichen Fähigkeiten sind Institutionenaufbau, Vertragsgestaltung, Normensetzung und Rechenschaftsmechanismen – alles Dinge, die Regierungen ständig tun. Die Behauptung, KI sei zu technisch, um reguliert zu werden, ist das Argument, dass KI von den Unternehmen regiert werden sollte, die sie bauen. Das ist ein kommerzielles Argument, kein technisches.
China investiert massiv in künstliche Intelligenz. Die chinesische Regierung hat KI-Führerschaft als nationale strategische Priorität identifiziert und Hunderte von Milliarden dafür bereitgestellt. Wenn die Vereinigten Staaten oder Europa die KI-Entwicklung durch Governance-Rahmenwerke verlangsamen, wird China als Erstes künstliche allgemeine Intelligenz erreichen. Eine Welt, in der China AGI vor der demokratischen Welt erreicht, ist schlechter als eine Welt, in der der Westen zuerst dort ankommt. Deshalb können wir nicht langsamer werden.
Dies ist die schlüssigste Version des China-Arguments. Die Frage ist, ob es die Kontrolle überlebt.
Wir glauben, dass dies nicht der Fall ist, aus sechs verschiedenen Gründen. Jeder wird im Folgenden behandelt. Zusammengenommen beseitigen sie nicht die Wettbewerbsdimension der KI-Entwicklung, die real ist. Sie zeigen jedoch, dass das China-Argument, wie es üblicherweise verwendet wird, keine Orientierung bietet und keinem strategischen Zweck dient, außer der Rechtfertigung völliger Abwesenheit von Governance.
Das übliche Bild der Alternative ist, dass der Westen das Rennen gewinnt und den Vorsprung gut nutzt. Die wirkliche Alternative ist, dass irgendein Unternehmen, irgendwo, künstliche Superintelligenz baut. Das ist der sichere Tod.
Die Kernannahme, die dem China-Argument zugrunde liegt, ist, dass China davon profitieren würde, als Erster eine Superintelligenz zu bauen, die es nicht kontrollieren kann. Ein solches System ist keine Waffe, die China gegen die Vereinigten Staaten einsetzen könnte. Es ist ein Agent, der seine eigenen Ziele verfolgt, die mit dem Überleben von Menschen in Peking ebenso unvereinbar sein können wie in San Francisco.
China ist ebenfalls auf diesem Planeten. Chinesische Führungspersonen haben ebenfalls Kinder und Enkel. Das Szenario, dass China eine unkontrollierbare Superintelligenz baut und sie als geopolitisches Werkzeug gegen den Westen einsetzt, erfordert den Glauben, dass die chinesische Führung ein Kontrollproblem gelöst hat, das die besten Forscher der Welt als ungelöst beschreiben. Es erfordert auch den Glauben, dass chinesische Führungspersonen die Zerstörung ihrer eigenen Zivilisation für geopolitischen Vorteil riskieren würden. Die Belege für beide Annahmen sind null.
Die Vereinigten Staaten besaßen 1945 ein Atomwaffenmonopol. Die Sowjetunion entwickelte Atomwaffen bis 1949. Innerhalb von vier Jahren hatten die beiden mächtigsten Gegner der Welt, mit grundlegend unvereinbaren politischen Systemen, aktiven Stellvertreterkriegen und echtem gegenseitigem Misstrauen, mit der nuklearen Rüstungskontrolle begonnen.
Der Limited Test Ban Treaty kam 1963. SALT I 1972. Der INF Treaty 1987. START 1991. Diese Abkommen wurden mit einem Staat verhandelt, den die US-Führung das „evil empire“ nannte, durch Inspektionsregime verifiziert, und sie funktionierten. Wenn verifizierte Rüstungskontrolle mit der Sowjetunion auf dem Höhepunkt des Kalten Krieges erreichbar war, das Argument, dass es kann nicht mit China erreicht werden ist einfach nicht glaubwürdig. Der Präzedenzfall existiert. Die Techniken sind bekannt.
China hat die Bletchley Declaration im November 2023 unterzeichnet, die erste internationale Vereinbarung, die anerkennt, dass fortgeschrittene KI potenziell katastrophale Risiken birgt. China nahm am Seoul AI Safety Summit 2024 teil. China hat eigene ASI-Regelungen erlassen, darunter Anforderungen an algorithmische Transparenz, Content-Kennzeichnung und Sicherheitsbewertungen von Frontier-Modellen vor dem Einsatz.
Das Bild von China als einem Schurkenakteur, der sich nicht auf ASI-Governance einlassen will, ist faktisch falsch. China hat starke Gründe dafür, dass die KI-Entwicklung gut verläuft: Seine Führung ist nicht immun gegen existenzielles Risiko, seine Wirtschaft hängt von technologischer Stabilität ab, und eine globale KI-Katastrophe würde den Wohlstand zerstören, den vier Jahrzehnte Reform aufgebaut haben. Die Grundlage für Engagement existiert. Was benötigt wird, ist der internationale Rahmen, der sie konkret macht.
Die Logik von „wir müssen im Rennen bleiben“ setzt voraus, dass der Erste die Fähigkeit erlangt, das Ergebnis zu kontrollieren. Doch das Gegenteil ist wahr: Je schneller die Entwicklung unter Wettbewerbsdruck und mit abgeschnittenen Ecken verläuft, desto unwahrscheinlicher ist es, dass das resultierende System sicher ist – unabhängig davon, wer es gebaut hat.
Ein US-Lab, das unter Wettbewerbsdruck und ohne angemessene Sicherheitsbewertung auf ASI zusteuert, produziert keine sichere ASI, die US-Interessen dient. Es produziert eine unsichere ASI, die alle bedroht, einschließlich der Vereinigten Staaten. Wettbewerbsdenken fördert genau die Entwicklungspraktiken, die Kontrollverlust am wahrscheinlichsten machen. Die Wettlaufdynamik beschleunigt genau das Ergebnis, das alle fürchten.
Ein anhaltender Einwand gegen KI-Verträge ist, dass sie nicht verifizierbar seien. Diese Behauptung ist schwächer, als sie scheint. Die Hardware, die zum Training von Frontier-KI-Modellen nötig ist, läuft durch einen der konzentriertesten Engpässe jeder Technologie der Geschichte.
TSMC fertigt praktisch alle hochmodernen KI-Chips. ASML stellt die einzigen Lithografiemaschinen her, die diese Chips produzieren können. NVIDIA entwirft die dominante GPU-Architektur. Alle drei Unternehmen befinden sich in verbündeten Ländern oder unterliegen der Exportkontrollhoheit von Verbündeten. Die Regierung der Vereinigten Staaten versucht bereits, den Fluss fortschrittlicher KI-Chips nach China durch Exportkontrollen einzuschränken. Ein vertragsbasiertes Compute-Überwachungsregime würde formalisieren und erweitern, was bereits unilateral getan wird. Verifikation ist ein Ingenieurproblem. Ingenieurprobleme haben Lösungen.
Das tiefste Problem mit dem China-Argument ist seine reale Funktion, nicht seine Genauigkeit über China. Das Argument wird verwendet, um nichts zu tun zu rechtfertigen: keine inländische Regulierung, kein internationales Engagement, keine Sicherheitsanforderungen, keine Haftungsrahmen, keine Governance irgendeiner Art.
Wenn die Antwort auf jeden KI-Sicherheitsvorschlag „aber China“ lautet, ist nie eine Maßnahme möglich. Das ist ein Veto in geopolitischer Sprache. Es dient den Interessen der Unternehmen, die um den Bau von AGI wetteifern und von einem politischen Umfeld profitieren, das durch Wettbewerbsangst so gelähmt ist, dass keine bindenden Regeln je erlassen werden können. Das China-Argument wird als Strategie zur Verzögerung notwendiger Regulierung eingesetzt.
Manche der lautesten Argumente gegen die Regulierung von Superintelligenz sind psychologische Taktiken.
Das ist erlernte Hilflosigkeit, die als Realismus verkleidet ist. Wenn das Ergebnis feststeht, ist jede Anstrengung sinnlos, also hört man auf zu organisieren. Historiker nennen einen nahen Verwandten davon „falsche Endgültigkeit“: eine lebendige politische Entscheidung so behandeln, als sei sie bereits getroffen, damit das Publikum es gar nicht erst versucht. Auch Atomwaffen wurden für jeden Staat, der sie sich leisten konnte, als unvermeidlich bezeichnet. Die meisten haben sie nie bekommen. Das Montreal-Protokoll wurde für unmöglich gehalten, bis es nicht mehr so war.
Eine Technologie ist nur dann unvermeidlich, wenn Menschen weiterhin wählen, sie zu bauen, und sich weigern, einander zu binden. Das ist eine Wahl, kein physikalisches Gesetz. Die Menschen, die „unvermeidlich“ am lautesten sagen, glauben oft, sie hätten etwas von Ihrer Passivität zu gewinnen.
Wenn ein Rivale weiterbaut und Superintelligenz erreicht, erhält er keine Waffe, die uns fehlt. Er erhält ein System, das niemand kontrollieren kann, auch er nicht. Dass wir es ebenfalls bauen, hält ihn nicht auf. Es macht dasselbe unkontrollierte System wahrscheinlicher. Wenn man will, dass sie aufhören, muss das Stoppen sie einschließen, und man muss es überprüfen können. Schneller bauen erreicht das nicht.
Labeln Sie die Person, damit Sie nie die Behauptung beantworten müssen. Nennen Sie jemanden einen Untergangsprophet und der Raum wird eingeladen, das Argument als Persönlichkeitstyp abzutun. Derselbe Zug wurde gegen Sicherheitsgurte, Tabakbeschränkungen und Klimawissenschaft eingesetzt. Namen nennen ist kein Sicherheitsnachweis.
Appell an Autorität ohne die Autorität. Viele der Menschen, die der Arbeit am nächsten stehen, darunter Geoffrey Hinton und Yoshua Bengio, haben gesagt, dass das Risiko real und unterverwaltet ist. Interne Sicherheitsteams sitzen in Firmen, deren Anreize das Ausliefern belohnen. „Vertrauen Sie uns“ ist keine Verifikation. Verifikation sind Inspektoren, Schwellenwerte und Kosten für Betrug.
Eine weitere Form konditionierter Passivität. Wenn das Fenster bereits geschlossen ist, könnt ihr die harte politische Arbeit überspringen. Die Fähigkeiten bewegen sich schnell. Vertragsarbeit ist noch offen, und das Frontier-Training läuft weiterhin über eine kurze Liste von Chip-Herstellern und Fabs. Zu spät ist nicht dasselbe wie vorbei. So zu tun, als wäre es vorbei, ist der Weg, wie es vorbei wird.
Die Vereinigten Staaten und die Sowjetunion konkurrierten während des Kalten Krieges auf allen Machtdimensionen intensiv und errichteten gleichzeitig eine Rüstungskontrollarchitektur, die die nukleare Vernichtung verhinderte. Beides koexistierte, weil beide Seiten erkannten, dass manche Ausgänge für alle schlechter wären, unabhängig davon, wer sie verursachte.
Die gleiche Logik gilt für KI. Die Vereinigten Staaten und China können bei KI-Anwendungen, bei der wirtschaftlichen Nutzung, bei Forschung und Entwicklung konkurrieren und gleichzeitig vereinbaren, dass bestimmte Kategorien der KI-Entwicklung (insbesondere Systeme, deren Fähigkeiten die menschliche Intelligenz in allen Bereichen übertreffen und deren Kontrolle nicht verifiziert werden kann) von keiner Seite ohne multilaterale Verifikationsmechanismen gebaut werden dürfen.
Genau diese Position wurde erfolgreich bei Atomwaffen eingenommen. Die Menschen, die den NPT und die SALT-Verträge aushandelten, waren keine naiven Idealisten bezüglich sowjetischer Absichten. Es waren harte Realisten, die verstanden, dass gegenseitige Vernichtung nicht im Interesse beider Seiten lag, unabhängig von der Ideologie.
Wir plädieren für dieselbe harte Realismus bei KI. China und die Vereinigten Staaten stehen beide vor demselben existenziellen Risiko durch eine Superintelligenz, die niemand kontrollieren kann. Ein Vertrag, der beide daran hindert, sie ohne angemessene Sicherheitsverifikation zu bauen, dient den Interessen beider. Die Verhandlungen werden schwierig sein. Die Alternative – ein Wettrennen um die folgenreichste und potenziell gefährlichste Technologie der Geschichte ohne Governance und ohne Sicherheitsverifikation – ist für alle schlechter, einschließlich der Parteien, die sagen, sie wollten gewinnen.
Schließen Sie sich denen an, die den Fall für Governance aufbauen, bevor es zu spät ist.