Superintelligenz ist in Washington, Brüssel oder Peking kein Randthema mehr. Die offene Frage ist das Tempo: ob Regierungen schneller handeln können als die Systeme, die sie angeblich kontrollieren sollen.
Im November 2023 unterzeichneten 28 Länder die Bletchley Declaration, die erste internationale Vereinbarung, die anerkennt, dass fortgeschrittene KI Risiken birgt, die „potenziell katastrophal“ sind. Zu den Unterzeichnern gehörten die Vereinigten Staaten, China, das Vereinigte Königreich, die Europäische Union und Nationen aus Asien, Afrika und Südamerika. Das Abkommen war alles andere als ein Randdokument. Es wurde von Staatsoberhäuptern und hohen Ministern unterzeichnet.
Die UK richtete den ersten AI Safety Summit in Bletchley Park aus. Der zweite fand in Seoul statt. Ein dritter folgte in Paris. Ein internationales Netzwerk staatlicher KI-Institute existiert inzwischen, gestartet als AI Safety Institutes, inzwischen umbenannt in der UK (AI Security Institute) und US (Center for AI Standards and Innovation), mit Einrichtungen in den Vereinigten Staaten, dem Vereinigten Königreich und der Europäischen Union, die Forschung austauschen und bei Risikorahmenwerken kooperieren. Nichts davon existierte vor vier Jahren.
Im US-Senat ist das KI-Risiko zu einem der seltenen wirklich überparteilichen Themen geworden. Chuck Schumer berief 2023 die AI Insight Forums ein. Josh Hawley hat Superintelligenz „die gefährlichste Technologie in der Geschichte der Menschheit“ genannt. Marco Rubio hat Gesetze zum Thema KI-Risiko eingebracht. Die Sorge überschreitet Parteigrenzen, weil die Bedrohung keine Ideologie respektiert.
Die Europäische Union verabschiedete 2024 den AI Act, den weltweit ersten umfassenden Rechtsrahmen, der KI-Systeme nach Risikostufe regelt. Die leistungsfähigsten Frontier-Modelle unterliegen den strengsten Anforderungen. Es ist unvollkommene Gesetzgebung. Es ist auch bindendes Recht, durchgesetzt von Regulierungsbehörden mit der Befugnis, erhebliche Bußgelder zu verhängen.
China hat eigene ASI-Governance-Regeln erlassen, darunter Anforderungen an algorithmische Transparenz und Kennzeichnung von Inhalten. China nahm am Bletchley-Gipfel und am Seoul-Gipfel teil. Das Bild Chinas als unwillig, sich auf ASI Regierungsführung einzulassen ist falsch.
Die politische Lage 2026 sieht der politischen Lage 2020 in nichts ähnlich. Dieser Wandel geschah, weil Menschen ihn vorangetrieben haben. Er kann sich weiter verschieben und muss es, bevor die gebauten Systeme die Governance-Frage unbeantwortbar machen.
28 Nationen, darunter die US, UK, EU und China, unterzeichnen das erste internationale Abkommen, das anerkennt, dass fortgeschrittene KI Risiken birgt, die „potenziell katastrophal“ sind. Der AI Safety Summit in Bletchley Park erzeugt einen gemeinsamen Rahmen für die Risikobewertung von frontier-AI.
Die Europäische Union verabschiedet den weltweit ersten umfassenden KI-Regulierungsrahmen und legt strenge Anforderungen an die fähigsten frontier-Modelle fest. Verstöße können mit Bußgeldern von bis zu 3 % des weltweiten Umsatzes geahndet werden. Das Gesetz ist in allen 27 Mitgliedstaaten verbindlich und gilt für jedes KI-System, das innerhalb der EU eingesetzt wird.
Der US-Senat hält eine Reihe überparteilicher Anhörungen zum KI-Risiko ab, mit Aussagen von Sam Altman von OpenAI, führenden Forschern und Politikexperten. Die Anhörungen markieren das erste Mal, dass existenzielles KI-Risiko auf höchster Ebene der US-Gesetzgebungskontrolle inhaltlich diskutiert wird.
Die US, UK und EU richten KI-Sicherheitsinstitute mit dem Auftrag ein, Frontier-KI-Systeme vor dem Einsatz auf katastrophale Risiken zu prüfen. Diese Institute stellen die erste formale staatliche Infrastruktur zur Bewertung von Superintelligenz-Risiken dar. Die UK- und US-Gremien wurden 2025 umbenannt, doch die Evaluierungsinfrastruktur bleibt bestehen.
OpenAI, Google, Microsoft, Meta und Amazon gaben 2023 und 2024 Hunderte von Millionen für Lobbyarbeit in Washington aus. Die Technologiebranche ist die mit Abstand größte Lobbykraft von Unternehmen in den Vereinigten Staaten. Sie beschäftigt ehemalige Regulierer, ehemalige Abgeordnete und ehemalige Mitarbeiter des Weißen Hauses. Das ist die Kraft, die jedes ASI-Governance-Vorhaben überwinden muss.
Die Lobbyarbeit ist gezielt, nicht zufällig. Sie zielt auf die konkreten gesetzgeberischen Mechanismen ab, die die Entwicklung von Superintelligenz einschränken könnten: Compute-Schwellenwerte, verpflichtende Sicherheitsbewertungen, Haftungsrahmen. Jede Maßnahme, die echte Rechenschaft schaffen würde, begegnet einer gut finanzierten Kampagne, sie abzuschwächen oder zu Fall zu bringen.
KI-Fähigkeiten haben sich in unter sechs Jahren von GPT-2 zu Systemen entwickelt, die die meisten Menschen bei den meisten kognitiven Benchmarks übertreffen. Wichtige Gesetze brauchen typischerweise vier bis acht Jahre von der Einbringung bis zur Verabschiedung. Die Technologie wartet nicht darauf, dass die Governance aufholt.
Diese Diskrepanz spricht dafür, legislative Dringlichkeit als Priorität erster Ordnung zu behandeln, die Policy-Arbeit zu finanzieren, die Zeitpläne verkürzt, und den öffentlichen Druck aufzubauen, der schnelleres Handeln erzwingt. Die Geschwindigkeitsdiskrepanz ist ein politisches Problem, kein physikalisches Gesetz.
Sicherheitsvorschriften folgen in der Regel Katastrophen, nicht umgekehrt. Gurtpflicht kam nach Jahrzehnten von Verkehrstoten. Finanzregulierung wurde nach Krisen verschärft. Der politische Mechanismus für vorsorgende Regulierung ist in den meisten Demokratien schwach entwickelt.
Für Superintelligenz ist das Disaster-First-Modell nicht akzeptabel. Eine fehlalignierte Superintelligenz bietet keine Korrekturphase. Deshalb braucht es vorsorgende Governance, nach dem Vorbild von nukleare Nichtverbreitung statt Regulierung nach der Krise ist der richtige Rahmen. Er hat zuvor funktioniert. Er erfordert den Aufbau der politischen Infrastruktur, um wieder zu funktionieren.
Die Tabakindustrie sagte, es sei unmöglich, Zigarettenwerbung einzuschränken. Die Autoindustrie sagte, Sicherheitsgurtpflichten würden den Autoverkauf zerstören. Die Chemieindustrie sagte, ein Verbot von FCKW würde die moderne Fertigung beenden. In jedem Fall war die Behauptung der Unmöglichkeit eine Lobbyposition, keine Tatsache. In jedem Fall kam die Regulierung trotzdem zustande.
Das Overton-Fenster zum KI-Risiko hat sich schneller verschoben als bei jeder vergleichbaren Technologiefrage in der Geschichte. 2020 wurde das Risiko von Superintelligenz hauptsächlich in akademischen Papieren und Online-Foren diskutiert. 2026 steht es auf der Agenda jeder G7-Regierung. Führende Staatsoberhäupter verwenden in öffentlichen Ansprachen den Ausdruck „existentielle Bedrohung“. Diese Verschiebung ist das Ergebnis anhaltender Advocacy durch Forscher, Journalisten und Bürger, die sich weigerten, das Thema abtun zu lassen. Sie geschah nicht von allein.
Die politische Koalition für AI Safety bildet sich. Sie umfasst Konservative, die sich um nationale Sicherheit und die Konzentration von Macht in wenigen Konzernen sorgen. Sie umfasst Progressive, die sich über das Fehlen demokratischer Kontrolle über die folgenreichsten Technologieentscheidungen der Geschichte sorgen. Sie umfasst Glaubensgemeinschaften, Wissenschaftler, Künstler und Eltern. Das ist der Anfang einer Mehrheit.
Internationale Dynamik ist real. Der Bletchley-Prozess, das internationale Netzwerk von KI-Instituten und die aufkommenden UN-Governance-Diskussionen stehen für den schnellsten Aufbau internationaler KI-Politikinfrastruktur in irgendeinem Technologiebereich. Die Teile fügen sich zusammen. Die Frage ist, ob sie sich schnell genug fügen, und diese Frage hängt davon ab, ob genügend Menschen nachdrücken.
Schließen Sie sich uns an und helfen Sie, den Druck aufzubauen, der Untätigkeit politisch unhaltbar macht.