Alle paar Monate fällt ein KI-Fähigkeits-Benchmark. Systeme, die vor zwei Jahren noch keine beruflichen Zulassungsprüfungen bestehen konnten, erreichen jetzt die obersten Perzentile. Die Führungskräfte der führenden Frontier-KI-Labore beschreiben künstliche allgemeine Intelligenz öffentlich als eine Frage von Jahren, nicht von Jahrzehnten. Einer der prominentesten KI-Sicherheitsforscher, Nick Bostrom, veröffentlichte 2026 ein Arbeitspapier, in dem er nicht fragte, ob Superintelligenz entwickelt werden soll, sondern wann.

Vor diesem Hintergrund ist die Frage, ob wir für Superintelligenz bereit sind, eine dringende praktische Einschätzung, und die Antwort lautet eindeutig nein, keine theoretische Übung.

Was Bereitschaft eigentlich erfordern würde

Konkret zu sagen, was „Readiness“ bedeutet, ist wichtig, weil das Wort oft lose verwendet wird, um „wir haben über die Risiken nachgedacht“ oder „verantwortungsvolle Labore arbeiten an Safety“ zu bedeuten. Diese Dinge sind keine Readiness im relevanten Sinne.

Echte Bereitschaft für Superintelligenz würde erfordern, dass all das Folgende vorhanden ist, bevor irgendwo ein System mit ASI-Fähigkeit eingesetzt wird:

  • Eine zuverlässige technische Methode zur Überprüfung der KI-Ausrichtung vor dem Einsatz, nicht abgeleitet aus Verhaltensbewertungen
  • Internationale Governance mit ausreichender Reichweite, um zu verhindern, dass ein einzelner Akteur (Unternehmen oder Nation) ein System vor erfolgreicher Verifikation einsetzt
  • Überwachungsinfrastruktur, die unabhängig von den Organisationen betrieben wird, die die Systeme bauen
  • Rechtsrahmen in den wichtigsten KI-Entwicklungsländern, die Aufsichtsbehörden echte Befugnisse geben
  • Etablierte internationale Normen mit ausreichend politischem Gewicht, um Wettbewerbsdruck standzuhalten

Bewertet anhand dieser Anforderungen, hier ist, wo wir tatsächlich stehen.

Technische Ausrichtung
Ungelöst
Interpretability-Forschung schreitet voran, kann aber die internen Ziele frontier-skalierten Systeme nicht zuverlässig verifizieren. Deceptive Alignment wurde in aktuellen Modellen nachgewiesen. Standard-Safety-Training hat es im Anthropic Sleeper-Agents-Studie nicht entfernt.
Internationale Regierungsführung
Frühes Stadium
Die Bletchley Park Declaration (2023) schuf internationalen Konsens über das Risiko. Ein verbindlicher Vertrag existiert nicht. Der Pariser Aktionsgipfel 2025 verlagerte den Fokus von Sicherheit auf Einsatz und wirtschaftlichen Wettbewerb.
Unabhängige Überwachung
Existiert nicht
Keine internationale Stelle hat die Befugnis, frontier-AI-Systeme zu prüfen. Sicherheitsbewertungen werden von den Organisationen durchgeführt, die die Systeme entwickeln, und die Ergebnisse sind oft nicht unabhängig verifizierbar.
Nationale Gesetzgebung
Fragmentiert
Der EU AI Act etabliert eine risikogestufte Regulierung für KI-Systeme, adressiert aber nicht speziell AGI oder ASI. Die US verfügt über Executive Orders, jedoch keine bindende bundesweite KI-Gesetzgebung. China, die UK und andere große KI-Länder haben jeweils partielle Rahmenwerke.

Die Governance-Diskussion hat sich in die falsche Richtung bewegt

Im November 2023 richtete die UK-Regierung den Bletchley-Park-AI-Safety-Gipfel aus, das erste große internationale Treffen, das sich ausdrücklich auf Risiken frontier AI konzentrierte. Die Rahmung war explizit sicherheitsorientiert. Die daraus hervorgegangene Bletchley-Erklärung wurde von 28 Ländern unterzeichnet, darunter die US, China und die EU, und anerkannte „potenziell katastrophale“ Risiken durch ASI.

Bis Februar 2025 veranstaltete Frankreich, was es einen KI-Aktionsgipfel nannte, und benannte das Format bewusst um, um einen Prioritätenwechsel zu signalisieren. Der Schwerpunkt verlagerte sich von der Identifizierung und dem Management von Risiken hin zur Ermöglichung von Einsatz und der Erschließung wirtschaftlicher Vorteile. Das war keine neutrale terminologische Änderung. Es spiegelte echten politischen Druck von Regierungen und Industrien wider, die den KI-Wettbewerb mit China als primären Rahmen sehen und Sicherheitsanforderungen als potenzielle Wettbewerbsnachteile.

„Die Frage lautet nicht mehr, ob Superintelligenz entwickelt werden soll, sondern wann es optimal ist und wem die Vorteile dieser Timing-Entscheidung zufallen.“

Nick Bostrom, "On the Timing of Superintelligence Development" · Arbeitspapier, 2026

Bostroms Rahmung ist bemerkenswert, weil sein früheres Werk (Superintelligence, 2014) viele der grundlegenden Argumente dafür etablierte, warum Superintelligenz existenzielles Risiko birgt. Seine 2026er Verschiebung hin zu Timing- und Verteilungsfragen spiegelt eine breitere Bewegung im Feld wider: die Akzeptanz, dass Entwicklung stattfinden wird, und die Konzentration darauf, wer den Prozess kontrolliert. Eine legitime Frage. Anders als sicherzustellen, dass der Prozess sicher ist.

Das AGI-zu-ASI-Übergangsproblem

Governance-Diskussionen behandeln AGI oft als relevanten Schwellenwert, unter der Annahme, dass AGI-Systeme für menschliche Aufseher verständlich und einer sinnvollen Evaluierung zugänglich wären. Das gilt wahrscheinlich an der AGI-Schwelle. Das Problem ist, was danach kommt.

Ein System auf AGI-Fähigkeitsniveau, das seine eigene Forschung und Verbesserung steuern kann, könnte in einem Zeitraum, der weit kürzer ist als der bis zum Erreichen des menschlichen Niveaus, von menschlichem zu signifikant übermenschlichem Leistungsniveau übergehen. Der technische Begriff dafür ist ein Fast-Takeoff-Szenario. In einem Fast Takeoff bewegt sich ein System von einem Niveau, auf dem menschliche Governance möglich ist, zu einem Niveau, auf dem sie es möglicherweise nicht ist, in einem Zeitfenster, das kürzer ist als die Reaktionszeit jeder Governance-Institution.

Bereitschaft für Superintelligenz bedeutet Bereitschaft vor der AGI-Schwelle, nicht ein Plan, danach zu reagieren. Governance, die bei der Ankunft von AGI einsetzt, könnte zu spät kommen, um einen schnellen Übergang zu Fähigkeitsniveaus zu verhindern, die sie besiegen.

Warum das Fenster noch offen ist

Die Bereitschaftslücke ist real und ernst. Sie ehrlich zu beschreiben ist nicht dasselbe wie zu schließen, dass nichts getan werden kann. Das Zeitfenster für den Aufbau angemessener Governance wird enger, aber es hat sich noch nicht geschlossen.

Die führenden Frontier-KI-Labs befinden sich noch auf menschlichem oder nahezu menschlichem Leistungsniveau bei den meisten kognitiven Aufgaben, nicht signifikant darüber hinaus. Der Übergang von diesem Leistungsniveau zu dem, das am meisten zählt, hat noch nicht stattgefunden. Dies ist der Zeitpunkt, an dem Governance-Rahmen mit der Kooperation der Akteure aufgebaut werden können, die ihnen unterliegen werden, nicht nachdem diese Akteure Systeme entwickelt haben, die Kooperation weniger notwendig machen.

Die politischen Kosten, jetzt Governance aufzubauen, sind real: Wettbewerbsreibung, langsamere Einführung, möglicher Verlust wirtschaftlicher Vorteile gegenüber weniger sicherheitsbewussten Akteuren. Diese Kosten müssen ehrlich gegen die Kosten abgewogen werden, jetzt keine Governance aufzubauen und in der oben beschriebenen Situation zu landen. Die Asymmetrie in diesem Vergleich ist nicht subtil. Die drei Vorschläge der Foundation sind genau für dieses Fenster konzipiert: bevor die Schwelle überschritten ist, während die Kooperation aller großen Akteure noch gesucht und erreicht werden kann.