Am 22. Oktober 2025 veröffentlichte das Future of Life Institute einen öffentlichen Brief mit dem Titel Erklärung zu Superintelligenz. Anders als die ausufernden Manifeste, die solche Momente sonst begleiten, ist es ein einziger Satz:

Wir fordern ein Verbot der Entwicklung von Superintelligenz, das erst aufgehoben wird, wenn ein breiter wissenschaftlicher Konsens besteht, dass dies sicher und kontrollierbar geschehen kann, sowie eine starke öffentliche Zustimmung.

Erklärung zu Superintelligenz, Future of Life Institute · Oktober 2025

Es sagt nicht, dass Superintelligenz niemals gebaut werden sollte. Es verurteilt KI als solche nicht. Es stellt eine Bedingung (tatsächlich zwei Bedingungen) und fordert, dass die Entwicklung gestoppt wird, bis sie erfüllt sind. Um zu verstehen, warum diese bescheiden klingende Forderung eine echte Verschiebung in der Debatte darstellt, muss man sowohl verstehen, was sie verlangt, als auch, wer bereit war, seinen Namen dafür herzugeben.

Was die Aussage tatsächlich fordert

Die Formulierung ist präzise. Drei Merkmale unterscheiden sie von früheren offenen Briefen, einschließlich des bekannten Briefs von 2023, der eine sechsmonatige Pause bei den größten Trainingsläufen forderte.

  • Es zielt speziell auf Superintelligenz ab. Nicht enge KI, nicht Chatbots, nicht die bereits im Alltag verankerten KI-Tools. Das Verbot gilt für Systeme, die menschliche Fähigkeiten in praktisch allen kognitiven Bereichen übertreffen würden, der Kategorie, die wir in unserem Explainer zu künstliche Superintelligenz. Diese Präzision entkräftet den üblichen Einwand, dass Sicherheitsbefürworter nützliche Technologien stoppen wollen. Das tun sie nicht. Sie wollen eine spezifische und spezifisch gefährliche Grenze stoppen.
  • Es handelt sich um ein bedingtes Verbot, kein dauerhaftes Verbot. Das Verbot hebt sich in dem Moment auf, in dem zwei Schwellen überschritten sind. Das stellt die gesamte Frage neu. Die heutige Standardannahme lautet: Superintelligenz bauen und danach, wenn möglich, Sicherheit herstellen. Die Aussage kehrt es um: Erst Sicherheit herstellen, dann bauen. Die Beweislast wandert zu den Entwicklern, wo sie (bei einer Technologie dieser Tragweite) vermutlich hingehört.
  • Es erfordert die Zustimmung der Öffentlichkeit, nicht nur die Zustimmung von Experten. Die zweite Bedingung ist demokratisch, nicht technisch. Selbst wenn Wissenschaftler eines Tages darin übereinstimmen, dass Superintelligenz kontrolliert werden kann, besteht die Aussage darauf, dass die Öffentlichkeit der Entwicklung zustimmen muss. Das ist eine direkte Herausforderung an die gegenwärtige Lage, in der eine Handvoll privater Labore eine zivilisationsverändernde Entscheidung für alle treffen, die Sorge, die wir in wer Superintelligenz kontrolliert.

Warum die Unterzeichner mehr zählen als der Satz

Offene Briefe sind billig. Was diesen einen durchschlagen ließ, war die Koalition. Mehr als 850 Personen haben unterschrieben, und die Liste ist bemerkenswert nicht wegen ihrer Länge, sondern wegen ihrer Bereich.

An der Spitze standen die Wissenschaftler, die das Feld aufgebaut haben. Yoshua Bengio und Geoffrey Hinton (beide Turing-Preisträger, beide regelmäßig als Paten der modernen KI bezeichnet) unterzeichneten, ebenso wie Berkeleys Stuart Russell, Autor des Standardlehrbuchs zur KI. Wenn die Menschen, die am meisten für die Existenz einer Technologie verantwortlich sind, die Welt bitten, vor der Entwicklung ihrer mächtigsten Form haltzumachen, ist das Zeugnis, kein Aktivismus.

Dann kamen die Erbauer und die öffentlichen Figuren. Apple co-founder Steve Wozniak und Virgin-Gründer Richard Branson. Historiker Yuval Noah Harari, Schauspieler Stephen Fry, und Musiker will.i.am. Im Ruhestand befindliche nationale Sicherheitsführer, darunter der ehemalige Joint-Chiefs-Vorsitzende Admiral Mike Mullen und ehemaliger National Security Advisor Susan Rice. Und, am aufschlussreichsten, Personen, die sich sonst in fast nichts einig sind: Prince Harry and Meghan neben Steve Bannon und Glenn Beck.

Dieses letzte Detail ist das ganze Argument im Miniaturformat. Wenn ein britisches Königspaar und ein MAGA-Medienstratege denselben Satz unterzeichnen, hat das Thema die übliche ideologische Sortierung hinter sich gelassen. Die Sorge um Superintelligenz ist eine der verschwindend wenigen Positionen 2025–2026 mit echter überparteilicher Reichweite – genau die Art von Koalition, die bindende Politik möglich macht, weder links noch rechts, weder Establishment noch populistisch.

Was die Erklärung ist und was sie nicht ist

Es ist wichtig, sich die Grenzen klar vor Augen zu führen. Eine öffentliche Erklärung verbietet nichts. Sie weist keinem Regulator an, bindet kein Unternehmen und schränkt keine Regierung ein. Wer sie als Gesetz liest, irrt sich.

Was es tut, ist, die Overton-Fenster, der Bereich der Positionen, die als mainstream und sagbar gelten. Vor zwei Jahren wäre der Ruf nach einem Verbot einer Klasse von KI als Randposition abgetan worden. Nach Oktober 2025 ist es eine Position, die öffentlich von Nobelpreisträgern, ikonischen Unternehmern und politischen Figuren quer durch das Spektrum vertreten wird. Diese Verschiebung dessen, was respektabel zu sagen ist, ist die Voraussetzung für alles, was folgt. Politiker übernehmen Positionen, die bereits populär sind; sie führen selten an. Die Funktion der Aussage ist es, das Verbot populär genug zu machen, dass Führungspersonen handeln können.

Genau so begannen frühere Technologie-Steuerungsbewegungen. Die Pugwash-Konferenzen verbrachte zwei Jahrzehnte damit, den intellektuellen und moralischen Konsens aufzubauen, der schließlich die nukleare Rüstungskontrolle trug. Statements und Erklärungen sind der Weg, auf dem die Startbahn gebaut wird, nicht die Ziellinie.

Von einem Satz zu einem Vertrag

Die Lücke zwischen der Aussage und der Realität ist die Lücke, die Nakada Foundation schließen soll. Eine Erklärung stellt fest, dass ein Verbot wünschenswert und legitim ist. Sie stellt nicht die Maschinerie bereit, es durchzusetzen. Dazu braucht es drei Dinge, die die Erklärung bewusst offenlässt:

Die Erklärung zur Superintelligenz hat etwas Wertvolles bewiesen: Der Wille existiert, und er überschreitet jede Linie, die Menschen sonst trennt. Unsere Plan bedeutet, diesen Willen in Rechenleistungs-Kontrollen, eine Überwachungsbehörde und einen internationalen Vertrag umzusetzen, der dem einzelnen Satz der Erklärung die nötige Durchsetzungskraft verleiht. Wenn Sie diesem Satz zustimmen, ist das Nützlichste, was Sie als Nächstes tun können, beim Aufbau der Koalition mitzuhelfen, die ihn in Politik verwandelt.