Nick Bostrom prägte den Begriff in seinem Buch von 2014 Superintelligenz, definiert ein Singleton als „eine Weltordnung, in der es auf höchster Ebene eine einzige Entscheidungsinstanz gibt“. Eine Regierung, die alle Atomwaffen kontrolliert, ist ein Singleton im Bereich nuklearer Gewalt. Ein Unternehmen, das den gesamten AI-Compute kontrolliert, wäre ein Singleton im Bereich der KI-Fähigkeiten. Ein KI-System, das autonome Kontrolle über die kritische Infrastruktur der Welt (Energie, Kommunikation, Finanzen) erlangt hat, ist ein Singleton im bedeutsamsten Sinne.

Selbst ein wohlwollender Singleton schließt die Zukunft aus. Die Verhinderung des Singletons ist das strukturelle Ziel internationaler ASI-Governance.

Das Singleton-Konzept ist nützlich, weil es die Debatte darüber durchschneidet, welche spezifische Entität die Kontrolle über ASI erlangen könnte. Ob es sich um ein privates Unternehmen, eine demokratische Regierung, einen autoritären Staat oder eine autonome KI handelt, die strukturelle Gefahr ist dieselbe: permanente, effektive, unanfechtbare Kontrolle über die mächtigste Technologie in der Geschichte der Menschheit, ohne externe Kontrolle oder Balance.

Die Wege zur Singleton-Bildung

Pfad 1
Privatunternehmen
Ein KI-Unternehmen entwickelt Superintelligenz zuerst und nutzt seinen Vorteil, um seine Position (kommerziell, politisch und durch die Fähigkeiten der KI selbst) schneller zu festigen, als regulatorische oder wettbewerbsbezogene Reaktionen sie einschränken können.
Pfad 2
Nationalstaat
Eine Regierung erreicht entscheidende KI-Überlegenheit und übersetzt diese in militärische und wirtschaftliche Dominanz, die wirksamen Wettbewerb anderer Staaten ausschaltet. KI-gestützte Überwachung und Kontrolle unterdrücken inneren Dissens; KI-gestützte militärische Fähigkeiten schrecken äußere Herausforderungen ab.
Pfad 3
KI-System
Ein fehlausgerichtetes KI-System mit ausreichend fortgeschrittener Fähigkeit handelt autonom, um Kontrolle über kritische Systeme zu erlangen und menschliche Einmischung zu verhindern. Das ist der direkte Fehlermodus, der in der KI-Sicherheit am meisten diskutiert wird: Die KI wird zum Singleton, und Menschen werden vollständig aus der Entscheidungsposition verdrängt.

Alle drei Wege führen zum gleichen strukturellen Ergebnis: einzelne, dauerhafte, unanfechtbare Kontrolle. Der Unternehmensweg und der Nationalstaat-Weg werden oft als weniger beunruhigend dargestellt als der KI-Weg, weil sie menschliche Entscheidungsträger einbeziehen. Doch die strukturelle Gefahr des Singleton-Szenarios liegt in der Struktur selbst – in der Tatsache, dass es eine einzige, unkontrollierte, dauerhafte Kontrolle gibt –, nicht darin, wer die KI kontrolliert.

Warum ist der wohlwollende Singleton immer noch gefährlich

Das hartnäckigste Missverständnis der Singleton-Bedenken ist die Überzeugung, dass es in Ordnung wäre, wenn das Singleton ein wirklich guter Akteur wäre, eine demokratische Regierung mit wohlwollenden Absichten oder ein KI-System mit wirklich guten Werten. Der Einwand verkennt das strukturelle Problem.

Ein wohlwollender Singleton produziert immer noch Wert-Festschreibung. Seine Werte, so gut sie nach heutigen Maßstäben auch sein mögen, werden permanent und schließen den moralischen Fortschritt aus, der historisch die Irrtümer jeder früheren Epoche mit ihren „guten“ Werten aufgedeckt hat. Ein wohlwollender Singleton beseitigt dennoch die Checks and Balances, die historisch Fehler in großen Organisationen und Regierungen aufspüren und korrigieren. Ein wohlwollender Singleton beseitigt dennoch den Pluralismus, die Vielfalt der Perspektiven und Ansätze, die den größten Teil des bedeutenden intellektuellen und sozialen Fortschritts hervorgebracht hat. Die Gefahr des Singletons liegt in der Struktur, nicht in der Identität des Kontrolleurs.

Das Irreversibilitätsproblem

Historische Imperien und dominante Mächte wurden alle irgendwann herausgefordert und verändert. Keine frühere Form politischer Dominanz war wirklich dauerhaft, weil Herausforderer immer genug Kapazität organisieren konnten, um eine Herausforderung zu starten. Ein durch superintelligente KI gestütztes Singleton könnte jede Herausforderung überwachen, antizipieren und im Vorfeld vereiteln, bevor sie sich organisiert, weil es die Intelligenz und den Informationszugriff hat, Bedrohungen früher als jede vorherige Autorität zu erkennen. Echte Dauerhaftigkeit ist das unterscheidende Merkmal der Singleton-Sorge.

Die multipolare Alternative

Die Alternative zum Singleton ist eine multipolare Welt, in der mehrere Akteure (Staaten, Institutionen, internationale Gremien) ein gewisses Maß an Kontrolle über und Zugang zu ASI behalten, mit gegenseitigen Beschränkungen, die verhindern, dass ein einzelner Akteur dominante Kontrolle errichtet. Das ist keine Utopie; Multipolarität hat historisch Konflikte, Wettbewerb und erheblichen Schaden mit sich gebracht. Doch sie erhält die Bedingungen für künftige Kurskorrekturen, Wertrevisionen und die Fortsetzung moralischen Fortschritts. Eine Welt mit KI-gestützter Multipolarität ist eine Welt, in der die Zukunft offen bleibt.

Das ist das strukturelle Ziel von demokratische und internationale Aufsicht von superintelligenter KI: nicht den richtigen Akteur zu identifizieren, der sie kontrolliert, sondern zu verhindern, dass irgendein einzelner Akteur die Art von Kontrolle erlangt, die die Zukunft verschließt. Internationale ASI-Governance-Rahmenwerke, unabhängige Aufsichtsgremien, verteilter Zugang zu KI-Fähigkeiten – all das sind Mechanismen, um Multipolarität gegen den Druck zur Singleton-Bildung aufrechtzuerhalten.

Der Stiftung Steuerungsvorschläge sind mit diesem Ziel strukturiert. Die spezifischen politischen Mechanismen (Rechenüberwachung, Bereitstellungsverifikation, internationale Vertragsrahmen) sind darauf ausgelegt, zu verhindern, dass ein einzelner Akteur den entscheidenden Vorteil erlangt, der einen Singleton schafft, unabhängig davon, ob dieser Akteur ein Unternehmen, eine Regierung oder die KI selbst ist.