Die Menschen, die entscheiden, wie schnell man auf Superintelligenz zusteuern soll, welche Sicherheitsstandards anzuwenden sind und wann Systeme einzusetzen sind, die sich dieser Schwelle nähern, sind überwiegend die Mitarbeiter und Investoren von fünf oder sechs privaten Technologieunternehmen. Sie unterliegen keinem bindenden internationalen Recht, sind nicht gewählt. Ihre Entscheidungen werden durch freiwillige Verpflichtungen, die sie untereinander eingegangen sind, und durch die regulatorischen Umgebungen der Länder, in denen sie tätig sind, eingeschränkt, die unvollständig und weitgehend reaktiv sind.

Diese Fakten können nicht die endgültige Antwort sein.

Das ist keine Anschuldigung. Die Personen in diesen Organisationen versuchen in vielen Fällen tatsächlich, verantwortungsvoll zu handeln. Das Problem ist strukturell: Entscheidungen dieses Ausmaßes sollten nicht auf den guten Absichten einzelner Personen in einzelnen Unternehmen beruhen, die unter Wettbewerbsdruck stehen, der systematisch zu schnellerer Deployment bei geringeren Sicherheitsmargen drängt.

Die aktuelle Entscheidungsstruktur

OpenAI, Anthropic, Google DeepMind und Meta sind die wichtigsten westlichen Akteure in der Entwicklung von Frontier-KI. Jede hat interne Sicherheitsteams, hat öffentliche Verpflichtungen zu verantwortungsvoller Entwicklung abgegeben und nimmt an freiwilligen Governance-Foren teil, einschließlich des Frontier Model Forum. Chinas Entwicklung wird hauptsächlich von staatlich unterstützten Einrichtungen und großen Technologieunternehmen geleitet, die unter staatlicher Koordination operieren.

Die Entscheidungen, die am meisten zählen – wann die nächste Fähigkeitsstufe vorangetrieben wird, welche Sicherheitsbewertungen vor dem Einsatz ausreichen, ob die Alignment eines Systems ausreichend verifiziert wurde –, werden innerhalb dieser Organisationen getroffen, von ihren internen Sicherheitsteams geprüft und an Standards gemessen, die sie größtenteils selbst geschrieben haben.

Die Verantwortungslücke

Keine amtierende Regierung hat die Befugnis, eines der führenden Frontier-KI-Labore anzuweisen, die Entwicklung einzustellen. Keine internationale Organisation hat die rechtliche Grundlage, unabhängige Überprüfungen von Sicherheitsbewertungen zu verlangen. Nirgendwo wurde eine demokratische Abstimmung darüber abgehalten, ob Systeme gebaut werden sollen, die ihre eigenen Entwickler als potenziell transformativ für alle menschliche Aktivität beschreiben.

Dies ist eine Beschreibung einer strukturellen Lücke: Die Menschen, die von Entscheidungen über Superintelligenz am stärksten betroffen sind, haben keinen sinnvollen formalen Mechanismus, um sie zu beeinflussen – keine Kritik an den Absichten eines bestimmten Unternehmens.

Warum private Governance strukturell versagt

Drei strukturelle Probleme machen die Governance von Superintelligenz durch private Unternehmen unzureichend, unabhängig von den Absichten der beteiligten Firmen.

Der erste ist Wettbewerbsdruck. Selbst ein Labor, das aufrichtig warten will, bis Alignment gelöst ist, steht vor dem Wissen, dass ein Konkurrent, der zuerst deployt, eine Marktposition erobern kann, die schwer zurückzugewinnen ist. Das erzeugt einen Anreiz, „ausreichende Sicherheit“ auf dem Niveau zu definieren, das Deployment vor Konkurrenten erlaubt, statt auf dem Niveau, das tatsächlich ausreicht. Kein einzelnes Unternehmen kann dieses Problem einseitig lösen. Freiwillige Sicherheitszusagen existieren genau, weil die Unternehmen wissen, dass dieses Problem real ist, und sie sind unzureichend genau, weil freiwillige Zusagen unter Wettbewerbsdruck nachgeben.

Zweitens der Interessenkonflikt bei der Sicherheitsbewertung. Die Organisationen, die Sicherheitsbewertungen von KI-Systemen durchführen, sind dieselben Organisationen, die ein finanzielles Interesse daran haben, dass diese Systeme die Bewertung bestehen. Das ist einfach der aktuelle Stand des Feldes, keine unfaire Charakterisierung. Interne Sicherheitsteams leisten ernsthafte und wertvolle Arbeit. Sie sind kein Ersatz für unabhängige externe Überprüfung, genauso wenig wie die internen klinischen Studien eines Pharmaunternehmens ein Ersatz für die regulatorische Überprüfung durch eine unabhängige Stelle sind.

Drittens geht es um den Umfang der Entscheidung. Ob Superintelligenz gebaut werden soll und auf welchem Zeitplan, ist eine zivilisatorische Frage, keine Produktentscheidung. Der angemessene Ort dieser Entscheidung sind Governance-Strukturen, die den Menschen gegenüber rechenschaftspflichtig sind, deren Zukunft auf dem Spiel steht – nicht Unternehmensvorstände, die Aktionären gegenüber rechenschaftspflichtig sind.

Was demokratische und transnationale Aufsicht erfordern würde

Das Argument für demokratische Aufsicht über Superintelligenz setzt nicht voraus, dass demokratische Prozesse perfekt sind oder dass internationale Institutionen reibungslos funktionieren. Es setzt voraus, dass die Alternative (private Governance unter Wettbewerbsdruck) eindeutig schlechter ist.

Angemessene Aufsicht bräuchte drei Eigenschaften. Die erste ist repräsentative Legitimität: Das Governance-Gremium muss gegenüber den Menschen, die es betrifft, rechenschaftspflichtig sein, was letztlich die gesamte Menschheit und nicht nur die Bürger der Länder bedeutet, in denen frontier KI entwickelt wird. Das deutet auf internationale Vertragsorganisationen mit breiter Mitgliedschaft hin, nicht auf unilaterale nationale Regulierung.

Zweitens bindende Autorität. Freiwillige Zusagen sind keine Governance. Ein Governance-Rahmen für Superintelligenz braucht die rechtliche Kapazität, Compliance einzufordern, unabhängige Audits durchzuführen und Verstöße zu ahnden. Das erfordert Verträge auf höchster Ebene, keine Industrieforen.

Drittens geht es um technische Kapazität. Ein Gremium, das nicht bewerten kann, was es regelt, kann es auch nicht regeln. Internationale KI-Aufsicht erfordert Mitarbeiter mit echter technischer Expertise, Zugang zu Modellgewichten und Trainingsaufzeichnungen sowie die analytischen Werkzeuge, um Alignments-Behauptungen unabhängig zu prüfen.

Das nukleare Präzedenzfall

Das Argument, wirksame internationale Governance gefährlicher Technologien sei unmöglich, wird durch die Geschichte widerlegt. Der Atomwaffensperrvertrag, 1968 unterzeichnet und heute in 191 Ländern in Kraft, hat die Verbreitung von Atomwaffen erfolgreich auf eine weit kleinere Gruppe von Staaten beschränkt, als Analysten in den 1960er Jahren vorhergesagt hatten. Er ist unvollkommen. Er hat nicht jede Proliferation verhindert. Dennoch war er eines der folgenreichsten Rüstungskontrollabkommen der Geschichte.

Die Chemiewaffenkonvention, die 1997 in Kraft trat, hat die verifizierte Vernichtung von mehr als 70.000 metrischen Tonnen deklarierter chemischer Waffen erreicht. Das Inspektionsregime der Organisation für das Verbot chemischer Waffen (OPCW) führt unabhängige Verifizierungsbesuche bei Einrichtungen in Mitgliedsländern durch und arbeitet mit echter technischer Glaubwürdigkeit.

"Die Verantwortung für die Entwicklung superintelligenter KI sollte nicht einem einzelnen Akteur (Staat oder Unternehmen) überlassen, sondern demokratischen und transnationalen Governance-Strukturen anvertraut werden, die die Menschheit in all ihrer Vielfalt repräsentieren."

Global Policy Journal, Februar 2026

Keiner der Verträge ist eine perfekte Analogie für ASI-Governance. Die KI-Entwicklung ist schneller, stärker verteilt und physisch schwerer zu überwachen als die Produktion von Atomwaffen. Doch das Kernargument aus diesen Präzedenzfällen bleibt bestehen: Wenn eine Technologie Risiken birgt, die wirklich global und potenziell irreversibel sind, hat die internationale Gemeinschaft gezeigt, dass sie Governance-Strukturen schaffen kann, die sie einschränken. Zu behaupten, KI sei einzigartig unregierbar, ist keine technische Feststellung; es ist eine Wahl.

Der Wettbewerbseinwand und warum er die Frage nicht löst

Der schwerwiegendste Einwand gegen die demokratische und transnationale Aufsicht über Superintelligenz ist der Wettbewerb: Wenn sich westliche Demokratien den Regierungsbeschränkungen unterwerfen und China dies nicht tut, ist das Ergebnis, dass ein weniger sicherheitsbewusster Akteur die Superintelligenz zuerst erreicht.

Die Antwort besteht aus mehreren Teilen. Erstens müssen Governance-Rahmen von Anfang an so gestaltet werden, dass alle wichtigen Akteure einbezogen sind. US und seine Verbündeten verfügen über erheblichen Einfluss auf die chinesische KI-Entwicklung durch Technologiezugang, Investitionsströme und Chip-Lieferketten. Dieser Einfluss ist am wertvollsten, solange er besteht, nicht nachdem ein Governance-Rahmen ohne China aufgebaut und dann gescheitert ist. Zweitens hat die chinesische Regierung ein eigenes Interesse daran, nicht von einer nicht ausgerichteten KI überholt zu werden, die von einem westlichen Unternehmen entwickelt wird, und hat an internationalen KI-Sicherheitsdiskussionen teilgenommen, unter anderem in Bletchley Park. Die Hindernisse für eine chinesische Beteiligung sind real, aber nicht unüberwindbar. Drittens ist die Alternative zu einer multilateralen Governance ein Wettrüsten, bei dem jeder große Akteur versucht, mit minimalen Sicherheitsauflagen zuerst einzusetzen, was weder US noch seine Verbündeten offensichtlich begünstigt und in dem eine nicht ausgerichtete Superintelligenz unabhängig davon, wer sie baut, wahrscheinlicher wird.

Der Wettbewerbseinwand ist kein Argument für den Status quo. Der Status quo ist Private Governance unter Wettbewerbsdruck, was die obige Analyse strukturell unzureichend erscheinen lässt. Die Antwort auf "multilaterale Governance ist hart" ist, darauf hinzuarbeiten, keine Governance zu akzeptieren, die einfacher, aber eindeutig unzureichend ist.

Der Stiftung drei politische Vorschläge sind genau mit dieser Einschränkung konzipiert: Rahmenwerke, die so strukturiert sind, dass alle großen Akteure beitreten können, mit den politischen und wirtschaftlichen Anreizen, die Beitritt attraktiver machen als Ausstieg.