Ein wiederkehrendes Problem in der ASI-Governance ist, dass Regierungen historisch die hausinterne Expertise fehlte, um die Systeme zu bewerten, die sie regulieren sollen. Die Sicherheitsinstitute existieren, um diese Lücke zu schließen. Es handelt sich um staatliche oder staatlich unterstützte Einrichtungen, die mit technischen Forschern besetzt sind, deren Aufgabe es ist, die Fähigkeiten und Risiken frontier-Modelle einzuschätzen – der Staat baut endlich die Fähigkeit auf, zu sehen, was die Labs bauen, statt ihnen aufs Wort zu glauben.

Beginnend mit dem UK und US Ende 2023 haben sich nationale KI-Sicherheitsinstitute vervielfacht und zu einem internationalen Netzwerk verknüpft. Sie sind unspektakulär – und möglicherweise die wichtigste bisher geschaffene Governance-Infrastruktur.

Woher das Netzwerk kam

Das Vereinigte Königreich kündigte sein KI-Sicherheitsinstitut im Rahmen des Bletchley-Gipfels im November 2023 an, das erste seiner Art. Die Vereinigten Staaten gründeten kurz darauf ihr eigenes Institut bei NIST. Beim Seoul-Gipfel im Mai 2024 einigten sich eine breitere Gruppe von Regierungen (darunter Japan, Singapur, Kanada, Südkorea, die EU und weitere) darauf, Institute aufzubauen und sie zu einem internationalen Netzwerk zu verbinden, um ihre Arbeit abzustimmen. Aus zwei nationalen Einrichtungen entstand der Keim eines kooperativen Systems.

Eine Anmerkung zu Namen: Die beiden Gründungsinstitute wurden inzwischen umbenannt, das UK heißt jetzt AI Security Institute, und die US-Einrichtung wurde 2025 zum Center for AI Standards and Innovation (CAISI). Das Netzwerk und seine Evaluationsarbeit laufen unter den neuen Namen weiter.

Was die Institute tatsächlich tun

  • Frontier-Modelle bewerten. Sie testen fortschrittliche Systeme auf gefährliche Fähigkeiten (auch in Hochrisikobereichen) und entwickeln die Methoden, um zu messen, was ein Modell tatsächlich kann.
  • Entwickeln Sie die Wissenschaft der Evaluation. Strenge, standardisierte Tests von KI sind ein ungelöstes technisches Problem. Die Institute entwickeln die Methodik, die verlässliche Governance erfordert.
  • Regierungen beraten. Sie verschaffen Staaten unabhängige technische Urteilsfähigkeit zu KI-Risiken und verringern die Abhängigkeit von den Einschätzungen der Entwickler selbst.
  • Über Grenzen hinweg kooperieren. Über das Netzwerk teilen Institute Methoden, koordinieren Tests und arbeiten auf gemeinsame Standards hin, die Anfänge interoperabler, internationaler Evaluierung.

Warum sie für einen Vertrag wichtig sind

Die Verbindung zwischen den Instituten und einer zukünftigen bindenden Vereinbarung ist direkt und unterschätzt. Jeder ernsthafte Vorschlag für einen KI-Vertrag hängt von der Fähigkeit ab, zu bewerten, ob ein System eine gefährliche Schwelle überschreitet, und die Einhaltung von Sicherheitsverpflichtungen zu verifizieren. Diese Fähigkeit existiert nicht von selbst; sie muss aufgebaut werden. Die Sicherheitsinstitute bauen genau das. Sie errichten in der Tat die technischen Organe, die ein Verifikationsregime später nutzen würde.

Sie lösen auch ein Sequenzierungsproblem. Ein Vertrag, der Evaluierungsanforderungen festlegt, wäre wertlos, wenn kein unabhängiges Gremium die Evaluierungen durchführen könnte. Indem sie diese Kapazität jetzt entwickeln (bevor der Vertrag existiert), stellen die Institute sicher, dass die Werkzeuge bereit sind, wenn die politische Einigung eintrifft. Das Netzwerk ist das praktische Fundament, auf dem verbindliche Governance schließlich stehen kann, und es wird still gelegt, während die prominentere Diplomatie parallel verläuft.

Die Grenzen, über die man ehrlich sein muss

Die Institute sind kein Ersatz für bindende Governance, und es wäre ein Fehler, sie als solchen zu behandeln. Ihr Zugang zu Modellen hängt in der Regel von der freiwilligen Kooperation der Entwickler ab; sie können keine Tests eines Systems erzwingen, das ein Unternehmen nicht teilen möchte. Ihre Aufträge und Ressourcen variieren stark zwischen den Ländern, und die Koordination des Netzwerks ist noch im Anfangsstadium und nicht bindend. Auch die Evaluierung selbst ist wissenschaftlich noch unreif; zuverlässig festzustellen, ob ein Modell gefährlich ist, ist wirklich schwierig, und aktuelle Methoden weisen echte Lücken auf.

Ein Vertrag, der Sicherheits-Evaluierungen vorschreibt, ist leer, wenn niemand sie durchführen kann. Die Safety-Institute bauen die Augen, die jedes echte Verifikationsregime brauchen wird. Diese Arbeit muss vor dem Vertrag geschehen, nicht danach.

Die Infrastruktur durchsetzbarer Governance

Die Sicherheitsinstitute markieren einen Wechsel vom Reden über KI-Risiken zum Aufbau der Kapazität, sie zu messen. Dieser Wechsel ist wichtig, weil Governance ohne Messung bloße Aspiration bleibt. Der realistische Weg ist, dass das Netzwerk reift, durch gesetzliches Mandat statt durch Wohlwollen garantierten Zugang zu Frontier-Modellen erhält, sich auf gemeinsame Standards verständigt und die unabhängige, gut ausgestattete Evaluierungskapazität aufbaut, die ein Verifikationsregime erfordert. Die Institute werden die Welt nicht allein retten. Aber sie bauen die Instrumente zusammen, ohne die kein bindender Vertrag funktionieren könnte, und sie zu stärken gehört zu den konkretesten und unmittelbar nützlichsten Dingen, die Regierungen tun können, während die größere Vereinbarung noch verhandelt wird.