Das Dokument ist die Bletchley Declaration. Sie entstand beim britischen AI Safety Summit, dem ersten Treffen von Regierungen, das eigens um Risiken der fähigsten Frontier-Systeme einberufen wurde. Der Text ist kurz, nicht bindend und sorgfältig abgewogen. Ihn daraufhin zu lesen, was er festhält und was er auslässt, bleibt der klarste Maßstab dafür, wo internationale ASI-Governance Ende 2023 stand.

Zum ersten Mal zeichneten rivalisierende Regierungen gemeinsam auf, dass frontier AI katastrophalen Schaden verursachen könnte.

Was die Erklärung sagt

Der zentrale Schritt ist eine Anerkennung. Die Erklärung stellt fest, dass Frontier-KI-Modelle das Potenzial für ernsthafte, sogar katastrophale Schäden bergen. Sie benennt Risiken, die absichtlich oder unbeabsichtigt entstehen können, und verweist auf ernsthafte Schäden durch die leistungsfähigsten Allzwecksysteme. Regierungen, die sich sonst kaum einig sind, darunter Washington und Peking, haben diese Einordnung öffentlich akzeptiert.

Über die Anerkennung hinaus verpflichten sich die Unterzeichner zu zwei Richtungen: KI-Sicherheitsrisiken von gemeinsamem Interesse identifizieren und ein gemeinsames wissenschaftliches Verständnis dafür aufbauen; sowie risikobasierte nationale Politiken entwickeln und dabei gegebenenfalls kooperieren. Der Text befürwortet den fortgesetzten internationalen Dialog und begrüßt eine Reihe von Folgegipfeln. Er tut nicht so, als hätten diese Gipfel bereits die Antworten.

Was es nicht tut

  • Keine bindenden Verpflichtungen. Nichts verpflichtet ein Land dazu, nach einem Zeitplan zu handeln, eine Metrik zu berichten oder eine Fähigkeit zu verbieten.
  • Keine Institution. Es gibt keine Behörde, kein Sekretariat und keine Überwachungsstelle, nur eine Vereinbarung, weiterzureden und sich wieder zu treffen.
  • Keine roten Linien. Die Erklärung definiert weder, welche Fähigkeiten inakzeptabel sind, noch, was kollektives Handeln auslösen würde.
  • Keine Verifizierung oder Durchsetzung. Compliance wird nicht gemessen, weil es nichts Konkretes gibt, mit dem man konform sein könnte.

Warum eine unverbindliche Erklärung dennoch zählt

Eine Erklärung ohne Durchsetzungskraft abzutun ist einfach. Es ist auch eine Fehldeutung, wie gefährliche Technologien ins Völkerrecht gelangen. Das Rahmenkonventionsmuster, das bei Ozon und Klima verwendet wurde, beginnt damit, gemeinsame Prinzipien und eine Pflicht zur Zusammenarbeit festzulegen, weil die Benennung des Problems die Voraussetzung dafür ist, darüber zu verhandeln, was zu tun ist. Bletchley hat die erste schwierige diplomatische Arbeit geleistet: Es hat rivalisierende Mächte dazu gebracht, sich dazu zu bekennen, dass das Risiko real und gemeinsam ist.

Es eröffnete auch einen Prozess. Der Gipfel war kein einmaliges Ereignis. Er startete eine wiederkehrende Reihe, die im Mai 2024 in Seoul fortgesetzt wurde und den Regierungen ein ständiges Forum bietet, um Wissenschaft, Institutionen und schließlich Verpflichtungen zu entwickeln, die eine einzelne Erklärung nicht tragen kann. Der Wert liegt weniger im Wortlaut als im Weg, den dieser Wortlaut ermöglicht.

Der volkstümliche Einwand lautet, weiche Erklärungen seien Theater. Das ist berechtigt, wenn sie das Ende der Geschichte sind. Wenn sie der erste Schritt eines Regimes sind, das später Schwellenwerte, Verifikation und Strafen hinzufügt, sind sie der Weg, auf dem Staaten beginnen, über Beschränkungen zu sprechen, die sie noch nicht bereit sind zu akzeptieren. Bletchley scheitert nur, wenn der Prozess beim Fototermin stehen bleibt.

Der Test, der folgt

The measure of Bletchley is whether acknowledgment becomes architecture. Shared concern that never hardens into binding rules, independent checks, and institutions is only language. Follow-on summits, national KI-Sicherheitsinstitute, und wissenschaftliche Bewertung sind die Maschinerie, die entweder die Erklärung in Governance reifen lässt oder sie verblassen lässt. Der Text kaufte einen Ausgangspunkt. Die Arbeit besteht darin, ihn umzuwandeln, bevor die Fähigkeiten, vor denen er warnt, den Prozess überholen, den er begann. Für die Foundation bedeutet diese Umwandlung eine verbindlicher Weg, um Superintelligenz zu stoppen, nicht ein permanenter Zyklus von Gipfeln, die nie Gesetze erlassen.