Bevor ein kommerzieller Flugzeugtyp zur Beförderung von Passagieren zugelassen wird, verlangen die Behörden ein strukturiertes Sicherheitsargument: Behauptungen, Begründungen und Belege, die dick genug sind, um abgelehnt zu werden. Im Vereinigten Königreich läuft die Genehmigung von Nuklearanlagen immer noch über einen Sicherheitsfall, den das Office for Nuclear Regulation vor Betriebsbeginn akzeptieren muss. Viele Medizinprodukte folgen demselben Prinzip. Der Betreiber darf nicht zuerst laufen und später erklären. Die Erlaubnis folgt auf einen Fall, der einer kritischen Prüfung standgehalten hat.

Ein KI-Sicherheitsfall leiht sich diese Form. Er ist ein strukturiertes, evidenzbasiertes Argument, dass ein bestimmtes System sicher genug ist, um in einer bestimmten Umgebung trainiert oder eingesetzt zu werden. Angewandt auf Frontier-Modelle zwingt er den Erbauer zu einer affirmativen Begründung. Andere müssen nicht mehr die Gefahr beweisen, bevor jemand auf die Bremse tritt. Der Erbauer muss Sicherheit nachweisen – oder aufhören.

Was ein echter KI-Sicherheitsfall enthalten würde

Ein ernsthafter Fall ist mehr als eine Checkliste. Er hat eine Form.

  • Eine Behauptung: Dieses Modell, so eingesetzt, birgt kein inakzeptables Risiko für die genannten Schäden.
  • Ein Argument: die Begründung, die Evidenz mit der Behauptung verbindet, einschließlich der Frage, wie identifizierte Risiken behandelt werden und warum die Schutzmaßnahmen ausreichen.
  • Belege: Ergebnisse von Fähigkeitsbewertungen, Red-Teaming, Sicherheitsmaßnahmen und Analysen, von denen das Argument abhängt.

Sie muss auch Annahmen und Fehlerquellen benennen. Ein guter Fall ist falsifizierbar. Er sagt einem Prüfer, was wahr sein müsste, damit die Schlussfolgerung gilt, damit der Prüfer nachsehen kann, ob diese Bedingungen tatsächlich gelten. Ohne das: Theater.

Warum die Disziplin wertvoll ist

Das Aufschreiben des Arguments bringt Lücken ans Licht, die eine selbstbewusste Release-Note verbergen kann. Ein Risiko ist schwerer wegzuwischen, wenn man explizite Begründungen dafür konstruieren muss. Die Methode entspricht dem Vorgehen anderer Hochrisikobereiche, die sicherer geworden sind: indem man Gefahren vor der Operation durchdenkt, nicht nur Wracks danach zählt. Sie fügt sich auch in die Schwellenlogik von verantwortungsvolle Skalierungspolitiken, wo eine überschrittene Fähigkeitslinie einen Fall auslösen sollte, der stark genug ist, um den nächsten Schritt zu rechtfertigen.

Der benannte populäre Einwand

Der praktische Einwand lautet: gebt der Wissenschaft noch ein paar Jahre Evaluationen und Interpretierbarkeit, dann schreiben sich Safety Cases von selbst; sie jetzt zu verlangen verlangsame nur nützliche Systeme. In dieser Sicht soll die Bürokratie der Evidenz folgen, nicht ihr vorausgehen.

In der Luftfahrt kann sich der Fall auf ausgereifte Wissenschaft, bekannte Ausfallraten, verstandene Physik und jahrzehntelange Flottendaten stützen. Bei einem Frontier-Modell stößt ein ehrlicher Fall darauf, wie wenig wir derzeit beweisen können. Wir können noch nicht nachweisen, dass ein leistungsfähiges Modell nicht täuschend aligned ist. Wir können Fähigkeiten nicht ausschließen, an die niemand gedacht hat zu testen. Wir können nicht zeigen, dass Verhalten in der Evaluierung in der Einsatzphase Bestand hat, insbesondere wenn das System Sandbagging.

Eine strenge Begründung für ein hinreichend fortgeschrittenes Modell bräuchte Zusicherungen, die die aktuelle Wissenschaft nicht liefern kann. Ein ehrlicher Versuch führt daher oft als tatsächliches Ergebnis zu einer klaren Darstellung, warum das System noch nicht als sicher nachgewiesen werden kann. Die Unterlagen haben ihre Aufgabe erfüllt, wenn sie die Abstempelung einer Lücke verweigern.

Der Wert eines Sicherheitsnachweises liegt in der Erlaubnis, abzulehnen.

Warum die Foundation sie unterstützt

Ein Governance-Regime, das auf Sicherheitsnachweisen aufbaut, behandelt die Unfähigkeit, Gefahr zu beweisen, nicht als Erlaubnis zum Weitermachen. Die Beweislast liegt beim Entwickler. Kann dieser sie nicht erfüllen, lautet die Antwort nicht, den nächsten Sprung zu trainieren und zu hoffen. Sicherheitsnachweise müssen verpflichtend sein, unabhängig geprüft statt selbst benotet und vor den größten Trainingsläufen erforderlich, nicht nach einem Produktlaunch.

In dieser Form bindend gemacht, werden sie zu einem der stärkeren verfügbaren Instrumente. Deshalb sind sie im weiteren Design von unser Plan.