Das FDA-Modell
für KI-Regulierung

Bevor ein neues Medikament in den Vereinigten Staaten ausgeliefert wird, muss jemand Sicherheit und Wirksamkeit unter Regeln nachweisen, die einen Start stoppen können. Die meiste Software wird noch immer zuerst ausgeliefert und später entschuldigt. Das FDA-Muster ist die Frage, der die KI-Politik ständig ausweicht: Beweisen Sie es, bevor der Schaden irreversibel ist.

Pharmazeutika sind die große Ausnahme. Ein Pharmaunternehmen kann kein Medikament freigeben und auf die Leichen warten. Es muss Sicherheit und Wirksamkeit der Food and Drug Administration in gestuften klinischen Studien nachweisen vor es das Produkt überhaupt verkaufen darf. Die Beweislast liegt beim Entwickler und schon vor dem Einsatz. Das FDA-Modell für KI fragt, ob frontier-KI, die die Merkmale teilt, die Medizin zu einer Ausnahme machten, auf dieselbe Weise reguliert werden sollte.

Warum die Analogie attraktiv ist

Die Passung ist enger, als es zunächst scheint, weil die Gründe, warum Arzneimittel eine Marktzulassung vor dem Inverkehrbringen benötigen, Gründe sind, die auf frontier AI zutreffen.

• Die Beweislast ist umgekehrt. Der Entwickler muss nachweisen, dass das Produkt sicher ist, anstatt dass ein Regulator oder die Öffentlichkeit nach der Freigabe nachweisen muss, dass es gefährlich ist. Diese Umkehrung ist genau das, wofür die Foundation anderswo argumentiert, in Sicherheitsfälle und Skalierungsrichtlinien.
• Zustimmung kommt vor dem Einsatz. Der Check erfolgt, solange das System noch eingedämmt ist, nicht nachdem es in der Welt frei ist, und das ist der einzige Punkt, an dem Prävention Reaktion schlägt.
• Gestaffelte Tests skalieren mit dem Risiko. Klinische Studien laufen in Phasen ab, jedes Gate erfordert Nachweise vor dem nächsten. Das lässt sich natürlich auf Fähigkeitsschwellen für KI übertragen.

Bei einer Technologie, bei der einige Ausfälle schwerwiegend und schwer umkehrbar sein können, ist ein Regime, das die höchstrisikoreichsten Systeme erst freigibt, wenn Sicherheit positiv nachgewiesen ist, ein ernsthafter und attraktiver Vorschlag.

Wo das Modell an seine Grenzen stößt

Die Analogie ist ein Leitfaden, kein Template, und die Unterschiede sind lehrreich.

Ein Medikament ist ein festes Molekül, das in einem Körper eine bestimmte Wirkung ausübt, untersucht durch eine ausgereifte Wissenschaft mit quantifizierten Risiken. Ein frontier-Modell ist universell einsetzbar, wird für offene Aufgaben verwendet, die niemand vollständig aufgezählt hat, mit Fähigkeiten, die unvorhersehbar auftreten können und Verhalten, das sich nach dem Deployment durch Fine-Tuning oder neue Tools verschieben kann. Man kann definieren, was es für ein Blutdruckmedikament bedeutet, sicher zu sein. Zu definieren, was es für ein allgemeines Schlussfolgerungssystem bedeutet, sicher zu sein, ist das ungelöste Problem im Zentrum des Feldes, und die Wissenschaft, die ein FDA-ähnlicher Prüfer bräuchte, existiert oft noch nicht.

Es gibt auch das Grenzproblem. Die FDA regelt einen nationalen Markt mit harten Grenzen. Ein gefährliches Modell kann überall trainiert und überall kopiert werden, daher reicht nationale Vorabgenehmigung allein nicht aus und lässt die Lücke, die nur internationale Koordination schließen kann, gestützt auf die physischen Engpässe von Rechen-Governance.

Das FDA-Modell liefert uns das richtige Prinzip – Sicherheit vor der Freigabe nachweisen – und erinnert uns daran, wie viel der zugrunde liegenden Sicherheitswissenschaft uns noch fehlt.

Was man daraus mitnehmen sollte

Das FDA-Modell ist weniger als Blaupause zum Kopieren wertvoll denn als Nachweis, dass eine Marktzulassung vor dem Inverkehrbringen normal, praktikabel und akzeptiert ist für Produkte, deren Nachteile zu schwerwiegend sind, um sie durch Rückruf zu handhaben. Die Gesellschaft stimmt bereits im Fall von Medizin zu, dass manches vor dem Erreichen von uns als sicher nachgewiesen werden muss. Dieses etablierte Prinzip auf die Frontier-KI-Systeme auszudehnen, deren Versagen am gravierendsten sein könnte, ist die Anwendung einer bestehenden Norm auf eine neue Technologie, die eindeutig qualifiziert, umgesetzt durch die Mischung aus innerstaatlicher Anforderung und internationalem Rahmen, die in unser Plan, keine radikale Forderung.