Die Menschen, die einen gefährlichen Trainingslauf zuerst sehen, sind gewöhnlich im Labor, unter NDAs, und beobachten einen Startkalender. Whistleblower-Schutz ist der Weg, wie diese Menschen zu einem Warnsystem statt zu einem Schweigesystem werden. Bis Außeninspektoren existieren, sind Insider die Rauchmelder.

Frontier-KI-Forscher haben einen Blickwinkel, den kein Regulator oder Inspektor derzeit erreicht, und sie sind häufig durch Verträge und Non-Disparagement-Klauseln gebunden, die es kostspielig oder karrierebeendend machen, sich zu äußern. Ihre Fähigkeit zu schützen, Warnungen auszusprechen, ist einer der handhabbarsten und unterschätztesten Hebel in der ASI-Governance.

Warum Insider für KI so wichtig sind

Frontier-KI hat ein ungewöhnliches Transparenzproblem. Die folgenreichsten Entscheidungen – wie ein Modell trainiert wird, welche Sicherheitstests es erhielt, welche besorgniserregenden Verhaltensweisen auftraten, ob Warnungen überstimmt wurden – geschehen innerhalb privater Organisationen, unsichtbar für Außenstehende. Regulierungsbehörden fehlt der Zugang und oft die Expertise, um sie unabhängig zu sehen. In diesem Umfeld sind die Forscher und Ingenieure mit direktem Wissen die einzigen Personen, die in der Lage sind, zu erkennen und zu melden, dass etwas schiefgelaufen ist, bevor es auf die schlimmste Weise öffentlich wird.

Diese Sorge ist nicht hypothetisch. 2024 veröffentlichte eine Gruppe aktueller und ehemaliger Mitarbeiter führender KI-Unternehmen einen offenen Brief mit dem Titel „A Right to Warn about Advanced Artificial Intelligence“, in dem sie argumentierten, dass Vertraulichkeitsvereinbarungen sie daran hinderten, Sicherheitsbedenken zu äußern, und Schutzmaßnahmen forderten, um dies zu ermöglichen. Dass ein solcher Brief notwendig war, ist selbst Beweis für das Problem: Die Menschen, die dem Risiko am nächsten waren, fühlten sich rechtlich und beruflich außerstande, darüber zu sprechen.

Was blockiert sie

  • Restriktive Vereinbarungen. Breite Vertraulichkeits- und Nichtabwertungsklauseln (manchmal an unverfallbare Aktien im Wert von Millionen gekoppelt) können das Aussprechen finanziell ruinös machen.
  • Rechtliche Risiken. Ohne einen klar geschützten Kanal riskiert ein Mitarbeiter, der Bedenken äußert, wegen Vertragsbruch oder Verletzung von Geschäftsgeheimnissen verklagt zu werden.
  • Lücken im bestehenden Recht. Traditionelle Whistleblower-Statute schützen Meldungen illegaler Aktivitäten, doch vieles, was an der KI-Frontier gefährlich ist, ist noch nicht illegal, sodass Offenlegungen über legale, aber rücksichtslose Entwicklung ungeschützt bleiben.
  • Karriererisiko. In einem kleinen Feld kann der informelle Preis dafür, als illoyal zu gelten, eine Karriere beenden, selbst wo formale Vergeltung ausgeschlossen ist.

Wie effektiver Schutz aussehen würde

1

Geschützte Offenlegungskanäle

Gesetzlich garantierte Wege für KI-Beschäftigte, Sicherheitsbedenken an eine Regulierungsbehörde oder Aufsichtsstelle zu melden, geschützt vor Haftung, auch wenn das offengelegte Verhalten selbst nicht illegal ist.

2

Grenzen für Schweigeverträge

Beschränkungen für die Verwendung von Vertraulichkeits- und Nichtabwertungsklauseln zur Unterdrückung gutgläubiger Sicherheitsbedenken, damit die Meldung einer Gefahr einem Mitarbeiter nicht die erworbenen Ansprüche kosten kann.

3

Garantien gegen Vergeltung

Starker, durchsetzbarer Schutz gegen Entlassung, Schwarze Liste oder andere Vergeltung für geschützte Offenlegungen, mit echten Abhilfen.

4

Eine Stelle zur Entgegennahme von Warnungen

Eine Aufsichtsbehörde (eine Regulierungs- oder Sicherheitsinstitution) mit dem Mandat und der Expertise, auf Offenlegungen zu reagieren, anstatt sie verschwinden zu lassen.

Solange wir die Labore nicht von außen inspizieren können, sind die Menschen darin unsere Rauchmelder. Ein Gesetz, das es einem Unternehmen erlaubt, seine eigenen Forscher über ein katastrophales Risiko zum Schweigen zu bringen, ist ein Gesetz, das den Alarm deaktiviert.

Handhabbar und eine Brücke zu mehr

Whistleblower-Schutz hat eine seltene Qualität in der ASI-Governance: Er ist durch gewöhnliche nationale Gesetzgebung erreichbar, ohne Vertrag, ohne internationalen Konsens und ohne die schwierigen Fragen von Schwellenwerten und Verifikation zu lösen. Jede Jurisdiktion, die Frontier-Labore beherbergt, kann ihn einseitig erlassen, und das würde sofort die Fähigkeit der Welt stärken, gefährliche Entwicklungen zu erkennen. Er ist auch eine Brücke zu schwierigerer Governance: Die geschützten Offenlegungen, die er ermöglicht, liefern genau die Art von Insider-Informationen, auf die sich Regulierer und schließlich ein internationales Verifikationsregime verlassen würden. Der Aufbau externer Verifikation wird Jahre dauern. Die Insider zu schützen, die uns in der Zwischenzeit warnen können, ist etwas, das Parlamente jetzt tun können, und es gehört zu den wirkungsvollsten Sicherheitsmaßnahmen, die vor einem Vertrag verfügbar sind.