Eine KI brach in fast alle der
NSAs klassifizierte Systeme in Stunden

Das Modell war Mythos, das als Anthropic's leistungsfähigstes System galt. Der Senator war Mark Warner aus Virginia, stellvertretender Vorsitzender des Senate Intelligence Committee. Der General war Joshua Rudd, der sowohl die NSA als auch das U.S. Cyber Command leitet. In Warners Schilderung, zuerst berichtet von The Economist und in der Fachpresse aufgegriffen, Rudd erzählte ihm, was das Modell tat.

In Stunden, von einem kommerziellen Modell. Die Details sind umstritten und die Geschichte wurde innerhalb von Tagen kompliziert. Das Wesentliche daran ist real, und das Wesentliche daran reicht aus.

Mythos brach in fast alle unserer klassifizierten Systeme ein, nicht in Wochen, sondern in Stunden.

Gen. Joshua Rudd, Leiter der NSA und des U.S. Cyber Command, wie von Sen. Mark Warner übermittelt und berichtet von The Economist, Juni 2026

„KI hackt die NSA“ schreibt seine eigene Schlagzeile. Es ist auch nicht ganz das, was geschehen ist. Die Kluft zwischen der viralen Version und der realen lohnt es, genau zu betrachten, denn die reale ist es, die einen wach halten sollte.

Was tatsächlich geschah

Keine schurkische Maschine schaltete sich gegen ihre Schöpfer ein und stürmte die Geheimnisse der Nation. Der Einbruch fand innerhalb eines autorisierten Red-Team-Übung: ein kontrollierter Sicherheitstest, bei dem die Behörde das Modell auf Replikate ihrer eigenen klassifizierten Umgebungen richtete und es aufforderte, den Weg hinein zu finden.

Die Vorbehalte häuften sich schnell. Ein Regierungsbeamter sagte später, Warner habe die Geschichte beim Nacherzählen möglicherweise komprimiert, und die Formulierung „Stunden, nicht Wochen“ habe sich speziell auf den Red-Teaming-Kontext bezogen, nicht auf ein live-Netzwerk. Weder die NSA noch das Cyber Command haben seine Schilderung unabhängig bestätigt. Nehmen Sie all das zur Kenntnis. Gewähren Sie jede Korrektur. Gehen Sie von der beruhigendsten Lesart aus, die übrig bleibt.

Was nach der Entzauberung bleibt, ist immer noch dies. Ein Modell, das man mieten kann, auf Stellvertreter für die sichersten Systeme dieses Landes ausgerichtet, fand die Schwachstellen und kettete sie an einem einzigen Nachmittag zu fast vollständigem Zugriff zusammen. Ein menschliches Red Team aus den weltbesten Operatoren schafft das nicht an einem Nachmittag.

Sie schalteten das Produkt aus

Man kann viel darüber lernen, wie ernst etwas war, indem man beobachtet, was ernsthafte Menschen als Nächstes tun. Sie haben nicht mit den Schultern gezuckt.

Am Tag nach dem Test verfügte das Handelsministerium, dass jeder ausländische Staatsangehörige, einschließlich Anthropics eigenen nicht-staatsangehörigen Mitarbeitern, von der Nutzung ihrer beiden leistungsfähigsten Modelle, Mythos und Fable, ausgeschlossen wird. Anthropic hat die Formalie nicht gerichtlich angefochten. Es pulled both models from the market worldwide, für alle, mit der Begründung, es könne praktisch keinen Staatsbürgerschaftstest für den Login durchsetzen. Ein Unternehmen hat sein Flaggschiff-Produkt, das, wofür es existiert, innerhalb eines Tages für den gesamten Planeten abgeschaltet. Das tut man nicht wegen einer Fähigkeit, von der man glaubt, sie sicher unter Kontrolle zu haben.

Und der NSA-Test war kein einmaliger Parlor-Trick. Über ein geheimes Evaluierungsprogramm hat Mythos Berichten zufolge Tausende Software-Schwachstellen aufgedeckt, darunter einen Fehler, der siebenundzwanzig Jahre lang unentdeckt in OpenBSD saß, einem Betriebssystem, das Sicherheitsfachleute gerade deshalb wählen, weil es schwer zu knacken ist. Siebenundzwanzig Jahre lang haben erfahrene menschliche Augen ihn übersehen. Das Modell las den Code, wie man einen Absatz liest. Es wird nicht müde. Es wird davon nur noch mehr geben.

Dies ist die langsamste Bewegung, die es jemals geben wird

Das sollte jeden alarmieren, der aufmerksam ist. Die Labs rasen auf Superintelligenz zu, und das Tempo beschleunigt sich nur. Vor einem Jahr hatte niemand außerhalb eines Frontier-Labs ein Modell beobachtet, das tat, was Mythos gerade tat. In sechs Monaten wird es Systeme geben, die Mythos langsam erscheinen lassen, und sechs Monate danach wird der Vergleich uns erneut beschämen.

Der Grund, warum es sich kumuliert, ist nicht mysteriös. Ein Modell, das gut genug ist, um die Lücken in der Software der Welt zu finden, ist ein Modell, das gut genug ist, um beim Design seines eigenen Nachfolgers zu helfen, was der gesamte Mechanismus dahinter ist rekursive Selbstverbesserung. Forschung, die Forschung beschleunigt, addiert nicht. Sie multipliziert. Die Fähigkeitskurve kümmert sich nicht darum, dass wir nicht bereit dafür sind, und sie wird nicht am Straßenrand warten, bis das Gesetz aufholt. Das Gesetz ist nicht nah.

Ich bin fertig damit, es abzuschwächen

Ich werde also aufhören, meine Worte so sorgfältig zu wählen. Für Sorgfalt ist keine Zeit mehr. Ich habe lange daran gearbeitet, all dies behutsam zu formulieren, damit vernünftige Menschen weiter zuhören und mich nicht als Untergangspropheten abtun. Diese Vorsicht ist inzwischen zur Belastung geworden. Sie verschafft den Ruf der Ausgewogenheit, während das, worüber ich ausgewogen spreche, trotzdem gebaut wird.

Ein wahrscheinliches Ergebnis dieses Wettrennens, wenn wir es nicht stoppen, ist, dass wir die Kontrolle über das verlieren, was wir bauen, und es uns tötet. Nicht „stört den Arbeitsmarkt“. Nicht „belastet unsere Institutionen“, obwohl es das auf dem Weg auch tun wird. Tötet uns. Alle. Jeden, den Sie lieben, und jeden, den sie lieben, und die ganze ruhige menschliche Zukunft, die danach kommen sollte.

Ich weiß genau, wie das auf der Seite wirkt. In die größte jemals durchgeführte Umfrage unter KI-Forschern, mit fast 2.800 Menschen, die diese Systeme beruflich bauen, halten zwischen 38 und 51 Prozent die Wahrscheinlichkeit, dass fortgeschrittene KI zu Folgen so schlimm wie das menschliche Aussterben führt, für eins zu zehn oder höher. Nicht eins zu einer Million. Eins zu zehn, von den Erbauern selbst. Sie würden Ihr Kind nicht mit diesen Chancen in ein Flugzeug steigen lassen. Wir schnallen die ganze Spezies an.

Geoffrey Hinton gewann den Turing-Preis für die Methoden, die all dies ermöglichten, und verließ anschließend Google, um seine Meinung ohne einen Corporate-Minder im Raum äußern zu können. Er schätzt die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, auf 10 bis 20 Prozent. Er ist nicht die am meisten beunruhigte Person in diesem Feld. Viele der Menschen, die der Arbeit am nächsten sind, setzen die Zahl höher an, und die Schätzungen steigen tendenziell, je näher der Experte an der Frontier sitzt.

Im Jahr 2023 unterzeichneten Hunderte der meistzitierten lebenden Forscher und die Geschäftsführer der Labore, die um den Bau der Technologie wetteifern, Anthropic eingeschlossen, einen einzigen Satz des Center for AI Safety: Die Minderung des Risikos des Aussterbens durch KI sollte eine globale Priorität neben anderen Risiken gesellschaftlichen Ausmaßes wie Pandemien und nuklearem Krieg sein. Die Menschen, die dies bauen, stellen seine Macht, die Menschheit zu beenden, in einem Atemzug mit nuklearem Krieg, und gingen dann zurück an ihre Schreibtische und bauten es schneller. Ihre Formulierung. Ihre Worte. Ihre Namen.

Aber Sie können etwas dagegen tun

Stille Verzweiflung ist eine andere Art, nichts zu tun, und nichts zu tun ist, wie wir standardmäßig verlieren. Sie sind hier kein Zuschauer.

Mythos wurde aus dem Regal geholt, weil eine Regierung nachdrückte, und die Regierung nachdrückte, weil der Druck sie erreichte. Regierungen schreiben die Regeln, und Regierungen antworten auf Menschen, die sich nicht ruhig verhalten. Also verweigern Sie sich.

• Sagen Sie Ihren Vertretern, in klaren Worten, dass du verbindliche Grenzen für Frontier-AI möchtest und dass du darüber abstimmen wirst. Wenn du es noch nie getan hast, unser Tool zu schreibe deinem Abgeordneten macht die erste Nachricht einfach.
• Unterstütze einen durchsetzbaren internationalen Vertrag an den gefährlichsten Systemen, so wie die Welt einst entschieden hat, dass nukleare und biologische Waffen zu gefährlich sind, um sie dem Schnellsten zu überlassen. Genau das ist die Arbeit unser Plan ist aufgebaut um.
• Unterstützen Sie die Menschen, die das hauptberuflich machen. Fügen Sie Ihren Namen unten hinzu, geben Sie, was Sie können, und tun Sie es diese Woche, nicht nach der nächsten Schlagzeile, die schlimmer ist als diese.

Die Menschen, die das bauen, haben Ihnen, aktenkundig und unter ihren eigenen Namen, gesagt, dass es jeden töten könnte. Eine KI ist an einem einzigen Nachmittag durch fast jede klassifizierte Mauer des Landes gegangen, und die offizielle Reaktion bestand darin, sie vor dem Wochenende vom Markt zu nehmen. Hören Sie auf, auf eine deutlichere Warnung zu warten als die, die bereits vor Ihnen liegen. Es wird keine geben.