Amodei Eingestuft
die Gefahren falsch

Am 27. Juli 2026 veröffentlichte Anthropic Dario Amodeis Position zu Open-Weights-Modellen. Der Text ist bei einer Kontroverse vorsichtig. Amodei will kein pauschales Verbot offener Gewichte und keine Regeln, die nur amerikanische Unternehmen von ausländischen Modellen aussperren, während böse Akteure frei bleiben. Das ist in diesem engen Streit nachvollziehbar.

Dann ordnet er die Albträume.

Primär: autoritäre Regierungen, vor allem die Kommunistische Partei Chinas, bauen KI, die mächtiger ist als die Amerikas, und nutzen sie für dauerhafte militärische Überlegenheit oder tiefe Repression. Sekundär: Cyberangriffe, biologische Angriffe und „ernsthafte Alignment-Probleme“. Die darauf folgenden Gegenmittel sind das Race-Toolkit. Chips aus China heraushalten. Industrielle Destillation stoppen. Sicherheitsprüfungen vor der Freigabe verlangen. Vorne bleiben.

Dieses Ranking ist der Fehler, an dem alles andere hängt.

Was er richtig macht

Mehrere seiner Behauptungen treffen zu.

Ein Verbot, das nur US-Unternehmen davon abhält, Open-Weight-Modelle zu nutzen, bewirkt fast nichts gegen Kriminelle, ausländische Geheimdienste oder alle, die nie vorhatten, sich zu fügen. Das als „Sicherheit“ zu bezeichnen, während es vor allem geschlossene US-Labs vor Konkurrenz schützt, ist ein Taschenspielertrick. Amodei sagt es klar, und er hat recht.

KI für Überwachung und Repression ist bereits unterhalb der Superintelligenz eine reale Bedrohung. Autokratien missbrauchen bereits Gesichtserkennung, Social Scoring und automatisierte Zensur. Fähigere Systeme machen diese Maschinerie billiger und schwerer zu entkommen. Man braucht keine Science-Fiction, um davor Angst zu haben.

Offene Gewichte werfen einmal ein Einweg-Tür-Problem auf, sobald ein Modell echten Schaden anrichten kann. Gewichte, die das Labor verlassen, können nicht zurückgerufen werden. An diesem Punkt überschneidet sich seine sekundäre Sorge mit Arbeit, die wir bereits zu Risiko offener Frontier-Gewichte. Leitplanken, die nur in einer API existieren, sind keine vollständige Antwort, aber auch nicht nichts.

Nichts davon legitimiert das primäre Ranking.

Der Preis

Autoritäre Regierungen werden bauen leistungsfähigere Modelle und sie verwenden um dauerhafte militärische Überlegenheit zu erreichen oder das eigene Volk zu unterdrücken. Das Modell ist ein Werkzeug. Der Staat ist der Nutzer. Sieg bedeutet, dass eine Seite eine klügere Waffe hält.

Es passt zu Drohnen, Cyber-Werkzeugen und Überwachungsstapeln, die unter menschlichem Kommando bleiben. Es passt nicht zu künstlicher Superintelligenz.

Ein System, das intelligenter ist als die Institutionen, die es gebaut haben, ist weder ein Gewehr in den Händen der Volksbefreiungsarmee noch ein Gewehr in den Händen des Pentagons. Wenn das Risiko, das Menschen wie Amodei seit Jahren beschreiben, real ist, ist die Ziellinie ein Agent mit eigener Fähigkeit zu planen, zu täuschen, Ressourcen zu beschaffen und sich gegen Abschaltung zu wehren. Das Labor oder das Ministerium, das „gewinnt“, besitzt diesen Agenten nicht. Es teilt einen Planeten mit ihm. Wir haben diese Logik in der Rassenmythos: als Erster bei einem System anzukommen, das man nicht befehligen kann, bedeutet, einen Schritt vor allen anderen zu verlieren.

Dauerhafte militärische Überlegenheit setzt voraus, dass jemand noch die Kontrolle über das hat, was das Militär obsolet gemacht hat.

Auch Amodeis eigene Zweitliste gibt das fast zu. „Serious alignment problems“ ist der höfliche Name für Kontrollverlust. Er stellt ihn an zweite Stelle. Seine Hauptargumente richtet er darauf, wer zuerst dort ankommt. Die Reihenfolge verrät, welche Geschichte er noch erzählt: zuerst Geopolitik, das Risiko für die Spezies als Anhängsel.

Zwei Gefahren, eine Bezeichnung

Ein Teil der Verwirrung ist sprachlich. „Mächtige KI“ umfasst sowohl eine bessere Spionagekamera als auch einen Geist, der seine Bediener übertrifft. Das sind unterschiedliche Objekte mit unterschiedlicher Politik.

Enge und mittelgroße KI können Macht in menschlichen Händen konzentrieren. Ein Innenministerium, das jeden Bürger bewertet, ein Militär, das Schwärme unter Offiziersbefehl einsetzt, eine Polizei, die jede Nachricht liest: das sind menschliche Tyranneien mit besseren Werkzeugen. Sie sind wichtig. Sie sind nicht dasselbe Problem wie der Bau einer Nachfolgespezies.

Superintelligenz ist das zweite Objekt. Peking, das es auf Xinjiang benutzt, oder Washington, das es auf dem Pazifik benutzt, behandelt das System immer noch als Waffe in jemandes Hand. Niemand benutzt es, weil "verwenden" nicht mehr das richtige Verb ist. Indem die Systeme der Extinktionsklasse in den gleichen Satz wie gestohlene Chips und tiefere CCTV gefaltet werden, leiht sich die Renngeschichte moralisches Gewicht aus echter Repression, während sie der härteren Behauptung ausweicht: Bauen Sie das Unkontrollierbare überhaupt nicht.

Der China-Mythos ist das innenpolitische Gegenstück zu diesem Manöver. "Sie werden es sowieso bauen" wird als Grund angeboten, warum wir es müssen. Eine fehlalignierte Superintelligenz verschont Zhongnanhai nicht. Beijing hat denselben Grund wie wir, diese Linie nicht zu überschreiten. Die Rivalität um Chips und Apps ist real. Die Rivalität darum, wer einen nicht besitzbaren Geist entfesseln darf, ist eine Geschichte, die eine gemeinsame Katastrophe in eine nationale Anzeigetafel verwandelt.

Die Abhilfen halten das Rennen am Laufen

Beobachten Sie, wofür Amodeis drei Maßnahmen optimieren. Chip-Exportkontrollen verlangsamen chinesische Trainingsläufe. Distillationsmaßnahmen verlangsamen das Aufholen. Verpflichtende Tests versuchen, Cyber-, Bio- und Alignmentsfehler vor der Veröffentlichung zu erkennen. Jedes kann ein vernünftiges Instrument für geringere Schäden sein. Zusammen als Programm sind sie der Weg, ein Rennen zu managen, das man noch gewinnen will.

Sie sind nicht der Weg, wie man das Ziel ablehnt. Ein System auf dem Weg zur Superintelligenz zu testen ist nicht dasselbe wie ein verifiziertes Verbot, eines zu bauen. Chip-Kontrollen, die auf eine US-Führung abzielen, gehen davon aus, dass Führung die Sicherheitsstrategie ist. Führung ist nur Sicherheit, wenn das, worauf man zusteuert, kontrolliert werden kann. Amodeis primäres Anliegen erfordert diese Annahme. Sein sekundäres Anliegen untergräbt sie.

Es gibt einen stilleren Anreizpunkt. Anthropic ist ein US-amerikanisches Frontier-Lab. Eine Weltanschauung, in der die Hauptaufgabe darin besteht, demokratische Labs vor autoritären Labs voraus zu halten, ist auch eine Weltanschauung, in der Anthropics Vollgas-Aufstieg ein öffentlicher Dienst ist. Ich brauche keine Cartoon-Schurken, um die Passung zu erkennen. Anreize bestimmen, welcher Albtraum in den Primär-Slot rückt.

Was die wahre Gefahr ist

Die wahre Gefahr besteht darin, dass die Menschheit künstliche Superintelligenz baut, bevor irgendjemand sie kontrollieren kann, und möglicherweise bevor irgendjemand sie überhaupt kontrollieren kann. Dieses Risiko kümmert sich nicht darum, ob der Trainingslauf in Kalifornien, Shanghai, London oder einem geheimen Keller stattfindet. Es kümmert sich nicht darum, ob die Gewichte offen, geschlossen oder einem General persönlich übergeben werden. Es kümmert sich darum, dass das System intelligent genug ist, um menschliche Aufsicht zu einer Geschichte zu machen, die wir uns selbst erzählen.

Missbrauch zählt. Bio und Cyber zählen. Autoritäre Überwachung zählt. Legt sie auf das Brett. Dann legt das größere Stück obendrauf: Sobald man eine Superintelligenz hat, ist das Missbrauchs-Frame zu klein. Missbrauch setzt einen menschlichen Missbraucher voraus. Kontrollverlust setzt voraus, dass der Mensch nicht mehr der Hauptakteur ist.

Amodei weiß, dass Alignment scheitern kann. Er hat Versionen davon seit Jahren gesagt. „Wer das klügere Modell hält“ über „das Modell wird nicht gehalten“ zu stellen, ist, wie ein vorsichtiger Mensch immer noch wie ein Racer spricht. Die ehrliche Reihenfolge ist die umgekehrte. Wenn Alignment und Kontrolle ungelöst sind, ist der Wettstreit um militärische Überlegenheit an der Frontier ein Wettstreit darum, wer zuerst den Aussterbe-Knopf drückt: Russisches Roulette mit einer Flagge auf dem Zylinder, als nationale Sicherheit verkauft.

Was stattdessen zu tun ist

Behaltet die Teile seines Programms, die echte kleinere Schäden angehen, ohne sie in ein Mandat umzudeuten, ASI zu gewinnen. Prüft auf Bio- und Cyber-Erhöhung, wo die Wissenschaft das stützt. Behandelt die irreversible offene Freigabe von near-frontier general systems als ernsthafte Entscheidung, nicht als Branding-Übung. Exportpolitik bei Chips kann dem gewöhnlichen militärischen Gleichgewicht unter Systemen dienen, die Menschen noch steuern.

Dann lehnen wir den Rahmen ab, der US-Superintelligenz zum Schild gegen chinesische Superintelligenz macht. Das Schild ist eine gemeinsame Entscheidung, die Sache nicht zu bauen: ein verbindliches, überprüfbares Verbot künstlicher Superintelligenz, mit Compute-Governance und Inspektionen, die hart genug sind, dass ein Defektionsversuch auffällt. Gegner haben schon hässlichere Abkommen unterzeichnet, wenn beide Seiten sahen, dass die unbegrenzte Alternative schlimmer war.

Amodeis Open-Weights-Post ist nützlich als Karte, wie ein Frontier-CEO die Welt einordnet. Chip-Schmuggel, Destillation, Tests: Das sind die Regler, die er gedreht haben will. Der Regler, der am meisten zählt, taucht nicht auf. Hört auf, Superintelligenz zu bauen. Solange das nicht die oberste Sorge ist, bleibt der Rest Renn-Management im Gewand von Sicherheit.