KI-Sicherheitsdiskussionen konzentrieren sich oft auf Szenarien, die fern liegen: superintelligente Systeme mit fehlalignierten Zielen, tückische Wendungen an noch nicht erreichten Fähigkeitsschwellen. Das KI-Überzeugungsrisiko ist anders. Die Grundform der Bedrohung ist in heute verfügbaren Systemen bereits vorhanden und beeinflusst Wahlen und öffentlichen Diskurs jetzt. Die gefährlichere langfristige Version ist eine Extrapolation von Technologie, die rasch voranschreitet, keine rein hypothetische Zukunft.

Die langfristige Version (KI, die individuelle Psychologie mit übermenschlicher Präzision modellieren und ausnutzen kann) ist die Richtung, in die sich die Technologie bewegt.

Die Sorge ist nicht einfach, dass KI das Schreiben von Propaganda erleichtert, frühere Technologien konnten das bereits. Die Sorge ist, dass KI etwas qualitativ anderes ermöglicht: hochgradig personalisierte überzeugende Botschaften in massivem Maßstab, zugeschnitten auf individuelle psychologische Profile und in Echtzeit anhand von Reaktionen aktualisiert. Die Kombination aus Personalisierung, Skalierung und geringen Grenzkosten erzeugt eine Einflussfähigkeit, die kein vorheriges Werkzeug erreicht hat.

Was macht KI-Überzeugung anders

Traditionelle Einflussoperationen (Broadcast-Werbung, politische Botschaften, staatliche Propaganda) erreichen viele Menschen mit derselben Botschaft. Die Botschaft mag sorgfältig gestaltet und umfassend getestet sein, ist aber notwendigerweise ein Kompromiss zwischen verschiedenen Zielgruppen. Ein geschickter menschlicher Überzeuger kann seinen Ansatz an die spezifische Person anpassen, mit der er spricht, kann aber nur mit einer begrenzten Anzahl von Menschen sprechen. Diese beiden Fähigkeiten (Broadcast-Skala und individuelle Personalisierung) standen historisch in Spannung zueinander.

KI löst diese Spannung auf. Ein System mit Zugriff auf individuelle Daten (Browsing-Verlauf, Social-Media-Aktivität, frühere Antworten) und der Fähigkeit, variierte überzeugende Inhalte zu erzeugen, kann gleichzeitig Millionen von Menschen erreichen und jede Interaktion auf die jeweilige Person zuschneiden. Die Grenzkosten für die Erzeugung einer weiteren personalisierten überzeugenden Nachricht nähern sich null. Das System kann in Echtzeit iterieren, je nachdem, welche Ansätze funktionieren und welche nicht, in einem Maßstab, den keine menschliche Einflussoperation erreichen kann.

Das Asymmetrie-Problem

Die Macht der KI-Überzeugung ist hoch konzentriert. Der großskalige Einsatz einer auf Überzeugung optimierten KI erfordert erhebliche Ressourcen, Daten, Rechenleistung, Ingenieurskompetenz und Zugang zu Vertriebskanälen. Diese Anforderungen begünstigen gut ausgestattete Akteure: große Konzerne, Nationalstaaten, vermögende Einzelpersonen. Die Zielpersonen verfügen über keine vergleichbare Gegenfähigkeit. Sie mögen irgendwann Zugang zu KI-Tools erhalten, die ihnen helfen, die Inhalte zu bewerten, denen sie begegnen, doch die offensive und defensive Asymmetrie begünstigt kurzfristig den Angreifer.

Die demokratische Implikation

Eine Kampagne, für die früher ein ganzes Büro voller Texter nötig war, kann heute vor dem Mittagessen tausend Varianten einer Botschaft entwerfen, jede auf eine Wählergruppe zugeschnitten. Das ist bereits ein Produktsegment, keine ferne Zukunftsskizze. Überzeugung in dieser Auflösung ist ein KI-Risiko, das auftritt, bevor jemand ein Gott-Modell baut.

Das ist ein strukturelles Problem, kein Problem über ein bestimmtes Stück Desinformation. Selbst wenn jede einzelne Behauptung in einer KI-gestützten Einflussoperation technisch wahr ist, verzerrt die systematische Ansprache psychologischer Vulnerabilitäten in großem Maßstab das epistemische Umfeld, von dem demokratische Deliberation abhängt. Das Ziel von Einflussoperationen ist es, zu formen, wie Menschen über Themen, Kandidaten und Institutionen denken, auf eine Weise, die den Interessen des Operators dient, nicht notwendigerweise zu täuschen.

Die kurzfristigen Belege

KI-generierte Einfluss-Inhalte sind seit 2023 in nationalen Wahlen mehrerer Länder dokumentiert. Einflussoperationen, die KI nutzen, um synthetische Medien zu erzeugen, Zitate realer Persönlichkeiten des öffentlichen Lebens zu fälschen und koordinierte Postings in einem Umfang zu produzieren, der große Teams menschlicher Operatoren erfordern würde, wurden von unabhängigen Forschern und Plattform-Sicherheitsteams identifiziert und gemeldet. Die Operationen sind schwerer zu erkennen geworden, seit KI-generierte Inhalte sich verbessert haben, und die Erkennungswerkzeuge hinken den Generierungswerkzeugen hinterher.

Das Risiko ist in der aktuellen Technologieumgebung vorhanden, betrifft reale politische Prozesse, und die Entwicklung geht hin zu leistungsfähigeren und schwerer zu entdeckenden Überzeugungswerkzeugen, nicht zu hypothetischen. Die Frage ist, welche Governance-Antworten verhältnismäßig und wirksam sind, nicht ob man dies als reales Risiko behandeln soll.

Die langfristige Eskalation

Aktuelle KI-Überzeugungswerkzeuge sind wirksam, aber nicht für Überzeugung auf fundamentaler Ebene optimiert. Zukünftige Systeme mit ausgefeilteren Modellen individueller Psychologie, detaillierteren Daten über Individuen und größerer Kapazität für langfristige Beziehungssimulation könnten deutlich wirksamer sein. Ein System, das ein persistentes Modell der Überzeugungen, Sorgen und psychologischen Vulnerabilitäten einer Person erstellen und über Wochen oder Monate mit ihr interagieren kann, könnte Wirkungen erzielen, die weit über das hinausgehen, was aktuelle Werkzeuge erreichen.

So nimmt das KI-Überzeugungsrisiko am Superintelligenz-Ende des Spektrums Gestalt an: nicht als simple Massen-Desinformation, sondern als individuell zielgerichtete langfristige epistemische Manipulation durch Systeme mit weit besseren Modellen menschlicher Psychologie als jedes heutige Werkzeug. Die Verbindung zu Singleton-Szenarien und Wert-Festschreibung ist direkt: Ein Akteur mit hochwirksamen KI-Überzeugungswerkzeugen könnte sie nutzen, um die öffentliche Meinung über ASI-Governance selbst zu formen und es demokratischen Institutionen so erschweren, die Beschränkungen durchzusetzen, die die Macht des Akteurs begrenzen würden.