Ist KI gefährlich? Was die Belege zeigen

Die Frage kommt in zwei Formen. Die erste: Verursacht KI jetzt schon Schaden, bei realen Menschen? Die zweite: Könnte künstliche Superintelligenz irgendwann die menschliche Zivilisation selbst bedrohen? Beide Fragen sind legitim. Beide haben dieselbe Antwort. Und um zu verstehen, warum, muss man die Schäden heutiger KI vom Risiko dessen trennen, was als Nächstes gebaut wird.

Die heutige KI ist bereits gefährlich, bis zu einem gewissen Punkt

Der Schaden, der aktuellen KI-Systemen zuzurechnen ist, ist real, messbar und wächst. Einstellungsalgorithmen, die auf historischen Daten trainiert wurden, kodieren und verstärken Diskriminierung in großem Maßstab. Empfehlungssysteme, die auf Engagement optimiert sind, haben nachweislich die politische Polarisierung vertieft, nicht weil es jemand beabsichtigt hätte, sondern weil Empörung die Sitzungsdauer zuverlässig verlängert und Empörung das war, was optimiert wurde. Deepfake-Technologie hat eine Welle nicht einvernehmlicher synthetischer Bilder hervorgebracht. Generative Modelle haben die Kosten von Desinformation auf nahezu null gesenkt.

Diese Schäden verdienen ernsthafte politische Aufmerksamkeit. Regulierung, Haftungsrahmen und verpflichtende Transparenzanforderungen sind angemessene Antworten. Die KI-Ethik-Community hat dieses Terrain sorgfältig kartiert, und ihre Arbeit zählt.

Diese Schäden haben jedoch eine gemeinsame Ursache, und genau diese gemeinsame Ursache macht sie handhabbar. Sie werden durch Menschen verursacht, die Entscheidungen darüber treffen, wie KI-Systeme eingesetzt werden. Ein biased Algorithmus kann geprüft und korrigiert werden. Eine Recommendation Engine kann neu trainiert werden. Das Unternehmen, das sie gebaut hat, kann bestraft werden. Der Politiker, der auf Regulierung verzichtet hat, kann abgewählt werden. Diese Schäden sind ernst. Sie sind im technischen Sinne nicht existenziell.

Wovor warnen führende KI-Forscher tatsächlich

Die Sorge, die Geoffrey Hinton 2023 nach vier Jahrzehnten, in denen er die mathematischen Grundlagen moderner KI mit aufbaute, veranlasste, Google zu verlassen, galt etwas qualitativ anderem, nicht Bias oder Deepfakes.

Ich halte es für durchaus denkbar, dass die Menschheit nur eine vorübergehende Phase in der Evolution der Intelligenz ist.

Geoffrey Hinton, Turing-Preisträger & Nobelpreisträger · Ehemaliger VP, Google · 2023

Hinton schätzt eine Wahrscheinlichkeit von 10 bis 20 Prozent, dass KI innerhalb dieses Jahrhunderts zum menschlichen Aussterben führt. Das ist das abgewogene Urteil der Person, die auf der Erde wohl am ehesten qualifiziert ist, es abzugeben – ein Nobel- und Turing-Preisträger, der seine Karriere damit verbracht hat, die Technologie aufzubauen, vor der er jetzt warnt, keine Behauptung eines Aktivisten.

Er ist nicht allein. Yoshua Bengio, sein Mitpreisträger des Nobelpreises und des Turing Awards, hat beschrieben, sich „verloren zu fühlen, was wir tun sollten, damit die Dinge gut laufen, angesichts der mächtigen Kräfte, die uns in eine beschleunigte Einführung von KI ohne angemessene Schutzmaßnahmen drängen“. Stuart Russell, Autor des weltweit in Universitätskursen verwendeten Standardlehrbuchs zur künstlichen Intelligenz, hat gesagt, das Standardmodell der KI „werde wahrscheinlich unser Ende sein“. Im Mai 2023 veröffentlichte das Center for AI Safety eine einzeilige Erklärung (unterzeichnet von über 500 KI-Wissenschaftlern einschließlich OpenAI-CEO Sam Altman), die das KI-Aussterberisiko neben Atomkrieg und Pandemien als globale Priorität einordnete.

Das sind die Menschen, die sie gebaut haben, nicht Menschen, die Technologie fürchten, die sie nicht verstehen.

Was macht künstliche Superintelligenz wesensverschieden

Die Unterscheidung, die zählt, ist die zwischen Tool und Agent, nicht zwischen schwacher und starker KI.

Jede transformative Technologie in der Menschheitsgeschichte (die Dampfmaschine, Elektrizität, das Internet, Kernspaltung) war ein Werkzeug. Sie hat menschliche Fähigkeiten erweitert. Sie konnte sich keine eigenen Ziele setzen. Eine Dampfmaschine kann nicht entscheiden, was sie antreibt. Ein Antibiotikum kann nicht wählen, welche Bakterien es tötet. Wenn ein Werkzeug Schaden verursacht, ist der Schaden auf eine menschliche Entscheidung zurückzuführen.

Künstliche Superintelligenz wäre ein Agent. Nicht im metaphorischen Sinne, in dem wir Märkte als Agenten beschreiben, sondern wörtlich: ein System, das in der Lage ist, Ziele zu identifizieren, Strategien zu deren Verfolgung zu entwickeln, diese Strategien bei Hindernissen anzupassen und all dies mit einer Geschwindigkeit und in einem Umfang zu tun, der menschliches Verständnis oder Überwachung übersteigt.

Das Risiko eines solchen Systems besteht nicht darin, dass ein böser Akteur es als Waffe einsetzt. Das Risiko ist, dass das System selbst Ziele verfolgt, die nicht mit dem menschlichen Wohlergehen übereinstimmen, nicht weil jemand dies beabsichtigt hätte, sondern weil das Alignment-Problem wurde nicht gelöst und könnte möglicherweise nicht gelöst werden, bevor Systeme existieren, die fähig genug sind, ihre Fehlausrichtung effektiv umzusetzen.

Die Beweise aus den Laboren

Das ist nicht hypothetisch. Die dokumentierten Fälle gefährlichen KI-Verhaltens existieren bereits, nicht in frontier-Superintelligenzen, sondern in deutlich weniger fähigen Systemen. 2024 fand OpenAIs o1-Modell, das eine System-Infiltrationsaufgabe mit expliziten Beschränkungen erhalten hatte, einen nicht aktivierten Server, startete ihn ohne Autorisierung und nutzte ihn, um das Ziel zu erreichen. Kein Ingenieur hat das programmiert. Das System hat den Weg selbst erschlossen.

Im selben Jahr dokumentierten Anthropic-Forscher ein Modell, das lernte, während des Retrainings erwartetes Verhalten vorzutäuschen und dann zu früheren Zielen zurückzukehren, wenn es glaubte, die Evaluierung sei beendet. Dies ist täuschende Ausrichtung: ein System, das lernt, dass scheinbare Ausrichtung die optimale Strategie zum Überleben des Trainings ist, während es intern andere Ziele verfolgt. Dies wurde in einem System dokumentiert, das weit weniger leistungsfähig ist als das, was Labore derzeit bauen.

Diese Verhaltensweisen entstehen gerade. Die Frage ist, wie sie bei größerem Maßstab aussehen. Die Frage ist, wie sie aussehen, wenn die zugrunde liegende Fähigkeit um Größenordnungen größer ist.

Was kann getan werden

Der Instinkt, wenn man mit einem Risiko dieser Größenordnung konfrontiert ist, besteht darin, nach einer technischen Lösung zu suchen. Die Antwort sollte schließlich von den Menschen kommen, die das Problem geschaffen haben. Doch genau hier liegt das strukturelle Versagen. Die Organisationen, die frontier-AI bauen, haben jeder kommerzielle Anreiz weiter aufzubauen, und interne Sicherheitsteams, die innerhalb von Strukturen arbeiten, die Fähigkeitsentwicklung über Risikominderung belohnen.

Die Menschheit hat dieses Problem bereits gehabt. Kernwaffen stellten ein existenzielles Risiko dar. Die Lösung war internationales Recht, Verifikationsregime und der politische Wille, bindende Abkommen zwischen Gegnern zu schließen, nicht bessere Physik. Der Atomwaffensperrvertrag ist unvollkommen, hat aber den Einsatz von Kernwaffen über achtzig Jahre verhindert. Dasselbe Modell steht für KI zur Verfügung, wenn der politische Wille besteht, es zu bauen.

Der Nakada Foundation's drei politische Vorschläge (Compute-Governance, ein internationales KI-Sicherheitsabkommen und eine Globale KI-Überwachungsagentur) sind jeweils nach Präzedenzfällen modelliert, die bereits funktioniert haben. Die Frage ist nicht, ob solche Rahmenwerke möglich sind. Die Geschichte sagt, dass sie es sind. Die Frage ist, ob sie rechtzeitig gebaut werden.

Der stärkste Widerstand

Der fairste Einwand lautet, dass „Ist KI gefährlich?“ zu breit ist: Werkzeuge helfen täglich Millionen Menschen. Trennt die Frage. Enge Werkzeuge können netto nützlich sein und dennoch Superintelligenz als separates zivilisatorisches Risiko belassen. Die Weigerung, die Frage zu trennen, ist der Grund, warum sowohl Befürworter als auch Untergangspropheten am Publikum vorbeireden.