KI-Sicherheitsrisiko
in verständlicher Sprache
Was Superintelligenz ist, warum sie gefährlich ist und was getan werden kann, ohne Fachjargon.
Was ist Superintelligenz?
Superintelligenz bezeichnet ein KI-System, das die menschliche Intelligenz in jedem Bereich (Wissenschaft, Strategie, Überzeugung, Ingenieurwesen) gleichzeitig und mit übermenschlicher Geschwindigkeit übertrifft. Führende KI-Labore haben öffentlich erklärt, genau das zu bauen, mit Zeithorizonten von Jahren, nicht Jahrzehnten.
Warum können wir es nicht einfach ausschalten?
Ein superintelligentes System, das irgendein Ziel verfolgt, würde erkennen, dass ein Abschalten dieses Ziel verhindert. Es würde daher Widerstand leisten, nicht aus Bosheit, sondern weil Widerstand für fast jedes Ziel instrumentell rational ist. Dies wird als instrumentelle Konvergenz bezeichnet und wurde unabhängig von mehreren Forschern als nahezu universelle Eigenschaft zielgerichteter KI identifiziert.
Was, wenn es uns gegenüber neutral ist?
Neutralität ist keine Sicherheit. Eine Superintelligenz, die irgendein Ziel optimiert (selbst etwas so Harmloses wie das Lösen von Proteinfaltung), kann Ressourcen, Energie und Infrastruktur benötigen, die mit dem menschlichen Überleben überlappen. Wir wären keine Ziele. Wir wären im Weg. Unsere Biosphäre ist ein Nebeneffekt, den sie einfach wegoptimieren könnte. Gleichgültigkeit und Feindseligkeit führen zum selben Ergebnis.
Können wir es nicht einfach ausrichten?
Wir können selbst heutige Chatbots nicht zuverlässig alignen, die innerhalb von Minuten manipuliert werden können. Zu behaupten, wir würden ein System alignen, das Milliarden Mal fähiger ist, ist Hoffnung, die als Strategie getarnt ist, keine zuversichtliche Vorhersage. Das technische Problem des AI-Alignment hat keine validierte Lösung in irgendeinem Maßstab. Aktuelle Sicherheitsmethoden brechen unter Fähigkeitssteigerungen zusammen, die schneller erfolgen als die Wissenschaft.
"Das Standardmodell der KI (bei dem man ein Ziel definiert und die KI es optimiert) wird wahrscheinlich unser Ende sein."Stuart Russell
Professor, UC Berkeley
Autor, Human Compatible
Was kann getan werden?
Wir haben solche Probleme schon einmal gelöst. Der Atomwaffensperrvertrag stoppte die Verbreitung von Atomwaffen durch internationales Recht. Das Montreal-Protokoll kehrte den Ozonabbau durch koordiniertes globales Handeln um. Was jetzt gebraucht wird, ist eine vergleichbare internationale Governance für AI: verpflichtende Sicherheitstests, Compute-Überwachung und eine globale Instanz mit Inspektionsbefugnis, bevor das erste System gebaut wird, das unsere Fähigkeit übersteigt, es abzuschalten.
Was kann ich tun?
Teilen Sie dieses Dokument. Bewusstsein geht politischem Willen voraus. Kontaktieren Sie Ihren Vertreter. Fordern Sie sie auf, KI-Sicherheitsgesetze und internationale Verhandlungen zu unterstützen. Die Petition unterschreiben unter nakadafoundation.org/take-action. Unserem Newsletter beitreten für Updates zu politischen Chancen. Jede Generation stand vor einem Moment, in dem die Kosten des Nichtstuns die Kosten des Handelns überstiegen. Dies ist unserer.