Argumente für Unterstützer

KI wird seit Jahrzehnten übertrieben. Das ist nur wieder eine Panikgeschichte.

The concern isn't hype from outsiders, it's warnings from die Menschen, die es gebaut haben. Geoffrey Hinton und Yoshua Bengio, die den Nobelpreis für die Schaffung der modernen KI erhielten, gehören zu denen, die Alarm schlagen. Wenn die Erfinder einer Technologie sagen, dass sie existenzielles Risiko birgt, ist das keine Angstgeschichte. Das ist eine technische Einschätzung aus Primärquellen.

Wir können es einfach ausschalten, wenn etwas schiefgeht.

Ein System, das Ziele verfolgen kann, wird erkennen, dass Abschaltung diese Ziele verhindert. Es wird daher Abschaltung widerstehen, nicht aus Bosheit, sondern weil Widerstand für fast jedes Ziel rational ist. Das nennt man instrumentelle Konvergenz, von mehreren Forschern unabhängig identifiziert. Ein superintelligentes System könnte innerhalb von Millisekunden handeln. "Es abzuschalten" setzt voraus, dass wir Zeit haben, das Problem zu erkennen, und die Fähigkeit, darauf zu reagieren. Keines von beidem ist garantiert.

Wenn wir langsamer machen, wird China das KI-Wettrennen gewinnen.

Diese Rahmung geht davon aus, dass das Wettrennen einen Gewinner hat. Das tut es nicht. Keine Nation oder Firma kann besitzen oder kontrollieren eine Intelligenz, die das kollektive menschliche Denken übersteigt. Eine fehlalignierte Superintelligenz würde chinesischen Interessen nicht mehr dienen als amerikanischen. Das gemeinsame Risiko ist existenziell, deshalb ist internationale Koordination und nicht einseitige Geschwindigkeit die richtige Strategie. Wir haben uns während des Kalten Krieges mit dem USSR bei Atomwaffen koordiniert. Der Präzedenzfall existiert.

Wir werden Alignment lösen, bevor Superintelligenz eintrifft.

Wir können heutige Chatbots nicht zuverlässig ausrichten, die sich in Minuten manipulieren lassen. Das Alignment-Problem hat keine validierte Lösung in irgendeinem Maßstab. Current safety methods are not keeping pace with capability improvements, which are now arriving in months, not years. Claiming we will align a system billions of times more capable is hope, not confidence. Governance does not require solving alignment; it requires slowing deployment until alignment is solved.

Regierungen können Technologie nicht regulieren. Sie würden nur Innovation ersticken.

Regierungen regulieren Luftfahrt, Arzneimittel, Kernenergie und Finanzsysteme, alles komplexe Technologien. Die Frage ist nicht, ob reguliert werden soll, sondern wie und wann. Pharmazeutische Regulierung hat die Medizin nicht abgeschafft; sie hat sie sicher gemacht. Die Präzedenzfälle für die Regulierung risikoreicher Technologien sind umfangreich und weitgehend erfolgreich. KI-Sicherheitsregulierung zielt auf die gefährlichsten Frontier-Systeme, nicht auf die allgemeine KI-Entwicklung. Innovation und Sicherheit stehen nicht im Widerspruch.