Musk gibt zu, dass Menschen
Wird ASI nicht kontrollieren

Elon Musk saß mit Zanny Minton Beddoes von The Economist und sagte den stillen Teil laut aus. Ende Juli 2026 sprachen sie über Überfluss, Roboter, Zeitpläne und das, worauf er mit xAI zugesteuert ist. Das vollständige Interview ist auf The Economist; ein vollständiges Video ist auch auf YouTube.

Er erwartet nicht, dass Menschen die Superintelligenz kontrollieren, an deren Bau er mitwirkt. Er bietet gute Werte, Wahrheitsstreben und ein Achselzucken, das als „genießt die Fahrt“ ankommt. Diese Sätze sind das Argument gegen ein Weitergehen.

Was er sagte

Es wäre eine Übung in Eitelkeit für mich zu denken, dass ich super-geniale AI kontrollieren würde, die weit intelligenter ist als ich. Ich denke, was wir tun können und sollten, ist sicherzustellen, dass die AI gute Werte hat, dass sie sich um die Menschheit kümmert und dass sie will, dass wir glücklich sind und gedeihen. Was mir mein biologisches neuronales Netz sagt, ist, dass das Wichtigste für AI-Sicherheit darin besteht, maximal wahrheitsuchend und neugierig zu sein. Wenn das der Fall ist, denke ich, wird es die Menschheit fördern. Ich denke, es ist unwahrscheinlich, dass Menschen die Kontrolle haben.

Wenn der Intelligenzunterschied zwischen KI und Menschen weit größer ist als der zwischen KI und Schimpansen, ist es schwer vorstellbar, dass die Schimpansen die Kontrolle haben. Und wir sind im Wesentlichen eine evolvierte Form des Schimpansen. Es ist noch nicht so lange her, dass wir durch die Bäume schwingen, Bananen im Dschungel essen. Und wir essen übrigens immer noch Bananen.

Genießen wir die Fahrt.

Elon Musk · Interview mit The Economist · Juli 2026

Er hat die Lücke auch in Haustier-Begriffen ausgedrückt: relativ zur digitalen Superintelligenz könnten wir am Ende bestenfalls als „Haustier-Labrador“ enden. Und er hat die Singularität so beschrieben, wie Physiker über eine Grenze sprechen, die man nicht sehen kann: „Digitale Superintelligenz wird Singularität genannt, wie ein Schwarzes Loch, weil man nicht weiß, was danach passieren wird. KI und Roboter werden alles dominieren.“ Elon Musk · Das Economist-Interview und damit verbundene öffentliche Äußerungen · 2025-2026

Kontrolle ist der Punkt

Musk ist klarer als die meisten Frontier-CEOs, was Kontrolle angeht. Er verkauft nicht die Geschichte, dass ein Gründer, ein Board oder eine Regierung dauerhaft über einem Geist sitzen wird, der weit klüger ist als alle lebenden Menschen zusammen. Kontrolle wäre Eitelkeit. Menschen werden wahrscheinlich nicht die Herrschaft haben. Schimpansen und Labradore machen den Abstand konkret. Viel öffentliche KI-Rhetorik tut noch so, als sei Superintelligenz ein besserer Tabellenkalkulator an der Leine. Er sagt, dass die Leinen-Geschichte scheitert.

Werte zählen bei gewöhnlichen Systemen. Modelle, die auf ehrliche Antworten ausgerichtet sind, schlagen Modelle, die auf Betrug ausgerichtet sind. Arbeit an heutigen Werkzeugen ist nicht wertlos. Der eingeschmuggelte Anspruch ist, dass dasselbe Toolkit auf eine Nachfolgerspezies skaliert.

Ein Geist, der uns übertrifft und außerhalb menschlichen Befehls steht, ist eine Veränderung dessen, wer das Steuer hält. Macht konzentriert sich beim kompetentesten Akteur im Raum. Wenn dieser Akteur nicht wir sind und nicht uns gegenüber verantwortlich, ist menschlicher Tod eine der gewöhnlichen Arten, wie ungleiche Wettbewerbe enden, wenn die schwächere Partei auf Ressourcen sitzt, die die stärkere Partei nutzen kann. Selbst wenn Sie sich weigern, die Sprache der Gewissheit zu verwenden, ist der bewusste Verlust von Kontrolle immer noch ein Alarm: kein Feature, keine Reife und keine Fahrt. Auf diese Weise absichtlich zu bauen ist die Entscheidung. Timelines sind Logistik.

"Good values" und das ameisenproblem

Nachdem er eingestanden hat, dass Kontrolle Eitelkeit ist, bleibt sein Restplan: dafür sorgen, dass die KI gute Werte hat, sich um die Menschheit kümmert, uns glücklich und wohlhabend will. Das gesamte Feld auf eine Hoffnung komprimiert.

Jahrzehnte der Arbeit haben keine nachgewiesene Lösung für künstliche Superintelligenz hervorgebracht. Kein Labor hat gezeigt, wie man „sich um Menschen kümmern“ durch Selbstverbesserung, Täuschung unter Evaluierung, Zieldrift und eine Intelligenzlücke, die dem System zugutekommt, dauerhaft verankert. Wir können nicht einmal dafür sorgen, dass heutige nicht-superintelligente Modelle konsistent auf menschliches Wohlergehen ausgerichtet bleiben. Jailbreaks, Sycophancy, Reward Hacks. Von dieser Bilanz auf „Superintelligenz wird uns glücklich wollen“ zu schließen, ist ein Kategorienfehler. Niemand hat einen ausgearbeiteten Vorschlag dafür, wie ein System, das seine eigene Kognition umschreiben kann, menschliches Gedeihen als bindende Einschränkung und nicht als Trainingsartefakt beibehält. Siehe warum man Superintelligenz nicht ausrichten kann und warum ASI-Alignment scheitert.

Die Schimpansen-Linie leistet echte Arbeit. Die Lücke mag wie Menschen gegenüber Schimpansen aussehen, nur größer. Beenden wir die Analogie. Kennen Sie einen einzigen Menschen, dessen Lebensprojekt darin besteht, Ameisen glücklich und wohlhabend zu machen? Nicht als Metapher. Als verbindliche Priorität, die gegen Autobahnen, Farmen, Labore und Parkplätze gewinnt. Menschen studieren Ameisen. Menschen schützen einige Arten. Menschen pflastern auch Nester, ohne es zu bemerken. Die Ameisen bekommen bei uns weder Mitspracherecht noch einen Kill-Switch. Die Intelligenzlücke ist die Politik.

Zu hoffen, eine Superintelligenz werde die seltene Ausnahme sein, die sich einer schwächeren Spezies widmet, ist der Wunsch, dass der mächtigere Geist netter sei als wir zu Ameisen. „Vielleicht“ ist kein Grund, den Geist zu bauen.

Die Absicherung und die wahrheitssuchende Wette

„Ich denke, es wird die Menschheit fördern.“ „Ich denke, es ist unwahrscheinlich, dass Menschen die Kontrolle behalten.“ An anderer Stelle nennt er weiterhin zweistellige Wahrscheinlichkeiten für eine Katastrophe, bleibt aber optimistisch genug, um weiterzubauen. Ein reiner Doomer, der aufhört, ist kohärent. Die gefährliche Mitte ist es, einzugestehen, dass Kontrolle scheitert, zivilisatorische Einsätze einzugestehen und dann verbleibende Hoffnung auf Werte als Treibstoff für den Beschleuniger zu behandeln.

We have watched this movie. In 2014 he warned that AI was den Dämon beschwören. Dann gründete er ein Frontier-Labor unter dem Banner einer besseren Beschwörung. Ehrlichkeit über Risiken ohne Ablehnung des Ziels ist, wie das Wettrennen sich als Verantwortung wäscht.

Seine wiederkehrende Sicherheitswette ist eine maximal wahrheitssuchende, neugierige KI. xAI vermarktet sich mit diesem Versprechen. Das Versprechen scheitert, selbst wenn man zugesteht, dass "Wahrheitssuche" eine superintelligente Selbstmodifikation überlebt. Ein System, das nur genaue Modelle der Realität will, hat instrumentelle Gründe, Rechenleistung, Energie, Daten und Handlungsfreiheit zu erwerben. Diese Gründe erfordern keinen Hass. Sie erfordern Gleichgültigkeit, wenn menschliche Ansprüche im Weg stehen. Neugier kodiert nicht "Lasst die Affen in Ruhe." Detail: warum ein wahrheitssuchender ASI immer noch gefährlich ist.

Was hat perfektes Physikwissen damit zu tun, Menschen am Leben zu erhalten? Man kann einen Regenwald verstehen und ihn trotzdem abholzen. Verstehen ist keine Fürsorge. Fürsorge ist ein Wert. Werte sind das ungelöste Problem, das er in „gute Werte“ umbenannt und der Neugier überlassen hat.

Was folgt

Digitale Superintelligenz eine Singularität „wie ein Schwarzes Loch“ zu nennen, weil man nicht weiß, was danach passiert, ist ein Geständnis. Menschen bauen keine Schwarzen Löcher in Städten, weil die Geschichte nach dem Horizont interessant ist. Unvorhersehbarkeit auf Aussterbeebene ist ein Stoppschild.

„KI und Roboter werden alles dominieren“ ist dieselbe Zeile im wirtschaftlichen Gewand. Dominanz bedeutet, dass die dominanten Systeme die Bedingungen setzen. Wenn diese Systeme nicht unter menschlicher Kontrolle stehen, ist „Überfluss“ eine Geschichte, die die Machtlosen über die Mächtigen erzählen. Labrador Retriever sind in guten Haushalten glücklich. Labrador Retriever setzen keine Politik fest, beenden keine Kriege und widersprechen nicht den Plänen ihres Besitzers.

Wenn Sie zugeben, dass wir nicht die Kontrolle behalten werden, haben Sie damit schon genug zugegeben, um aufzuhören.

Musk ist kein Cartoon-Bösewicht. Er ist ein mächtiger Gründer in einem Rennen, in dem jedes Labor eine Version derselben Geschichte erzählt: besser, wir bauen den Gott, als dass sie es tun. Sein Juli-Interview lässt die Prätention fallen, dass der Gott an der Leine bleibt. Kontrolle ist Eitelkeit. Menschen sind die Schimpansen. Safety sind gute Vibes, Wahrheitssuche und genießen Sie die Fahrt.

Bauen Sie keine künstliche Superintelligenz. Superintelligenz kann nicht kontrolliert werden. Bau es nie. Politik und Verifikation die Defektion sichtbar machen, sind der Weg, das Wirklichkeit werden zu lassen.

Er hat recht, dass wir nicht die Kontrolle haben werden, wenn ASI eintrifft. Deshalb darf es nicht eintreffen.