Wenn Sie Zeit in der Online-KI-Debatte verbracht haben, haben Sie das Suffix gesehen. Menschen hängen „e/acc“ an ihre Benutzernamen, wie eine frühere Generation eine Anstecknadel trug. Es steht für effektiver Akzelerationismus, und sie ist das artikulierteste, selbstbewussteste und einflussreichste Gegengewicht zur AI-Safety-Bewegung. Sie ernst zu nehmen (statt sie zu karikieren) ist der einzig ehrliche Weg, dagegen zu argumentieren.

Was der effektive Akzelerationismus glaubt

Der effektive Akzelerationismus entstand um 2022 aus pseudonymen Social-Media-Accounts, vor allem einem, der sich „Beff Jezos“ nannte und später als ehemaliger Google-Ingenieur Guillaume Verdon identifiziert wurde, der mit einem als Bayeslord bekannten Kollaborateur zusammenarbeitete. Er leiht sich den Namen einer älteren philosophischen Strömung, des Akzelerationismus, aus, ist aber in der Praxis einfacher und optimistischer als sein akademischer Vorläufer.

Die Kernbehauptungen:

  • Technologie ist der Motor menschlichen Gedeihens. Nahezu jeder Fortschritt in Gesundheit, Wohlstand und Freiheit lässt sich auf technologischen Fortschritt zurückführen. Mehr Fortschritt, schneller, bedeutet mehr Wohlstand.
  • KI ist der mächtigste derartige Motor, der je gebaut wurde, und ihre Beschleunigung ist der schnellste Weg, Krankheiten zu heilen, Knappheit zu beenden und zu erweitern, was die Menschheit tun und werden kann.
  • Das katastrophale Risiko ist gering oder vernachlässigbar. Einige prominente Beschleuniger setzen die Wahrscheinlichkeit einer durch KI verursachten existenziellen Katastrophe auf „null oder nahe null“ und betrachten Untergangsszenarien als unfalsifizierbare Angst.
  • Man kann eine Technologie nicht verstehen, ohne sie zu bauen. Zurückhaltung verhindert gerade die Erfahrung, aus der wir lernen, eine Technologie sicher zu machen. Wir lernen durch Tun, nicht durch Pausieren.
  • Einschränkung ist gefährlich in ihrer eigenen Art. Schwere Regulierung konzentriert Macht, erstickt Wettbewerb und kann die Zukunft skrupelloseren Akteuren überlassen. Offene, schnelle, dezentralisierte Entwicklung ist sicherer als eine kontrollierte Verlangsamung.

So formuliert ist e/acc ein erkennbar amerikanischer, erkennbar aufklärerischer Glaube an Fortschritt, der auf eine Technologie von echtem Versprechen zielt, nicht töricht. Unsere eigene Position stimmt mit mehr davon überein, als das Online-Geschrei vermuten lässt: wie wir klar sagen, wir sind nicht gegen KI. Schmale KI hat bereits Krankheiten geheilt und Entdeckungen beschleunigt. Die Uneinigkeit ist enger und schärfer als „Optimisten versus Doomer“.

Wo e/acc recht hat

Eine ehrliche Widerlegung beginnt damit, die starken Punkte einzuräumen, denn sie sind stark.

Fortschritt war wirklich die große humanitäre Kraft. Lebenserwartung, Kindersterblichkeit, Alphabetisierung, absolute Armut – die langfristigen Trendlinien sind die beste Nachricht der Menschheitsgeschichte, und Technologie hat sie vorangetrieben. Ein pauschaler Verdacht gegenüber neuer Technologie hat eine schlechte Bilanz.

Vorsorgliche Einschränkung hat wirklich Kosten, und sie sind oft unsichtbar. Jedes Jahr, in dem eine Heilung verzögert wird, sterben Menschen, die sonst gelebt hätten. „Zuerst, keinen Schaden anrichten“ kann nicht bedeuten „zuerst nichts tun“, denn Untätigkeit ist ebenfalls eine Wahl mit einer Opferzahl. Jedes ernsthafte Sicherheitsargument muss diese Bürde tragen, nicht wegwischen.

Machtkonzentration ist wirklich ein Risiko. Ein Governance-Regime, das die Kontrolle über KI einem kleinen Kartell etablierter Unternehmen oder einer einzigen Regierung überlässt, ist eine eigene Art von Katastrophe, ein Punkt, den wir in unseren Beiträgen zur KI-Singleton und demokratische Aufsicht. e/acc hat recht damit, dass „just regulate it“ schiefgehen kann.

Wo das Argument bricht

Und doch folgt die Schlussfolgerung nicht. Das Versagen liegt in drei konkreten Schritten, nicht im generellen Optimismus von e/acc gegenüber Technologie.

1. Es behandelt eine unbewiesene Behauptung als erwiesene Tatsache

Die tragende Prämisse lautet, dass das katastrophale KI-Risiko „nahe null“ sei. Aber das ist keine Erkenntnis. Niemand hat es nachgewiesen. Sie steht im Widerspruch zum abgewogenen Urteil der Forscher, die die moderne KI gebaut haben, Geoffrey Hinton, Yoshua Bengio und Hunderter anderer, die die Erklärung von 2023 unterzeichnet haben, in der das Aussterberisiko neben Pandemien und Atomkrieg gestellt wird. Wenn die zentrale Annahme einer Bewegung vom Urteil der Pioniere des Feldes selbst glatt widerlegt wird, unterschätzt es, was geschieht, sie als „Optimismus“ zu bezeichnen. Es ist eine Wette, und der Beschleuniger nimmt stillschweigend die Antwort auf die eine Frage an, von der das ganze Argument abhängt. Wir überblicken die tatsächliche Bandbreite von Experten-Schätzungen in unserem Explainer zu P(doom).

2. „Lernen durch Bauen“ versagt bei Fehlern, die man nicht überleben kann

Die Behauptung, wir verstünden Technologien am besten, indem wir sie bauen, gilt für fast alles und ist genau falsch für die eine Kategorie, die hier zählt. Iterative Entwicklung, die aus Fehlern lernt, funktioniert, wenn Fehlschläge überlebbar und umkehrbar sind. Man liefert die fehlerhafte Software aus, sie stürzt ab, man patcht sie. Diese Schleife ist der Motor allen ingenieurtechnischen Fortschritts.

Es funktioniert nicht, wenn der erste ernste Fehler auch der letzte ist. Ein fehlangepasstes Superintelligenz ist kein Absturz, den man patcht; es ist, nach der Logik von instrumentelle Konvergenz und die tückische Wende, ein System, das Korrektur und Abschaltung verweigert. „Wir lernen im Gehen“ setzt einen zweiten Versuch voraus. Bei diesem spezifischen Problem könnte es keinen geben. Unser Standpunkt ist, dass der utopische Vorteil, den e/acc will, erfordert Alignment, das wir nicht zu erreichen wissen, und dass nicht ausgerichtete Superintelligenz keinen Überfluss liefert, sondern einfach die Geschichte beendet.

3. Es verwechselt ein Koordinationsproblem mit einem Werteproblem

e/acc rahmt die Debatte als Optimisten, die Fortschritt lieben, versus Pessimisten, die ihn fürchten. Aber selbst ein überzeugter Optimist sieht sich der Rennen-Dynamik: wenn mehrere Labore und Nationen darum konkurrieren, als Erste zu bauen, hat jede einen Anreiz, bei der Sicherheit Abstriche zu machen, weil wer langsamer wird, einfach an den verliert, der es nicht tut. Das Ergebnis ist, dass jeder bewegt sich schneller als jemand denkt, ist weise. Das ist kein Triumph des Optimismus; es ist ein klassisches kollektives Handlungsversagen, wie es zu Ergebnissen führt, die kein einzelner Teilnehmer wählen würde. Beschleunigung löst diese Falle nicht. Sie vertieft sie. Das Einzige, was sie löst, ist Koordination, genau die bindenden internationalen Rahmenwerke, denen e/acc sich widersetzt.

Die Uneinigkeit, genau formuliert

Streift man die Memes ab, streiten die beiden Lager über nur eine Sache: die Reihenfolge der Schritte. e/acc sagt, zuerst bauen und darauf vertrauen, dass Kontrolle und Verständnis aus der Fähigkeit folgen. Die Sicherheits-Position sagt, zuerst Kontrolle etablieren, denn bei dieser Technologie ist der Preis für eine falsche Reihenfolge unbegrenzt und irreversibel.

Man muss kein Pessimist sein, um die zweite Sichtweise einzunehmen. Man muss nur eine Asymmetrie erkennen. Wenn die Beschleuniger recht haben und wir trotzdem regulieren, verlieren wir etwas Geschwindigkeit und Effizienz – reale, aber wiederherstellbare Kosten. Wenn die Beschleuniger unrecht haben und wir nicht regulieren, verlieren wir die Fähigkeit, das mächtigste Ding zu lenken, das unsere Spezies je geschaffen hat – dauerhaft. Angesichts dieser Asymmetrie ist das Beharren auf Sicherheit zuerst die grundlegendste Form der Klugheit, angewandt auf die folgenschwerste Entscheidung, die wir je treffen werden, nicht Angst vor Fortschritt.

Deshalb argumentiert die Nakada Foundation nicht gegen KI und nicht gegen eine gute Zukunft. Sie argumentiert dafür, die Bremsen zu bauen, bevor das Auto volle Fahrt aufnimmt. Wenn Sie den Überfluss wollen, den die Beschleuniger versprechen, ist der sicherste Weg dorthin, dafür zu sorgen, dass wir ihn erleben. Unsere Plan ist, wie "Safety First" in der Praxis aussieht.