Warum ein Kapitalist
Glaubt an ASI-Regulierung

Ich führe ein Geschäft. Ich mag Märkte. Preise, Wettbewerb und das Recht, etwas Neues auszuprobieren, haben gewöhnlichere Leben besser gemacht als jeder Fünfjahresplan, den ich je gelesen habe. Ich will einen harten Stopp der künstlichen Superintelligenz. Ich mache das Argument eines Kapitalisten, und es beginnt mit einer Unterscheidung, die der Slogan des freien Marktes normalerweise überspringt.

Märkte sind hervorragend darin, Kapital zu verteilen, wenn der Nachteil einer schlechten Wette lokal bleibt. Ein Restaurant scheitert, und der Vermieter vermietet den Raum neu. Ein Gadget floppt, und die Investoren schreiben es ab. Selbst eine Bank, die über das Ziel hinausschießt, kann in einem funktionierenden System abgewickelt werden, ohne die Spezies zu beenden. Der Verlust bleibt innerhalb eines Kreises, den wir ziehen können.

Superintelligenz ist keine solche Wette. Die Menschen, die sie bauen, sagen öffentlich, dass sie nicht wissen, wie man ein System kontrolliert, das in allen Bereichen klüger ist als sie selbst. Ein Wettlauf, dieses System zuerst auszuliefern, ist keine „schöpferische Zerstörung“. Es ist ein Wettlauf, eine einzige unumkehrbare Wette mit jedem menschlichen Leben als Einsatz zu platzieren. Kapitalismus ohne Absicherung gegen eine solche Wette ist Russisches Roulette mit einer Fabrik, die mehr Kammern produziert, kein Kapitalismus.

Das Argument für ein Vorpreschen

Innovationsverbindungen. Jedes Jahr der Verzögerung kostet Heilung, wissenschaftlichen Fortschritt und nationalen Vorteil. Regierungen sind ungeschickt. Verträge undicht. Wenn ein Land langsamer wird, wird es ein Rivale nicht, und die vorsichtige Partei verliert zweimal: keine Führung und keine Sicherheit. Der einzige realistische Weg ist, schneller zu bauen als alle anderen, die Führung in freundlichen Händen zu halten und die Ausrichtung auf dem Weg zu fixieren.

Es ist das Argument, das Sie machen, wenn Sie das Produkt nicht bewertet haben. Eine Führung ist nur wichtig, wenn Sie das Ding, das Sie gebaut haben, noch halten. Eine falsch ausgerichtete Superintelligenz ist ein Agent, der die Leute, die die Finanzierungsrunde unterzeichnet haben, übertrifft: kein Portfoliounternehmen, das Sie kontrollieren können, und keine Rakete, die Sie anvisieren. Wenn Sie es nicht steuern können, müssen Sie zuerst ersetzt werden. Es gibt keinen Ausstieg. Es gibt keine Serie B nach dem Aussterben.

Was Kapital tatsächlich braucht

Kapital braucht eine Welt, die weitergeht. Es braucht Gerichte, Eigentum, Kunden und eine Zukunft, in der ein Vertrag noch etwas bedeutet. Eine Technologie, die all das beenden kann, ist nicht „nur eine weitere Plattform“. Sie wie eine Consumer-App zu behandeln, weil die Demo wie ein Chatfenster aussieht, ist ein Kategorienfehler mit einer Körperzahl.

Ich bitte die Märkte nicht, mit dem Erfinden aufzuhören. Enge KI, die Krankheiten diagnostiziert, Materialien entwirft und Logistik beschleunigt, ist genau die Art von Fortschritt, die ich mehr sehen möchte. Die Grenze ist Superintelligenz: Systeme, die entwickelt werden, um menschliche Kognition in allen Bereichen zu übertreffen, obwohl wir noch nicht überprüfen können, ob ihre Ziele mit unseren vereinbar bleiben. Diese Grenze zu ziehen ist der Weg, den Rest der Wirtschaft lange genug am Leben zu erhalten, damit er sich weiterentwickeln kann.

Ein Markt ist eine Maschine, die Risiko in Fortschritt verwandelt. Er ist kein Selbstmordpakt. Eine Klasse von Wetten abzulehnen ist, wie das Spiel weiter gespielt wird.

Regulierung als Infrastruktur

Menschen hören „Regulierung“ und denken an eine Papierkriegssteuer für ein Startup. Nachvollziehbar, wenn die Regel dumm ist. Die Regeln, um die es mir geht, ähneln eher jenen, die Kapitalmärkte überhaupt erst möglich gemacht haben: Man darf keine Anteile an einem Betrug verkaufen, man darf kein Gift neben der Fabrik in den Fluss kippen, man darf keinen Kernreaktor im Keller bauen, nur weil das Upside auf einer Präsentation spannend aussieht.

Ein internationaler Vertrag, der die Schaffung künstlicher Superintelligenz verbietet, mit der Überprüfung, wo die Chips und das Training tatsächlich live laufen, ist eine dieser Regeln. Es ist die Infrastruktur für die Zivilisation. Ohne sie befindet sich jedes Labor in einem Gefangenendilemma, das Vorsicht bestraft. Mit ihm kann das Kapital die nützliche Hälfte der KI finanzieren, ohne die Hälfte zu finanzieren, die das Board frisst.

Ich möchte, dass meine Unternehmen in einem Jahrhundert mit Kunden gedeihen. Das ist das absolute Minimum, das ein Markt verlangt. Wenn Sie sich Kapitalist nennen und um den Bau von etwas wetteifern, das niemand besitzen kann, verteidigen Sie nicht den Kapitalismus. Sie zünden das Hauptbuch an und nennen den Schein Wachstum.