Drop me into 1958 and I do not think I would have hesitated. I would have spent my life trying to keep the world from ending. My foundation would have worked on keeping the United States and the Soviet Union from a thermonuclear war, not out of any special courage, but because that was the fight that decided whether there would be a future to argue about at all. Every other cause sat downstream of it.
Ich habe diesen Kampf nicht bekommen. Die Bombe wurde gebaut, ausgerichtet und – bisher – nach 1945 nie wieder gegen eine Stadt eingesetzt. Die Menschen, die dieses „bisher“ aufrechterhalten haben, die während des Kalten Krieges die Teststopps, die Hotlines und die Verifikationsregime aufbauten, die ein schreckliches Patt davon abhielten, ein endgültiges zu werden, leisteten einige der wichtigsten Arbeiten des letzten Jahrhunderts. Die meisten von ihnen werden dafür nie berühmt werden. Verhinderung ist von Natur aus still. Wenn sie funktioniert, geschieht nichts, und nichts ist eine schwierige Sache, um ein Denkmal darauf zu setzen.
Dieselbe Form, eine neue Waffe
When I say we are living through a new Cold War, I mean the same shape: the United States and China racing toward a technology neither can let the other reach first, that could end the human story if it goes wrong, and that no one racing can honestly claim to control. Swap the hydrogen bomb for artificial superintelligence and you have 1958 and 2026 in one sentence.
Ich bin nicht der Einzige, der das Echo hört. Im Juni sagte der Direktor der CIA vor einem Publikum in Washington, es wäre nicht fehl am Platz, die Fähigkeiten heutiger Frontier-KI "digitale Atomwaffen."
Die Unterschiede laufen in die falsche Richtung
Es gibt echte Unterschiede zwischen damals und heute, und genau das hält mich wach. Fast alle davon machen unsere Lage schwieriger, nicht leichter. Eine Atomwaffe bleibt in menschlichen Händen; eine Superintelligenz würde nicht. Nuklearmaterial ist physisch, daher kann es abgebaut und gezählt werden. Die Inputs für KI sind Chips und Code, schwerer zu sehen und leichter zu verbergen, obwohl nicht unmöglich zu regieren. Und der Kalte Krieg hat seinen Teilnehmern etwas gegeben, das wir vielleicht nicht bekommen: Zeit. Die Welt hatte Jahre, um Hiroshima zu verarbeiten, die Angst im Bauch zu spüren und Institutionen als Antwort aufzubauen. AI Capability wächst schneller, als jede Institution, die wir haben, mithalten kann.
Was der Kalte Krieg tatsächlich bewiesen hat
Doch dieselbe Ära widerlegte die Behauptung, auf die sich die Beschleuniger am stärksten stützen: dass Rivalen, die einander misstrauen, niemals zustimmen können, sich zurückzuhalten. Washington und Moskau vertrauten einander überhaupt nicht, und dennoch unterzeichneten sie verbindliche, verifizierbare Rüstungskontrollabkommen, weil beide erkennen konnten, dass ein unbegrenztes Wettrüsten sie schlechter stellte als eine Regel, die beide gleichermaßen band. Das Misstrauen war der Grund für die Verträge, nicht das Hindernis. Wenn zwei Regierungen diese Logik bei Zehntausenden von Sprengköpfen finden konnten, die auf die Städte des anderen zielten, ist die selbstgewisse Behauptung, die Vereinigten Staaten und China könnten dasselbe bei KI niemals tun, eine Ausrede fürs Weitermachen, getarnt als harte Realpolitik.
Warum die Stiftung existiert
The equivalent of that fight landed in my generation, and this time I am here for it. I refuse to be part of the generation that built the weapon capable of aiming itself and told itself, the whole way there, that it had no choice.
Die Menschen, die das Schlimmste des Kalten Krieges verhinderten, taten es, indem sie trotz der Einwände aller, die sie naiv nannten, darauf bestanden, dass manche Technologien zu gefährlich sind, um sie einem Wettlauf zu überlassen. Sie hatten damals recht. Die einzige Aufgabe, die jetzt zählt, ist es, wieder recht zu haben – und rechtzeitig recht zu haben.