Am 10. Oktober 1983 saß Ronald Reagan in Camp David und sah sich eine Vorabkopie eines Films an, den ABC im folgenden Monat ausstrahlen wollte. Er hieß Der Tag danach, und es zeigte einen nuklearen Schlagabtausch, der durch Lawrence, Kansas, und Kansas City raste: den Blitz, den Feuersturm, die Überlebenden, die langsam an Strahlung in den Ruinen von allem Vertrauten starben. In derselben Nacht schrieb Reagan in sein Tagebuch, dass der Film ihn „greatly depressed“ zurückgelassen habe. In demselben Eintrag fasste er einen Entschluss: Das Land müsse alles tun, damit ein Atomkrieg niemals stattfinde.

Die Geschichte handelt davon, was nötig ist, damit eine Gefahr real wirkt, bevor sie eintritt.

Sechs Wochen später, am 20. November, sahen etwa 100 Millionen Amerikaner denselben Film. Er bleibt eine der meistgesehenen Fernsehsendungen der Geschichte des Landes. Schulen schickten Hinweise nach Hause. Sender strahlten danach Diskussionsrunden aus. Für eine Nacht hatte die Abstraktion, die über der gesamten Nachkriegszeit gehangen hatte, die jeder kannte und fast niemand sich vorstellen konnte, ein Gesicht und eine Postleitzahl.

Warum erreichte ihn ein Film, als die Briefings es nicht taten

Reagan fehlte es nicht an Informationen über Nuklearwaffen. Er war über Throw-weights und Megatonnen informiert worden, über den Single Integrated Operational Plan, darüber, wie viele Minuten er zum Entscheiden haben würde. Er hatte die Kriegsspiele durchlaufen. Das alles ist nicht dasselbe wie es zu sehen. Ein Briefing liefert eine Zahl. Eine Zahl blutet nicht.

Der Herbst 1983 war bereits die gefährlichste Phase des späten Kalten Krieges, was teilweise erklärt, warum der Film so hart ankam. Im September hatte ein sowjetischer Jäger eine koreanische Passagiermaschine abgeschossen und 269 Menschen getötet. Im November, Tage vor der Ausstrahlung, lief eine NATO-Kommandostabsübung namens Able Archer so realistisch ab, dass Teile der sowjetischen Führung befürchteten, sie sei Tarnung für einen echten Erstschlag. Die Spannung war nicht theoretisch. In diesen Moment kamen zwei Stunden Primetime-Fernsehen, die zeigten, was die Spannung tatsächlich bedeutete, wenn sie brach.

Gefahr wird politisch, wenn Menschen sie spüren können, und Menschen spüren Geschichten über konkrete Personen, nicht Statistiken über Bevölkerungen. Die Zahl der Todesopfer in einem Atomkrieg ist im wörtlichen Sinn unvorstellbar: der Verstand gleitet daran ab. Ein einzelner Arzt, der sein Krankenhaus über die Kapazitätsgrenze hinaus füllen sieht, ist etwas, das der Verstand fassen kann.

Von der Angst zur Unterschrift

Es wäre unehrlich, eine gerade Linie von einem Film zu einem Vertrag zu ziehen, und es lohnt sich, der Versuchung zu widerstehen. Reagan hatte jahrelang vor 1983 eine persönliche Abneigung gegen Atomwaffen geäußert und einen echten Wunsch, sie verschwinden zu sehen. Die Wende in seiner zweiten Amtszeit hatte viele Urheber: einen neuen und anderen Gegenüber in Moskau, Hinterkanal-Diplomatie, die langsame Anhäufung seiner eigenen Überzeugungen. Der Film gehört in diesen Bogen als ein lebendiger Moment unter mehreren, nicht als der Hebel, der alles bewegte.

Was folgte, ist dokumentiert. Im Oktober 1986 traf Reagan den sowjetischen Führer Michail Gorbatschow in Reykjavik, und die beiden kamen erstaunlich nahe daran, sich auf die Abschaffung aller Kernwaffen zu einigen, bevor die Gespräche scheiterten. Die Vorarbeit hielt. Am 8. Dezember 1987 unterzeichneten sie in Washington den INF-Vertrag. Er tat etwas, was kein Rüstungskontrollabkommen zuvor getan hatte: Er eliminierte eine ganze Waffengattung statt ihre Zahlen zu begrenzen. Jede bodengestützte ballistische Rakete und jeder Marschflugkörper mit einer Reichweite zwischen 500 und 5.500 Kilometern sollte zerstört werden, und bis 1991 waren 2.692 davon verschwunden, verifiziert von Inspektoren, die auf den Boden des jeweils anderen gelassen wurden.

Nicholas Meyer, der Der Tag danach, hat gesagt, dass ihn nach der Unterzeichnung des Vertrags die Nachricht erreichte, sein Film habe dazu beigetragen. Betrachten Sie das als Erinnerung eines Regisseurs und nicht als dokumentierte staatliche Tatsache. Der verifizierbare Teil reicht aus: Ein Präsident sah eine Darstellung dessen, was er auszulösen die Macht hatte, notierte, dass es ihn erschütterte, und unterzeichnete anschließend den Vertrag, der eine Kategorie der Waffen abschaffte, die es verursacht hätten.

Der Atomkrieg hörte auf, eine Statistik zu sein, in der Nacht, als er zu einer Stadt mit einem Namen wurde.

Was es lehrt und wo die Parallele bricht

Für alle, die daran arbeiten, eine Katastrophe durch künstliche Superintelligenz zu verhindern, ist die ermutigende Hälfte dieser Geschichte real. Eine Gefahr, die fern und technisch wirkte, wurde konkret gemacht, und die Politik bewegte sich. Ernsthafte Beschränkungen einer furchterregenden Technologie sind möglich; wir haben zugesehen, wie ein Vertrag eine Waffengattung unter verifizierter Inspektion abschaffte. Die Menschen, die darauf bestehen, dass rivalisierende Mächte niemals zustimmen können, sich selbst zu binden, müssen 1987 erklären.

Die Unähnlichkeit ist der Ort, an dem die Warnung liegt, und sie ist scharf. Jede Quelle der Furcht, die den Atomkrieg real machte, kam erst danach. Hiroshima und Nagasaki hatten bereits stattgefunden. Die Welt hatte vier Jahrzehnte unter der Bombe gelebt. Sogar Der Tag danach war eine Dramatisierung einer Ereigniskategorie, die die Menschheit in kleinerer Form bereits erlebt hatte. Die Erkenntnis kam aus dem Überleben.

Künstliche Superintelligenz bietet keinen solchen Lehrmeister. Es gibt kein Hiroshima, auf das man zeigen könnte, kein körniges Filmmaterial, keine Überlebenden, die man interviewen könnte, weil der Ausfallmodus, um den wir uns sorgen, einer ist, der möglicherweise keine zweite Chance lässt. Wird eine unkontrollierte Superintelligenz gebaut, bevor das Problem ihrer Kontrolle gelöst ist, gibt es keinen nächsten Tag, der gesendet werden könnte. Der Film, der uns warnen würde, kann nicht rechtzeitig gedreht werden, weil er erst danach gedreht werden könnte – und es gibt kein Danach.

Die Aufgabe ist also schwieriger als die, vor der Reagan stand, und sie weist in eine Richtung. Der Fall muss jetzt lebendig gemacht werden, auf der Grundlage von Argument und Voraussicht statt von Trümmern, und er muss in Verhinderung statt in Management münden. Nukleare Rüstungskontrolle konnte eine Geschichte der Erholung sein. Die Antwort auf Superintelligenz kann das nicht. Deshalb tritt die Foundation für ein verifiziertes internationales Verbot des Baus von Superintelligenz ein – dauerhaft. Superintelligenz kann nicht kontrolliert werden, die Position, die in unser Plan, und warum die ganze Anstrengung auf die Jahre vor der Gefahr zielt, nicht auf die Jahre danach. Jahre danach wird es nicht geben.