Le 10 octobre 1983, à Camp David, Ronald Reagan s’est assis pour regarder une copie anticipée d’un film qu’ABC prévoyait de diffuser le mois suivant. Il s’intitulait Le jour d'après, et il montrait un échange nucléaire ravageant Lawrence, Kansas, et Kansas City : l'éclair, la tempête de feu, les survivants mourant lentement des suites des radiations dans les ruines de tout ce qui leur était familier. Ce soir-là, Reagan a écrit dans son journal que le film l'avait « profondément déprimé ». Dans la même entrée, il a formulé une résolution : le pays devait tout faire pour qu'une guerre nucléaire n'ait jamais lieu.
L'article porte sur ce qu'il faut pour rendre un danger réel avant qu'il n'arrive.
Six semaines plus tard, le 20 novembre, environ 100 millions d'Américains ont regardé le même film. C'est l'une des émissions de télévision les plus regardées de l'histoire du pays. Les écoles ont envoyé des consignes aux parents. Les chaînes ont organisé des panels de discussion après la diffusion. Pendant une soirée, l'abstraction qui planait sur toute l'ère d'après-guerre, cette chose que tout le monde connaissait mais que presque personne ne pouvait se représenter, a pris un visage et un code postal.
Pourquoi un film l'a touché quand les briefings n'y étaient pas parvenus
Reagan n'était pas un homme dépourvu d'informations sur le nucléaire. Il avait été briefé sur les charges utiles, les mégatonnes, le plan opérationnel intégré unique, sur le nombre de minutes dont il disposerait pour décider. Il avait participé aux jeux de guerre. Rien de tout cela n'équivaut à voir. Un briefing vous donne un chiffre. Un chiffre ne saigne pas.
L’automne 1983 était déjà la période la plus dangereuse de la fin de la guerre froide, ce qui explique en partie pourquoi le film a eu un tel impact. En septembre, un chasseur soviétique avait abattu un avion de ligne coréen, tuant 269 personnes. En novembre, quelques jours avant la diffusion, un exercice de commandement NATO appelé Able Archer s’était déroulé de manière si réaliste que des éléments de la direction soviétique ont craint qu’il ne serve de couverture à une véritable première frappe. La tension n’était pas théorique. Dans ce contexte sont arrivées deux heures de télévision en prime time montrant ce que cette tension signifiait réellement si elle éclatait.
Le danger devient politique quand les gens peuvent le ressentir, et les gens ressentent des histoires sur des êtres humains précis, pas des statistiques sur des populations. Le nombre de morts dans une guerre nucléaire est inimaginable au sens littéral : l'esprit glisse dessus. Un seul médecin qui voit son hôpital déborder est quelque chose que l'esprit peut saisir.
De l'effroi à une signature
Il serait malhonnête de tracer une ligne droite entre un film et un traité, et il faut résister à cette tentation. Reagan avait exprimé pendant des années une aversion personnelle pour les armes nucléaires et un souhait sincère de les voir disparaître. Le tournant de son second mandat a eu de nombreux auteurs : un nouveau et différent interlocuteur à Moscou, une diplomatie en coulisses, l'accumulation lente de ses propres convictions. Le film s'inscrit dans cet arc, comme un moment vivant parmi d'autres, pas comme le levier qui a tout fait bouger.
Ce qui suivit est consigné dans les annales. En octobre 1986, Reagan rencontra le dirigeant soviétique Mikhaïl Gorbatchev à Reykjavik et les deux furent étonnamment près d’un accord pour abolir toutes les armes nucléaires avant que les discussions ne s’effondrent. Les fondations tinrent. Le 8 décembre 1987, à Washington, ils signèrent le Traité sur les forces nucléaires à portée intermédiaire. Il accomplit quelque chose qu’aucun accord de maîtrise des armements n’avait fait auparavant : il élimina une catégorie entière d’armes plutôt que d’en limiter le nombre. Tous les missiles balistiques et de croisière sol-sol d’une portée comprise entre 500 et 5 500 kilomètres devaient être détruits, et d’ici 1991 quelque 2 692 d’entre eux avaient disparu, vérifiés par des inspecteurs autorisés à pénétrer sur le territoire de l’autre.
Nicholas Meyer, qui a réalisé Le jour d'après, a déclaré qu’après la signature du traité, il avait appris que son film y avait joué un rôle. Considérez cela comme le souvenir d’un réalisateur plutôt qu’un fait d’État documenté. L’élément vérifiable suffit : un président a regardé une représentation de ce qu’il avait le pouvoir de provoquer, a noté que cela l’avait secoué et a signé le traité qui supprimait une catégorie d’armes susceptibles de le causer.
La guerre nucléaire a cessé d'être une statistique la nuit où elle est devenue une ville avec un nom.
Ce qu'elle nous apprend, et où l'analogie s'arrête
Pour quiconque travaille à prévenir une catastrophe due à une superintelligence artificielle, la moitié encourageante de cette histoire est réelle. Un danger qui semblait lointain et technique est devenu concret, et la politique a bougé. Des limites sérieuses à une technologie redoutable sont possibles ; nous avons vu un traité éliminer une catégorie d’armes sous inspection vérifiée. Ceux qui affirment que des puissances rivales ne pourront jamais s’accorder pour se lier doivent expliquer 1987.
C’est dans la dissemblance que réside l’avertissement, et il est tranchant. Toutes les sources d’effroi qui ont rendu la guerre nucléaire réelle sont venues après coup. Hiroshima et Nagasaki avaient déjà eu lieu. Le monde avait vécu sous la bombe pendant quatre décennies. Même Le jour d'après était une dramatisation d’une catégorie d’événements que l’humanité avait, sous une forme plus réduite, déjà vécus. L’apprentissage venait de la survie.
La superintelligence artificielle n'offre pas un tel tuteur. Il n'y a pas d'Hiroshima à montrer, pas d'images granuleuses, pas de survivants à interviewer, car le mode d'échec qui nous préoccupe est celui qui pourrait ne pas laisser de seconde chance. Si une superintelligence incontrôlée est construite avant que le problème de son contrôle ne soit résolu, il n'y a pas de lendemain à diffuser. Le film qui nous aurait avertis ne peut pas être réalisé à temps, car il ne peut l'être qu'après, et il n'y a pas d'après.
La tâche est donc plus dure que celle à laquelle Reagan a été confronté, et elle pointe dans une seule direction. L’argument doit être rendu vivant maintenant, sur la force de la raison et de la prospective plutôt que des décombres, et il doit aboutir à la prévention plutôt qu’à la gestion. Le contrôle des armements nucléaires pouvait se permettre d’être une histoire de rétablissement. La réponse à la superintelligence ne le peut pas. C’est pourquoi la Fondation plaide pour une interdiction internationale vérifiée de construire la superintelligence de façon permanente. La superintelligence ne peut pas être contrôlée, la position exposée dans notre plan, et pourquoi tout l’effort vise les années qui précèdent le danger, pas celles qui le suivent. Il n’y aura pas d’après.