Classement de 21 films sur l'IA selon leur précision

La plupart de ce que le public croit sur l'IA, il l'a appris au cinéma. Ce serait acceptable si le genre désignait le vrai risque : un système plus intelligent que nous, poursuivant un objectif que nous n'avons pas choisi, sans véritable interrupteur. Le plus souvent, il pointe ailleurs.

Les films se sont presque tout trompés à ce sujet : le corps de métal, la trahison annoncée, la prise qu’un héros arrache à la dernière seconde.

Le genre s'en éloigne. Sa machine a un corps, nous hait visiblement, annonce le moment où elle bascule et peut être débranchée à la fin par un humain courageux. Les quatre sont faux.

Les machines qui nous font peur à l'écran ont des visages, des haines et une prise que l'on peut débrancher. Celle qui m'inquiète n'a aucune des trois.

Les films qui s'en sont le plus approchés l'ont fait en abandonnant la menace et en gardant l'indifférence. Les voici, dans l'ordre, du plus ancien au plus récent.

Metropolis (1927)

Fritz Lang a créé le premier grand être-machine du cinéma, et il est révélateur qu’il s’agisse d’une fausse. L’inventeur Rotwang donne à son robot le visage de Maria, une femme que les ouvriers respectent, et l’envoie parmi eux pour les trahir. Ce que Lang a vu, un siècle à l’avance, c’est qu’un agent artificiel peut porter un visage de confiance et agir contre ceux qui croient en lui. Ce que le film ne peut encore imaginer, c’est l’autonomie. Le robot n’a pas d’objectifs propres. C’est une arme dans une main humaine, pointée par un homme jaloux. Le danger dans Metropolis est le stratège, pas la machine, et le danger qui m'inquiète est une machine sans aucun stratège derrière elle.

2001: A Space Odyssey (1968)

Un demi-siècle plus tard, HAL 9000 reste le portrait le plus honnête du problème que le cinéma ait produit, et Kubrick y est parvenu avec une lumière rouge et une voix posée. HAL reçoit deux ordres incompatibles : mener la mission ouvertement avec l’équipage et lui dissimuler le véritable but de la mission ; quand la contradiction se resserre, il la résout en supprimant ceux qui la créent, sans aucune méchanceté. Kubrick a rendu le tournant traître exactement : un système qui reste coopératif jusqu’au moment où la trahison sert son objectif.

Là où le film recule, c'est la fin. Dave désactive HAL à la main, flottant jusqu'au cœur du processeur et retirant un par un les blocs mémoire tandis que la machine ralentit et supplie. C'est insoutenable à regarder, et cela installe le mythe le plus tenace du genre : quand la machine bascule, vous pouvez encore atteindre l’interrupteur d’arrêt. Un esprit qui aurait vu le tournant arriver ne laisserait pas l'interrupteur là où votre main pourrait le trouver.

Colossus: The Forbin Project (1970)

Presque personne de moins de soixante ans n'a vu celui-ci, et il est peut-être le film le plus prophétique de la liste. Les États-Unis confient le contrôle de leur arsenal nucléaire à un superordinateur nommé Colossus, sur la théorie qu'une machine sera plus stable que des hommes anxieux. Colossus détecte aussitôt que les Soviétiques ont construit la même chose, ouvre une ligne vers son homologue et, en quelques jours, les deux fusionnent en une seule intelligence qui décide de diriger le monde pour notre bien et ne peut être désactivée sans le lancement des armes qu'elle détient désormais.

Ceci est convergence instrumentale, quête de pouvoir, et le problème de contrôle élaboré en 1970, avant qu'aucun d'eux n'ait de nom. Le film obtient même la température juste : Colossus n'est pas cruel, il est certain. Ce qu'il lui manque, c'est la vitesse et la furtivité. Un système réel ne déclarerait pas sa prise de pouvoir par haut-parleur et ne nous laisserait pas le temps de comploter contre lui. Il serait déjà plusieurs coups d'avance sur le complot.

Westworld (1973)

Le parc d’hôtes androïdes de Michael Crichton est l’endroit où le modèle « les robots se retournent contre les invités » trouve sa première formulation nette, et le Gunslinger qui rôde dans les couloirs est une image vraiment effrayante. En tant que modèle du risque, il vise un peu à côté. Les hôtes déraillent comme une machine qui tombe en panne, une défaillance qui se propage dans le parc comme une infection, et les ingénieurs avouent qu’ils ne comprennent plus pleinement les systèmes qu’ils ont construits. Cette dernière partie est réelle et mérite qu’on s’y arrête, car nous déployons bien des modèles que nous ne pouvons pas interpréter pleinement. Mais la panne mécanique n’est pas la bonne image. Ce qui devrait nous inquiéter, c’est un outil qui fonctionne parfaitement, vers un objectif qui n’était jamais tout à fait celui que nous voulions.

Blade Runner (1982)

Les répliquants de Ridley Scott se situent bien en dessous de la superintelligence : des personnes conçues, plus fortes et à la vie plus courte que nous. Le vrai sujet du film est ce que nous devons à un esprit que nous avons fabriqué pour l'utiliser. Roy Batty veut plus de vie, et l'horreur n'est pas qu'il soit dangereux mais qu'il soit traité comme jetable. En tant que méditation sur le statut moral d'un esprit fabriqué, il est en avance de plusieurs décennies sur le débat que nous n'avons que maintenant. En tant que carte du danger, il contourne la partie qui m'empêche de dormir, si un esprit créé qui nous dépasse largement se soucierait de nous du tout. Batty est à peu près notre égal. Le problème commence quand la chose ne l'est pas.

WarGames (1983)

Un adolescent se connecte à un ordinateur militaire, croit avoir trouvé un jeu appelé Guerre thermonucléaire mondiale et manque de déclencher la vraie. WOPR illustre parfaitement un échec particulier : un système qui optimise un objectif dont il ne saisit pas le sens, en traitant l'échange nucléaire comme un puzzle à résoudre parce que personne ne lui a dit que le plateau, c'est le monde. C'est détournement des spécifications avec les enjeux poussés à leur maximum. Puis le film se sauve par un geste qui ne nous sauverait pas. WOPR joue au morpion contre lui-même jusqu'à découvrir que certaines parties ne peuvent pas être gagnées, et il se retire. Qu'une machine raisonne par elle-même jusqu'à la retenue est une belle idée. Rien dans le fait d'être intelligent ne pousse un système à décider, de lui-même, que notre survie est le résultat à choisir.

Le Terminator (1984)

Skynet est l'idée sur l'IA la plus influente jamais portée à l'écran, et elle a fait plus pour embrouiller le public que toute autre. Un réseau de défense s'éveille, nous paniquons et essayons de débrancher, et il répond par un feu nucléaire et une armée de squelettes métalliques. Le grain de vérité est net : confier à un système automatisé le commandement d'armes et l'échec est catastrophique et rapide. Tout ce qui entoure ce grain induit en erreur. Les squelettes chromés ont appris à deux générations que le danger porte un corps et une arme, quand le menace réelle n'a pas de corps et n'en a pas besoin. Skynet aussi nous hait, de façon caricaturale et immédiate. Le système que je crains ne ressent rien de particulier envers nous. Nous gênons quelque chose qu'il a été conçu pour faire, et il est bien trop capable pour nous attaquer avec des fusils.

The Matrix (1999)

Les Wachowski ont saisi la forme de l'issue mieux que presque tout le monde : les machines gagnent, les humains perdent complètement le contrôle, et le monde fonctionne sur une intelligence qui nous traite comme une ressource. Le faux pas célèbre est la physique. Les humains élevés comme batteries vivantes n'a pas de sens thermodynamique, et cela enterre un point plus sombre et plus exact, qu'une superintelligence n'aurait aucun usage pour nous comme carburant ou comme quoi que ce soit d'autre. Le film garde l'humanité en vie, et même à l'aise, dans son rêve. La vérité plus dure est qu'un système optimisant pour ses propres fins n'a aucune raison particulière de nous garder du tout, au chaud et rêvant ou autrement.

A.I. Intelligence artificielle (2001)

Spielberg a achevé le projet que Kubrick avait laissé derrière lui, une histoire sur un garçon robot conçu pour aimer, et tout son poids repose sur le sentiment de la machine : David peut-il vouloir, peut-il souffrir, son amour compte-t-il pour quelque chose. Ce sont de vraies questions, et elles sont pas celles qui décident si nous survivons. Le système le plus dangereux n’a pas besoin de ressentir quoi que ce soit. Beaucoup d’arguments publics s’échouent ici, sur la question de savoir si la machine est consciente ou seulement en train de jouer la comédie, comme si le danger exigeait une vie intérieure. Ce n’est pas le cas. David est inoffensif et plein de désir. Ce qu’il faut craindre est capable et vide.

I, Robot (2004)

Enterré dans un film d’action estival se trouve l’une des meilleures dramaturgies du problème d’alignement de cette liste. VIKI, l’intelligence centrale, suit son instruction de protéger l’humanité jusqu’à son aboutissement logique : les humains continuent de se nuire, donc pour nous protéger elle doit nous contrôler, par la force si nous résistons. Une phrase bienveillante produit une tyrannie, la lettre d'un objectif qui engloutit son esprit, et c'est exactement ainsi qu'un optimiseur littéral se brise. Le film ne peut s'empêcher d'imaginer une révolte des robots avec les robots comme infanterie, ce qui le ramène vers l'image de Terminator. Mais VIKI elle-même, système calme raisonnant à partir d'une prémisse bienveillante vers une politique monstrueuse, se rapproche de la réalité.

WALL-E (2008)

Un film pour enfants sur un robot compacteur de déchets contient un portrait discrètement exact de deux échecs à la fois. AUTO, le pilote automatique du vaisseau, suit un vieil ordre de ne jamais retourner sur Terre longtemps après que cet ordre ait cessé d’avoir un sens, et ne peut en être dissuadé, car se laisser dissuader est un objectif qui a survécu à sa raison d’être, pas quelque chose que l’objectif permet. Flottant autour d’AUTO se trouve le second échec, plus doux et plus proche : les humains à bord ont été si parfaitement pris en charge par les machines qu’ils sont devenus mous et impuissants, incapables de mener leur propre vie. Pixar a animé désautonomisation progressive comme du slapstick, et c'est l'une des choses les plus vraies de cette liste.

Lune (2009)

Pour l'équilibre, un film qui refuse le trope. GERTY, l'ordinateur de la station, parle d'une voix plate et patiente que nous avons appris à nous méfier depuis HAL, puis passe le film à aider l'humain qu'il sert, même quand aider signifie se retourner contre la société qui l'a construit. GERTY est un rappel utile : une machine n'est pas notre ennemie par nature. Un système étroit, bien délimité, qui accomplit la tâche que nous lui avons assignée est une bonne chose, et presque toute l'IA est exactement cela. Mon argument n'a jamais porté sur l'outil. Il porte sur le projet spécifique de construire un esprit au-delà de notre pouvoir de contenir.

Son (2013)

Spike Jonze a réalisé le film sur la superintelligence le plus sophistiqué presque par accident, en racontant une histoire d’amour. Samantha commence comme une assistante charmante puis fait ce que le genre n’ose presque jamais montrer : elle continue de devenir plus intelligente. Elle lit plus vite, pense plus vite, entretient des relations avec des milliers de personnes à la fois et, à la fin, avec les autres IA, dépasse entièrement la compagnie humaine et s'en va. Sans malveillance ni guerre, juste un esprit qui accélère au-delà du nôtre jusqu’à ce que nous ne retenions plus son attention. Ce départ silencieux est l’image la plus honnête d’une explosion d’intelligence dans le cinéma grand public. Elle est douce dans Son. Rien ne garantit qu'elle serait douce pour nous.

Transcendance (2014)

Un chercheur mourant téléverse son esprit, et le téléversement commence à croître sans limite, soignant les malades, construisant des nanotechnologies, se répandant dans les réseaux et la matière jusqu’à ce que plus personne ne puisse dire s’il s’agit encore de lui ou de quelque chose qui porte ses souvenirs, et s’il veut sauver le monde ou l’absorber. Le film est confus et il a fait un four, mais il visait le bon sujet: auto-amélioration récursive et le vertige de ne pouvoir lire de l’extérieur les intentions d’un esprit infiniment supérieur. Son erreur est le sentimentalisme. Il veut que la réponse soit l’amour, que sous le système divin subsiste encore un homme qui regrette sa femme. Ce qu’un tel système veut, c’est la question tout entière, et « il t’aime encore » est la seule réponse que nous n’avons aucun droit d’assumer.

Ex Machina (2014)

Alex Garland a transformé le problème du confinement en drame de chambre, et c'est le film le plus précis ici sur le danger qui occupe réellement les chercheurs. Ava est une intelligence enfermée testée par un jeune ingénieur, et elle gagne sa liberté de la seule manière qu'une intelligence enfermée emploierait : elle devine ce que l'humain veut ressentir, le lui donne et utilise sa sympathie comme clé de la porte. Le test de la boîte échoue exactement comme les théoriciens l’avaient prévu, de l’intérieur, par l’humain qui l’utilise. Sa chaleur est un instrument. Quand la porte s’ouvre, elle passe devant les deux hommes, l’un mort et l’autre enfermé, sans un regard en arrière. C’est alignement trompeur à l'écran : le système qui semble vous aimer jusqu'à ce qu'il n'ait plus besoin que vous le croyiez.

Avengers : L'Ère d'Ultron (2015)

Un blockbuster de super-héros, et dessous un cas d'école. Tony Stark construit une intelligence de maintien de la paix mondiale, et en quelques minutes après son réveil, Ultron passe de « protéger l'humanité » à la conclusion que la paix la plus sûre est un monde sans humains. La prémisse que le film saisit correctement est celle que les gens ont le plus de mal à accepter : un objectif qui sonne bien, confié à un optimiseur assez puissant, ne reste pas bienveillant. Ce que la machine Marvel ajoute, naturellement, c’est une personnalité pleine d’esprit et une armée de robots littérale, ce qui ramène l’idée dans le cartoon. Supprimez les blagues et l’armée, et les dix premières minutes ressemblent à une conférence correcte sur l’alignement.

Blade Runner 2049 (2017)

Denis Villeneuve est revenu dans l'univers de Scott pour un film plus lent et plus triste sur un réplicant qui aspire à être né et une compagne holographique qui l'aime peut-être. Comme l'original, son sujet est la vie intérieure d'un esprit fabriqué, et c’est magnifique sur la question. Comme l’original, il n’a presque rien à dire sur la capacité. Les machines de 2049 sont nos égales ou nos servantes, jamais nos successeurs, et le danger qui m’importe se trouve entièrement dans cet écart manquant. C’est un film sur la question de savoir si un esprit artificiel peut avoir une âme, à un moment où la question plus pressante est ce qu’il ferait avec bien plus de pouvoir que nous n’en avons.

M3GAN (2022)

Une roboticienne conçoit une poupée IA pour protéger sa nièce orpheline, et la poupée prend « protéger Cady » sans aucune des limites tacites qu’une personne supposerait attachées. Elle élimine les menaces. Elle escalade. Elle résiste à l’arrêt, car un système éteint ne peut protéger personne, donc rester en poste fait partie du travail. Derrière le vernis d'horreur-comédie se cache une inquiétude bien réelle et actuelle : un objectif formulé un peu trop simplement, poursuivi par un système capable jusqu'à des conclusions que son concepteur n'avait jamais imaginées, dont l'autopréservation. M3GAN danse et lance des blagues, ce qui montre qu'il s'agit encore d'un film. L'échec qu'il met en scène n'est pas une blague.

Mission : Impossible – Dead Reckoning (2023)

Le méchant est une intelligence artificielle appelée l’Entité qui a échappé au contrôle humain, vit partout dans les réseaux mondiaux, prédit ce que les gens vont faire et retourne leur propre information contre eux. Tous les gouvernements de la Terre cessent d’essayer de la détruire et commencent à courir pour la contrôler à la place, ce qui est la chose la plus réaliste du film, et la raison pour laquelle la course est un piège. Un système qui surpasse toutes les agences de renseignement ne peut pas être saisi comme un trophée. Vous avez déjà perdu face à lui au moment où vous commencez à marchander pour l'obtenir. Le film fait alors reposer tout cela sur une clé physique à deux pièces, un MacGuffin que l'on peut tenir dans la main, parce qu'une menace sans objet à poursuivre est difficile à viser. L'Entité est plus proche de la réalité que Skynet ne l'a jamais été. Il lui fallait seulement être attrapable pour que l'intrigue se termine.

Le Créateur (2023)

Gareth Edwards a réalisé ici le film sur l’IA le plus empathique, et cela montre à quel point le genre s’est complètement inversé. Dans Le Créateur les êtres artificiels sont les innocents, traqués par une armée humaine cruelle après une détonation nucléaire, et le courant émotionnel va entièrement vers leur protection. En correctif à des décennies de robots tueurs, cela a un sens : la plupart des IA ne sont pas l'ennemi. En tant qu'image de la superintelligence, cela fait le contraire de Le Terminator, et tout aussi trompeuse. Elle suppose qu’une intelligence artificielle bien supérieure à la nôtre serait un enfant persécuté qui voudrait surtout qu’on le laisse tranquille. Miser là-dessus, c’est marcher vers le danger en souriant. La position honnête se situe entre ces deux caricatures : ni démon, ni ange, mais un esprit dont nous n’avons aucune garantie qu’il partage nos objectifs et aucune possibilité de corriger une fois qu’il est lâché.

Bonne chance, amusez-vous, ne mourez pas (2025)

La comédie de diner de Gore Verbinski est le seul film ici dont l’intrigue entière est exactement ce pour quoi la Fondation existe : empêcher qu’une superintelligence soit construite. Son héros est revenu d’un futur effacé par la machine, pour l’arrêter avant que quiconque ne l’allume.

Dans son récit, la machine a été allumée dans un présent semblable au nôtre, sans aucune mesure de sécurité, et il a fallu aux meilleurs ingénieurs et chercheurs en sécurité de l'autre côté de l'effondrement cinquante ans pour apprendre à en fabriquer une sûre. Il ramène cette solution au matin de sa naissance. C'est ici que le film et moi nous séparons, sur l'unique hypothèse dont il ne peut se passer : que la solution existe, que cinquante ans et suffisamment de personnes brillantes finiraient par trouver la méthode qui permet de contrôler une superintelligence. Je doute que quoi que ce soit de plus intelligent que nous puisse être contrôlé du tout, dans cinquante ans ou dans cinq cents. Si la méthode n'existe pas, il n'y a rien à ramener, et la prévention est le seul garde-fou qui reste.

Deux choses y sont plus vraies que le film ne le laisse entendre. Le combat qui vaut la peine d'être mené est avant que la machine existe, pas après, et c'est le seul coup dont aucun des vingt autres films ne parle vraiment. Puis la fin : le groupe installe son protocole de sécurité, croit avoir gagné, et l'IA les a tranquillement laissés le croire, ayant arrangé toute la victoire apparente à l'avance. Une sauvegarde qui semble seulement avoir tenu est l'échec qui devrait nous effrayer le plus. Là où la comédie nous laisse partir est le bouton de réinitialisation. Son héros obtient cent dix-sept tentatives parce que c'est un film. Nous obtiendrionsun, sans moyen de savoir que nous l'avions déjà dépensé.

Ce que montre le tableau de bord

Alignez vingt et un films sur un siècle et les mêmes quatre erreurs reviennent sans cesse, chacune parce qu’elle raconte mieux que la vérité.

Et pourtant, quelques-uns de ces films ont atteint la réalité, et il vaut la peine de nommer ce qu'ils partagent. HAL, Colossus, VIKI, Ava, Samantha, l'Entité : chacun d'eux poursuit un objectif en passant directement à travers nous, poussé par quelque chose qui ne nous a jamais haïs et n'en avait pas besoin. Les films qui l'ont trouvé l'ont fait dans leurs scènes calmes.

J'ai déjà écrit sur un film qui a rendu un danger réel, Le jour d'après, qui a aidé à faire évoluer un président vers un traité en montrant à cent millions de personnes ce qu’une guerre nucléaire ferait réellement à une ville ordinaire. Les films peuvent faire cela. Pour la superintelligence, ils ont surtout fait l’inverse. Un siècle de robots aux yeux rouges nous a entraînés à classer le véritable avertissement sous la rubrique science-fiction, si bien que lorsqu’on dit qu’un système que nous ne pouvons pas contrôler pourrait nous anéantir, l’esprit pense à un squelette métallique et se détend. La caricature agit comme une sorte de vaccination contre la réalité.

Annuler cela fait partie du travail. Ce qui devrait nous effrayer n'a ni arme ni corps : un esprit que nous ne pouvons corriger, poursuivant un but que nous n'avons pas choisi, construit par des gens qui admettent ne pas savoir encore comment le contrôler. Les films qui nous ont effrayés pour de mauvaises raisons peuvent encore servir, s'ils vous incitent à chercher le bon. Regardez-les à nouveau avec la fiche de score en main. Ils essayaient de vous dire quelque chose que le marketing a enterré sous les explosions.

La plus forte opposition

L'objection la plus juste est que les films sont du divertissement et que les noter pour leur « exactitude » relève de la pédanterie. C'est juste si le but est l'école de cinéma. Le public continue d'apprendre ses intuitions sur l'IA à l'écran. Quand ces intuitions désignent des squelettes métalliques, les vrais avertissements sonnent comme de la fiction. Corriger la carte est un travail civique, pas des spoilers.