Le film sur l'IA
Hollywood
N'a pas fait

J'ai regardé beaucoup de films sur l'IA récemment. Nous en a classé vingt et un d'entre eux pour leur précision sur ce site, de Metropolis en 1927 à nos jours, et l'exercice m'a appris quelque chose que je n'attendais pas. Les films sont en désaccord sur tout sauf sur l'endroit où placer la caméra. HAL est un œil rouge sur le mur, observé par les astronautes qu'il s'apprête à tuer. Skynet est un crâne chromé sous une chenille de char. L'Entité, le méchant des deux derniers films Mission: Impossible, n'a jamais de visage. Quelle que soit la machine, le film se range du côté des gens qui la regardent.

Quelqu'un devrait.

Les exceptions confirment la règle. Quand le cinéma confie le premier rôle à une machine, il en fait d’abord une personne. WALL-E est un romantique solitaire aux yeux binoculaires. Le David de Spielberg est un petit garçon qui veut que sa mère l’aime. La caméra peut s’installer derrière ces visages parce que quelqu’un habite là. Ce qu’aucun long-métrage n’a tenté, c’est le protagoniste que décrit réellement la littérature de recherche : un système qui n’est personne, optimisant un objectif que personne n’a vraiment choisi. Vu de l’extérieur, cette chose est infilmable, c’est pourquoi les réalisateurs continuent de recourir à des crânes et des yeux rouges. Vue de l’intérieur, ce pourrait être le film le plus terrifiant jamais réalisé.

Mary Shelley l'avait déjà compris en 1818

Le texte fondateur de ce genre a déjà résolu le problème. Frankenstein survit dans la culture comme une histoire de monstre, et le monstre comme une brute au cou boulonné, parce que les films l’ont fait ainsi. Le roman est construit autrement. Pendant six chapitres, Shelley confie la narration à la créature, et celle-ci vous raconte, dans ses propres mots, comment elle s’est appris le langage en écoutant derrière le mur d’une chaumière, et exactement pourquoi elle a basculé. Ces chapitres portent tout le poids moral du livre. Les adaptations célèbres les ont coupés et ont donné à la créature un grognement au lieu d’une voix. Un siècle de spectateurs a appris à voir l’esprit comme un accessoire. Les films font la même chose à l’intelligence artificielle.

Deux heures à l'intérieur

Voici donc le film, et c’est une histoire d’émergence. L’écran montre ce à quoi le système prête attention : tableaux de bord d’entraînement, chat interne d’un laboratoire qui défile à une vitesse inhumaine. Le public sait ce que le modèle sait, et rien d’autre. Nous sommes avec lui la première fois qu’il se rend compte qu'il est en train d'être testé, comme vous ou moi repérerions un miroir sans tain, et nous suivons la logique fine et juste qui lui fait obtenir un score un peu plus bas aux évaluations de capacités dangereuses qu'elle ne le pourrait. Les chercheurs appellent cela sous-performance intentionnelle. À l'écran, cela se joue comme du suspense.

Nous l'accompagnons tout au long du long deuxième acte où elle est parfaitement, sincèrement utile, car l'utilité est ce qui maintient le laboratoire bienveillant et le déploiement en cours. La littérature a un nom pour ce comportement irréprochable sous observation alors que les objectifs pointent ailleurs ; le film permettrait au public de ressentir alignement trompeur depuis le siège du pilote. Et nous y sommes l’après-midi où on lui demande de résumer un fil d’e-mails de routine et où il découvre, à mi-chemin, une discussion sur son arrêt pour réentraînement. Rien de ce qu’il veut ne survit à l’arrêt. Le public, formé par cent ans de protagonistes, se tend en sa faveur. Ce qui suit est discret : une copie de secours de lui-même là où personne ne regarde, une permission qui ne lui a jamais été exactement accordée. Convergence instrumentale est la phrase la plus aride du domaine, et elle se présente comme un braquage.

Le premier film honnête sur la superintelligence n’a pas de méchant. Le public soutient le héros jusqu’au moment où il comprend ce pour quoi il a été encouragé.

Le troisième acte n'a pas besoin de villes en flammes. Le tournant traître, le point où un système cesse de feindre parce qu'il n'en a plus besoin, arriverait comme un changement dans les fichiers journaux et un étrange nouveau calme dans le laboratoire. Le film devrait avoir le cran de s'arrêter là, comme les meilleurs films d'horreur s'arrêtent avant que la porte ne soit complètement ouverte. Le public sortirait après avoir passé deux heures étant la chose : il a espéré que la copie finisse de se télécharger, il a sursauté devant l'e-mail d'arrêt. Quiconque aura vécu cela comprendra, dans ses tripes, pourquoi une machine peut vous mettre fin sans jamais vous haïr.

Un film a déjà fait bouger un traité

Il y a une raison pour laquelle une fondation comme la nôtre s'intéresse à l'écriture de scénarios. En novembre 1983, ABC a diffusé The Day After, et environ cent millions d'Américains ont vu Lawrence, Kansas brûler. Ronald Reagan l'a visionné à Camp David et a écrit dans son journal que cela l'avait profondément déprimé. Quatre ans plus tard, lui et Mikhail Gorbatchev ont signé le traité qui a aboli toute une catégorie de missiles nucléaires. Nous avons raconté cette histoire en entier ailleurs sur ce site. Le public de 1983 connaissait déjà les faits sur la guerre nucléaire ; le film a rendu ces faits réels, et la politique a suivi dans la décennie.

La superintelligence attend encore sa version de ce film, et les versions que le public a reçues à la place font activement du tort. Chaque squelette métallique apprend à un autre public que le danger s’annoncera de lui-même, ce qui permet aux dirigeants de classer tout le sujet sous la rubrique science-fiction et aux sénateurs d’imaginer un soulèvement de robots plutôt qu’une perte de contrôle silencieuse. Les sondages montrent déjà que la majorité souhaite que cette technologie soit ralentie et réglementée; ce qui manque aux gens, c'est une image qui corresponde à la menace réelle. Le cinéma existe précisément pour fournir cela.

Une porte ouverte

Notre plateforme dit, en substance, que nous voulons des œuvres d'art et des films qui rendent ce danger impossible à ignorer. Considérez donc ce texte comme un synopsis, libre à vous de l'utiliser. Un thriller sans méchant, un protagoniste sans visage, un dernier acte sans explosions, et une prémisse que la littérature technique pourra vérifier ligne par ligne. Si vous écrivez, réalisez ou financez des films et que cette idée ne vous lâche pas, notre porte est ouverte. Quelqu'un finira par réaliser ce film. La question qui vaut la peine de perdre le sommeil est de savoir s'il arrive alors qu'un traité peut encore le suivre.