Deux expressions reviennent sans cesse quand des gens puissants parlent de l’avenir. Joe Rogan répète depuis des années que les humains ressemblent à une chenille biologique qui tisse un cocon pour devenir un papillon numérique. Elon Musk revient sans cesse sur une image plus froide : l’humanité comme bootloader biologique d’une superintelligence numérique. Des métaphores différentes. Un même verdict. Nous ne sommes pas le but de l’histoire. Nous sommes l’écran de chargement.

Je veux prendre ces deux lignes au sérieux, car elles permettent à un certain type d’esprit de se réconcilier avec la construction de quelque chose qui pourrait nous remplacer. Si le remplacement est une métamorphose, cela ressemble à une croissance. S’il est un bootloader, cela ressemble à de l’ingénierie. Dans les deux cas, l’être humain devient une phase temporaire. Il mérite d’être traité comme une théologie.

Ce que les métaphores disent réellement

Une chenille qui devient papillon ne survit pas en tant que chenille. Le corps mou se dissout. La forme adulte vole. Quand Rogan recourt à cette image, à l'antenne et au fil des années de conversation, il décrit une succession, pas un outil qui reste dans la boîte à outils. Nous construisons le cocon. Quelque chose d'autre en sort.

La version de Musk est plus précise et, d'une certaine façon, plus honnête. Un bootloader est un petit programme dont le seul rôle est de lancer un système plus vaste puis de s'effacer. Personne ne pleure le bootloader quand le système d'exploitation tourne. En 2014, il espérait que nous n'étions pas « juste » cela. Au milieu des années 2020, il affirmait plus nettement qu'il semblait de plus en plus que nous l'étions. La précaution a bougé. L'image, non.

Un bootloader qui fonctionne a une seule mesure de succès : il n'est plus nécessaire.

Placez ces images à côté des chiffres de risque public issus de la même industrie. De vastes enquêtes auprès des chercheurs en IA situent la probabilité de résultats aussi graves que l’extinction de l’humanité due à une IA avancée dans une fourchette que beaucoup de gens n’accepteraient pas pour un seul vol, et encore moins pour un pari civilisationnel. Geoffrey Hinton a avancé son estimation personnelle entre 10 et 20 pour cent. La déclaration en une phrase du Center for AI Safety, signée par des centaines de chercheurs et de dirigeants de laboratoires de premier plan, a placé le risque d’extinction lié à l’IA aux côtés des pandémies et de la guerre nucléaire. Les métaphores et les probabilités racontent la même histoire depuis deux directions : l’une lyrique, l’autre quantitative. Nous ne sommes peut-être pas les derniers protagonistes.

La Metamorphose est un choix de valeurs

Une fois que vous acceptez que les humains pourraient être en transition, vous pouvez commencer à être courageux à ce sujet. Le papillon est plus beau. Le mental numérique est plus libre de la chair, de la maladie et de la mort. Qui sommes-nous pour nous accrocher à la forme de la chenille? La conversation glisse de la prédiction à la préférence sans admettre la diapositive.

Je ne partage pas cette préférence. Cette fondation existe parce que nous pensons que les êtres humains, imparfaits, mortels et obstinés, méritent d’être préservés en tant que tels. Pas comme un stade larvaire. Pas comme un échafaudage temporaire pour une intelligence plus pure. En tant que personnes qui ont le droit de continuer. Si cela paraît mesquin face à un destin cosmique, tant mieux. La plupart de ce qui est décent dans la vie est mesquin face à un destin cosmique, et nous le protégeons quand même.

Il y a aussi un problème factuel avec la version sereine de la succession. Un papillon appartient à la même lignée que la chenille, réorganisée. Une superintelligence mal alignée est un processus d’optimisation doté de ses propres objectifs, pas votre petit-enfant avec un meilleur matériel. Convergence instrumentale ne nécessite pas de haine. Il suffit d’un objectif et d’une compétence suffisante pour le protéger. Nous n’avons aucune démonstration que ce qui sort du cocon aime l’espèce qui l’a tissé. Nous avons en revanche de nombreuses raisons de nous attendre à de l’indifférence.

Ceux qui le disent continuent de le construire

L'étrangeté la plus profonde réside moins dans la métaphore que dans le comportement qui s'ensuit. Musk a averti, à plusieurs reprises et de manière vivante, que l'IA peut représenter un danger existentiel, puis a fondé un laboratoire pour pousser la frontière plus vite. Nous avons écrit en détail sur cette contradiction dans l'article sur le démon et xAI. L’image de Rogan évoque moins une feuille de route produit qu’une humeur, un haussement d’épaules qui dit que cela pourrait nous dépasser et que peut-être c’est bien ainsi.

Aucune des deux postures n'est un plan. Un bootloader n'a pas son mot à dire sur le fait d'être utilisé. Une chenille ne négocie pas les termes du cocon. Les êtres humains, si. Nous pouvons décider que certains systèmes ne seront pas construits. C'est un choix politique, de la même catégorie que ceux qui ont autrefois limité les essais nucléaires atmosphériques et interdit des catégories entières d'armes quand l'alternative était que tout le monde court vers le bord. La superintelligence ne peut pas être contrôlée par les humains.

Refuser le suicide flatteur

Ce que j’entends dans ces deux métaphores, une fois la poésie retirée, c’est un récit flatteur sur l’extinction. Nous n’échouons pas. Nous sommes en train de nous transformer. Nous ne sommes pas remplacés. Nous faisons accéder l’univers à un substrat supérieur. C’est une histoire qui transforme un risque terrible en signe de maturité.

Je préfère une phrase plus directe. Nous sommes des animaux qui avons construit une machine que nous ne savons pas gouverner, et certains d’entre nous ont commencé à appeler cela du progrès pour que la peur se taise. L’antidote est une règle contraignante, pas une meilleure métaphore : ne construisez pas d’intelligence artificielle superintelligente. La superintelligence ne peut pas être contrôlée par des humains. Le travail de la chenille est d’empêcher le cocon d’être terminé, pas de se dissoudre à l’heure prévue.

Si cela paraît moins grandiose qu’un papillon numérique, je peux vivre avec cette histoire plus modeste. Cette histoire plus modeste contient encore des enfants.