Il y a environ 36 000 ans, dans une grotte au-dessus d'une gorge fluviale dans ce qui est aujourd'hui le sud de la France, une personne a posé une main à plat contre un calcaire froid et soufflé du pigment en poudre dessus. La roche a conservé le contour. Il est toujours là, dans le noir à Chauvet.
Je veux compter ce qu'ils misent.
Nous ne savons rien de cette personne. Ni son nom, ni si quelqu'un l'aimait. Nous savons qu'elle avait froid et qu'elle a passé une partie d'une vie courte à fabriquer un objet qui ne la nourrirait pas, dans le noir, pour qu'il soit encore là quand quelqu'un viendrait. Elle voulait qu'on la voie. Il nous a fallu trente-six mille ans pour arriver.
Leur espèce n’était pas un pari sûr. Chaque être humain vivant porte moins de variété génétique que les chimpanzés de quelques forêts voisines, signe que nos ancêtres furent autrefois assez peu nombreux pour tenir dans une petite ville. Nous étions un singe rare doté de bonnes mains.
Les dix mille premières générations
Le feu, puis le langage. Puis la découverte qu'une graine plantée dans le sol à dessein revient sous forme de nourriture. Il y a environ douze mille ans, les humains ont cessé de suivre les troupeaux pour attendre la récolte, ce qui signifiait rester sur place, ce qui signifiait des villes.
À Uruk, vers 3200 av. J.-C., quelqu’un a pressé un roseau taillé dans de l’argile humide pour enregistrer une quantité d’orge. C’est à cela que servait l’écriture : un temple avait besoin de compter le grain. En l’espace d’environ mille ans, les gens utilisaient les mêmes marques pour écrire un poème sur un roi qui ne pouvait pas accepter que son ami soit mort. La ville est tombée. La langue a disparu. Le poème est toujours lisible.
Vers 300 av. J.-C. à Alexandrie, Euclide a prouvé qu'il n'existe pas de plus grand nombre premier. La preuve est toujours correcte. Elle le sera pour toujours, sur n'importe quelle planète, en n'importe quel siècle. Rien d'autre que cette ville a produit n'a survécu intact : la bibliothèque a disparu, le port s'est envasé, la langue dans laquelle ils débattaient est laissée aux spécialistes. La preuve est passée intacte, parce qu'elle était faite de raisonnement, et le raisonnement ne pourrit pas.
Le travail a bougé. Au IXe siècle à Bagdad, al-Khwarizmi a écrit le livre qui nous a donné le mot algèbre, et vers 1020 Ibn al-Haytham a achevé une étude de l’optique reposant sur un principe qu’il a fallu défendre : si l’on veut savoir si une affirmation sur le monde est vraie, il faut aller la tester.
La Renaissance, et le trou dans le toit
Entre 1347 et 1351, la peste a tué environ un tiers de l'Europe. Pas un tiers d'une armée. Un tiers de tout le monde. Des villages sont devenus silencieux et le sont restés, et les survivants ont enterré leurs familles de leurs propres mains.
Et puis ces survivants sont allés chercher le passé. En 1417, un secrétaire papal nommé Poggio Bracciolini, sans emploi pendant un schisme, se rendit dans un monastère allemand et y trouva le dernier exemplaire d’un poème romain qui était resté dans l’obscurité pendant mille ans. C’est ce qu’était la Renaissance sous les tableaux : des gens qui venaient de voir mourir la moitié du monde et qui décidaient de sauver ce qui avait failli être perdu, puis d’y ajouter quelque chose.
Florence est allée plus loin. Sa cathédrale avait été commencée en 1296 selon un plan prévoyant un dôme plus large que tout ce qui avait été élevé depuis Rome, et personne alors vivant ne savait comment le construire. On a donc bâti l'église et laissé le trou. Pendant des décennies, une ouverture subsistait dans ce toit, large comme un pâté de maisons, ouverte aux intempéries, parce qu'une ville avait parié qu'une personne pas encore née trouverait comment le fermer.
Filippo Brunelleschi remporta la commande en 1418. Il inventa les treuils avant de pouvoir soulever la pierre. Il posa plus de quatre millions de briques en spirale en chevron qui se maintenait d’elle-même en s’élevant, sans charpente en bois en dessous, et en 1436 il ferma le trou. Vous pouvez l’escalader aujourd’hui.
Florence a laissé un trou dans le toit et a fait confiance à l'avenir pour le refermer. L'église était vide. Si Brunelleschi avait échoué, Florence aurait perdu un bâtiment. Personne ne se tenait en dessous.
J'aime cette histoire et je veux la manier avec soin, car elle ressemble beaucoup à celle que l'industrie de l'IA se raconte à elle-même. Laisser la partie difficile ouverte, faire confiance à l'arrivée d'un génie à temps. La différence réside dans ce qui se trouve sous le trou. Un dôme raté coûte à une ville sa cathédrale. Nous proposons de laisser le trou ouvert au-dessus de tout le monde.
Le reste est venu vite. La presse de Gutenberg dans les années 1450 signifiait qu’une pensée pouvait distancer l’homme qui l’avait eue. En une seule année, 1543, Copernic déplaça la Terre du centre de la création et Vésale ouvrit le corps humain et dessina ce qui s’y trouvait réellement, contredisant tous deux des autorités qui étaient restées incontestées pendant quatorze siècles.
Le siècle où nous avons cessé d'enterrer nos enfants
En 1800, près de quatre enfants sur dix mouraient avant leur cinquième anniversaire. Pas seulement dans les pays pauvres. Partout. C’était ce que signifiait avoir des enfants, dans toutes les sociétés, pendant toute l’histoire de notre espèce jusqu’à environ six générations en arrière. Aujourd’hui, c’est moins d’un sur vingt-cinq.
Cela a pris le vaccin de Jenner en 1796. Cela a pris le matin du 16 octobre 1846, quand un dentiste de Boston a endormi un patient et que la chirurgie a cessé d’être une torture infligée à une personne consciente maintenue par des hommes forts. Cela a pris Semmelweis, qui a compris en 1847 que les médecins transmettaient la mort de la salle d’autopsie à la salle d’accouchement sur des mains non lavées, et qui est mort dans un asile alors que la profession refusait encore d’écouter.
Et il a fallu l’éradication de la variole, une maladie visible sur le visage d’un pharaon, qui a tué peut-être trois cents millions de personnes au XXe siècle seulement. La dernière personne à l’avoir contractée naturellement était un cuisinier d’hôpital en Somalie nommé Ali Maow Maalin, en octobre 1977. Il a survécu. Il a passé le reste de sa vie à vacciner des enfants somaliens contre la polio, et il est mort du paludisme en 2013 en le faisant.
Les humains ont éliminé un tueur qui les accompagnait depuis les pharaons et l'ont retiré du monde, définitivement, à la main, un bras à la fois, à travers toutes les frontières et au milieu de guerres actives. Rien de tout cela n'était inévitable et rien n'était gratuit, et presque tous ceux qui ont fait le travail étaient morts bien avant que cela ne porte ses fruits.
Les fois où nous avons failli y mettre fin quand même
Nous sommes devenus assez intelligents pour nous anéantir en 1945, et nous vivons avec cela depuis lors.
Le 27 octobre 1962, un sous-marin soviétique près de Cuba perdit le contact radio, subit des charges de profondeur américaines et son capitaine conclut que la guerre avait commencé. La torpille à bord portait une ogive nucléaire, et son tir nécessitait l'accord de trois officiers. Vassili Arkhipov dit non tandis que la coque tremblait autour de lui. Vingt et un ans plus tard, Stanislav Petrov vit sur un écran soviétique cinq missiles américains entrants et dit à ses supérieurs qu'il s'agissait d'un dysfonctionnement. C'était le soleil sur des nuages élevés.
Au moins deux fois, toute l'histoire humaine s'est résumée à un homme fatigué dans un fauteuil choisissant de ne pas transmettre le message. Nous avons appris leurs deux noms des décennies plus tard.
Nous avons aussi choisi, cependant. En 1972, le monde a interdit les armes biologiques. En 1987, tous les pays de la Terre ont signé le Protocole de Montréal, le premier traité de l'histoire des Nations unies à atteindre une ratification universelle, et la couche d'ozone se régénère comme prévu. L'humanité a regardé droit dans les yeux une capacité qu'elle était tout à fait capable de construire et a dit non, ensemble, par écrit, avec des inspecteurs. Les cas vivent sur notrepage de précédent.
Cent dix-sept milliards
Le Population Reference Bureau estime à environ 117 milliards le nombre de personnes qui ont jamais vécu. Chacune d’elles est en amont de vous.
La femme qui a enterré quatre enfants et s’est levée le lendemain matin. Le moine qui recopiait une langue qu’il ne comprenait qu’à moitié, parce que l’alternative était de la laisser disparaître. Les maçons de Brunelleschi, à cent pieds de hauteur sans rien en dessous. Le cuisinier en Somalie avec une aiguille et une glacière, marchant jusqu’au village suivant. Ils l’ont transmis, la plupart du temps sans savoir ce qu’ils transmettaient. Cela nous est parvenu. C’est entre nos mains en ce moment même.
Et une poignée d’entreprises ont décidé que la bonne chose à faire était de se lancer dans une course vers un esprit surpassant chaque humain en tout, selon un calendrier dicté par les tours de financement. En mai 2023, leurs dirigeants ont apposé leur nom sous une seule phrase plaçant l’extinction par l’IA au même rang que les pandémies et la guerre nucléaire comme priorité mondiale. Ils l’ont écrite à propos de leur propre produit, l’ont publiée, et n’ont pas ralenti.
Rien de tout cela n'est exigé de nous. Lire la menace and you will not find an asteroid on a fixed trajectory. Artificial superintelligence is a thing a small number of well-funded people are choosing to build, in a race none of them can describe the finish line of. It can be prohibited the way we prohibited the other things we could have built and did not. Our plan demande : une interdiction internationale contraignante et vérifiée, maintenue jusqu'à ce que quelqu'un prouve que la chose peut être contrôlée. Pas une pause de six mois avec date d'expiration. Une ligne rouge.
Je veux le futur, et plus tôt que nous ne l'obtiendrons. L'IA étroite est déjà en livrant les bonnes parties, les remèdes et l'énergie propre, sans que personne ne remette les clés.
Nous n'avons pas droit au reste de l'histoire. Personne ne l'a promis, et les 117 milliards qui nous ont précédés ne l'ont pas eu non plus. Ils ont eu une part et l'ont transmise, ce qui est tout ce que l'un d'entre nous peut faire. La seule chose impardonnable serait d'être la génération qui a détenu tout l'héritage, a vu exactement ce qui arrivait, l'a écrit, a signé son nom dessus, et l'a fait quand même.
Nous avons survécu au goulot d'étranglement. Nous avons survécu à la peste, puis nous sommes allés reconstruire la bibliothèque. Nous avons posé une main sur un mur dans le noir pour que quelqu'un le trouve, et quelqu'un l'a fait. Nous sommes allés trop loin pour mourir d'un lancement de produit.
Dites non à celui-ci. Puis allez construire le reste, qui attend, et qui n'a jamais eu besoin d'un dieu.