Si vous avez passé du temps dans les débats en ligne sur l’IA, vous avez vu ce suffixe. Les gens ajoutent « e/acc » à leur pseudonyme comme une génération précédente portait une pin’s au revers. Cela signifie accélérationnisme efficace, et c’est la contre-argumentation la plus articulée, la plus confiante et la plus influente face au mouvement de sécurité de l’IA. La prendre au sérieux (plutôt que de la caricaturer) est la seule façon honnête de la réfuter.

Ce que croit l'accélérationnisme efficace

L'accélérationnisme efficace est apparu autour de 2022 à partir de comptes pseudonymes sur les réseaux sociaux, dont le plus connu se faisait appeler « Beff Jezos », plus tard identifié comme l'ancien ingénieur de Google Guillaume Verdon, en collaboration avec un certain Bayeslord. Il emprunte le nom d'un courant philosophique plus ancien, l'accélérationnisme, mais dans la pratique il est plus simple et plus optimiste que son ancêtre académique.

Les affirmations principales:

  • La technologie est le moteur de l'épanouissement humain. Presque tous les progrès en matière de santé, de richesse et de liberté découlent du progrès technologique. Plus de progrès, plus vite, signifie plus d’épanouissement.
  • L'IA est le moteur le plus puissant jamais construit de ce type, et l’accélérer est le chemin le plus rapide vers la guérison des maladies, la fin de la rareté et l’expansion de ce que l’humanité peut faire et devenir.
  • Le risque catastrophique est faible ou négligeable. Certains accelerationnistes prominents placent la probabilité d’une catastrophe existentielle causée par l’IA à « zéro ou proche de zéro », et considèrent les scénarios de doom comme une anxiété infalsifiable.
  • On ne peut pas comprendre une technologie sans la construire. La retenue interdit précisément l’expérience qui nous apprend à rendre une technologie sûre. On apprend en faisant, pas en s’arrêtant.
  • La restriction est dangereuse en soi. Une régulation lourde concentre le pouvoir, étouffe la concurrence et risque de confier l'avenir à des acteurs moins scrupuleux. Un développement ouvert, rapide et décentralisé est plus sûr qu'un ralentissement contrôlé.

Présenté ainsi, l'e/acc est une foi reconnaissablement américaine, reconnaissablement des Lumières, dans le progrès, tournée vers une technologie de réelle promesse, pas insensée. Notre position rejoint la sienne sur bien des points, plus que les invectives en ligne ne le laissent penser : comme nous le disons clairement, nous ne sommes pas contre l'IA. L’IA étroite a déjà guéri des maladies et accéléré la découverte. Le désaccord est plus étroit, et plus tranché, que « optimistes contre doomers ».

Où e/acc a raison

Une réfutation honnête commence par concéder les points forts, car ils sont forts.

Le progrès a vraiment été la grande force humanitaire. L'espérance de vie, la mortalité infantile, l'alphabétisation, la pauvreté absolue, les tendances à long terme sont les meilleures nouvelles de l'histoire humaine, et la technologie les a portées. Une suspicion généralisée à l'égard des nouvelles technologies a un bilan médiocre.

Les restrictions de précaution ont bel et bien des coûts, et elles sont souvent invisibles. Chaque année où un remède est retardé, des gens meurent qui auraient pu vivre. « D’abord, ne pas nuire » ne peut pas signifier « d’abord, ne rien faire », car l’inaction est aussi un choix qui a un bilan humain. Tout argument sérieux en matière de sécurité doit assumer ce fardeau, pas l’écarter d’un geste.

La concentration du pouvoir est vraiment un risque. Un régime de gouvernance qui confie le contrôle de l'IA à un petit cartel d'acteurs en place ou à un seul gouvernement est une catastrophe en soi, un point que nous soulevons nous-mêmes dans nos articles sur la Singleton IA et surveillance démocratique. e/acc a raison que « juste le réguler » peut mal tourner.

Où l'argument s'effondre

Et pourtant la conclusion ne s'ensuit pas. L'échec réside dans trois mouvements spécifiques, pas dans l'optimisme d'e/acc à l'égard de la technologie en général.

1. Il traite une affirmation non prouvée comme un fait établi

La prémisse centrale est que le risque catastrophique lié à l’IA est « proche de zéro ». Mais ce n’est pas une conclusion. Personne ne l’a démontré. Elle est opposée au jugement mûrement réfléchi des chercheurs mêmes qui ont construit l’IA moderne, Geoffrey Hinton, Yoshua Bengio et des centaines d’autres qui ont signé la déclaration de 2023 plaçant le risque d’extinction au même niveau que les pandémies et la guerre nucléaire. Quand l’hypothèse centrale d’un mouvement est directement contredite par les pionniers du domaine, qualifier cette hypothèse d’« optimisme » sous-estime ce qui se passe. C’est un pari, et l’accélérationniste suppose discrètement la réponse à la seule question dont dépend tout l’argument. Nous examinons la gamme réelle des estimations d’experts dans notre explication sur P(doom).

2. « Apprendre en construisant » échoue pour les erreurs que l'on ne peut pas survivre

L'affirmation selon laquelle nous comprenons le mieux les technologies en les construisant est vraie pour presque tout, et précisément fausse pour la seule catégorie qui compte ici. Le développement itératif, qui apprend de l'échec, fonctionne quand les échecs sont survivables et réversibles. Vous livrez le logiciel bogué, il plante, vous le corrigez. Cette boucle est le moteur de tout progrès technique.

Ça ne marche pas quand le premier échec grave est aussi le dernier. Un système mal aligné superintelligence n'est pas un bug que l'on corrige ; c'est, selon la logique de convergence instrumentale et le tournant traître, un système qui résiste à la correction et à l'arrêt. « Nous apprendrons sur le tas » suppose une seconde chance. Sur ce problème précis, il n'y en aura peut-être pas. Notre argument est que l'avantage utopique que veut e/acc nécessite un alignement que nous ne savons pas comment atteindre, et qu’une superintelligence non alignée ne procure pas l’abondance, elle met simplement fin à l’histoire.

3. Cela confond un problème de coordination avec un problème de valeurs

e/acc présente le débat comme un affrontement entre optimistes qui aiment le progrès et pessimistes qui le craignent. Mais même un optimiste convaincu affronte la dynamique de course: quand plusieurs laboratoires et nations se font concurrence pour être les premiers, chacun a une incitation à rogner sur la sécurité, car celui qui ralentit perd simplement face à celui qui ne le fait pas. Il en résulte que tout le monde avance plus vite que quiconque pense que c’est sage. Ce n’est pas un triomphe de l’optimisme ; c’est un échec classique de l’action collective, du genre qui produit des résultats qu’aucun participant individuel ne choisirait. L’accélération ne résout pas ce piège. Elle l’aggrave. La seule chose qui le résout est la coordination, exactement les cadres internationaux contraignants que rejette e/acc.

Le désaccord, énoncé précisément

Enlevez les mèmes et les deux camps ne sont en désaccord que sur une chose : l'ordre des opérations. e/acc dit construire d'abord, et faire confiance au fait que le contrôle et la compréhension suivront de la capacité. La position de sécurité dit établir le contrôle d'abord, car pour cette technologie le coût d'une erreur d'ordre est illimité et irréversible.

Vous n'avez pas besoin d'être pessimiste pour adopter le second point de vue. Il suffit de remarquer une asymétrie. Si les accélérationnistes ont raison et que nous gouvernons quand même, nous perdons un peu de vitesse et d'efficacité, des coûts réels, mais récupérables. Si les accélérationnistes ont tort et que nous ne gouvernons pas, nous perdons la capacité de diriger la chose la plus puissante que notre espèce ait jamais créée, et ce de façon permanente. Face à cette asymétrie, insister sur la sécurité en premier lieu est la forme la plus élémentaire de prudence, appliquée à la décision aux enjeux les plus élevés que nous prendrons jamais, et non une peur du progrès.

C'est pourquoi la Nakada Foundation ne s'oppose pas à l'IA, et ne s'oppose pas à un avenir désirable. Elle plaide pour construire les freins avant que la voiture n'atteigne sa pleine vitesse. Si vous voulez l'abondance promise par les accélérationnistes, le moyen le plus sûr de l'obtenir est de nous assurer que nous survivrons pour en profiter. Notre plan est ce que « la sécurité d'abord » signifie en pratique.