Document de référence · 2026
Le consensus scientifique
sur les Risques de l'IA
Les personnes qui ont construit l'intelligence artificielle nous avertissent. Voici ce qu'elles ont dit, et qui elles sont.
« Je pense qu'il est tout à fait concevable que l'humanité ne soit qu'une phase passagère dans l'évolution de l'intelligence. »Geoffrey Hinton Prix Nobel de physique 2024 · Prix Turing 2018
Ancien VP & Engineering Fellow, Google · 2023
« Je me sens perdu quant à ce que nous devrions faire pour que les choses aillent bien, face aux forces puissantes qui nous poussent vers un déploiement accéléré de l’IA sans garanties suffisantes. »Yoshua Bengio Prix Nobel de physique 2024 · Prix Turing 2018
Directeur scientifique, Mila · 2023
« Le modèle standard de l'IA, où l'on définit un objectif et où l'IA l'optimise, va probablement nous conduire à notre perte. »Stuart Russell Professeur d'informatique, UC Berkeley
Co-auteur, manuel standard d'IA
« Je suis de plus en plus convaincu que ce problème pourrait être le plus important de notre siècle, que la sécurité de l'IA soit résolvable ou non, et selon quel calendrier. »Ilya Sutskever Co-fondateur, OpenAI · Chercheur en chef 2015-2024
L'un des architectes de l'apprentissage profond moderne
"Nous construisons l'une des technologies les plus transformatrices et potentiellement dangereuses de l'histoire de l'humanité, et pourtant nous semblons incapables d'appuyer sur le bouton pause."Yoshua Bengio Nobel Laureate · Mila · 2023
"La sécurité de l'IA est plus importante que le changement climatique."Geoffrey Hinton Lauréat Nobel · Ancien Google
Déclaration de la plateforme mondiale, 2024
Chronologie des avertissements experts croissants
2014
Nick Bostrom publie Superintelligence, la première analyse académique rigoureuse du risque existentiel lié à l’intelligence artificielle superintelligente. Philosophe à Oxford. Cité par Elon Musk et Bill Gates comme lecture essentielle.
2018
Hinton, Bengio et LeCun reçoivent le prix Turing pour avoir fondé l’apprentissage profond moderne. Les trois expriment ensuite des préoccupations de sécurité concernant la technologie qu’ils ont créée.
2023
Le Center for AI Safety publie sa déclaration sur le risque d’extinction. Plus de 500 scientifiques la signent. Parallèlement, la lettre ouverte du Future of Life Institute appelant à une pause dans le développement recueille plus de 33 000 signatures, dont des lauréats du prix Turing.
2024
Hinton et Bengio reçoivent le prix Nobel de physique. Tous deux utilisent explicitement cette tribune mondiale pour amplifier les avertissements sur la sécurité de l’IA. Hinton affirme que la sécurité est désormais « plus importante que le changement climatique ».