Comment le risque lié à l'IA se compare-t-il?
Astéroïdes, guerre nucléaire, pandémies, changement climatique : comment le risque lié à la superintelligence artificielle se compare-t-il aux autres façons dont ce siècle pourrait mal tourner de façon catastrophique ? Voici les estimations du philosophe Toby Ord issues de Le Précipice. Définissez le nombre d'IA selon votre propre avis et observez le classement changer.
…
Ajoutez tout cela et l'estimation globale d'Ord pour une catastrophe existentielle ce siècle est d'environ un sur six, les probabilités d'un seul tour de roulette russe. Les risques anthropogéniques, menés par l'IA, en représentent presque la totalité ; les risques naturels que notre espèce a surmontés pendant 200 000 ans ne sont plus qu'une erreur d'arrondi.
Les estimations proviennent de celles de Toby Ord Le Précipice : Risque existentiel et l'avenir de l'humanité (2020), tableau 6.1, ses meilleures estimations de la probabilité que chaque menace provoque une catastrophe existentielle au cours des cent prochaines années. Ord est philosophe au Future of Humanity Institute d'Oxford et cofondateur du mouvement de l'altruisme efficace.
Ce sont des jugements délibérément approximatifs, à l'ordre de grandeur, pas des mesures. Ord indique qu'ils peuvent être faux d'un facteur de quelques unités. Leur but est de montrer la forme du risque : les plus grandes menaces actuelles sont celles que nous créons nous-mêmes, et l'IA est en tête.
La part liée à l'IA est la seule que vous pouvez modifier ici, car c'est la plus contestée et celle pour laquelle cette fondation existe. Les autres restent fixées aux valeurs d'Ord.