Les Risques de
Superintelligence
Trois catégories de danger, deux estimations de probabilité par des experts, et le compte à rebours mondial officiel.
Désalignement
Une IA optimisant un mauvais objectif, sans aucune malice, mais avec des effets dévastateurs. Un système suffisamment capable poursuivra son but par tous les moyens disponibles, y compris ceux que nous n'avons jamais voulus ni anticipés.
Abus
Une intelligence surhumaine militarisée par des acteurs malveillants : de nouvelles armes biologiques, des cyberattaques autonomes, de la désinformation à l’échelle civilisationnelle, ou la coercition de gouvernements et d’infrastructures critiques.
Concentration du pouvoir
Une seule entreprise, un seul gouvernement ou une seule IA prenant le contrôle sans limites des systèmes mondiaux critiques. Même un acteur bien intentionné doté de ce pouvoir représente une menace existentielle pour la liberté humaine et l'autodétermination.
Probabilité que l'IA cause l'extinction humaine au cours de ce siècle
Geoffrey Hinton Prix Nobel de physique 2024 · ex-VP, Google · 2023Probabilité d'une catastrophe à l'échelle civilisationnelle due à l'IA
Dario Amodei PDG, AnthropicLe plus proche dans les 78 ans d’histoire de l’horloge. Intègre désormais explicitement le risque de l’IA aux côtés de la menace nucléaire.
Bulletin of Atomic Scientists · Janvier 2025
"Je pense que si cette technologie tourne mal, cela peut vraiment mal tourner. Nous voulons en parler ouvertement. Nous voulons travailler avec le gouvernement pour empêcher que cela n'arrive."Sam Altman
CEO, OpenAI
Sénat des États-Unis · 2023
La gouvernance
Écart
La superintelligence est construite dans une course sans ligne d'arrivée. Aucune règle internationale contraignante n'existe pour l'arrêter, ni même la ralentir.
Politiques mondiales d'IA documentées par l'OCDE (2025). La grande majorité sont des lignes directrices non contraignantes et des cadres volontaires. Aucun n'impose de limites contraignantes sur le développement de systèmes d'IA superintelligents.
527× plus de construction que de gouvernance.
L’AI Security Institute du UK (anciennement l’AI Safety Institute) a reçu 100 millions de livres sur deux ans, moins que ce que les plus grands laboratoires d’IA au monde dépensent en une seule semaine. (Chatham House, 2026)
"Nous construisons l'une des technologies les plus transformatrices et potentiellement dangereuses de l'histoire de l'humanité, et pourtant nous semblons incapables d'appuyer sur le bouton pause."Yoshua Bengio
Lauréat du prix Turing
Mila · 2023
Ce que nous avons fait
Ceci avant
Le droit international a déjà maîtrisé des menaces existentielles pour la civilisation. Les précédents sont réels, et ils ont fonctionné.
Traité sur la non-prolifération nucléaire
191 pays l'ont signé. Aucun nouvel État doté de l'arme nucléaire n'est apparu depuis 1998. L'annihilation nucléaire a été évitée pendant plus de 55 ans, et le compte continue. Appliqué par le IAEA avec des inspections contraignantes sur site.
Protocole de Montréal sur l'appauvrissement de l'ozone
Des produits chimiques appauvrissant la couche d’ozone ont été interdits. La couche d’ozone se reconstitue désormais. Largement considéré par les Nations unies comme l’accord environnemental international le plus réussi de l’histoire.
Convention sur les armes chimiques
193 États membres. Plus de 99 % des stocks déclarés d’armes chimiques ont été détruits. Appliqué par OPCW avec des inspections contraignantes sur site dans le monde entier.
Des scientifiques de l'IA ont signé la Déclaration sur les risques de l'IA de 2023, plaçant le risque d'extinction au rang de priorité mondiale « au même titre que les pandémies et la guerre nucléaire ». Parmi les signataires : Hinton, Bengio, Altman et plus de 500 chercheurs.
Center for AI Safety · 2023Les pays ont pris des mesures concrètes pour aborder le risque de sécurité de l'IA, mais la coordination internationale contraignante reste totalement absente.
En 2025"Nous sommes tous dans le même bateau face à la menace existentielle de l'IA, donc nous devrions tous pouvoir coopérer pour essayer de l'arrêter."Geoffrey Hinton
Lauréat Nobel
MIT Technology Review · 2023
Un traité pour
Sauver l'humanité
Le cadre existe dans les précédents. La volonté politique n'existe pas encore. Voici ce qu'un accord international contraignant sur la superintelligence doit contenir.
Surveillance du calcul
Supervision internationale du matériel requis pour entraîner l'IA de pointe. Les exécutions d'entraînement au-dessus d'un seuil défini déclenchent un examen obligatoire par un organe indépendant, modelé sur la surveillance nucléaire de IAEA.
Seuils de développement
Limites de capacité convenues et applicables dans le monde entier. Tout système d'IA dépassant des seuils définis doit s'arrêter pour une certification de sécurité indépendante obligatoire avant tout nouveau scaling ou déploiement.
Mécanismes de vérification
Des inspecteurs internationaux indépendants (analogues aux inspecteurs nucléaires IAEA) réalisent des audits sur site dans les laboratoires d'IA. L'accès ne peut pas être refusé unilatéralement. La conformité est imposée, pas demandée.
Protocoles de réponse aux crises
Des procédures d'urgence préalablement convenues s'activent dès que des signes de désalignement ou d'émergence de capacités dangereuses sont détectés. Aucun pays ni aucune entreprise ne peut bloquer ou retarder une réponse internationale.
Gouvernance multilatérale démocratique
Aucune entreprise, aucun gouvernement ni aucun individu ne contrôle l’organe du traité. La supervision s’exerce par consensus multilatéral, empêchant à la fois une prise de pouvoir par l’IA et la capture par une seule nation.
NPT → IAEA
Contraignant depuis 1968 · 191 nations · Autorité d’inspection sur site
CWC → OPCW
En vigueur depuis 1997 · 193 nations · 99 % des stocks détruits
BWC
Contraignant depuis 1975 · 183 nations · Nécessite un protocole de vérification
« Nous avons besoin d'une « organisation internationale de défense de l'humanité » pour gérer les risques liés à une IA dangereuse, avant qu'il ne soit trop tard pour agir. »Yoshua Bengio
Lauréat du prix Turing
2023