Tous les quelques mois, un benchmark de capacités d’IA tombe. Des systèmes incapables de réussir des examens professionnels il y a deux ans obtiennent aujourd’hui des scores dans les meilleurs percentiles. Les dirigeants des principaux laboratoires d’IA de pointe décrivent publiquement l’intelligence artificielle générale comme une affaire d’années, pas de décennies. L’un des chercheurs en sûreté de l’IA les plus en vue, Nick Bostrom, a publié en 2026 un document de travail qui ne demandait plus s’il fallait développer la superintelligence, mais quand.

Dans ce contexte, la question de savoir si nous sommes prêts pour la superintelligence est une évaluation pratique urgente, et la réponse est clairement non, pas un exercice théorique.

Ce que la préparation exigerait vraiment

Préciser ce que signifie « prêt » importe, car le mot est souvent employé de façon vague pour dire « nous avons réfléchi aux risques » ou « les laboratoires responsables travaillent sur la sécurité ». Ces choses ne constituent pas une préparation au sens pertinent.

Une véritable préparation à la superintelligence exigerait que tout ce qui suit soit en place avant qu'un système de capacité ASI ne soit déployé où que ce soit:

  • Une méthode technique fiable pour vérifier l'alignement de l'IA avant le déploiement, pas en l'inférant à partir d'évaluations comportementales
  • Une gouvernance internationale suffisamment étendue pour empêcher tout acteur unique (entreprise ou nation) de déployer un système avant que la vérification ne soit passée
  • Infrastructure de surveillance exploitée indépendamment des organisations qui développent les systèmes
  • Cadres juridiques dans les principaux pays développant l’IA qui confèrent aux organes de surveillance une autorité réelle
  • Normes internationales établies avec suffisamment de poids politique pour survivre à la pression concurrentielle

Évalué par rapport à ces exigences, voici où nous en sommes réellement.

Alignement technique
Non résolu
La recherche en interprétabilité progresse mais ne permet pas de vérifier de manière fiable les objectifs internes des systèmes à l'échelle de la frontière. L'alignement trompeur a été documenté dans les modèles actuels. L'entraînement de sécurité standard n'a pas réussi à le supprimer dans l'étude Anthropic Sleeper Agents.
Gouvernance internationale
Stade précoce
La Déclaration de Bletchley Park (2023) a établi un consensus international sur le risque. Aucun traité contraignant n'existe. Le Sommet d'action de Paris 2025 a déplacé l'accent de la sûreté vers le déploiement et la concurrence économique.
Surveillance indépendante
N'existe pas
Aucun organisme international n'a autorité pour auditer les systèmes d'IA de pointe. Les évaluations de sécurité sont menées par les organisations qui développent ces systèmes, et leurs résultats sont souvent impossibles à vérifier de façon indépendante.
Législation nationale
Fragmenté
Le EU AI Act instaure une régulation par niveaux de risque pour les systèmes d'IA, mais n'aborde pas spécifiquement le AGI ni le ASI. Le US dispose d'ordonnances exécutives, mais pas de législation fédérale contraignante sur l'IA. La Chine, le UK et les autres grands pays de l'IA possèdent chacun des cadres partiels.

La conversation sur la gouvernance s’est engagée dans la mauvaise direction

En novembre 2023, le gouvernement UK a accueilli le sommet sur la sécurité de l'IA de Bletchley Park, le premier grand rassemblement international consacré spécifiquement au risque de l'IA de pointe. Le cadrage était explicitement axé sur la sécurité. La déclaration de Bletchley qui en a résulté a été signée par 28 pays, dont les US, la Chine et les EU, reconnaissant des risques « potentiellement catastrophiques » liés à ASI.

En février 2025, la France a accueilli ce qu'elle a appelé un Sommet pour l'action de l'IA, renommant délibérément le format pour signaler un changement de priorités. L'accent est passé de l'identification et de la gestion des risques à l'activation du déploiement et à la capture d'avantages économiques. Ce n'était pas un changement neutre de terminologie. Il reflétait une pression politique réelle de gouvernements et d'industries qui voient la concurrence en IA avec la Chine comme le cadre principal, et les exigences de sécurité comme des désavantages concurrentiels potentiels.

« La question n’est plus de savoir s’il faut développer la superintelligence, mais quand il est optimal de le faire et à qui reviennent les bénéfices de ce choix de calendrier. »

Nick Bostrom, « Sur le moment du développement de la superintelligence » · Document de travail, 2026

Le cadre de Bostrom est notable car son ouvrage antérieur (Superintelligence, 2014) a établi nombre des arguments fondateurs expliquant pourquoi la superintelligence pose un risque existentiel. Son virage de 2026 vers les questions de timing et de distribution reflète un mouvement plus large dans le domaine : accepter que le développement aura lieu et se concentrer sur qui contrôle le processus. Une question légitime. Différente de celle consistant à garantir que le processus est sûr.

Le problème de la transition de AGI à ASI

Les discussions sur la gouvernance traitent souvent le AGI comme le seuil pertinent, en supposant que les systèmes de niveau AGI seraient compréhensibles pour des superviseurs humains et soumis à une évaluation significative. C'est probablement vrai au seuil du AGI. Le problème est ce qui vient après.

Un système à la capacité AGI capable de diriger sa propre recherche et son amélioration pourrait passer d'un niveau humain à des performances nettement surhumaines dans une période bien plus courte que celle nécessaire pour atteindre le niveau humain. Le terme technique pour cela est un scénario de décollage rapide. Dans un décollage rapide, un système passe d'un niveau où la gouvernance humaine est possible à un niveau où elle ne l'est peut-être pas, dans une fenêtre de temps plus courte que le temps de réaction de toute institution de gouvernance.

La préparation à la superintelligence signifie la préparation avant le seuil AGI, pas un plan pour réagir après. La gouvernance qui s'enclenche à l'arrivée de AGI peut être trop tardive pour empêcher une transition rapide vers des niveaux de capacité qui la défont.

Pourquoi la fenêtre est encore ouverte

L’écart de préparation est réel et sérieux. Le décrire honnêtement n’équivaut pas à conclure que rien ne peut être fait. La fenêtre pour bâtir une gouvernance adéquate se réduit, mais elle ne s’est pas refermée.

Les principaux laboratoires d'IA de pointe en sont encore à des performances de niveau humain ou quasi-humain sur la plupart des tâches cognitives, pas significativement au-delà. La transition de ce niveau de capacité vers celui qui compte le plus n'a pas encore eu lieu. C'est le moment où des cadres de gouvernance peuvent être construits avec la coopération des acteurs qui y seront soumis, et non après que ces acteurs aient développé des systèmes rendant la coopération moins nécessaire.

Le coût politique de mettre en place une gouvernance maintenant est réel : frictions concurrentielles, déploiement plus lent, perte potentielle d'avantage économique par rapport à des acteurs moins soucieux de sûreté. Ces coûts doivent être pesés honnêtement face au coût de ne pas mettre en place de gouvernance maintenant et de se retrouver dans la situation décrite plus haut. L'asymétrie dans cette comparaison n'est pas subtile. Les trois propositions de la Fondation sont conçus précisément pour cette fenêtre : avant que le seuil ne soit franchi, alors que la coopération de tous les acteurs majeurs peut encore être recherchée et obtenue.