Un problème récurrent dans la gouvernance des ASI est que les gouvernements ont historiquement manqué de l'expertise interne nécessaire pour évaluer les systèmes qu'ils sont censés réguler. Les instituts de sécurité existent pour combler ce fossé. Ce sont des organismes gouvernementaux ou soutenus par l'État, dotés de chercheurs techniques dont le travail consiste à évaluer les capacités et les risques des modèles de pointe, l'État acquérant enfin la capacité de voir ce que construisent les laboratoires, plutôt que de les croire sur parole.

À partir des UK et US fin 2023, les instituts nationaux de sûreté de l'IA se sont multipliés et interconnectés en un réseau international. Ils sont sans éclat, et ils constituent peut-être l'infrastructure de gouvernance la plus importante créée à ce jour.

D'où vient le réseau

Le Royaume-Uni a annoncé son AI Safety Institute lors du sommet de Bletchley en novembre 2023, le premier du genre. Les États-Unis ont créé le leur au NIST peu après. Lors du sommet de Séoul en mai 2024, un groupe plus large de gouvernements (dont le Japon, Singapour, le Canada, la Corée du Sud, le EU et d'autres) a convenu de créer des instituts et de les relier en un réseau international pour aligner leurs travaux. Ce qui a commencé comme deux organismes nationaux est devenu le germe d'un système coopératif.

Note sur les noms : les deux instituts fondateurs ont depuis été rebaptisés, le UK est devenu l’AI Security Institute, et l’organisme US est devenu le Center for AI Standards and Innovation (CAISI) en 2025. Le réseau et ses travaux d’évaluation se poursuivent sous les nouveaux noms.

Ce que les instituts font réellement

  • Évaluer les modèles de pointe. Ils testent les systèmes avancés pour détecter des capacités dangereuses (y compris dans des domaines à haut risque) et développent les méthodes permettant de mesurer ce qu’un modèle peut réellement faire.
  • Développer la science de l'évaluation. Des tests rigoureux et standardisés de l’IA constituent un problème technique non résolu. Les instituts élaborent la méthodologie dont une gouvernance fiable a besoin.
  • Conseiller les gouvernements. Elles offrent aux États un jugement technique indépendant sur les risques de l’IA, réduisant la dépendance aux évaluations des développeurs eux-mêmes.
  • Coopérer au-delà des frontières. À travers le réseau, les instituts partagent des méthodes, coordonnent les tests et œuvrent vers des normes communes, les prémices d'une évaluation interopérable et internationale.

Pourquoi ils comptent pour un traité

Le lien entre les instituts et un futur accord contraignant est direct et sous-estimé. Toute proposition sérieuse de traité sur l'IA repose sur la capacité à évaluer si un système franchit un seuil dangereux et à vérifier le respect des obligations de sûreté. Cette capacité n'existe pas par défaut ; il faut la construire. Les instituts de sûreté sont précisément en train de la construire. Ils construisent, en effet, les organes techniques qu'un régime de vérification utiliserait plus tard.

Ils résolvent également un problème de séquençage. Un traité qui préciserait les exigences d'évaluation serait inutile si aucun organisme indépendant ne pouvait réaliser ces évaluations. En développant cette capacité dès maintenant (avant l'existence du traité), les instituts garantissent que les outils seront prêts lorsque l'accord politique arrivera. Le réseau constitue les fondations pratiques sur lesquelles une gouvernance contraignante pourra éventuellement reposer, et il est posé discrètement pendant que la diplomatie la plus visible avance en parallèle.

Les limites dont il faut être honnête

Les instituts ne sont pas un substitut à une gouvernance contraignante, et ce serait une erreur de les traiter comme tel. Leur accès aux modèles dépend généralement de la coopération volontaire des développeurs ; ils ne peuvent pas imposer des tests d’un système qu’une entreprise refuse de partager. Leurs mandats et ressources varient largement d’un pays à l’autre, et la coordination du réseau est encore naissante et non contraignante. Et l’évaluation elle-même reste scientifiquement immature : déterminer de manière fiable si un modèle est dangereux est vraiment difficile, et les méthodes actuelles présentent de réelles lacunes.

Un traité qui exige des évaluations de sécurité reste lettre morte si personne n’est capable de les réaliser. Les instituts de sécurité construisent les outils dont tout régime de vérification réel aura besoin. Ce travail doit se faire avant le traité, pas après.

L'infrastructure d'une gouvernance contraignante

Les instituts de sécurité représentent un passage de la discussion sur les risques de l'IA à la construction de la capacité de les mesurer. Ce changement compte, car une gouvernance sans mesure n'est qu'aspiration. La voie réaliste consiste à faire mûrir le réseau, en obtenant un accès garanti aux modèles de pointe par mandat légal plutôt que par bonne volonté, en convergeant vers des normes partagées et en construisant la capacité d'évaluation indépendante et bien dotée en ressources qu'exige un régime de vérification. Les instituts ne sauveront pas le monde à eux seuls. Mais ils assemblent les instruments sans lesquels aucun traité contraignant ne pourrait fonctionner, et les renforcer figure parmi les choses les plus concrètes et immédiatement utiles que les gouvernements peuvent faire pendant que l'accord plus large est encore en négociation.