L'Agence internationale de l'énergie atomique a été établie en 1957 avec un mandat qui semblait simple : promouvoir les usages pacifiques de l'énergie nucléaire tout en s'assurant qu'elle n'était pas détournée vers des programmes d'armes. Le système de vérification qu'elle a construit au cours des décennies suivantes est devenu quelque chose qui n'avait pas de véritable précédent en droit international, un système fonctionnel pour surveiller la technologie la plus dangereuse sur terre, opéré par un organisme international, accepté par les États les plus puissants du monde.

Voici ce que fait réellement la vérification IAEA, où elle a échoué, et ce qui se transpose au problème de l'IA.

Toute proposition sérieuse de gouvernance internationale de ASI étudie désormais le modèle IAEA. La question n'est pas de savoir si l'architecture de vérification nucléaire peut être copiée telle quelle dans le contexte de l'IA. Elle ne le peut pas. La question est quels éléments se transfèrent, lesquels doivent être repensés, et quels problèmes n'ont aucun équivalent nucléaire.

Ce que signifie réellement la vérification

La vérification est un système destiné à créer de la confiance, et non une inspection au sens ordinaire du terme. L'objectif n'est pas principalement de détecter les violations, mais de rendre celles-ci suffisamment coûteuses et visibles pour qu'elles ne soient pas tentées en premier lieu. Cette distinction compte car elle fixe le bon standard pour ce à quoi ressemble le succès : un système de vérification qui ne découvre jamais de violations peut être en train de réussir, et non d'échouer.

L'approche IAEA repose sur quatre composantes qui fonctionnent ensemble. La première est les déclarations des États. Les pays qui adhèrent au Traité sur la non-prolifération des armes nucléaires sont tenus de déclarer à IAEA tous les matériaux et installations nucléaires. Ces déclarations deviennent la référence par rapport à laquelle tout suivi ultérieur est mesuré. Un pays qui ne déclare pas une installation n'a pas simplement échoué à une inspection ; il a violé l'exigence fondamentale du traité avant même l'arrivée du premier inspecteur.

Le second est les accords de garanties. Chaque signataire NPT signe un accord bilatéral de garanties avec l’IAEA précisant les droits d’inspection de l’agence, les informations que l’État doit fournir et les conséquences du non-respect. Le Protocole additionnel, introduit après la découverte du programme nucléaire non déclaré de l’Irak au début des années 1990, a considérablement élargi ces droits. Il permet à l’IAEA d’inspecter des sites qui n’avaient pas été déclarés mais que l’agence a des raisons d’inspecter, sur la base d’informations provenant de toute source.

La troisième est l’inspection de routine. Les inspecteurs de IAEA effectuent des visites programmées dans les installations nucléaires déclarées. Ils utilisent des scellés inviolables, des caméras à distance et des échantillons de matières pour surveiller les installations entre les visites. Un écart entre l’inventaire déclaré et ce que l’inspecteur trouve constitue un résultat significatif qui exige une explication.

Le quatrième composant, et celui qui est le plus pertinent pour la gouvernance ASI, est l’échantillonnage environnemental. Depuis le milieu des années 1990, la IAEA utilise la surveillance environnementale (échantillons d’air, d’eau et de sol) pour détecter des preuves d’activités nucléaires non déclarées. Des traces d’isotopes spécifiques dans des échantillons environnementaux peuvent indiquer un traitement nucléaire jamais déclaré, que des inspecteurs aient ou non été admis dans l’installation concernée. Il s’agit d’une preuve physique indirecte d’une activité, dérivée des traces physiques inévitables de cette activité.

Les limites du modèle nucléaire

Le régime de vérification nucléaire a de réelles réalisations. Bien moins de pays possèdent des armes nucléaires que les prévisions les plus pessimistes des années 1960 ne l’annonçaient. Le NPT a limité la prolifération de façon significative, même imparfaitement. Mais les cas où il a échoué sont aussi instructifs que ceux où il a réussi.

Le programme d'armes nucléaires de l'Irak progressait dans les années 1980 et au début des années 1990 alors que l'Irak était signataire de NPT et déclarait n'avoir aucun programme d'armes. Le programme a été révélé par la guerre du Golfe et les inspections ultérieures de UNSCOM, et non par la surveillance de routine de IAEA. Les inspecteurs de IAEA avaient visité les installations déclarées de l'Irak et n'avaient rien trouvé d'anormal, car le programme d'armes de l'Irak était entièrement séparé de son programme civil déclaré. La Corée du Nord s'est retirée de NPT en 2003 après que le régime de vérification ait détecté des anomalies qu'elle ne pouvait expliquer ; le pays possède désormais des armes nucléaires. Le programme d'enrichissement non déclaré de l'Iran a été découvert par le renseignement national et divulgué à IAEA par un groupe de dissidents en 2002, et non par la surveillance de routine.

Ce que ces cas ont en commun n'est pas que la vérification a échoué sur le plan technique, mais que des acteurs étatiques déterminés ont pris la décision politique délibérée d'assumer les coûts de la violation du traité. La vérification modifie le calcul coûts-avantages ; elle ne l'élimine pas. Un pays qui décide qu'un programme d'armement vaut les conséquences politiques et économiques de sa découverte mènera ce programme quels que soient les mécanismes de vérification. Le rôle du IAEA est de rendre la découverte plus probable et les conséquences politiques plus sévères, pas de rendre la violation impossible.

Ce qui se transfère à la gouvernance ASI

Plusieurs éléments du modèle de vérification nucléaire se traduisent en gouvernance ASI avec une adaptation significative.

L'exigence de déclaration se transpose directement. Un régime de gouvernance ASI pourrait exiger des États qu'ils déclarent les programmes de développement d'IA à grande échelle dépassant certains seuils de calcul. La déclaration crée une ligne de base juridique : les écarts ultérieurs entre ce qui a été déclaré et ce qui est observé constituent des violations du traité, et non de simples désaccords politiques. Cela renverse la charge de la preuve. Sans déclarations, un organe de surveillance doit démontrer qu'une activité non déclarée a eu lieu. Avec déclarations, un État doit expliquer les écarts entre ses déclarations et les preuves observées.

Le modèle de l'accord de garanties se transpose également. Un accord de gouvernance bilatéral ASI entre un organisme de surveillance et un État signataire préciserait les droits d'accès de l'organisme, les informations que l'État doit fournir et les conséquences du non-respect. Cette architecture est bien connue en droit international et ne nécessiterait pas d'innovation juridique majeure.

L’échantillonnage environnemental a un analogue en IA dans la surveillance du calcul. La fabrication des semi-conducteurs est géographiquement concentrée et nécessite un équipement spécialisé. Les puces d’IA avancées laissent des traces dans la chaîne d’approvisionnement : elles sont fabriquées dans un petit nombre d’installations, exportées sous documentation douanière et installées dans des configurations de centres de données identifiables qui présentent des signatures électriques spécifiques. Aucun de ces éléments n’est aussi non équivoque qu’une signature isotopique, mais ensemble ils créent une preuve physique indirecte de l’activité de développement de l’IA qui ne dépend pas entièrement de l’auto-déclaration des États.

L’innovation du Protocole additionnel est directement applicable. L’élargissement des droits d’inspection après le programme irakien a montré que les régimes de vérification peuvent être réformés après des échecs sans abandonner le cadre du traité. Les traités de gouvernance de ASI rencontreront des manquements précoces à la conformité. Intégrer un mécanisme permettant d’étendre les droits de surveillance en réponse à des violations détectées, plutôt que de traiter les violations comme un motif de sanctions uniquement, est une leçon que le régime nucléaire a mis des décennies à apprendre.

Ce qui est vraiment différent avec l'IA

Le matériau nucléaire est physiquement distinct et relativement rare. L'uranium et le plutonium de qualité militaire peuvent être détectés par leurs signatures isotopiques de manière difficile à falsifier. Une installation d'enrichissement de l'uranium nécessite un équipement industriel spécifique qui laisse des traces environnementales. L'écart entre les applications nucléaires civiles et les activités nucléaires pertinentes pour les armes, bien que franchissable par un État déterminé, est mesurable et vérifiable de manière à soutenir la surveillance.

Le développement de l'IA ne connaît pas de distinction équivalente. Le même matériel, la même infrastructure logicielle et le même talent d'ingénierie qui produisent des applications d'IA grand public peuvent produire des systèmes d'IA de pointe à fort impact civilisationnel. Un grand cluster de calcul exécutant des services d'IA commerciaux et un grand cluster de calcul menant des recherches d'IA de pointe sont identiques de l'extérieur. La distinction pertinente réside dans ce pour quoi ils sont entraînés et à quelle échelle, pas dans une propriété physique de l'installation ou de l'équipement.

Cette différence est réelle et importante. Elle signifie que la vérification de la gouvernance de l’ASI devra reposer sur une combinaison de surveillance matérielle au niveau de la fabrication des puces, de déclarations des clusters de calcul, de données de consommation énergétique et de droits d’audit logiciel, plutôt que sur des signatures isotopiques. Elle signifie aussi que la question du seuil pertinent (au-delà de quelle échelle de développement d’IA une obligation de surveillance s’applique) est nettement plus difficile à préciser que l’équivalent nucléaire et nécessitera des révisions techniques régulières à mesure que les coûts du calcul évoluent.

Ce sont des problèmes de conception, pas des raisons de conclure que la vérification est impossible. Le IAEA de 1957 ne ressemblait pas au IAEA de 1997, après les réformes du Protocole additionnel qui ont suivi le programme de l'Irak. Les méthodes de surveillance utilisées dans les années 1960 n'avaient guère de rapport avec les capacités d'échantillonnage environnemental des années 1990. Les régimes de vérification se construisent progressivement, à travers les échecs autant que les succès, et ils s'améliorent avec le temps si la volonté politique de les maintenir et de les réformer se maintient.

L'objectif du contrôle des armements est de rendre le coût de la violation suffisamment élevé pour que la plupart des acteurs jugent que cela n'en vaut pas la peine, la plupart du temps, et non la certitude absolue.

La question pour la gouvernance de ASI n'est pas de savoir si le modèle de vérification nucléaire se transpose. Il ne le peut pas. La question est de savoir si un système de vérification adapté au défi de gouvernance de ASI peut être conçu en utilisant la même logique sous-jacente : déclarations, accords de garanties, droits d'inspection et surveillance technique des preuves physiques. Les 70 ans d'histoire de IAEA suggèrent que la réponse est oui, à condition que la volonté politique d'établir et de maintenir un tel système existe. Cette volonté politique, et non la conception technique, constitue la contrainte majeure.

La plus forte opposition

L’objection la plus juste est que le logiciel n’est pas de l’uranium, donc les leçons de la vérification nucléaire relèvent de la poésie. Le logiciel se copie facilement ; les puces et l’énergie, non. Une vérification qui surveille les goulots d’étranglement physiques reste efficace. Prétendre que l’IA est une pure abstraction, c’est se convaincre de renoncer aux seuls leviers qui fonctionnent.