Lorsque les défenseurs de la gouvernance appellent à une Agence mondiale de surveillance de l'IA, ils décrivent un état final. La question plus difficile est celle du chemin vers cet état final, la manière dont un organisme international doté du mandat, du personnel, du budget, de l'autorité légale et de la capacité technique pour surveiller le développement de l'IA de pointe se construit réellement. L'histoire des institutions qui accomplissent ce travail pour d'autres technologies dangereuses est instructive, et systématiquement plus complexe que ne le suggère la littérature sur la gouvernance.
Les institutions se construisent, elles ne se déclarent pas. Voici ce que la création d'une Agence mondiale de surveillance de l'IA exigerait réellement.
Ce que le IAEA exigeait pour devenir fonctionnel
L’IAEA a été créé par un statut international en 1957, deux ans après que le président Eisenhower ait proposé le programme Atoms for Peace dans son discours de 1953 devant l’Assemblée générale du UN. Le statut fondateur définissait un mandat (promouvoir les usages pacifiques de l’énergie nucléaire tout en veillant à ce qu’elle ne soit pas détournée vers des armes) et instituait un Conseil des gouverneurs et une Conférence générale comme organes directeurs de l’agence.
Le IAEA a mené ses premières inspections de garanties en 1961, quatre ans après sa création, couvrant un petit nombre de réacteurs de recherche en Europe occidentale. Le système de garanties qu'il appliquait était rudimentaire selon les normes ultérieures : les inspecteurs examinaient les registres des installations et effectuaient la comptabilité des matières nucléaires, mais disposaient de droits d'accès physique limités et d'aucune capacité de surveillance environnementale. Le système était adapté à la recherche nucléaire pacifique dans l'environnement technologique des années 1950 et 1960 ; il ne l'était pas pour détecter un programme d'armement déterminé.
L’expansion décisive des capacités de IAEA n’est pas venue du statut fondateur de l’agence, mais des suites d’un échec. Le programme clandestin d’armes nucléaires de l’Irak, découvert pendant et après la guerre du Golfe de 1991, a révélé que les inspections de routine de IAEA avaient entièrement manqué un programme qui progressait vers une arme nucléaire. La réponse a été le Protocole additionnel, adopté en 1997, qui a élargi les droits d’inspection aux sites non déclarés et ajouté l’échantillonnage environnemental comme outil standard. L’IAEA qui existait avant 1997 et celui qui existait après 1997 sont des institutions substantiellement différentes dans ce qu’elles peuvent détecter.
La leçon est que les institutions internationales de surveillance développent leurs véritables capacités en réponse aux échecs qui révèlent les limites de leur conception initiale. L’architecture fondatrice établit le cadre ; l’efficacité opérationnelle s’accumule sur des décennies par des réformes dictées par l’échec.
Ce que le OPCW exigeait pour devenir fonctionnel
Le OPCW a été créé lorsque la Convention sur les armes chimiques est entrée en vigueur en 1997. Contrairement au IAEA, qui a précédé son cadre de traité principal, le OPCW a été conçu dès le départ comme l'organe de vérification d'un traité existant assorti d'obligations définies. Cela a donné à l'institution des mandats initiaux plus clairs et un champ opérationnel plus ciblé.
Le OPCW a nécessité un travail préparatoire substantiel avant de pouvoir mener ses premières inspections. L’annexe de vérification du traité, qui compte des centaines de pages, précise en détail les procédures pour différents types d’inspection, les droits des inspecteurs, les obligations des États inspectés et le traitement des informations confidentielles. Traduire ces procédures en protocoles opérationnels, former les équipes d’inspecteurs, mettre en place des systèmes de communication sécurisés, construire des laboratoires d’analyse capables d’identifier des agents chimiques dans des échantillons environnementaux et négocier des accords d’installation avec les premiers grands détenteurs de stocks ont tous pris des années de travail qui ont suivi l’entrée en vigueur du traité.
Les premières missions de vérification de la destruction menées par OPCW, qui surveillaient l’élimination des stocks d’armes chimiques de US et de Russie, ont commencé à la fin des années 1990 et se sont poursuivies pendant plus de deux décennies. La complexité technique de la destruction sûre des armes chimiques et les défis de vérification qu’elle posait ont nécessité une adaptation institutionnelle continue tout au long de cette période. Ce que OPCW fait aujourd’hui reflète vingt-cinq ans d’expérience opérationnelle qui n’existaient pas lorsque son premier directeur général est entré en fonction.
Les décisions de conception qui comptent le plus
Une agence internationale de surveillance de l'IA serait confrontée à un ensemble de décisions fondatrices de conception institutionnelle qui détermineraient son efficacité à long terme. Ces décisions ne sont pas techniques ; elles sont politiques et organisationnelles, et elles doivent être prises correctement avant que l'institution n'ouvre ses portes.
Le champ du mandat est la première décision. Une agence de surveillance peut être conçue de manière étroite, axée sur la vérification des déclarations d'entraînement d'IA de pointe au-delà de seuils de calcul spécifiés, ou de manière large, avec autorité pour évaluer les systèmes d'IA sur leurs propriétés de sécurité et publier des conclusions sur le paysage mondial de la sécurité de l'IA. Un mandat étroit est plus facile à accepter politiquement et plus simple à mettre en œuvre. Un mandat large confère à l'institution plus d'influence sur la gouvernance, mais exige un budget plus important, un personnel plus diversifié et un consensus politique plus large sur ce que l'agence est autorisée à dire. Le mandat de IAEA était initialement étroit et s'est élargi ; celui de OPCW est resté ciblé. Les deux modèles ont réussi dans leurs contextes respectifs.
L’architecture d’indépendance est la deuxième décision. Les organisations internationales varient considérablement dans leur degré d’isolement face aux pressions politiques des grandes puissances. La structure de veto du Conseil de sécurité de la UN permet aux cinq membres permanents de bloquer toute action du Conseil. Le Conseil des gouverneurs de la IAEA a une structure pondérée qui donne aux grands États une influence disproportionnée. La OPCW possède une structure de gouvernance plus démocratique dans laquelle tous les États parties disposent d’un vote égal à la Conférence des États parties. Une agence de surveillance de l’IA dont les décisions majeures peuvent être bloquées par les États disposant des plus grands programmes d’IA serait une institution plus faible qu’une agence dotée d’un directeur général indépendant et d’un personnel technique pouvant agir selon son jugement professionnel.
La IAEA emploie environ 2 500 personnes, dont plusieurs centaines d’inspecteurs dotés d’une expertise approfondie en ingénierie nucléaire. La OPCW en emploie plusieurs centaines, dont des chimistes capables d’effectuer des analyses de terrain sur des échantillons chimiques. Une agence de surveillance de l’IA capable d’évaluer les systèmes d’IA de pointe aurait besoin de personnel possédant une expertise qui commande actuellement des salaires élevés dans le secteur privé. Constituer et conserver ce personnel au sein d’une structure de rémunération de la fonction publique internationale est l’un des problèmes de conception les plus ardus auxquels l’agence serait confrontée.
Le modèle de financement est la troisième décision. Les organisations internationales sont financées par des contributions obligatoires des États membres, proportionnelles à leur PIB et à d’autres facteurs, les contributions volontaires complétant le budget obligatoire pour des programmes spécifiques. Les budgets des contributions obligatoires sont négociés chaque année et soumis à des pressions politiques : les États membres qui s’opposent aux activités d’une agence peuvent retenir leurs contributions ou voter des réductions budgétaires. Le budget ordinaire de IAEA est d’environ 500 millions de USD par an ; celui de OPCW est d’environ 70 millions d’euros. Une agence de surveillance de l’IA dotée d’une capacité technique significative nécessiterait un budget de cet ordre ou supérieur, et la question de la stabilité du financement (comment maintenir le budget de l’agence à travers les cycles politiques des principaux États contributeurs) exige une réponse de conception.
La quatrième décision porte sur l’autorité légale des inspecteurs. Les inspecteurs ne peuvent faire que ce que le traité les autorise à faire. Les premiers accords de garanties du IAEA accordaient aux inspecteurs des droits d’accès limités qui ont été élargis par le Protocole additionnel ; les inspecteurs opérant sous des accords plus anciens sans le Protocole additionnel disposent encore de droits plus restreints. Les inspecteurs d’une agence de surveillance de l’IA auraient besoin de droits d’accès clairement spécifiés (aux installations, aux dossiers, aux journaux matériels et au personnel) et le traité créant l’agence doit préciser ces droits clairement, car l’ambiguïté sera résolue en pratique en faveur de la partie inspectée.
Construire des capacités techniques avant le traité
Une leçon tirée à la fois de la IAEA et de la OPCW est que la capacité technique ne peut pas être improvisée après la création de l’institution. Les deux agences ont bénéficié de communautés scientifiques et techniques préexistantes capables de les doter en personnel : la physique et l’ingénierie nucléaires pour la IAEA, la chimie analytique pour la OPCW. L’expertise nécessaire pour vérifier les engagements de non-prolifération nucléaire ou identifier les agents d’armes chimiques dans des échantillons de sol existait dans les universités et les laboratoires nationaux avant que les organismes de vérification internationaux en aient besoin.
La communauté technique équivalente pour la vérification de la gouvernance ASI, des personnes capables d'évaluer les systèmes d'IA de pointe pour leurs propriétés de sécurité, d'auditer les registres d'entraînement et de concevoir des protocoles de surveillance matérielle pour les grands clusters de calcul, est petite et presque entièrement située dans les entreprises d'IA du secteur privé et une poignée d'institutions académiques. Construire la base d'expertise à partir de laquelle une agence de surveillance internationale pourrait recruter est en soi une tâche de gouvernance qui précède la création de l'institution.
C'est l'une des raisons pour lesquelles les instituts nationaux de sécurité de l'IA, comme l'AI Security Institute du UK (créé en 2023 sous le nom d'AI Safety Institute), comptent pour le projet de gouvernance à long terme. Ils construisent la méthodologie d'évaluation, l'expérience institutionnelle et la communauté professionnelle dont une future agence internationale de surveillance aurait besoin pour s'appuyer. Les fondations techniques de la surveillance internationale sont en train d'être posées, partiellement et imparfaitement, avant que les conditions politiques d'un traité et d'une institution ne soient réunies.
« On ne peut pas construire un organisme de vérification en un an. Les méthodes techniques, le personnel formé, les procédures opérationnelles et les cadres juridiques doivent être développés dans le temps. Le moment de commencer, c’est maintenant, pas après la signature du traité. »
Une Agence mondiale de surveillance de l'IA est une institution qui exige des décisions de conception spécifiques, des engagements de ressources spécifiques, des autorités légales spécifiques et des capacités techniques spécifiques pour fonctionner, et non un objectif utopique lointain. IAEA et OPCW démontrent que de telles institutions peuvent être construites et fonctionner. Ils montrent aussi que leur construction prend plus de temps que ne le suggère le texte d'un traité, exige un investissement politique soutenu sur plusieurs cycles de leadership et développe ses capacités réelles en réponse aux échecs qui exposent les limites de sa conception initiale. Les défenseurs de la gouvernance qui appellent à une agence de surveillance sans aborder ces questions de conception institutionnelle décrivent une aspiration, non un plan.
La plus forte opposition
L'objection la plus juste est que les États n'accepteront jamais des inspecteurs près de leur calcul le plus précieux. Ils disaient des choses similaires avant les garanties nucléaires. La peur partagée d'une rupture, plus le refus de matériel aux défecteurs, est ainsi que des parties réticentes construisent encore des yeux. Une agence sans accès n'est qu'un logo. L'accès est le problème de conception à résoudre.