Le sommet sur la sécurité de l’IA de Bletchley en novembre 2023, celui de Séoul en mai 2024 et le sommet sur l’action de l’IA de Paris en février 2025 dessinent un schéma émergent : des rencontres internationales périodiques de haut niveau sur la gouvernance de ASI, réunissant gouvernements et entreprises d’IA et produisant déclarations et engagements. Cela ressemble structurellement au processus des Conférences des parties sur le climat, et la comparaison est instructive de façons que ses partisans comme ses critiques tendent à sous-estimer.
Que ce schéma débouche sur une gouvernance contraignante dépend entièrement des choix en matière d’application que le modèle climatique a systématiquement remis à plus tard.
La gouvernance climatique via le processus COP n'est ni l'échec que ses détracteurs décrivent ni le succès que ses concepteurs visaient. Comprendre ce qu'elle a accompli et ce qu'elle n'a pas accompli, et pourquoi, est le point de départ pour décider si un processus analogue pourrait fonctionner pour la superintelligence.
Comment la structure de la COP fonctionne réellement
Une Conférence des Parties est l'organe directeur d'un traité. Elle réunit tous les États qui ont ratifié le traité et se réunit périodiquement pour examiner la mise en œuvre, évaluer les progrès et négocier de nouveaux engagements. La COP climat trouve son origine dans la Convention-cadre des Nations unies sur les changements climatiques de UN, adoptée en 1992, qui a établi la structure de base d'un examen périodique et d'engagements progressifs. Le Protocole de Kyoto (1997) et l'Accord de Paris (2015) sont tous deux issus du processus de la COP.
La grande innovation de l'Accord de Paris a été de remplacer les objectifs d'émissions déterminés internationalement de manière descendante, utilisés par Kyoto et ayant entraîné de nombreux manquements et retraits, par des contributions déterminées au niveau national. Chaque pays fixe son propre objectif de réduction des émissions, le soumet au secrétariat de la UNFCCC, puis est évalué sur son ambition déclarée plutôt que sur une norme imposée internationalement. La COP de Paris examine les progrès globaux au regard de l'objectif de température consistant à limiter le réchauffement à 1,5 degré Celsius au-dessus des niveaux préindustriels, et chaque cycle d'examen est censé produire une ambition nationale accrue.
L'attrait structurel de cette conception est qu'elle est réalisable. Un processus qui permet aux pays de fixer leurs propres objectifs, évalués au regard de leurs propres ambitions, avec des mécanismes de transparence plutôt que des pénalités en cas de manquement, peut garantir une large participation. Toutes les grandes économies mondiales sont parties à l'Accord de Paris. Kyoto, qui imposait des objectifs nationaux contraignants assortis de conséquences définies en cas de non-respect, a perdu les États-Unis puis, finalement, le Canada, le Japon et la Russie.
Le problème structurel de cette conception est que participation et efficacité ne sont pas la même chose. Les contributions déterminées au niveau national soumises dans le cadre de Paris sont, dans l'ensemble, nettement inférieures à ce que le IPCC estime nécessaire pour atteindre l'objectif de 1,5 degré. Le mécanisme de conformité repose sur la transparence et la pression politique, non sur des sanctions formelles. Les pays qui manquent leurs propres objectifs font l'objet d'un examen public lors du prochain cycle d'examen, mais sans conséquences juridiques.
Trois faiblesses structurelles dans le modèle climatique
Trois caractéristiques de la COP climat qui ont limité son efficacité se retrouveraient directement dans une COP de gouvernance de ASI adoptant la même conception.
Exigences de consensus. La plupart des décisions de la COP exigent l’accord de toutes les parties, donnant à chaque pays un droit de veto effectif sur le résultat. Cela produit un langage négocié au niveau d’ambition que la partie la plus réticente acceptera, ce qui, dans les COP climatiques successives, a signifié un langage sur le « recul progressif » plutôt que sur l’« abandon progressif » des combustibles fossiles, sur des « trajectoires » vers la neutralité carbone plutôt que sur des calendriers contraignants, et sur la « prise note » des conclusions scientifiques plutôt que sur leur adoption formelle. Les négociations internationales fondées sur le consensus produisent systématiquement des résultats au plus petit dénominateur commun de la faisabilité politique parmi les parties présentes.
L’autodétermination des engagements. Le modèle des contributions déterminées au niveau national a résolu le problème de participation créé par Kyoto, mais il a créé un problème d’ambition. Quand les pays fixent eux-mêmes leurs objectifs sans plancher contraignant, ces objectifs reflètent autant les contraintes politiques intérieures que les exigences techniques de l’objectif poursuivi. Les pays dotés d’industries fossiles puissantes fixent des objectifs que leur industrie peut atteindre. Les pays confrontés à des élections proches fixent des objectifs politiquement défendables à court terme. Le résultat agrégé est un écart entre les ambitions affichées et la réduction globale nécessaire, que les examens de la COP constatent mais ne peuvent combler sans un mécanisme imposant une ambition plus élevée.
L'accord de Paris a résolu le problème de participation du protocole de Kyoto en permettant aux pays de fixer leurs propres objectifs. Les objectifs nationaux contraignants de Kyoto ont conduit au retrait des États-Unis, du Canada, du Japon et de la Russie. Paris a obtenu une participation quasi universelle. Mais une participation quasi universelle avec des engagements déterminés au niveau national et non contraignants crée un fossé de gouvernance exactement là où la gouvernance est le plus nécessaire : quand l'écart entre l'ambition déclarée et l'action requise est le plus grand. La gouvernance ASI fait face au même arbitrage.
Le fossé de l’application. Le mécanisme de conformité de l’Accord de Paris, établi en vertu de l’article 15, est explicitement non contentieux et non punitif. Il fonctionne par la transparence : les pays rendent compte de leurs progrès, la COP examine les rapports, et la pression politique et réputationnelle de l’évaluation publique constitue la principale conséquence des manquements. Pour le climat, cela a produit des décennies de manquements documentés avec une réponse limitée. Pour l’IA, où une seule année de développement non surveillé des systèmes de pointe pourrait produire des capacités qui dépassent toute réponse de gouvernance, un mécanisme d’application reposant uniquement sur la transparence serait structurellement insuffisant.
Où la structure COP fonctionne
Les faiblesses de la COP climat sont bien documentées. Ses forces sont moins souvent reconnues et sont véritablement pertinentes pour la conception de la gouvernance du ASI.
La convocation régulière est en soi un mécanisme de gouvernance. Les réunions annuelles de la COP créent un calendrier politique qui concentre chaque année l’attention sur le problème de gouvernance sous-jacent. La société civile, les journalistes et les décideurs considèrent les réunions de la COP comme des moments de reddition des comptes, que des mécanismes d’application formels existent ou non. Le coût politique d’un non-respect visible, documenté dans la presse mondiale lors d’un examen annuel de la COP, a incité certains gouvernements à renforcer leurs engagements nationaux. La convocation régulière fournit également un lieu pour des accords parallèles, des groupes de travail techniques et des négociations bilatérales plus difficiles à organiser sans un rassemblement mondial récurrent.
Les structures d'engagement progressif peuvent fonctionner sur de longues échelles de temps. Le mécanisme de cliquet intégré à l'Accord de Paris, qui exige que chaque contribution déterminée au niveau national successive ne soit pas moins ambitieuse que la précédente, crée une obligation légale d'amélioration directionnelle même sans plancher contraignant. Sur des décennies, cela peut produire un mouvement agrégé significatif, car la référence politique de la « politique actuelle » devient progressivement plus ambitieuse. Pour un problème de gouvernance comme le climat, où les conséquences d'un échec politique s'accumulent sur des décennies, ce cliquet lent peut suffire. Pour la gouvernance de ASI, où des résultats catastrophiques pourraient survenir sur une échelle de temps de quelques années plutôt que de décennies, c'est trop lent.
Le processus de la COP a été le plus efficace pour établir le cadre normatif dans lequel opère la politique climatique nationale à l'échelle mondiale. L'objectif de 1,5 degré de l'Accord de Paris est désormais le point de référence par rapport auquel les politiques climatiques nationales sont publiquement évaluées dans presque tous les pays. Cette fonction normative, qui crée une norme partagée à laquelle la politique nationale doit se justifier, est ce que le processus des sommets sur la sécurité de l'IA a commencé à accomplir et devrait poursuivre.
Ce dont aurait besoin un COP de gouvernance ASI plus robuste
Un processus de gouvernance de ASI calqué sur la structure de la COP mais conçu pour éviter le déficit d’application des COP climatiques nécessiterait trois caractéristiques que l’Accord de Paris omet délibérément.
Engagements minimaux obligatoires. Plutôt que des contributions déterminées au niveau national sans plancher contraignant, un traité de gouvernance du ASI pourrait établir des obligations minimales obligatoires que toutes les parties doivent respecter, combinées à une structure de contributions déterminées au niveau national pour les mesures allant au-delà de ce plancher. Le minimum obligatoire couvrirait les activités les plus risquées : l’entraînement de modèles de frontière au-delà d’un seuil de calcul défini, le déploiement de systèmes d’IA dans des domaines à haut risque spécifiés, et des évaluations de sécurité obligatoires avant déploiement. Les pays pourraient aller plus loin, mais pas moins loin.
Un organisme de vérification indépendant. La COP climat s’appuie sur des inventaires nationaux autodéclarés, avec un examen indépendant mené par des équipes d’experts techniques sous l’UNFCCC. Un organisme de vérification de la gouvernance ASI avec un accès direct aux informations pertinentes, analogue à l’inspecteur de OPCW, produirait une évaluation de conformité plus fiable que l’autodéclaration. C’est la seule différence structurelle entre la CWC et la Convention sur les armes biologiques qui explique le plus clairement leurs différents bilans d’efficacité.
Des conséquences avec des dents. Des conséquences en cas de non-respect qui aillent au-delà de la transparence exigeraient de lier les avantages d'accès au marché du traité au respect de ses obligations de sécurité. Les États qui ne respectent pas les exigences minimales obligatoires perdraient l'accès préférentiel au marché et les arrangements de partage de technologies que l'adhésion au traité leur procure. Cela crée une structure de conséquences qui ne nécessite pas l'autorisation du Conseil de sécurité et qui est directement pertinente pour les intérêts compétitifs qui motivent le développement de l'IA.
« La COP climat montre que des rencontres internationales régulières peuvent construire un cadre normatif et un calendrier politique autour d’un problème de gouvernance. Elle montre aussi que cela ne suffit pas si les engagements de fond manquent de planchers contraignants et si le mécanisme d’application n’emporte pas de conséquences formelles. La gouvernance de ASI peut utiliser la structure de la COP et tirer les leçons de ces lacunes de conception précises. »
Le processus des sommets sur la sécurité de l'IA qui a commencé à Bletchley mérite d'être poursuivi, pas abandonné. Des sommets annuels ou bisannuels créent précisément le type d'attention internationale régulière dont la gouvernance a besoin. La question est de savoir si ces sommets restent un lieu de cérémonies d'engagements volontaires ou deviennent l'organe de gouvernance d'un traité doté d'obligations contraignantes et d'une architecture fonctionnelle de vérification et d'application. Cette question ne sera pas tranchée par les sommets eux-mêmes, mais par ce que les gouvernements décideront de négocier entre eux.