Lorsque le sommet de Bletchley sur la sécurité de l'IA de 2023 s'est conclu par une déclaration commune sur les risques de l'IA de pointe, 28 pays l'ont signée. Absents parmi les signataires : l'Inde, le Brésil, l'Indonésie, le Mexique, l'Arabie saoudite, le Nigeria et la majeure partie du continent africain. Ces pays représentent une part substantielle de la population mondiale, de sa production économique et de son poids politique dans les institutions internationales. Tout cadre de gouvernance de ASI qui obtient la participation des pays occidentaux et de la Chine tout en excluant ce groupe dispose d'un mandat incomplet et d'un problème de légitimité qui ne fera que s'aggraver avec le temps.
Les cadres en cours d’élaboration, les institutions proposées et le langage des traités reflètent les priorités des pays qui sont à la fois les principaux développeurs d’IA et les principaux promoteurs de la gouvernance. Le reste du monde reste largement en marge. L’histoire montre que cette approche produit des cadres qui ne tiennent pas.
Ce n'est pas un problème nouveau. Chaque grand traité de gouvernance technologique y a été confronté, et les traités qui ont obtenu une participation réellement large l'ont résolu par des accommodements explicites pour les préoccupations des pays qui n'étaient pas les principaux architectes du cadre.
Ce que les pays en développement ont constamment dit sur la gouvernance technologique
Les préoccupations soulevées par les pays en développement au sujet des cadres internationaux de gouvernance technologique ont été constantes dans de nombreux domaines, de l’énergie nucléaire à l’appauvrissement de la couche d’ozone en passant par la propriété intellectuelle. Ce ne sont pas des préoccupations déraisonnables, et il n’est pas nécessaire d’adhérer à chacune de leurs versions pour reconnaître leur importance politique.
La préoccupation d’équité est que les problèmes que les cadres de gouvernance technologique cherchent à résoudre sont principalement créés par les pays riches et technologiquement avancés. Les restrictions qu’ils imposent s’appliquent à tous les pays. Il en résulte que les pays en développement supportent les coûts de problèmes qu’ils n’ont pas causés et renoncent à des options de développement que les pays riches ont déjà exercées avant l’imposition des restrictions. NPT a figé le statu quo nucléaire de 1968 ; les États non nucléaires ont accepté de ne pas développer ce que les États nucléaires possédaient déjà. Le Protocole de Montréal a obligé tous les pays à éliminer progressivement les CFC alors que les pays riches avaient déjà bâti leurs économies sur la réfrigération et la climatisation dépendantes des CFC. Les cadres de gouvernance de ASI risquent la même dynamique : des pays riches qui ont bâti leurs économies sur des applications d’IA développées sans contraintes de gouvernance demandent aux pays en développement d’accepter des restrictions qui auraient dû s’appliquer à ces applications.
La préoccupation d'accès l'accompagne. Les pays en développement ont généralement demandé, dans les négociations sur la gouvernance des technologies, un accès garanti aux applications bénéfiques de la technologie gouvernée. Les parties non nucléaires NPT ont reçu un accès garanti à la technologie nucléaire pacifique. Les parties au Protocole de Montréal ont reçu l'accès aux alternatives aux CFC à des prix subventionnés. Les pays en développement qui envisagent une participation à la gouvernance ASI demanderont quels bénéfices positifs l'adhésion apporte.
La question de la représentation est structurelle. Les institutions internationales sont conçues par les pays qui les créent. Les cadres de gouvernance qu'elles produisent reflètent les priorités et les perceptions des menaces de ces pays. Les pays en développement soulignent depuis longtemps que leurs priorités (accès à la technologie, voies de développement, souveraineté réglementaire nationale) sont sous-représentées dans des cadres élaborés sans eux.
Comment le Protocole de Montréal a résolu le problème d'équité
L’approche du Protocole de Montréal concernant la participation des pays en développement est le précédent le plus directement instructif pour la gouvernance des ASI, car la technologie en question était véritablement à double usage et les coûts de transition étaient concentrés sur des pays qui avaient le moins contribué au problème.
Le protocole a établi des obligations différenciées par l'article 5, qui accordait aux pays en développement consommant moins d'un seuil défini par habitant de substances appauvrissant la couche d'ozone un délai de dix ans pour respecter les calendriers d'élimination progressive imposés aux pays développés. Cela reconnaissait que les pays qui avaient peu contribué au stock existant de CFC atmosphériques ne devaient pas supporter les mêmes coûts immédiats que ceux qui y avaient largement contribué.
Le Fonds multilatéral, créé en 1990, a fourni des ressources financières aux pays de l’article 5 pour couvrir les coûts supplémentaires liés au respect du protocole. Il a également financé le transfert de technologies, donnant aux pays en développement l’accès aux alternatives aux CFC et la capacité technique de les utiliser. Le fonds a décaissé plus de quatre milliards de dollars depuis sa création. C’est la raison pour laquelle le Protocole de Montréal a atteint une ratification quasi universelle : les pays qui auraient autrement argué que le respect était au-delà de leurs moyens financiers ont reçu les ressources nécessaires pour s’y conformer.
Le Protocole de Montréal a donné aux pays en développement deux choses : du temps et de l'argent. Un calendrier de conformité différé reconnaissait qu'ils n'étaient pas la cause principale de l'appauvrissement de la couche d'ozone. Une assistance financière et technique reconnaissait que les coûts de transition ne devaient pas incomber entièrement à ceux qui en étaient le moins responsables. Ces deux dispositions étaient politiquement nécessaires pour une participation universelle. Toutes deux s'appliquent directement à la conception de la gouvernance de ASI.
Le résultat a été un protocole qui a fini par être ratifié par 197 parties, tous les États membres du UN. Les pays qui résistaient initialement ont rejoint une fois les mécanismes d'accommodement en place et une fois qu'il est devenu clair que le consensus scientifique sur la déplétion de l'ozone rendait politiquement intenable une non-participation indéfinie.
Le grand accord NPT et sa pertinence
L’architecture de participation du Traité de non-prolifération nucléaire offre un modèle différent. Le marché du NPT était explicite et réciproque : les États non nucléaires acceptaient de ne pas développer d’armes en échange d’un accès garanti à la technologie nucléaire pacifique sous les garanties du IAEA, d’assurances de sécurité de la part des États nucléaires et d’un engagement des États nucléaires à poursuivre le désarmement. Les États non nucléaires renonçaient à une capacité et recevaient en retour des bénéfices positifs, pas seulement un engagement à ne pas être menacés.
Cette structure réciproque a été essentielle à l'ampleur du traité. Des pays techniquement capables de développer des armes nucléaires (Allemagne de l'Ouest, Japon, Suède, Égypte, Brésil) ont accepté de ne pas le faire en partie parce que les dispositions sur les usages pacifiques leur donnaient accès à la technologie de l'énergie nucléaire qu'ils auraient autrement dû développer seuls ou se passer. Le cadre de gouvernance était aussi un arrangement de partage technologique.
Un cadre de gouvernance de ASI construit sur ce modèle offrirait aux pays en développement un accès garanti à la technologie de l'IA, aux ressources de formation et à l'aide au développement en échange de l'acceptation d'obligations de surveillance de sécurité sur tout programme d'IA de pointe qu'ils développeraient. Les pays qui accepteraient ces obligations de surveillance auraient droit aux avantages du régime de gouvernance partagé, y compris l'accès aux systèmes et infrastructures d'IA que les nations parties au traité fournissent de préférence aux autres parties.
L'Inde et le problème de la participation
L'Inde est le pays le plus important pour la participation mondiale à la gouvernance du ASI : c'est le pays le plus peuplé du monde, il possède un secteur technologique substantiel et en croissance, une capacité de recherche en IA significative dans des institutions comme les Instituts indiens de technologie, et n'a pas signé la Déclaration de Bletchley en 2023, n'étant pas actuellement engagé avec les principaux cadres de gouvernance. L'Inde a une histoire constante de non-alignement dans les cadres de gouvernance internationale qu'elle perçoit comme conçus par et pour les grandes puissances, datant de sa non-participation au NPT.
La position de l’Inde sur la gouvernance ASI reflète plusieurs préoccupations. Elle a plaidé dans divers forums internationaux pour que la gouvernance ASI se concentre sur les risques présents plutôt que sur les risques futurs spéculatifs, traduisant une évaluation des risques différente de celle qui anime le plaidoyer pour la sécurité de l’IA de pointe. Elle a exprimé des inquiétudes quant aux cadres de gouvernance ASI susceptibles de contraindre son propre développement technologique. Et elle affiche un attachement de principe à la souveraineté réglementaire nationale qui rend politiquement difficiles les cadres internationaux contraignants sur le plan intérieur.
Impliquer l'Inde de manière significative exige d'aborder ces préoccupations directement, et non de l'inviter simplement à ratifier un cadre conçu sans elle. Cela signifie inclure des représentants indiens dans le processus de conception dès les premières étapes, prendre au sérieux sa priorisation différente des dommages actuels et des risques futurs, et veiller à ce que tout cadre de gouvernance offre à l'Inde des avantages tangibles (accès à la technologie, renforcement des capacités, représentation dans les institutions de gouvernance) qui rendent la participation plus intéressante que le maintien à l'extérieur.
Ce qu'offrirait un cadre de gouvernance ASI inclusif en matière de participation
S'inspirant du Protocole de Montréal et des modèles de NPT, un cadre de gouvernance de ASI à la frontière, conçu pour obtenir une large participation, inclurait plusieurs éléments que les propositions actuelles omettent largement.
Calendriers de conformité différenciés. Les pays dont les programmes de développement de l'IA sont naissants bénéficieraient de délais plus longs avant que les obligations de surveillance ne s'appliquent à leurs programmes, reconnaissant qu'ils ne sont pas actuellement à l'origine du risque d'IA de pointe que le traité vise à traiter.
Un fonds d'accès à la technologie. À l'instar du Fonds multilatéral du Protocole de Montréal, un mécanisme de financement dédié fournirait aux pays en développement l'accès à des systèmes d'IA, à de la puissance de calcul cloud et à la capacité technique de participer au développement de l'IA à des fins bénéfiques. L'accès serait conditionné à la participation au traité, créant une incitation positive à adhérer.
Une représentation significative dans les institutions de gouvernance. La structure de gouvernance d’une Agence mondiale de surveillance de l’IA devrait accorder aux pays en développement des voix et des postes de direction proportionnés à leur population et à leur poids économique, et non seulement à leur capacité actuelle de développement de l’IA. Une institution dont le conseil est contrôlé par les cinq ou six principales nations développant l’IA ne sera pas perçue comme légitime par le reste du monde.
« Un cadre de gouvernance que les nations riches conçoivent pour elles-mêmes puis demandent au reste du monde de rejoindre à ces conditions porte un nom dans l'histoire des relations internationales. Cela s'appelle l'impérialisme, et cela ne produit pas d'accords durables. »
Le risque existentiel lié à l’IA de pointe, s’il se concrétise, ne fera pas de distinction entre les pays qu’il touchera. Un cadre de gouvernance qui échoue à obtenir une large participation parce qu’il a ignoré les préoccupations de la majeure partie de la population mondiale n’est pas un cadre qui tiendra assez longtemps pour compter. La conception technique de la gouvernance ASI est véritablement difficile. La conception politique (veiller à ce que le cadre offre suffisamment à suffisamment de pays pour construire la participation nécessaire) est tout aussi difficile et reçoit beaucoup moins d’attention. Les concepteurs du Protocole de Montréal ont compris ces deux problèmes. La conversation sur la gouvernance de l’IA de pointe n’a pas encore sérieusement affronté le second.
La plus forte opposition
L’objection la plus juste est que l’IA de pointe est un problème US-Chine et que tout le monde est spectateur. Les spectateurs hébergent encore du calcul, des talents et des votes dans les instances internationales. Un régime qui exclut le reste du monde de l’IA étroite bénéfique échouera politiquement. Un régime qui partage les outils tout en bloquant les voies ASI peut avancer.