Le cadrage de la concurrence IA entre US et la Chine comme un obstacle à la gouvernance du ASI traite comme équivalentes deux choses qui sont en réalité distinctes. La concurrence et la coopération sur un risque catastrophique partagé ne sont pas mutuellement exclusives. Les États-Unis et l'Union soviétique ont rivalisé intensément sur toutes les dimensions du pouvoir national pendant quatre décennies tout en négociant et en maintenant simultanément une série d'accords de maîtrise des armements qui limitaient les armes les plus susceptibles de mettre fin à la civilisation. Les conditions dans lesquelles cette coopération était possible méritent d'être comprises pour ce qu'elles peuvent nous apprendre sur le problème de la sécurité de l'IA.
L'histoire de la façon dont les rivaux coopèrent sur des risques partagés catastrophiques est directement pertinente pour le problème de la sécurité de l'IA.
Ce qui a rendu possible la coopération US-soviétique
Plusieurs conditions étaient nécessaires aux accords de maîtrise des armements entre les deux puissances de la guerre froide. Aucune n’exigeait que la compétition prenne fin ni que les deux camps se fassent confiance au sens général.
La méfiance est normale. La vérification existe quand même.
Le premier était une compréhension partagée et concrète d’une catastrophe mutuelle. Les États-Unis et l’Union soviétique avaient observé les effets des armes nucléaires, les US par l’usage et les essais, l’Union soviétique par les essais et par le renseignement sur Hiroshima et Nagasaki. À la fin des années 1950, les deux parties comprenaient qu’un échange nucléaire total serait catastrophique pour chacune. Ce n’était pas une évaluation théorique ; elle reposait sur des preuves physiques de ce que faisaient les armes nucléaires. La crise des missiles de Cuba en 1962 a rendu cette compréhension viscérale et immédiate pour les dirigeants politiques, d’une manière que des années d’analyse stratégique n’avaient pas permis.
Le second fut un dialogue informel soutenu qui a maintenu des liens intellectuels et personnels à travers la fracture politique. Les Conférences Pugwash sur la science et les affaires mondiales, qui ont débuté en 1957, ont réuni des scientifiques des deux blocs pour discuter du contrôle des armements avant qu'aucune négociation formelle ne soit possible. Ce réseau informel a construit les idées et les relations que les négociations formelles ont ensuite formalisées. Lorsque les responsables de US et soviétiques se sont assis pour négocier le Traité d'interdiction partielle des essais nucléaires en 1963, ils ne partaient pas de zéro.
Le troisième était un cadrage prudent. Le Traité d'interdiction partielle des essais (1963) interdisait les essais nucléaires dans l'atmosphère, l'espace extra-atmosphérique et sous l'eau, mais pas sous terre. Il traitait un problème, les retombées atmosphériques des essais, où les deux parties avaient un intérêt partagé réel à une solution, sans exiger de l'une ou de l'autre qu'elle accepte des contraintes sur ses programmes d'armement ou la vérification de ses arsenaux. C'était un premier accord limité qui a renforcé la confiance pour des accords plus ambitieux à suivre. SALT I (1972), le Traité ABM (1972) et la Convention sur les armes chimiques sont venus plus tard, chacun s'appuyant sur l'architecture du précédent.
Le quatrième point était que la vérification était intégrée dès le départ, et non ajoutée plus tard. Chaque accord était conçu avec des mécanismes de vérification explicites : les moyens techniques nationaux de reconnaissance par satellite ont été incorporés au cadre du SALT, les deux parties s'engageant à ne pas interférer avec les satellites de surveillance de l'autre. Cela permettait à chaque partie de vérifier le respect des engagements sans avoir à faire confiance aux déclarations de l'autre. Les accords qui exigeaient de la confiance pour fonctionner n'ont pas été conclus ; ceux qui pouvaient être vérifiés sans confiance l'ont été.
Où la comparaison US-Chine s'applique
Les États-Unis et la Chine partagent des caractéristiques structurelles avec la dynamique US-soviétique qui sont pertinentes pour la gouvernance ASI.
Les deux développent des systèmes d'IA de pointe aux applications militaires et économiques potentielles qu'aucune des deux parties ne veut voir l'autre posséder. Les deux ont exprimé, à des niveaux officiels, leur préoccupation face aux risques d'un ASI développé sans contraintes de sécurité adéquates. Les deux sont confrontés à un scénario (un système d'IA se comportant de manière catastrophiquement imprévue) qui serait nuisible aux deux pays, quel que soit le pays dont le système l'a produit. Une superintelligence non alignée développée par un laboratoire chinois serait dangereuse pour la Chine autant que pour les États-Unis, et vice versa. La catégorie de risque qui préoccupe le plus la recherche sur la sécurité de l'IA n'est pas rivale comme le sont les capacités d'armes nucléaires. Cela crée une base structurelle réelle d'intérêt partagé.
Il existe aussi un dialogue informel croissant. Le sommet sur la sécurité de l'IA de Bletchley en novembre 2023 a inclus la participation du gouvernement chinois, première fois que des responsables chinois prenaient part à un forum multilatéral consacré spécifiquement à la sécurité de l'IA de pointe. Des chercheurs chinois en IA ont participé à des discussions internationales sur la sécurité. Fin 2024, le US et la Chine sont parvenus à un accord pour entamer des discussions bilatérales sur les risques de l'IA. Ces échanges sont encore précoces et fragiles, facilement perturbés par d'autres aspects de la relation bilatérale, mais l'infrastructure du dialogue existe.
Le contrôle des armements US-soviétique n’exigeait pas que les deux camps se fassent confiance. Il exigeait qu’ils conviennent que certains résultats catastrophiques étaient pires que les contraintes nécessaires pour les éviter, et qu’ils conçoivent des systèmes de vérification rendant la conformité observable sans reposer sur la bonne foi.
Où la comparaison s'effondre
Les relations entre US et l’Union soviétique avaient une clarté que les relations actuelles entre US et la Chine n’ont pas. Les deux superpuissances de la guerre froide s’accordaient, au niveau officiel, sur le fait que les armes nucléaires étaient des armes et qu’un échange nucléaire total serait catastrophique. Les effets physiques des armes nucléaires étaient documentés, observés et compris. La menace était concrète.
Le risque catastrophique lié à l'IA reste, pour la plupart des dirigeants politiques, anticipé plutôt que vécu. Aucun gouvernement n'a intégré le risque existentiel lié à la superintelligence artificielle dans son cadre de sécurité nationale avec le même poids que le risque nucléaire depuis 1945. Le scénario d'une IA superintelligente non alignée causant un dommage civilisationnel n'a aucun précédent historique. Cela rend la mobilisation politique autour de la prévention plus difficile, car les politiciens réagissent plus sûrement aux dommages démontrés qu'aux dommages anticipés.
La dimension économique de la relation entre le US et la Chine complique également les choses d’une manière qui n’avait pas d’équivalent pendant la guerre froide. Le US et l’Union soviétique avaient des économies largement séparées. Le US et la Chine sont économiquement interdépendants, avec des chaînes d’approvisionnement, des transferts de technologie et des flux d’investissement dans les deux sens. Les capacités en IA sont au cœur de la concurrence économique dans cette relation, et pas seulement de la concurrence militaire. Cela rend plus difficile d’isoler l’IA de la relation concurrentielle générale et d’en négocier séparément, car les restrictions sur le développement de l’IA affectent également les perspectives économiques d’une manière que les restrictions sur, disons, les missiles nucléaires à portée moyenne ne le faisaient pas.
L’état actuel du dialogue
À la mi-2026, le dialogue IA entre US et la Chine est prudent et intermittent. Les discussions bilatérales entamées en 2024 se sont poursuivies au niveau technique, axées principalement sur le partage d'informations concernant les évaluations des risques de l'IA plutôt que sur des engagements contraignants. Les deux gouvernements ont publiquement soutenu l'objectif de prévenir les issues catastrophiques liées à l'IA tout en maintenant simultanément des programmes compétitifs de développement de l'IA. Au niveau multilatéral, les deux ont participé au Sommet de Bletchley en 2023 et au Sommet de Séoul en 2024, signant des déclarations qui reconnaissaient une préoccupation partagée concernant les risques de l'IA de pointe sans créer d'obligations contraignantes.
Les contrôles à l’exportation du US sur les technologies de semi-conducteurs avancés constituent une source persistante de tensions bilatérales. Ces contrôles, qui restreignent l’accès de la Chine aux puces les plus avancées utilisées dans l’entraînement des IA de frontière, sont motivés principalement par des considérations de concurrence plutôt que de sécurité. D’un point de vue de gouvernance, ils représentent une forme de gouvernance unilatérale du calcul ayant certains des effets pratiques des limites de calcul fondées sur un traité, bien qu’aucune des contraintes réciproques ou des mécanismes de vérification qu’inclurait une gouvernance fondée sur un traité.
Quelles conditions permettraient des progrès
Trois conditions ont historiquement précédé des progrès significatifs en matière de contrôle des armements entre rivaux, et chacune a un équivalent en matière d'IA.
Un moment décisif qui rend le risque concret et politique. Le traité d'interdiction partielle des essais nucléaires a suivi les essais atmosphériques des deux côtés qui ont produit des retombées mondiales mesurables ayant concentré l'opinion publique contre la poursuite des essais. Un équivalent de gouvernance ASI pourrait être un incident grave, le déploiement d'un système hautement capable qui s'est comporté de manière significativement imprévue à grande échelle, rendant le risque politiquement visible aux opinions nationales des deux pays simultanément. Les gouvernements réticents à l'action préventive deviennent plus réceptifs après des expériences de quasi-accident.
Des mesures de confiance techniques avant des engagements contraignants. Avant SALT I, les deux camps utilisaient la reconnaissance par satellite pour surveiller les programmes de missiles de l'autre, avec une acceptation tacite que cette surveillance avait lieu. L'équivalent pour l'IA pourrait être des accords de transparence sur les notifications de cycles d'entraînement, des normes d'évaluation partagées ou une recherche de sécurité coopérative. Ces mesures renforcent la confiance que l'autre camp agit de bonne foi, créant le socle politique pour des engagements plus importants.
Une facilitation par un tiers qui permet aux deux parties de participer sans donner l’impression de céder à l’autre. Plusieurs initiatives réussies de maîtrise des armements ont bénéficié d’un cadre multilatéral : les deux camps pouvaient s’engager dans un processus international plutôt que de faire des concessions bilatérales l’un à l’autre. Un processus multilatéral de gouvernance de ASI incluant à la fois US et la Chine, hébergé par un organisme neutre, pourrait être la voie vers des accords que des négociations bilatérales présentées comme des confrontations US-Chine ne produiraient pas.
« Les US et la Chine n’ont pas besoin de se faire confiance pour coopérer sur la sécurité de l’IA. Ils doivent convenir que des issues catastrophiques liées à l’IA sont pires pour chacun d’eux que les contraintes nécessaires pour les éviter. »
La question de savoir si les US et la Chine peuvent s’accorder sur la sécurité de l’IA est en définitive une question de savoir si les deux gouvernements concluront, avant qu’un système d’IA suffisamment capable n’existe, que des contraintes mutuelles contraignantes sont préférables à une course sans contrainte. L’histoire suggère que cette conclusion est accessible, à condition que les circonstances soient réunies. L’histoire suggère aussi que les gouvernements y parviennent rarement par une délibération calme et anticipée. Ils y parviennent lorsque l’alternative est devenue suffisamment tangible pour modifier le calcul politique. La question politique est de savoir si la fenêtre de gouvernance restera ouverte assez longtemps pour que ce changement se produise.
La plus forte opposition
L'objection la plus juste est que la rivalité rend la coopération illusoire. Le contrôle des armements nucléaires s'est fait dans un contexte de haine bien plus vive, avec vérification plutôt que confiance. La vulnérabilité partagée face à la perte de contrôle constitue l'intérêt commun. Sans cela, les deux camps s'engagent dans une course vers des systèmes qu'aucun ne peut piloter.