L’objection de souveraineté à une gouvernance internationale ASI est que les décisions sur les technologies qu’un pays peut développer et déployer sont des décisions internes, prises par des gouvernements nationaux responsables devant leurs citoyens. Un traité international contraignant limitant le développement de l’IA transférerait l’autorité effective sur ces décisions à un organe international ou au veto d’autres pays. Cela porte atteinte à la souveraineté. L’argument est présenté comme s’il était propre au débat sur l’IA. Ce n’est pas le cas. Des arguments identiques ont été avancés contre le NPT, la Convention sur les armes chimiques, le Protocole de Montréal et tous les grands traités internationaux qui ont limité la liberté d’action des États sur des technologies dangereuses. Dans chaque cas, l’argument a fini par être surmonté. Comprendre comment est utile.
Le NPT a été signé par 62 pays en 1968 de toute façon. Voici comment cela s’est produit, et ce que cela signifie pour l’IA.
Ce que l'argument de souveraineté revendique réellement
L’argument est le plus fort lorsqu’il s’applique à la technologie militaire. Les pays confrontés à de réelles menaces sécuritaires ont un intérêt concret à préserver leur liberté d’action sur leurs capacités militaires. Les lier à des restrictions internationales sur le développement de l’IA dans des contextes militaires exige d’accepter des contraintes que des adversaires pourraient ne pas accepter, dans un domaine où la capacité compte directement pour la survie nationale. C’est la version la plus dure de l’objection de souveraineté, et elle reflète la position des États dotés d’armes nucléaires tout au long de la guerre froide.
L’argument est nettement plus faible lorsqu’il s’applique au développement civil de l’IA. La sécurité nationale d’aucun pays ne dépend de sa capacité à exécuter des entraînements d’IA commerciaux sans surveillance. Le coût de souveraineté lié à la déclaration et à la surveillance des programmes civils d’entraînement d’IA à grande échelle est faible. L’usage politique de l’argument de souveraineté dépasse fréquemment les cas où la préoccupation sous-jacente est réellement légitime.
Séparer les cas compte pour la conception des traités. Des cadres de gouvernance qui traitent les activités spécifiques où les préoccupations de souveraineté sont réelles — les programmes de développement d'IA à grande échelle susceptibles d'avoir un impact à l'échelle civilisationnelle — peuvent être conçus pour laisser l'IA civile et commerciale largement intacte, réduisant sensiblement la force de l'objection.
Comment l'argument de la souveraineté nucléaire a été résolu
Le NPT n’a pas éliminé l’objection de souveraineté. Il l’a recadrée. Le traité a créé une architecture formelle de choix souverain : les pays pouvaient adhérer et accepter des obligations de sauvegarde, ou rester en dehors du traité et affronter les conséquences politiques et économiques d’être en dehors du système international. Les cinq États dotés d’armes nucléaires déclarées ont été autorisés à conserver leurs armes en échange de l’acceptation d’obligations relatives à la non-prolifération et au désarmement. Les États non nucléaires ont accepté la surveillance de leurs programmes nucléaires civils en échange d’un accès garanti à la technologie nucléaire pacifique et d’assurances de sécurité.
Le mécanisme qui a permis cela était que la souveraineté était préservée en forme tout en étant substantiellement contrainte en pratique. Les signataires du NPT peuvent en principe se retirer du traité, l'article X autorisant un retrait avec un préavis de 90 jours, comme la Corée du Nord l'a invoqué en 2003. Mais le coût politique et économique du retrait est substantiel. L'argument de la souveraineté disait que les pays ne pouvaient pas accepter de contraintes externes sur leurs choix nucléaires. Le NPT a résolu cela en rendant le choix formel et visible, tout en rendant le coût du mauvais choix suffisamment élevé pour que presque tous les pays concluent que l'adhésion était préférable.
Le résultat fut un traité qui compte aujourd’hui 191 États parties. Neuf pays possèdent des armes nucléaires. Seuls trois pays, l’Inde, le Pakistan et Israël, n’ont jamais adhéré à NPT. La Corée du Nord s’est retirée et possède désormais des armes. L’objection de souveraineté, qui semblait assez puissante pour empêcher toute gouvernance nucléaire contraignante au début des années 1960, a produit un monde dans lequel 191 gouvernements ont accepté des obligations contraignantes de surveillance de leurs programmes nucléaires.
Comment l’argument de souveraineté sur les armes chimiques a été résolu
La Convention sur les armes chimiques (1993) propose un modèle différent. Contrairement au NPT, qui crée un monde formel à deux vitesses de pays dotés et non dotés d'armes nucléaires, la CWC interdit les armes chimiques pour tous, y compris les grandes puissances qui l'ont négociée. Les États-Unis et l'Union soviétique, qui possédaient les plus grands stocks d'armes chimiques au monde, ont accepté des obligations contraignantes de déclaration et de destruction sous supervision internationale.
L'accommodement de souveraineté dans la CWC est le droit des industries chimiques nationales de continuer à fonctionner à des fins civiles, sous réserve de surveillance. Les pays peuvent conserver des industries chimiques. Ils ne peuvent pas conserver d'armes chimiques. L'Organisation pour l'interdiction des armes chimiques inspecte les installations déclarées et enquête sur les allégations de violation. Les pays conservent leur souveraineté sur leurs secteurs chimiques civils ; ils ont renoncé à leur souveraineté sur une application spécifique de ces secteurs.
Ce modèle peut être plus applicable à l'IA que le modèle NPT, car le développement de l'IA est principalement civil et à double usage. Un traité qui restreindrait le développement des systèmes d'IA de pointe les plus capables (ceux dépassant des seuils de capacité ou de calcul spécifiés) tout en laissant l'IA commerciale et grand public entièrement non réglementée suivrait la logique de la CWC plutôt que celle du NPT. Le coût de souveraineté de ce type de traité est inférieur à celui du NPT car il ne crée pas de hiérarchie permanente des capacités autorisées et interdites fondée sur qui possédait quoi au moment de la signature du traité.
Le modèle de la couche d'ozone et le consensus scientifique
Le Protocole de Montréal relatif à des substances qui appauvrissent la couche d’ozone (1987) a résolu l’objection de souveraineté par un mécanisme différent : le consensus scientifique a rendu la non-participation politiquement intenable. Une fois qu’il est devenu clair que les chlorofluorocarbones causaient des dommages mesurables à la couche d’ozone, et que cet appauvrissement causerait des dommages mesurables à tous les pays de la Terre, l’argument de souveraineté contre l’adhésion au protocole est devenu difficile à soutenir dans les débats politiques nationaux. Les gouvernements qui invoquaient la souveraineté pour éviter les restrictions sur les CFC se voyaient demander quelle souveraineté ils protégeaient alors que la conséquence était un préjudice pour leurs propres citoyens causé par les rayonnements ultraviolets.
Le Protocole de Montréal comprenait également un mécanisme de transfert de technologies. Les pays en développement qui supporteraient le coût économique de l'élimination des CFC ont reçu une aide, à la fois financière et technologique, pour faciliter la mise en conformité. Cela répondait à la version de l'argument de souveraineté selon laquelle les accords environnementaux internationaux font porter aux pays en développement le fardeau de payer pour des problèmes créés par les pays riches. En 2009, le Protocole de Montréal avait obtenu une ratification universelle : 197 parties, tous les États membres du UN.
L’analogie avec l’IA est imparfaite, car le consensus scientifique sur le risque existentiel lié à l’IA n’est pas aussi unifié que la science de l’ozone ne l’était en 1987. Mais le modèle du Protocole de Montréal suggère qu’un consensus d’experts plus clair et plus public sur le risque lié à l’IA modifierait sensiblement la dynamique politique de l’objection de souveraineté. Plus le risque est compris concrètement, moins l’argument de souveraineté reste tenable.
Ce qui reste réellement difficile
L'objection de souveraineté n'est pas qu'une excuse pour que les gouvernements évitent des obligations gênantes. Elle reflète de vraies contraintes politiques. Les gouvernements répondent à des électorats nationaux qui attendent d'eux qu'ils préservent la capacité et la liberté d'action nationales. Les traités qui exigent d'un pays qu'il accepte des contraintes que ses rivaux n'ont pas acceptées rencontrent une opposition intérieure durable, comme le traité SALT II aux États-Unis après l'intervention soviétique en Afghanistan en 1979, lorsque le Sénat a refusé de ratifier un texte déjà signé.
Pour l'IA, la contrainte est la plus forte dans la relation US-Chine. Un traité de gouvernance du ASI qui lie les États-Unis mais pas la Chine, ou que la Chine ratifie sans application significative, fonctionnerait comme une contrainte unilatérale. Cette préoccupation est souvent soulevée sous la bannière de la souveraineté, mais il s'agit plus précisément d'un problème de participation. L'objection de souveraineté peut être traitée par la conception du traité. Le problème de participation ne peut être résolu que par la diplomatie, en créant les conditions dans lesquelles à la fois le US et la Chine concluent que rejoindre un cadre contraignant est préférable à rester en dehors.
L’argument de souveraineté contre le contrôle des armements a été invoqué avant chaque grand traité de l’histoire. Il n’a jamais eu le dernier mot.
L’histoire montre que l’objection de souveraineté à la gouvernance du ASI constitue une contrainte politique réelle qu’il faut contourner par la conception, et non une barrière fondamentale. Les architectures de traités qui ont réussi l’ont fait en préservant la forme du choix souverain tout en rendant le coût du mauvais choix suffisamment élevé. La même approche est possible pour la gouvernance du ASI. Le défi consiste à créer les conditions politiques dans lesquelles les gouvernements concluent que l’adhésion est le bon choix, ce qui relève de la compréhension publique, du consensus scientifique et d’un effort diplomatique soutenu, et non de la compatibilité entre une gouvernance internationale contraignante et la souveraineté.