Pendant la guerre froide, des rivaux qui ne se faisaient pas confiance échangeaient néanmoins des notifications, des observateurs et des lignes directes. Ces habitudes n'ont pas mis fin à la course aux armements. Elles ont réduit le risque qu'une simple peur déclenche une guerre. La politique de l'IA a besoin de la même machinerie peu glamour pendant que le travail plus difficile sur le traité avance.
Les adversaires de la guerre froide, qui ne parvenaient pas encore à s'entendre sur le contrôle des armements, ont tout de même mis en place des mécanismes pour empêcher une crise de tourner à la catastrophe. Ces « mesures de confiance » sont peu coûteuses, rapides et disponibles dès maintenant ; c'est ainsi qu'un traité devient finalement possible.
La boîte à outils de la guerre froide
Le US et l'Union soviétique, au plus fort de leur hostilité mutuelle, ont construit une quantité surprenante de cette infrastructure. La ligne directe de 1963 a donné aux dirigeants une ligne directe pour empêcher les signaux mal interprétés de dégénérer. L'accord de 1972 sur les incidents en mer a fixé des règles pour éviter que les rencontres navales ne s'aggravent. Des mesures ultérieures ont exigé une notification préalable des essais de missiles et des grands exercices militaires, ainsi que la création de centres de réduction des risques nucléaires fonctionnant 24 heures sur 24. Aucune de ces mesures n'a limité une seule arme. Toutes ont réduit le risque que la peur et les malentendus déclenchent la catastrophe qu'aucune des deux parties ne voulait.
À quoi pourraient ressembler les CBM pour l'IA
Notification d'incident et rapport partagé
Accords visant à informer rapidement les uns les autres (et un organisme commun) des incidents graves de sécurité de l'IA, des quasi-accidents ou des découvertes de capacités dangereuses, afin qu'un événement effrayant n'ait pas à être interprété à travers des hypothèses du pire dans l'obscurité.
Canaux de communication en cas de crise
Une ligne dédiée et testée entre les autorités compétentes des États rivaux pour les urgences liées à l'IA, afin qu'un événement suspect de perte de contrôle ou un saut de capacité ambigu puisse être discuté directement plutôt que mal interprété.
Transparence sur les intentions et les lignes rouges
Déclarations volontaires des stratégies nationales en matière d'IA, des pratiques de sécurité et des seuils de capacités qu'un État juge inacceptables, réduisant les malentendus qui alimentent les courses aux armements et mettant en lumière les points où les lignes rouges pourraient se chevaucher.
Notification préalable des entraînements majeurs
Un engagement à notifier un organisme de surveillance avant les efforts de développement à plus grande échelle, à l'instar des notifications d'essais de missiles et d'exercices, afin de prendre l'habitude de déclarations que la vérification formaliserait plus tard.
Dialogue scientifique à scientifique
Un échange technique soutenu entre chercheurs en sécurité au-delà des frontières, en maintenant ouvert le canal qui a historiquement permis des percées en matière de maîtrise des armements même lorsque les relations officielles étaient gelées.
Pourquoi ils comptent plus qu'il n'y paraît
Les mesures de confiance mutuelle font trois choses qui rendent un traité éventuel possible. Elles réduisent le danger immédiat pendant la période précédant le traité, lorsque l'accident et la méprise constituent les risques aigus. Elles construisent l'expérience pratique de la coopération (formats de rapport partagés, canaux testés, relations de travail) dont dépend la vérification contraignante. Et elles génèrent de petites démonstrations réciproques de bonne foi qui rendent les engagements plus importants négociables. Un État qui a honoré les notifications d'incidents pendant des années est un partenaire de traité plus crédible que celui qui commence à froid.
Elles sont aussi politiquement peu coûteuses. Parce que les CBM n’exigent pas qu’un pays renonce à une capacité, elles évitent les objections de souveraineté et de concurrence qui font échouer les accords contraignants. Un gouvernement peut accepter une ligne directe de crise ou un canal de signalement d’incident sans concéder quoi que ce soit sur son droit de développer l’IA. Ce faible coût explique exactement pourquoi ce sont les premiers gestes réalistes pendant que la négociation plus dure reste hors d’atteinte.
On ne gagne pas la confiance en l’exigeant. On la construit par de petites étapes vérifiables, peu coûteuses, qui prouvent la fiabilité. Chaque traité de maîtrise des armements de l’histoire reposait sur des années de mesures de confiance préalables.
Commencer là où un accord est possible
La valeur stratégique des mesures de confiance est qu’elles peuvent commencer dès maintenant, entre rivaux qui sont loin d’un traité, précisément parce qu’elles exigent très peu. Elles constituent le contenu naturel du dialogue actuel US-Chine sur l’IA, du processus de sommets et du réseau des instituts de sécurité. Les traiter comme une piste sérieuse (et non comme un lot de consolation) est ce qui rend la période précédant le traité productive plutôt que simplement dangereuse. L’accord global est la destination. Les mesures de confiance sont la route, et elle est ouverte dès aujourd’hui. La tâche consiste à commencer à la parcourir avant qu’un accident évitable ne rende la coopération nécessaire de la manière la plus dure.