Quel traité sur la sécurité de l'IA
À quoi ressemblerait une négociation.

En 1968, le Traité de non-prolifération nucléaire est passé du projet de texte à un instrument signé après des années de groupes de travail, d’impasse et de conflits internes. Les gens qui disent « nous avons besoin d’un traité sur l’IA » imaginent rarement cette machinerie. Ils devraient. L’écart entre le slogan et un texte ratifié est l’endroit où la plupart des plans meurent.

Les négociations de traités internationaux se déroulent comme des processus techniques prolongés sur plusieurs années, conduits par des missions diplomatiques, des experts juridiques et des conseillers techniques.

Comment fonctionnent les négociations de traité international

La plupart des traités multilatéraux modernes commencent par une autorisation politique : typiquement une résolution de l'Assemblée générale de UN ou une décision d'un organe multilatéral mandatant le début des négociations. Cela crée la base formelle d'une conférence de négociation ou d'un comité permanent dans un forum existant tel que la Conférence du désarmement à Genève. Sans cette autorisation politique, les discussions sur un traité sont préparatoires et informelles. Avec elle, elles deviennent un processus de négociation formel doté d'un mandat pour produire un texte.

L’organe de négociation se réunit en sessions, généralement plusieurs semaines par an, le travail intersessionnel étant assuré par des groupes de travail techniques entre les sessions formelles. Les groupes de travail traitent en parallèle des questions spécifiques : définitions, mécanismes de vérification, arrangements institutionnels, obligations de mise en œuvre, dispositions financières. Chaque groupe de travail produit un projet de texte qui est intégré à un projet roulant du traité complet au fil des sessions successives.

Le projet de traité est négocié par consensus, ce qui signifie qu’aucune disposition n’est finalisée tant que tous les participants ne l’ont pas acceptée. C’est une barre plus haute que le vote majoritaire, mais cela produit des traités dotés d’une légitimité plus durable et d’une participation plus large, car aucun pays n’a été mis en minorité sur des dispositions qu’il juge inacceptables. Le coût est que le consensus demande plus de temps, et le rythme est dicté par la délégation qui a le plus d’objections à surmonter.

Une fois le texte finalisé, il est ouvert à la signature. La signature est un acte politique d'approbation, pas un engagement juridique. L'engagement juridique intervient quand un pays ratifie le traité via son processus constitutionnel interne. La plupart des traités fixent un nombre minimum de ratifications avant leur entrée en vigueur juridique.

Quels groupes de travail un traité sur l'IA de pointe nécessiterait

Un traité conçu pour régir le développement de l'IA de pointe nécessiterait des groupes de travail organisés autour de questions qui n'ont pas de réponses établies en droit international. Les principales:

Définitions. Le traité doit préciser quels systèmes d’IA il régit. C’est plus difficile que de définir les armes nucléaires ou les agents chimiques, car l’IA est un spectre continu de capacités sans distinction nette entre versions dangereuses et sûres. Les propositions portent sur des seuils de calcul comme proxy : un entraînement dépassant une échelle computationnelle donnée déclencherait les obligations du traité. Ce seuil nécessiterait une justification technique, des révisions régulières à mesure que les coûts du calcul baissent, et un mécanisme de résolution des différends pour les cas proches de la limite.

Obligations des développeurs de systèmes couverts. Une fois qu’un système franchit le seuil défini, quelles sont les actions requises ? La plupart des propositions incluent une notification préalable à un organe de surveillance avant ou pendant l’entraînement ; une évaluation obligatoire du système entraîné selon des normes de sécurité spécifiées ; la communication des résultats de l’évaluation ; et des restrictions sur le déploiement des systèmes qui ne respectent pas les normes. Chacune de ces mesures exige des définitions de ce qui constitue une conformité adéquate, ce qui est en soi un différend technique et juridique avant même qu’une seule session de négociation commence.

Mécanismes de vérification. Comment un organe indépendant pourrait-il confirmer que les activités déclarées correspondent aux activités réelles ? Ce serait le groupe de travail le plus exigeant sur le plan technique. Les propositions en circulation combinent une surveillance au niveau matériel via une coopération avec les fabricants de puces qui suivent les ventes au-delà de spécifications données, des inspections d’installations par des droits de visite des grands clusters de calcul, et des droits d’audit sur les journaux d’entraînement et les dossiers d’évaluation. Chaque élément soulève des questions de confidentialité commerciale et de classification de sécurité nationale qui ne se résolvent pas facilement.

Structure institutionnelle. Quel organe administrerait le traité ? Une nouvelle organisation, analogue à OPCW, créée par le traité lui-même présente la plus grande valeur de gouvernance mais exige le plus d'efforts et de ressources politiques pour être établie. La délégation à un organe existant entraîne un coût politique moindre mais peut ne pas avoir le mandat ni l'expertise technique requis par la tâche. IAEA a de l'expérience dans la surveillance des technologies à double usage ; l'UIT revendique une certaine compétence sur les questions liées à l'IA. Chaque option a des implications différentes en matière de ressources et des antécédents différents d'indépendance politique vis-à-vis des grandes puissances.

Exigences d'entrée en vigueur. Le traité devrait préciser quels pays doivent le ratifier avant son entrée en vigueur juridique. Un traité entré en vigueur sans les US, la Chine ou les UK ne lierait pas les organisations responsables du développement de l'IA de pointe. Les NPT exigeaient la ratification par un groupe défini d'États. Un traité sur l'IA aurait besoin d'un mécanisme similaire, avec la difficulté évidente que l'exigence de ratification par les US et la Chine donne à ces deux pays un veto sur l'existence du traité.

Le processus de négociation par étapes

Les points de blocage prévisibles

L'expérience des négociations comparables suggère plusieurs litiges qui surgiraient inévitablement et qu'il faut anticiper dès le départ.

La tension vérification-confidentialité. Les pays et les entreprises qui disposent de programmes d'IA de pointe résisteront aux mécanismes de vérification exigeant la divulgation d'informations commercialement ou militairement sensibles. Les capacités de l'IA représentent des avantages concurrentiels. Les droits d'inspection qui rendent un système de vérification crédible seront contestés par les mêmes parties dont la conformité rend le traité significatif. Le régime nucléaire a résolu ce problème par des accords de garanties soigneusement délimités qui vérifiaient la non-diversion du matériau nucléaire sans exiger la divulgation d'informations sur la conception des armes. La gouvernance du ASI exigera un exercice de délimitation analogue.

Le différend sur la définition du seuil. Quel que soit le seuil de calcul utilisé pour définir les systèmes concernés, il sera contesté. Les parties juste en dessous du seuil plaideront pour qu'il soit plus bas ; celles juste au-dessus argueront qu'il est fixé trop bas. Et tout seuil fixe deviendra obsolète à mesure que les coûts de calcul baisseront, nécessitant des mécanismes d'amendement eux-mêmes politiquement contestés. Une approche utilisée dans d'autres traités consiste à déléguer la fixation des seuils à un organe technique plutôt que d'incorporer des chiffres fixes dans le texte du traité lui-même, permettant une révision sans amendement du traité.

Le problème de la participation de la Chine. Un traité qui entre en vigueur sans la Chine ne régit pas les organisations responsables du développement d'IA le plus significatif en dehors du US. Obtenir que la Chine accepte des obligations contraignantes sur son développement d'IA de pointe nécessite d'offrir quelque chose de crédible en retour (probablement une combinaison de garanties d'accès technologique et de contraintes symétriques sur le développement du US) dans des conditions de profonde méfiance mutuelle. C'est un problème diplomatique que la conception du traité ne peut pas résoudre entièrement.

Le problème des acteurs privés. L'IA de pointe est développée principalement par des entreprises privées. Le traité lierait les États, qui mettraient ensuite en œuvre les obligations par le droit interne appliqué aux entreprises. Cela introduit une complexité réglementaire que les traités sur les armes nucléaires et chimiques n'ont pas rencontrée, car ces traités concernaient principalement des programmes étatiques. Un traité sur l'IA de pointe devrait préciser clairement comment les obligations des États se traduisent en obligations pour les entreprises, et comment les violations commises par une entreprise sont attribuées à l'État partie qui l'héberge.

"Chaque grand traité de contrôle des armements a semblé impossible à négocier jusqu'à ce qu'il le soit. La question est toujours de savoir si les conditions politiques ont suffisamment mûri pour que le coût de l'inaction continue dépasse celui de l'accord."

Un traité de sécurité de l'IA de pointe est le résultat d'un processus politique soutenu qui n'a pas encore officiellement commencé, et non un événement unique. Le travail actuellement en cours — sommets sur la sécurité de l'IA, discussions bilatérales entre gouvernements, instituts nationaux de sécurité, propositions académiques de cadres de gouvernance — constitue la phase préparatoire. Le convertir en un mandat de négociation formel, puis en un texte de traité, puis en une ratification, est l'œuvre de plusieurs années. L'urgence tient au fait que les capacités à gouverner pourraient se développer plus vite que le processus de gouvernance ne peut avancer. Cette urgence est l'argument pour commencer sérieusement maintenant.

La plus forte opposition

L’objection la plus juste est que les grandes puissances ne lieront jamais leurs laboratoires de pointe, donc décrire la négociation relève de l’académisme. Chaque grand traité sur les armements a paru impossible jusqu’à ce que le coût de l’inaction augmente. Le travail préparatoire existe. La pièce manquante est la volonté politique imposée par la demande publique et les leviers industriels, pas un nouveau vocabulaire.