Travailler sur l'anatomie d'un traité hypothétique n'est pas un exercice académique. Cela transforme une aspiration vague en un ensemble de décisions de conception spécifiques et discutables, et révèle que les obstacles à la gouvernance ASI sont politiques, non conceptuels. La machinerie juridique existe déjà ; chaque disposition ci-dessous a un précédent dans un traité existant. Ce qui suit est une esquisse structurelle, non un texte final, de ce qu'un Traité sur la sécurité de l'intelligence artificielle devrait résoudre.

Un traité est un instrument juridique structuré doté d'une anatomie reconnaissable : portée, définitions, obligations, vérification, institutions et application. Voici un parcours concret des dispositions qu'un accord visant à prévenir une superintelligence dangereuse exigerait, et des choix que chacune impose.

Préambule et objet

Chaque traité s'ouvre en énonçant son objet et ses principes directeurs. Ici, l'objectif serait d'empêcher le développement de la superintelligence artificielle de manière permanente. La superintelligence ne peut être contrôlée, tout en préservant les bénéfices de l'IA en deçà de ce seuil et en veillant à ce que ces bénéfices soient partagés. Le préambule invoquerait le principe de précaution, affirmerait que les risques sont d'intérêt commun pour l'humanité, et situerait le traité dans le droit international existant. Cela établit le cadre interprétatif pour tout ce qui suit.

Portée et seuils

Le problème de rédaction le plus difficile consiste à définir ce que le traité couvre. Contrairement aux matières nucléaires, les capacités de l’IA forment un spectre continu sans ligne naturelle. L’approche praticable consiste à utiliser des indicateurs mesurables : un seuil de calcul d’entraînement au-delà duquel les systèmes deviennent soumis aux obligations du traité, combiné à des critères fondés sur les capacités pour les systèmes qui manifestent des aptitudes dangereuses spécifiées. Les chiffres exacts devraient être confiés à un organe technique habilité à les réviser, car tout chiffre fixe inscrit dans le texte sera obsolète en quelques années.

Obligations principales

1

Interdiction de franchir la ligne rouge

L'obligation centrale : les parties s'engagent à ne pas développer ni déployer de systèmes dépassant le seuil de danger défini tant que les conditions de sécurité convenues ne sont pas remplies, l'équivalent, dans le traité, d'une interdiction de l'acte prohibé.

2

Déclaration et notification

Les parties doivent déclarer les grandes installations de calcul et notifier l’organe du traité avant tout entraînement couvert, créant ainsi la base de transparence sur laquelle la vérification peut s’appuyer.

3

Évaluation obligatoire avant déploiement

Les systèmes couverts doivent subir une évaluation de sécurité indépendante selon des normes définies avant déploiement, avec les résultats rapportés à l'organe du traité.

4

Mise en œuvre nationale

Chaque partie doit adopter des lois nationales appliquant ces obligations aux développeurs publics et privés sur son territoire, puisque le traité lie les États, pas directement les entreprises.

Vérification

Une interdiction que personne ne peut vérifier ne vaut rien, donc le traité a besoin d'un régime de vérification. En s'inspirant des précédents des IAEA et des armes chimiques, celui-ci combinerait la surveillance des installations déclarées pour les grands clusters de calcul, le suivi des puces avancées tout au long de la chaîne d'approvisionnement, des droits d'audit sur les registres d'entraînement et d'évaluation, des inspections sur site avec des droits d'accès définis, et (l'élément le plus récent) des garanties matérielles intégrées aux puces pour rendre détectable tout entraînement clandestin à grande échelle. L'objectif de conception, comme dans les garanties nucléaires, est de vérifier ce qui compte sans obliger à divulguer tous les secrets commerciaux ou de sécurité.

Institutions

Le traité créerait un organisme international (appelons-le une Organisation de sécurité de l'IA) pour l'administrer : un secrétariat technique et une inspection, un panel scientifique pour fixer et réviser les seuils, une conférence des parties comme organe décisionnel, et un mécanisme pour mettre à jour les annexes sans nouvelle ratification complète, sur le modèle de Montréal. C'est l'institution permanente qui transforme un document statique en un régime continu capable de suivre le rythme de la technologie.

Application, entrée en vigueur et amendement

  • Application. Réponses graduées aux violations, des constats de non-conformité à la perte d'accès aux avantages partagés et au calcul, jusqu'à la saisine du Conseil de sécurité pour les infractions graves, en reconnaissant que la vérification produit des preuves mais que les conséquences exigent un soutien politique.
  • Entrée en vigueur. Une exigence que les États hébergeant les principaux laboratoires et la production de puces ratifient avant que le traité ne lie, afin qu'il gouverne les acteurs qui comptent, tout en évitant une conception où l'un d'eux peut opposer son veto à son existence indéfiniment.
  • Amendement et ajustement. Un mécanisme accéléré pour durcir les seuils et les annexes techniques à la majorité qualifiée, afin que le traité puisse évoluer avec la technologie plutôt que de se figer au moment de sa signature.

L'obstacle à un traité sur l'IA n'est pas le manque d'outils juridiques. Toutes les dispositions nécessaires existent déjà dans un traité quelconque. L'obstacle est la volonté politique, précisément ce qu'un projet clair peut contribuer à susciter.

Pourquoi le schématiser importe

Exposer les dispositions de manière aussi concrète permet deux choses. Cela démystifie le traité, en montrant qu'il s'agit d'un assemblage de parties bien comprises, chacune avec un précédent, et non d'un saut dans l'inconnu. Et cela clarifie où réside la véritable difficulté : non dans l'architecture juridique, qui est gérable, mais dans les choix politiques concernant les seuils, l'intrusion des vérifications et le marché entre grandes puissances qui rendrait le traité contraignant. Un projet ne crée pas la volonté de signer. Mais il transforme « nous avons besoin d'un traité » en « voici le traité, et voici exactement ce à quoi nous devrions consentir », point de départ indispensable d'une diplomatie sérieuse.