L'ébauche du traité MIRI pour prévenir
La superintelligence expliquée

L'article est intitulé Un accord international pour prévenir la création prématurée de superintelligence artificielle (arXiv:2511.10783), rédigé par Aaron Scher, David Abecassis, Peter Barnett et Brian Abeyta de l’équipe de gouvernance technique du Machine Intelligence Research Institute et publié en novembre 2025. Ce n’est pas un traité signé et il ne prétend pas que la volonté politique d’en signer un existe encore. Ce qu’il fait, c’est combler le fossé que les opposants à la gouvernance ASI exploitent depuis des années, à savoir l’affirmation qu’une interdiction de la superintelligence est un slogan sans rien derrière. Le projet MIRI est ce « quelque chose derrière », élaboré dans les détails dont les diplomates auraient besoin.

L'équipe de gouvernance technique de MIRI a publié un projet complet, un accord international pour arrêter la course à la superintelligence, avec des limites de calcul, une ligne de grappes de puces et un régime de vérification conçu pour des rivaux qui ne se font pas confiance. Voici ce qu'il dit réellement, et pourquoi il importe qu'il existe maintenant.

Il est arrivé aux côtés de son compagnon naturel. Quelques jours plus tôt, le Déclaration sur la superintelligence a rassemblé plus de 850 signataires (parmi lesquels Geoffrey Hinton, Yoshua Bengio et Stuart Russell) derrière une seule phrase : le développement de la superintelligence devrait être interdit jusqu'à ce qu'un large consensus scientifique établisse qu'il peut être mené de façon sûre et contrôlable, et qu'un fort soutien public soit acquis. La déclaration est la demande. Le projet de MIRI est le mécanisme. L'une dit arrêt; l’autre dit voici comment vous rendriez réellement l'arrêt vérifiable.

Une coalition, pas un traité universel

Le projet est construit autour d’une coalition centrale plutôt que d’attendre que les quelque 190 gouvernements se mettent d’accord, selon les termes des auteurs : « une coalition menée par les États-Unis et la Chine qui restreindrait l’échelle de l’entraînement des IA et de la recherche dangereuse sur l’IA ». Ce choix est délibéré et réaliste. Les puces avancées, les laboratoires de pointe et les points d’étranglement de la fabrication se trouvent dans un petit nombre de juridictions. Si Washington et Pékin s’engagent et utilisent leur levier sur la chaîne d’approvisionnement pour entraîner les autres, l’accord régit les acteurs qui comptent vraiment sans exiger d’abord un consentement universel. C’est la même logique qui a fait fonctionner le Protocole de Montréal : commencer par les parties qui peuvent résoudre le problème.

Les seuils qui définissent "too far"

Parce que la capacité de l’IA forme un spectre continu sans ligne naturelle, le projet ancre ses règles à quelque chose de mesurable : la puissance de calcul d’entraînement, comptée en FLOP (opérations en virgule flottante). Il définit deux niveaux.

La ligne des 16 GPU : grappes de puces couvertes

Une limite de calcul n'est efficace que si vous pouvez voir ce calcul. C'est pourquoi le projet attache ses règles à une unité physique qu'il appelle un « Covered Chip Cluster » : tout ensemble de puces d'IA, ou grappe en réseau, dont la capacité de calcul effective agrégée dépasse seize équivalents H100. Pour rendre cela concret, le document note que seize puces H100 fournissent environ 15 840 TFLOP/s et coûtent de l'ordre de 500 000 $ en 2025. Au-delà de ce seuil, les puces ne peuvent pas être concentrées en dehors d'installations surveillées.

C'est l'ancrage physique de tout le régime. Un entraînement de pointe ne se conjure pas à partir de rien ; il exige d'assembler un grand cluster de puces rares, gourmandes en énergie. En obligeant toute concentration au-delà de la ligne des seize GPU à se faire dans des sites déclarés et surveillés, le projet rend l'acte interdit (un entraînement clandestin à grande échelle) difficile à réaliser sans être vu. Tout le reste du régime de vérification repose sur cette seule exigence.

Comment vérifier une promesse entre rivaux

La vérification est la partie difficile de tout accord entre parties qui se méfient les unes des autres, et le projet la traite comme centrale plutôt que comme une réflexion après coup. Il superpose plusieurs mécanismes, chacun ayant un précédent dans le contrôle des armements existant:

• Suivi de la chaîne d'approvisionnement. Les puces d’IA avancées sont suivies depuis la fabrication jusqu’à la vente et l’installation, afin que la coalition sache où se trouve physiquement le compute mondial.
• Surveillance de la consommation d’énergie. Les grands entraînements consomment d'énormes quantités d'électricité distinctives ; surveiller le profil de puissance des centres de données est un moyen de signaler le calcul non déclaré.
• Consolidation dans des installations surveillées. La règle qui oblige les clusters dépassant le seuil à être déclarés transforme « trouver le data center caché » en « rendre compte des sites connus ».
• Inspections de défi. Une partie peut exiger une inspection sur site à bref délai d'un lieu suspect, un mécanisme que le projet modélise sur la Partie X de la Convention sur les armes chimiques, qui bénéficie de décennies de pratique.

Aucun de ces éléments n'est de la science-fiction. Chacun est une adaptation d'une technique déjà utilisée pour vérifier les engagements nucléaires ou chimiques. Ce qui est nouveau, c'est de les appliquer au calcul, et de le faire avant, plutôt qu'après, l'apparition de la capacité dangereuse.

Restreindre la recherche, pas seulement la puissance de calcul

La disposition la plus novatrice (et la plus contestée) du projet va au-delà du matériel. Elle restreint certaines recherches elles-mêmes : les travaux qui contribuent au développement de l’IA de pointe ou qui pourraient mettre en danger les méthodes de vérification dont dépend l’accord. La logique est que les progrès algorithmiques peuvent se substituer à la puissance de calcul brute ; une percée qui rend l’entraînement dix fois plus efficace abaisse discrètement la puissance de calcul nécessaire pour franchir la ligne de danger. Un régime qui surveillerait uniquement les puces tout en ignorant la science finirait par être dépassé. Tracer cette ligne sans étouffer la recherche ordinaire et bénéfique est vraiment difficile, et les auteurs reconnaissent candidement qu’il s’agit de l’un des problèmes les plus ardus de la proposition.

Les auteurs soutiennent que la proposition serait techniquement suffisante pour empêcher la création d’une superintelligence artificielle si elle était mise en œuvre aujourd’hui, tout en reconnaissant que la volonté politique de l’appliquer n’existe pas encore.

Scher, Abecassis, Barnett & Abeyta, MIRI Technical Governance Team, arXiv:2511.10783 (2025)

D'un projet à une loi : les jalons existent déjà

Un article sur arXiv n’est pas un instrument contraignant. Mais le monde ne part pas d’une page blanche, et la distance entre ici et quelque chose d’exigible est plus courte qu’il n’y paraît. Trois régimes existants constituent des précédents partiels, chacun accomplissant déjà une partie de ce dont le projet de traité MIRI aurait besoin:

Le travail consistant à transformer ces fragments en un chemin cohérent est exactement là où une organisation de plaidoyer est utile. Il s'agit de synthétiser le projet de MIRI, la Déclaration sur la superintelligence, les contrôles à l'exportation existants et la convention du Conseil de l'Europe en productions ciblées destinées aux personnes qui rédigent et négocient la loi : des modèles de législation nationale de mise en œuvre ; des analyses de la façon dont les contrôles actuels sur les puces et l'AI Act de EU pourraient évoluer vers la surveillance envisagée par le traité ; et des mises à jour en langage clair suivant les capacités réelles de l'IA par rapport aux seuils proposés. Ces productions ne valent pas grand-chose posées sur un site web. Elles valent quelque chose devant le personnel du Congrès, les bureaux de la branche exécutive, le réseau croissant de instituts nationaux de sécurité de l'IA, et les canaux diplomatiques, là où se trouve celui de la Fondation travail politique les vise.

Pourquoi un projet modifie la conversation

La valeur du document MIRI est qu’il transforme une aspiration vague en un ensemble de choix spécifiques et discutables — un seuil strict qu’on peut juger trop bas ou trop haut, une ligne à seize GPU qu’on peut contester, une restriction de recherche qu’on peut tenter de restreindre —, pas qu’il sera signé tel quel. C’est un grand pas en avant. Cela fait passer le débat de « un traité est impossible » à « voici le traité ; voici exactement ce sur quoi il faudrait s’accorder ». Comme avec notre propre esquisse structurelle d'un traité modèle, le but est de montrer que l'obstacle n'est pas l'absence d'outils juridiques ou techniques. Tous les mécanismes utilisés dans le projet existent déjà quelque part. L'ingrédient manquant est la volonté politique, et un projet concret est l'une des rares choses qui peuvent contribuer à la construire.