Le monde a son premier traité sur l'IA.
Voici ce qu'il ne couvre pas.

Le 5 septembre 2024, à Vilnius en Lituanie, des représentants des États-Unis, du Royaume-Uni, de l'Union européenne et de dizaines d'autres nations ont signé la Convention-cadre sur l'intelligence artificielle et les droits de l'homme, la démocratie et l'État de droit. Il s'agit du premier traité international juridiquement contraignant sur l'intelligence artificielle jamais conclu. Il mérite d'être compris clairement, tant pour ce qu'il accomplit que pour le problème qu'il n'a jamais été conçu pour résoudre.

Ce que le traité couvre réellement

La Convention-cadre est un instrument relatif aux droits humains. Ses obligations légales visent à garantir que les systèmes d’IA ne portent pas atteinte à la démocratie, aux droits humains ni à l’État de droit. Concrètement, cela signifie:

• Exigences de transparence : les gens doivent être informés lorsque des systèmes d'IA affectent des décisions les concernant
• Mécanismes de responsabilité : les États doivent veiller à ce que les développeurs et déployeurs d'IA puissent être tenus responsables des dommages
• Non-discrimination : les systèmes d'IA ne doivent pas produire de résultats qui violent la loi sur l'égalité existante
• Recours effectif : les personnes lésées par l'IA doivent avoir accès à une réparation juridique
• Garanties démocratiques : l'IA ne doit pas être utilisée pour saper les processus électoraux ou l'état de droit

Ce sont des engagements significatifs. Un algorithme de recrutement par IA qui discrimine sur la base de la race, un système de reconnaissance faciale déployé sans transparence, une campagne de désinformation générée par IA, tout cela est directement traité par le cadre du traité. Les signataires ont accepté des obligations contraignantes pour les prévenir.

Le mécanisme d’application est une Conférence des Parties qui examine la mise en œuvre et peut formuler des recommandations. Il est moins contraignant que le régime de vérification de la Convention sur les armes chimiques ou que les protocoles d’inspection du Traité de non-prolifération nucléaire, mais il pose le principe que l’IA relève du droit international contraignant ; ce principe n’existait pas avant septembre 2024 et son instauration constitue un véritable progrès.

Ce que le traité ne couvre pas

La Convention-cadre régit l’usage de l’IA dans la société. Elle ne régit pas la question de savoir si des systèmes d’IA susceptibles de poser un risque civilisationnel doivent être développés en premier lieu.

Le cadre de risque du traité est calibré sur les dommages présents et à court terme de l’IA, les dommages réels et sérieux que les systèmes d’IA actuels causent déjà. C’est le bon périmètre pour un instrument destiné à protéger les droits humains dans les sociétés affectées par l’IA. C’est le mauvais périmètre pour un instrument destiné à prévenir une catastrophe civilisationnelle due à une superintelligence artificielle.

Nulle part dans le texte du traité n'apparaît le mot « superintelligence ». Nulle part il n'impose d'obligations à la course au développement de l'IA de pointe. Il ne dit rien sur la gouvernance du calcul, sur la taille des runs d'entraînement, sur le problème de l'alignement, ni sur le scénario qui préoccupe Geoffrey Hinton, Yoshua Bengio et les autres chercheurs dont les avertissements se sont accumulés au cours de la dernière décennie.

Pourquoi cette distinction est importante

Le risque de prendre la Convention-cadre pour une gouvernance suffisante est un résultat naturel du processus politique qui produit les accords internationaux, et non une hypothèse : une fois qu'un traité existe, la pression politique pour en produire un est satisfaite. Les pays qui ont signé la Convention-cadre peuvent la présenter comme la preuve que l'IA est gouvernée. La discussion plus difficile (sur la question de savoir si les systèmes d'IA les plus performants en cours de développement devraient faire l'objet de contraintes internationales contraignantes sur leur développement, et non seulement sur leur déploiement) ne devient pas plus facile après qu'une étape de gouvernance a été déclarée.

La Convention-cadre régit la même IA que le droit existant en matière de droits humains et d’égalité, elle étend ces principes au contexte de l’IA et les rend contraignants au niveau international. C’est précieux. Ce n’est pas une réponse au risque qu’un système d’IA suffisamment capable, poursuivant des objectifs subtilement mal alignés avec le bien-être humain, puisse causer un dommage d’une ampleur qu’aucun recours juridique ne peut traiter parce que le dommage est irréversible.

"L'objectif est que le développement de l'IA se déroule bien pour l'IA comme pour les humains. Cela suppose de le traiter comme l'enjeu civilisationnel qu'il est, et non comme une question de responsabilité produit."

Ce qu'exigerait un traité sur la sécurité de l'IA de pointe

Un traité conçu pour traiter le risque lié à l’intelligence artificielle superintelligente ressemblerait beaucoup à la Convention-cadre. Le cadre proposé par Nakada Foundation décrit ce que devrait contenir un tel traité:

• Gouvernance du calcul: des limites contraignantes sur les ressources computationnelles applicables à un seul entraînement, soutenues par une vérification au niveau matériel. Le calcul est le goulot d’étranglement du développement de l’IA de pointe et la seule variable actuellement mesurable et applicable au niveau international.
• Vérification indépendante: un mécanisme de surveillance analogue aux inspections nucléaires, permettant aux parties de vérifier la conformité plutôt que de s’en remettre à l’autodéclaration des organisations qui ont le plus à gagner du non-respect.
• Couverture de l'IA de pointe: obligations qui s'appliquent spécifiquement au développement des systèmes d'IA les plus capables, pas seulement à leur déploiement dans des contextes sociaux.
• US-Inclusion de la Chine: tout traité qui ne lie pas les deux principales nations développant l’IA sera structurellement inadéquat, quel que soit le nombre d’autres pays signataires.

La Convention-cadre est une première étape nécessaire. La reconnaissance que l’IA est soumise au droit international contraignant constitue un précédent important. Mais la histoire de la gouvernance des technologies existentielles (nucléaire, chimique, biologique) montre que le premier traité dans un domaine traite rarement du risque le plus grave. Il faut un effort politique soutenu, sur plusieurs années, pour construire les cadres qui contraignent réellement ce qui est le plus dangereux.

Cet effort politique doit commencer maintenant, pas après que la Convention-cadre ait été déclarée avoir résolu le problème, et pas après que les capacités rendant les contraintes contraignantes impossibles à appliquer existent.