L’organe consultatif a réuni des experts des gouvernements, de l’industrie, du monde académique et de la société civile de toutes les régions, précisément pour conférer à une proposition de gouvernance mondiale la légitimité qu’un club occidental ou un seul gouvernement ne peut apporter. Son rapport final, remis avant le Sommet de l’avenir 2024 du UN, a diagnostiqué un déficit de gouvernance et proposé un ensemble de fonctions et d’institutions pour y remédier. Quelles que soient ses limites, il représente ce qui s’approche le plus d’un point de départ officiel et universel pour le débat.

Son rapport 2024, « Governing AI for Humanity », constitue la tentative la plus autorisée à ce jour d’esquisser une architecture universelle, et une étude révélatrice de l’écart qui sépare encore le débat dominant du risque de pointe.

Ce que le rapport recommandait

Plutôt que de proposer une seule agence puissante, le rapport recommandait un ensemble stratifié de fonctions légères conçues pour être politiquement réalisables. Les recommandations phares comprenaient un panel scientifique international sur l'IA pour construire une compréhension partagée et pertinente pour les politiques ; un dialogue politique régulier entre gouvernements ; un échange pour favoriser des normes interopérables ; un réseau de renforcement des capacités pour aider le Sud global à participer ; et un petit bureau de coordination au sein du secrétariat de la UN pour relier les éléments. Il évoquait aussi un fonds mondial et un cadre de gouvernance des données.

La logique derrière la modestie

La prudence du rapport est délibérée et mérite d'être comprise. Elle reflète un jugement selon lequel, étant donné la division des États, la première étape réalisable n'est pas un régulateur contraignant mais l'infrastructure de connexion (science partagée, dialogue et normes) sur laquelle une gouvernance plus forte pourrait ensuite être construite. Le panel scientifique en particulier s'inspire de l'expérience de l'ozone et du climat, où une évaluation partagée faisant autorité (le IPCC servant de modèle) a créé la base factuelle commune qui a rendu l'accord possible. Dans cette lecture, le rapport pose des fondations, pas des murs.

  • Un panel scientifique pour donner au monde une image partagée et crédible des capacités et des risques de l’IA, base factuelle indispensable à toute gouvernance.
  • Un dialogue politique pour garder les gouvernements en discussion et empêcher la fragmentation des approches régionales rivales.
  • Un échange de normes à travailler vers l'interopérabilité plutôt qu'un patchwork de règles nationales incompatibles.
  • Renforcement des capacités pour intégrer le Sud global à la gouvernance en tant que participant, et non comme une réflexion après coup, une condition préalable à la légitimité.

Le fossé sur le risque catastrophique

Malgré toute son autorité, le rapport présente une limitation évidente du point de vue de la sécurité : il traite la gouvernance de l’ASI essentiellement comme une question de gestion d’un large spectre de dommages sociétaux (biais, désinformation, inégalités, perturbations du travail) et accorde comparativement peu de poids au danger spécifique de perdre le contrôle d’un système superintelligent. Il n’y a pas de ligne rouge proposée, pas de seuil de calcul, pas de régime de vérification, pas d’interdiction. Les instruments qu’il recommande visent la coordination et la compréhension, pas la contrainte.

Cet écart compte parce que l’infrastructure de connexion proposée par le rapport, aussi précieuse soit-elle, n’est pas conçue pour faire ce que la sécurité des systèmes de pointe exige le plus : empêcher le développement de systèmes trop dangereux pour être contrôlés. Un panel scientifique et un dialogue politique peuvent construire la compréhension commune qui rend possible un accord contraignant, mais ils ne peuvent pas s’y substituer. Le processus UN est un travail préparatoire nécessaire et insuffisant en lui-même, une description qui correspond à une grande partie du paysage actuel de la gouvernance.

Le plan de UN construit la table à laquelle tout le monde peut s'asseoir, et c'est vraiment précieux. Mais une table n'est pas un accord. La question la plus difficile (comment arrêter le développement de systèmes que personne ne peut contrôler) est celle que le processus dominant n'a pas encore voulu y placer.

Pourquoi cela compte encore

Le travail de l’organe consultatif est important précisément en raison de sa légitimité et de sa portée. Il établit, au plus haut niveau du système international, que la gouvernance de ASI est une préoccupation mondiale nécessitant des institutions mondiales, et il propose les mécanismes de science partagée et de dialogue qui pourraient, avec le temps, construire la compréhension commune qu’exige un traité contraignant. La voie réaliste est de traiter le cadre de UN comme la fondation inclusive sur laquelle superposer une gouvernance plus exigeante et axée sur la sécurité : utiliser le panel scientifique et le dialogue politique qu’il propose pour orienter la conversation principale vers les risques catastrophiques qu’elle sous-estime actuellement, et vers les lignes rouges et la vérification qu’un accord contraignant seul peut fournir. UN a construit le forum. La tâche est d’élever l’ambition de ce qui s’y passe.