Le document est la Déclaration de Bletchley. Elle est issue du Sommet britannique sur la sécurité de l’IA, la première réunion de gouvernements spécifiquement consacrée aux risques des systèmes de pointe les plus capables. Le texte est bref, non contraignant et soigneusement nuancé. Le lire pour ce qu’il consigne et ce qu’il tait reste la mesure la plus claire de l’état de la gouvernance internationale ASI fin 2023.

Pour la première fois, des gouvernements rivaux ont conjointement reconnu que l'IA de pointe pourrait causer des dommages catastrophiques.

Ce que dit la déclaration

Le geste essentiel est une reconnaissance. La déclaration affirme que les modèles d'IA de pointe comportent un potentiel de dommages graves, voire catastrophiques. Elle nomme des risques qui pourraient être délibérés ou involontaires, et elle pointe les dommages sérieux causés par les systèmes polyvalents les plus capables. Des gouvernements qui s'accordent sur presque tout le reste, y compris Washington et Pékin, ont accepté ce cadrage en public.

Au-delà de la reconnaissance, les signataires s’engagent dans deux directions : identifier les risques de sécurité de l’IA qui sont partagés et construire une compréhension scientifique commune de ces risques ; et élaborer des politiques nationales fondées sur les risques, en coopérant le cas échéant. Le texte encourage le dialogue international continu et accueille favorablement une série de sommets de suivi. Il ne prétend pas que ces sommets détiennent déjà les réponses.

Ce qu'elle ne fait pas

  • Aucune obligation contraignante. Rien n’oblige un pays à agir selon un calendrier, à rendre compte d’une métrique ou à interdire une capacité.
  • Aucune institution. Il n’y a ni agence, ni secrétariat, ni organe de surveillance, seulement un accord pour continuer à discuter et à se réunir à nouveau.
  • Aucune ligne rouge. La déclaration ne définit pas quelles capacités sont inacceptables ni ce qui déclencherait une action collective.
  • Pas de vérification ni d'application. La conformité n'est pas mesurée car il n'y a rien de concret à respecter.

Pourquoi une déclaration non contraignante compte-t-elle encore ?

Il est facile de balayer d’un revers de main une déclaration sans portée contraignante. C’est aussi mal comprendre comment les technologies dangereuses entrent dans le droit international. Le modèle de la convention-cadre, utilisé pour l’ozone et le climat, commence par établir des principes communs et un devoir de coopération, car nommer le problème est la condition préalable à la négociation de ce qu’il faut faire. Bletchley a accompli le premier travail diplomatique difficile : il a fait consigner par des puissances rivales que le risque est réel et partagé.

Cela a aussi ouvert un processus. Le sommet n'était pas un événement isolé. Il a lancé une série récurrente, poursuivie à Séoul en mai 2024, qui offre aux gouvernements un lieu permanent pour développer la science, les institutions et, finalement, les engagements qu'une seule déclaration ne peut contenir. La valeur réside moins dans le libellé que dans le chemin qu'il rend possible.

L'objection populaire est que les déclarations molles sont du théâtre. C'est juste quand elles sont la fin de l'histoire. Quand elles sont le premier pas d'un régime qui ajoute ensuite des seuils, des vérifications et des sanctions, elles sont la façon dont les États commencent à parler de contraintes qu'ils ne sont pas encore prêts à accepter. Bletchley n'échoue que si le processus se fige à l'occasion de la photo.

Le test qui suit

La mesure de Bletchley réside dans le passage de la reconnaissance à l'architecture. Une préoccupation partagée qui ne se transforme jamais en règles contraignantes, en vérifications indépendantes et en institutions n'est que du langage. Sommets suivants, initiatives nationales Instituts de sécurité de l'IA, et l’évaluation scientifique constituent les rouages qui font mûrir la déclaration en gouvernance ou la laissent s’effacer. Le texte a acheté un point de départ. Le travail consiste à le convertir avant que les capacités qu’il dénonce ne dépassent le processus qu’il a lancé. Pour la Fondation, cette conversion signifie un voie contraignante pour arrêter la superintelligence, et non un cycle permanent de sommets qui ne légifèrent jamais.