La Corée du Sud et le Royaume-Uni ont co-organisé le Sommet de Séoul sur l'IA, la deuxième réunion de la série lancée à Bletchley Park en novembre 2023. L'agenda s'est clairement divisé. Sur la piste des entreprises, les principaux développeurs ont pris des engagements publics de sécurité. Sur la piste gouvernementale, les États ont convenu d'approfondir la coopération sur la science de l'évaluation. Ce que chaque piste a livré, et ce qu'elle a laissé ouvert, reste la lecture la plus claire de l'état de la gouvernance ASI en 2024.

Les deux sorties étaient réelles. Aucune n'était la loi.

Les engagements de sécurité de l'IA de pointe

Le document phare était les Frontier AI Safety Commitments, signés par seize grandes entreprises d’IA, dont des développeurs des États-Unis, de Chine, du Royaume-Uni et des Émirats arabes unis. Les entreprises se sont engagées à publier des cadres de sécurité décrivant comment elles évaluent les risques liés aux modèles de pointe ; à définir des seuils de risque qu’elles considèrent comme intolérables ; et, surtout, à ne pas développer ni déployer de modèles si ces seuils ne pouvaient pas être maintenus en dessous de cette ligne, y compris un engagement à se retirer lorsque les mesures d’atténuation échouent.

Le vrai changement a été le principe public. Des développeurs de premier plan ont déclaré, sur le record, que certaines capacités sont trop dangereuses pour être déployées et qu’ils définiraient des lignes rouges puis agiraient en conséquence. L’industrie est passée d’assurances vagues à des limites déclarées. Ces limites restaient auto-définies.

Pourquoi les engagements volontaires ne suffisent pas

  • Les entreprises fixent leurs propres seuils. Chaque développeur définit le risque intolérable et la manière de le mesurer. Il n’existe pas de norme commune ni d’organisme externe validant ces définitions.
  • Aucune vérification indépendante. Rien ne confirme qu'un cadre de sécurité interne est respecté, ni que les évaluations sont honnêtes. La conformité repose sur la parole du développeur.
  • Aucune application. Rompre un engagement n'entraîne au mieux qu'un coût réputationnel. Les engagements ne sont pas la loi.
  • Elles peuvent être révisées ou abandonnées. Les engagements volontaires sous pression concurrentielle peuvent s'éroder discrètement lorsqu'un rival prend de l'avance. L'autorégulation est aussi fragile que cela.

L’objection courante est qu’il vaut mieux demander aux laboratoires de s’autocontrôler que de ne rien faire. C’est vrai, et insuffisant. Une promesse que le promettant peut seul définir, mesurer et rompre n’est qu’un substitut à la gouvernance. Ces substituts n’aident que si quelque chose de plus contraignant les remplace délibérément.

Le réseau des instituts de sécurité

La voie gouvernementale a produit quelque chose au potentiel plus durable : une dynamique vers un réseau international d'instituts de sûreté de l'IA. En s'appuyant sur les organismes récemment créés par le Royaume-Uni et les États-Unis, les États ont convenu de coopérer sur la science de l'évaluation des modèles de pointe, le partage des méthodes, l'harmonisation des tests et le renforcement des capacités techniques dont tout futur régime de vérification aurait besoin. Les organismes publics capables d'évaluer réellement si un modèle est dangereux constituent le tissu conjonctif qu'un traité exige finalement. Voir le guide de la Fondation sur ce qu'est un institut de sécurité de l'IA.

La Déclaration de Séoul, approuvée par les gouvernements réunis, a réaffirmé une IA centrée sur l'humain, sûre et digne de confiance, ainsi que la poursuite de la coopération internationale. Comme le texte de Bletchley, il s'agissait d'une déclaration d'intention plutôt que d'un ensemble d'obligations.

Le schéma et le fossé

Séoul s’inscrit dans un schéma connu de gouvernance des technologies dangereuses : reconnaissance, puis engagement volontaire, puis (si le processus réussit) règles contraignantes. Les engagements des entreprises et le réseau d’instituts constituent la deuxième étape. Le travail inachevé est la troisième : normes communes, vérification indépendante et obligation légale.

Les instituts de sécurité constituent le pont le plus prometteur, car les capacités qu'ils développent sont exactement celles dont un régime contraignant aurait besoin. Le risque est que le processus des sommets s'arrête au stade volontaire, que le monde se contente d'engagements parce qu'ils sont plus faciles que des traités, tandis que les capacités continuent de progresser. Séoul a rendu visible l'écart entre engagement et gouvernance. Le combler est la tâche qui reste. La position de la Fondation Nakada est que le combler signifie passer des engagements des entreprises à droit international préventif avant que les lignes rouges auto-définies ne se dissolvent sous la pression de la course. Lecture connexe: pourquoi les engagements volontaires en matière de sécurité de l’IA échouent en tant que stratégie unique.