Les règles d'exportation peuvent dire qui peut acheter une puce. Une puce qui applique les termes de licence dans le silicium va plus loin. La gouvernance activée par le matériel est le pari que certaines règles doivent vivre dans le métal, pas seulement dans des PDF qu'un labo déterminé peut ignorer.

L’idée repose sur un fait qui rend l’IA particulièrement gouvernable. L’entraînement d’un modèle de pointe exige d’énormes quantités de puces spécialisées, concentrées dans de grands centres de données, produites par un tout petit nombre d’entreprises à travers une chaîne d’approvisionnement comportant de graves goulots d’étranglement. Le logiciel se copie de façon invisible et instantanée. Des dizaines de milliers de processeurs avancés consommant des mégawatts de puissance, non. Cette empreinte physique est la surface sur laquelle la gouvernance peut s’agripper, la même intuition qui sous-tend gouvernance du calcul, ramené au niveau de la puce.

Ce qui pourrait être intégré au matériel

Les propositions vont du modeste à l'ambitieux.

  • Vérification de l'utilisation. Les puces pourraient attester, de façon inviolable et respectueuse de la vie privée, de propriétés de ce qu'elles font, par exemple la quantité de calcul consommée par un run d'entraînement, permettant à un inspecteur de confirmer la conformité sans lire le modèle ni les données.
  • Limites d'utilisation. Le matériel pourrait imposer des plafonds, refusant de participer à un entraînement au-delà d'une échelle définie sans autorisation, transformant une limite légale en une limite physique.
  • Emplacement et intégrité. Des mécanismes pourraient confirmer qu'une puce est là où elle est déclarée être et n'a pas été altérée, soutenant les contrôles à l'exportation et empêchant le détournement vers des installations non surveillées.

Certaines s’appuient sur des fonctionnalités de matériel sécurisé déjà présentes dans les processeurs modernes pour d’autres raisons. L’ingénierie est difficile et partiellement non résolue, mais ce n’est pas de la science-fiction et des travaux sérieux sont en cours pour la concrétiser.

Pourquoi c’est un levier si attractif

L’attrait réside dans le fait qu’elle résout le problème qui mine la plupart des gouvernances du ASI : la vérification. Un traité que l’on ne peut pas vérifier est le Convention sur les armes biologiques, une véritable interdiction violée pendant des décennies sans détection. Une gouvernance capable de confirmer réellement le respect des règles, comme le régime d'inspection nucléaire confirme cela pour les matières fissiles, est une gouvernance qui peut tenir. Les mécanismes activés par le matériel offrent une voie vers ce type de vérification pour l’IA, ancrée dans la physique plutôt que dans la confiance. Ils pourraient permettre aux États de convenir de limites et de confirmer mutuellement qu’ils les respectent, ce qui est l’ingrédient manquant dans presque toutes les propositions internationales.

La partie difficile de tout accord sur l'IA est de prouver que la règle est respectée, pas d'écrire la règle. Le matériel est là où la preuve pourrait résider.

Le double tranchant

L'honnêteté exige de nommer le risque. Un mécanisme permettant à une autorité légitime de vérifier et de limiter le calcul est aussi un mécanisme de contrôle, et le contrôle peut être abusé. Une infrastructure construite pour faire respecter des limites de sécurité pourrait, entre de mauvaises mains, instaurer un monopole, renforcer celui qui détient les clés ou devenir un outil de surveillance et de coercition. Le même levier qui pourrait souscrire à un arrêt international équitable pourrait souscrire à la concentration du pouvoir que la Fondation déconseille ailleurs.

Cela ne plaide pas contre la technologie. Cela plaide pour la construire avec une gouvernance de la gouvernance : transparence sur ce que font les mécanismes, limites sur qui les contrôle, et autorité internationale plutôt qu'unilatérale. Traitée ainsi, la gouvernance par le matériel figure parmi les outils les plus prometteurs disponibles, car elle attaque le problème de la vérification à la racine. C'est l'une des raisons les plus concrètes pour lesquelles la Fondation estime qu'un cadre international crédible et vérifiable est accessible plutôt qu'utopique, et cela traverse notre plan.