Le développement de l'IA est, à l'heure actuelle, intensif en matériel. L'entraînement des modèles situés à la frontière des capacités nécessite des clusters de milliers de puces spécialisées fonctionnant pendant des semaines ou des mois, consommant une puissance de l'ordre de dizaines de mégawatts. Les puces sont conçues par un petit nombre d'entreprises, fabriquées à l'aide d'équipements produits par un nombre encore plus restreint, et vendues via des chaînes d'approvisionnement qui passent par des juridictions nationales spécifiques. Cette concentration matérielle est l'une des rares caractéristiques du développement de l'IA de pointe qui rend une régulation à court terme praticable.
Cette concentration crée un point d'étranglement de gouvernance, l'un des rares endroits où la régulation du développement de l'IA de pointe est pratiquement réalisable à court terme.
La gouvernance du calcul est l'approche de la réglementation de l'IA qui cherche à exploiter cette concentration comme levier. Plutôt que de réglementer directement ce que les systèmes d'IA peuvent ou ne peuvent pas être construits (une question qui exige des jugements techniques que la plupart des régulateurs ne peuvent pas porter), la gouvernance du calcul réglemente le matériel nécessaire pour les construire. Contrôler le calcul, et vous obtenez un certain degré de contrôle sur qui peut développer l'IA de pointe, à quelle échelle, et avec quel niveau de déclaration et de transparence.
Les goulots d'étranglement matériels
Ces points d'étranglement ne sont pas permanents. La Chine investit activement dans la production nationale de semi-conducteurs pour réduire sa dépendance à la chaîne d'approvisionnement occidentale. Les puces nationales actuelles restent nettement en retrait par rapport à la frontière, un écart qui impose des coûts réels au développement de l'IA chinoise mais ne rend pas impossible le développement d'une IA de pointe avec suffisamment de temps et de ressources. La fenêtre de gouvernance créée par la concentration actuelle du matériel est réelle mais finie.
Quelles mesures de gouvernance du calcul existent déjà
Le gouvernement du US a mis en œuvre des contrôles à l’exportation sur les puces d’IA avancées comme la mesure de gouvernance du calcul la plus significative à ce jour. Les contrôles annoncés en octobre 2022 ont restreint la vente des puces A100 et H100 de Nvidia à la Chine, à la Russie et à d’autres pays désignés. Les séries ultérieures de contrôles en 2023 et 2024 ont étendu les restrictions aux puces conçues spécifiquement pour passer sous les seuils initiaux, fermant la voie de contournement la plus évidente. Ces contrôles ont imposé des coûts réels aux laboratoires d’IA chinois : les efforts documentés de contrebande de puces, les prix du marché noir et la capacité réduite des clusters d’entraînement chinois indiquent tous que les restrictions ont eu un effet.
L'Executive Order on AI de l'administration Biden d'octobre 2023 incluait une exigence selon laquelle les développeurs devaient signaler au gouvernement les entraînements dépassant environ 10^26 opérations en virgule flottante, soit à peu près la puissance de calcul nécessaire pour entraîner un modèle de taille GPT-4. Cette obligation de déclaration constituait un premier pas vers une supervision fondée sur la puissance de calcul : donner au gouvernement une visibilité sur qui exécute de grands entraînements avant le déploiement des systèmes, et non après.
Un entraînement de pointe nécessite encore un bâtiment rempli de puces spécialisées et une facture d’électricité visible depuis l’espace. Ce tas physique est la meilleure prise que les gouvernements puissent saisir. La gouvernance du calcul consiste à transformer ces bâtiments en infrastructures soumises à licence et à inspection.
Ce que la gouvernance du calcul ne peut pas faire
Trois limites importantes restreignent l'efficacité de la gouvernance du calcul comme outil de sécurité. Premièrement, la contournement : des puces peuvent être achetées via des pays tiers avant que les restrictions ne prennent effet, stockées ou remplacées par des puces légèrement moins capables qui restent sous les seuils réglementaires. Les contrôles US ont été contournés dans certains cas documentés, et les schémas de contrebande et de routage par pays tiers ont été suffisamment étendus pour inciter à plusieurs tours de resserrement.
Deuxièmement, l’efficacité algorithmique : à mesure que l’entraînement de l’IA devient plus efficace, la puissance de calcul nécessaire pour atteindre un niveau donné de capacité diminue. Un seuil de calcul fixé au bon niveau aujourd’hui peut devenir bien trop permissif dans trois ans à mesure que l’efficacité s’améliore. Les cadres de gouvernance fondés sur des seuils de calcul fixes doivent comporter des mécanismes d’ajustement de ces seuils à mesure que la relation entre calcul et capacité évolue.
Troisièmement, et surtout, la gouvernance du calcul ne résout pas le problème de l’alignement. Un système entraîné sur du matériel correctement licencié, déclaré aux autorités compétentes et dans une limite de calcul autorisée peut tout de même être mal aligné. La gouvernance du calcul peut contrôler le rythme et l’échelle du développement de l’IA de pointe et offrir une visibilité sur qui entraîne quoi. Elle ne peut pas garantir que ce qu’ils entraînent est aligné.
C’est pourquoi la gouvernance par la puissance de calcul est avant tout un élément d’un cadre plus large, aux côtés des exigences de vérification de l’alignement et des obligations de traité international, et non une solution isolée. La trois propositions de politique traiter la gouvernance du calcul comme le levier à court terme qui offre du temps et de la visibilité pendant que progressent les travaux techniques et diplomatiques plus difficiles de vérification de l'alignement et de négociation de traités internationaux.