« Superintelligence Strategy » est paru en mars 2025 avec une liste d’auteurs conçue pour être prise au sérieux à Washington : Dan Hendrycks, directeur du Center for AI Safety ; Eric Schmidt, ancien PDG de Google ; et Alexandr Wang, fondateur de Scale AI. Son but était de sortir la superintelligence de la littérature de recherche pour l’inscrire dans le langage de la sécurité nationale, et sur ce point il a réussi. En quelques semaines, il était débattu par des spécialistes du contrôle des armements, testé dans des think tanks et cité dans des auditions au Congrès.
L’analogie est la chose la plus intéressante à ce sujet, et aussi le problème.
Au centre se trouve un seul acronyme, choisi avec soin. MAIM, pour Mutual Assured AI Malfunction, est un écho délibéré de MAD, et il porte la thèse centrale du document : le face-à-face terrifiant qui a empêché les puissances nucléaires de s'anéantir mutuellement a un équivalent dans l'IA, un équivalent qui existe déjà que quiconque le reconnaisse ou non.
Nous pensons que l’article a raison sur un point vraiment important, et nous pensons que son mécanisme central ne peut pas supporter le poids qu’on lui impose. Les deux moitiés comptent.
L'impasse que le document affirme déjà exister
L'argument se résume ainsi. Supposons qu'un État semble sur le point de réaliser une percée décisive, un système qui lui conférerait, selon le cadre de l'article, une superarme et la maîtrise de l'avenir. Aucun rival ne peut se permettre de laisser faire. Un monde où une seule capitale contrôlerait la superintelligence est, pour toutes les autres capitales, aussi intolérable qu'un avantage de première frappe l'était pendant la guerre froide.
Mais contrairement à un arsenal nucléaire déployé, un projet d'IA en cours est vulnérable. Il vit dans des centres de données aux coordonnées connues, fonctionne sur des réseaux électriques et dépend de cycles d'entraînement de plusieurs mois qu'une intrusion bien placée peut corrompre discrètement. Un rival menacé dispose donc d'options en deçà de la guerre, et d'une échelle d'entre elles : l'espionnage, des cyberattaques clandestines qui dégradent un cycle d'entraînement ou empoisonnent ses données, le sabotage des infrastructures environnantes et, au degré extrême, des frappes physiques sur les installations elles-mêmes.
L’article affirme qu’il s’agit d’une description qui, selon les auteurs, correspond déjà à la réalité stratégique à laquelle font face les superpuissances de l’IA. Tout État qui lancerait une course visible et agressive à la domination de l’IA doit s’attendre à ce que son projet soit saboté par ses rivaux. D’où le nom, et d’où l’espoir paradoxal : si chaque acteur sait qu’une course à la domination sera sabotée, personne ne s’élance, et le mouvement le plus déstabilisant du jeu est dissuadé. Comme avec la MAD, les auteurs estiment que l’impasse peut être stabilisée par une pratique délibérée : implanter les centres de données loin des villes pour limiter les conséquences des paliers extrêmes, maintenir les échelons cyber de l’escalade clairement séparés des échelons cinétiques, et développer la transparence entre rivaux afin que personne ne prenne un projet commercial pour une tentative de domination.
Les deux autres piliers
MAIM a fait les gros titres, mais la stratégie a trois parties, et la deuxième est celle que nous trouvons la plus utile. Non-prolifération applique l’appareil construit pour tenir les matières fissiles à l’écart des terroristes à l’IA : suivre les puces avancées comme on suit l’uranium enrichi, sécuriser les poids des modèles contre le vol, et intégrer des garde-fous dans les systèmes pour qu’ils refusent d’aider à la conception d’armes biologiques ou d’attaques contre les infrastructures critiques. Ce pilier suppose une coopération des États sur gouvernance du calcul même en rivalisant sur tout le reste, exactement comme Washington et Moscou ont géré la non-prolifération ensemble pendant les pires années de la Guerre froide.
Compétitivité est la dîme réaliste : les États doivent renforcer leur économie et leur armée grâce à l’IA, et surtout sécuriser les chaînes d’approvisionnement fragiles des puces par une fabrication nationale, préoccupation qui s’est depuis durcie en la politique de contrôle des exportations qui façonnent désormais l'industrie.
L'article oppose cette triade à deux stratégies qu'il rejette : la course sans intervention pour construire d'abord la superintelligence et espérer, et ce qu'il qualifie de moratoire mondial irréalisable. La dissuasion, selon cette vision, est l'option adulte entre l'imprudence et la naïveté.
Ce que l'article comprend bien
Commençons par la réalisation. Pendant des années, l’argument standard en faveur de la course a été qu’une superintelligence rivale serait catastrophique, donc nous devons y arriver les premiers. « Superintelligence Strategy » inverse discrètement cette logique. Si une tentative unilatérale de domination est intolérable pour les rivaux, alors chaque tentative est intolérable pour quelqu’un, et la course elle-même devient la menace pour la sécurité nationale plutôt que la réponse à celle-ci. Venant d’auteurs de ce profil, cette inversion a fait un vrai travail. Elle a mis la perte de contrôle et l’instabilité stratégique sur le bureau de personnes qui ne liraient jamais un article sur l’alignement, et elle a établi, dans un langage respectable, que la retenue peut être imposée plutôt que simplement demandée.
Le pilier non-prolifération, quant à lui, n’est qu’un élément de l’architecture du traité que nous défendons, abordé sous un autre angle. Suivi des puces, sécurisation des poids et gouvernance facilitée par le matériel servent à la fois un régime de dissuasion et un régime de vérification. Chaque dollar consacré à leur construction est un dollar qui rend un futur accord vérifiable.
Où l'analogie nucléaire montre ses limites
Le problème commence quand on se demande ce qui a rendu la MAD stable et que l’on compare chaque élément à son équivalent en IA.
Un lancement nucléaire est sans ambiguïté. Il est attribué en quelques minutes, son origine connue au mètre près, et la réponse qu’il déclenche est certaine et comprise par tous à l’avance. Comparons maintenant. Un entraînement « déstabilisant » ressemble, vu de l’extérieur, à un entraînement commercial : mêmes clusters, même consommation électrique, même signature satellite. Le seuil n’est pas défini, et ce n’est pas faute d’avoir essayé de le rédiger, mais parce que la capacité ne s’annonce pas comme un panache de missile. C’est le problème que nous avons appelé définir une IA dangereuse, et MAIM en hérite intégralement : un régime de dissuasion a besoin d'une ligne rouge, et l'article ne peut pas dire précisément où se trouve cette ligne.
L'attribution échoue aussi dans l'autre sens. Quand un entraînement s'effondre, s'agit-il d'un sabotage, d'un bug ou de mauvaises données ? Un État peut être attaqué sans le savoir, ce qui signifie que l'attaque ne dissuade rien, ou se croire attaqué alors qu'il ne l'était pas, ce qui est pire. La dissuasion fonctionne par des menaces visibles, crédibles et attribuables. Les opérations cyber clandestines ne présentent aucune de ces trois caractéristiques. Des analystes de MIRI, de RAND et d'ailleurs ont souligné exactement ces points dans les semaines suivant la publication, et la critique de l'observabilité en particulier n'a jamais reçu de réponse satisfaisante : plusieurs chercheurs ont conclu que les conditions d'une dissuasion stable ne sont tout simplement pas réunies pour l'instant, et pourraient exiger une transparence mutuelle approfondie sur les datacenters des rivaux avant d'y parvenir.
Il y a aussi l’escalade elle-même. Normaliser les attaques contre les infrastructures critiques d’États dotés d’armes nucléaires, en tant que pratique étatique courante, n’est manifestement pas une recette de stabilité. La réponse du document, maintenir les échelons cyber bien en dessous des échelons cinétiques, suppose que la cible d’une campagne de sabotage partage votre lecture de l’échelon sur lequel vous vous trouvez. L’histoire de la Guerre froide est un catalogue de moments où ces lectures ont divergé, et elle offre un autre avertissement sur lequel le document ne s’attarde pas : la MAD a failli échouer à plusieurs reprises, par accident, fausse alerte et erreur de jugement, et a été sauvée par la chance autant que par la doctrine. Adopter sa logique, c’est adopter ses modes d’échec.
La dissuasion a besoin d’un signal d’alerte non équivoque et d’une réponse sans ambiguïté. MAIM n’a ni l’un ni l’autre pour l’instant.
Ce que MAIM ne peut pas faire même s'il fonctionne
Accordez tout au cadre, une limite plus profonde subsiste. MAIM dissuade un échec précis : la course délibérée et visible d’un État vers une domination unilatérale. Il ne fait rien contre le mode d’échec qui nous inquiète le plus, car celui-ci n’a pas d’agresseur à dissuader.
Le désalignement ne se soucie pas du drapeau qui flotte au-dessus du centre de données. Un monde de programmes rivaux, chacun restant soigneusement sous le seuil du sabotage, reste un monde course effrénée vers des systèmes que personne ne peut contrôler, avec la pression habituelle de la course à rogner sur la sécurité pleinement intacte. Pire, le MAIM ajoute une pression propre : les projets menacés de sabotage ont toutes les raisons de se cacher, de se durcir et de se disperser, et le secret est l'ennemi de toute pratique de sécurité qui vaille. La dissuasion surveille les concurrents pendant que la problème de contrôle itself goes unpoliced, and the slower, quieter routes to catastrophe, including the désautonomisation progressive qui ne nécessite aucune tentative de domination, passe entièrement sous son radar.
Une impasse n’est pas non plus un état stable. La MAD était tolérable parce que dissuader l’usage d’une arme existante est une tâche bornée. La MAIM doit dissuader le développement d’une capacité mouvante, pour toujours, avec des seuils qui bougent chaque année à mesure que les algorithmes gagnent en efficacité et que la frontière du calcul se décentralise. La gestion perpétuelle de crises est un compte à rebours avec un bon branding, pas une stratégie.
La dissuasion et les traités ne sont pas des rivaux
La dissuasion nucléaire n'a jamais tenu seule. Elle a été rendue viable par la machinerie ingrate qui y a été boulonnée pendant des décennies : lignes directes, inspections, le NPT, SALT, START, le protocoles de vérification qui permettent à chaque camp de compter les ogives de l'autre. La MAD a fourni la peur ; le contrôle des armements a converti la peur en règles avant que la peur ne se convertisse en guerre. Invoquer la première moitié de cette histoire tout en écartant la seconde, comme le fait le document lorsqu'il rejette la retenue coordonnée comme utopique, c'est citer la guerre froide de manière sélective.
Et les deux moitiés partagent un moteur. Pour menacer crédiblement le sabotage, un État doit voir dans les programmes d'IA de ses rivaux suffisamment pour savoir quand une tentative de domination est en cours. Cette surveillance, les satellites, le suivi des puces, le renseignement sur les runs d'entraînement, constitue l'essentiel de ce qu'une traité sur la superintelligence besoins en matière de vérification. L'article, lu à rebours de ses intentions, plaide que la partie la plus difficile d'un traité est déjà en construction.
Notre verdict est donc plus nuancé que ce que les partisans du document ou ses critiques les plus sévères n'écriraient. MAIM est précieux en tant que description : il nomme correctement l'impasse, établit que les sprints unilatéraux seront résistés et indique aux établissements de défense que la course constitue une menace plutôt qu'une solution. Il échoue en revanche comme destination, car une impasse permanente, indéfinie et secrète entre puissances nucléaires n'est pas de la stabilité, et parce qu'il laisse la source réelle du risque existentiel, les systèmes eux-mêmes, sans gouvernance. La dissuasion fait gagner du temps. Un accord international vérifié est ce à quoi sert le temps.