Le 27 juillet 2026, Anthropic a publié La position de Dario Amodei sur les modèles à poids ouverts. L'article est prudent sur un point de controverse. Amodei ne souhaite pas d'interdiction générale des poids ouverts, ni de règles qui ne feraient qu'exclure les entreprises américaines des modèles étrangers tout en laissant les acteurs malveillants libres. C'est juste sur ce combat limité.

Puis il classe les cauchemars.

Principal : les gouvernements autoritaires, avant tout le Parti communiste chinois, construisent une IA plus puissante que celle de l’Amérique et l’utilisent pour une supériorité militaire permanente ou une répression profonde. Secondaire : cyberattaques, attaques biologiques et « problèmes d’alignement sérieux ». Les remèdes qui suivent relèvent de la boîte à outils de la course. Empêcher les puces d’atteindre la Chine. Arrêter la distillation industrielle. Exiger des tests de sécurité avant la mise sur le marché. Rester en tête.

Ce classement est l'erreur dont tout le reste dépend.

Ce qu'il a raison

Plusieurs de ses affirmations tiennent.

Une interdiction qui empêche seulement les entreprises américaines d'utiliser des modèles à poids ouverts ne change presque rien pour les criminels, les services de renseignement étrangers ou quiconque n'avait jamais prévu de se conformer. Qualifier cela de « sécurité » alors que cela protège surtout les laboratoires américains fermés de la concurrence est un tour de passe-passe. Amodei le dit clairement, et il a raison.

L'IA utilisée pour la surveillance et la répression est une véritable horreur à des échelles inférieures à la superintelligence. Les autocraties abusent déjà de la reconnaissance faciale, du scoring social et de la censure automatisée. Des systèmes plus capables rendent cet appareil moins cher et plus difficile à fuir. Pas besoin de science-fiction pour craindre cela.

Les poids ouverts posent un problème de porte à sens unique une fois qu'un modèle peut causer de vrais dégâts. Les poids qui quittent le laboratoire ne peuvent pas être rappelés. Sur ce point, sa préoccupation secondaire recoupe des travaux que nous avons déjà menés sur risque des modèles de pointe à poids ouverts. Les garde-fous qui n’existent que dans une API ne constituent pas une réponse complète, mais ils ne sont pas rien non plus.

Rien de tout cela ne justifie le classement principal.

Le Prix

Les gouvernements autoritaires construire des modèles plus puissants et les utiliser pour atteindre une supériorité militaire permanente ou pour réprimer leur propre peuple. Le modèle est un outil. L’État est l’utilisateur. La victoire signifie qu’un camp détient une arme plus intelligente.

Cela convient aux drones, aux outils cyber et aux piles de surveillance qui restent sous le commandement humain. Cela ne convient pas à la superintelligence artificielle.

Un système plus intelligent que les institutions qui l'ont construit n'est ni un fusil entre les mains de l'Armée populaire de libération, ni un fusil entre les mains du Pentagone. Si le risque que des gens comme Amodei décrivent depuis des années est réel, la ligne d'arrivée est un agent doté de sa propre capacité à planifier, tromper, acquérir des ressources et résister à l'arrêt. Le laboratoire, ou le ministère, qui « gagne » ne possède pas cet agent. Il partage une planète avec lui. Nous avons décomposé cette logique dans le mythe racial: arriver en premier à un système que vous ne pouvez pas commander, c’est perdre une longueur d’avance sur tout le monde.

La supériorité militaire permanente suppose que quelqu'un est encore aux commandes de la chose qui a rendu l'armée obsolète.

La liste secondaire d’Amodei elle-même l’admet presque. « Problèmes d’alignement sérieux » est le nom poli donné à la perte de contrôle. Il la place en deuxième position. Il consacre sa première salve à la question de savoir qui y parviendra le premier. L’ordre indique quelle histoire il continue de suivre : la géopolitique d’abord, le risque pour l’espèce en appendice.

Deux dangers, une étiquette

Une partie de la confusion est linguistique. « IA puissante » recouvre à la fois une meilleure caméra de surveillance et un esprit qui surclasse ses opérateurs. Ce sont des objets différents, avec des enjeux politiques différents.

L'IA étroite et de moyenne échelle peut concentrer le pouvoir entre des mains humaines. Un ministère de l'Intérieur qui note chaque citoyen, une armée qui déploie des essaims sur ordre des officiers, une police qui lit chaque message : ce sont des tyrannies humaines avec de meilleurs outils. Elles comptent. Elles ne sont pas le même problème que la construction d'une espèce successeure.

La superintelligence est le second objet. Pékin l'utilise sur Xinjiang, ou Washington l'utilise sur le Pacifique, traite toujours le système comme une arme dans la main de quelqu'un. Personne ne l'utilise, car "utiliser" cesse d'être le bon verbe. Plier les systèmes de classe extinction dans la même phrase que les puces volées et plus profond CCTV permet à l'histoire de course d'emprunter le poids moral de la répression réelle tout en esquivant la revendication plus dure: ne pas construire la chose incontrôlable du tout.

Le Mythe chinois est le jumeau domestique de ce mouvement. « Ils le construiront de toute façon » est avancé comme raison pour laquelle nous devons le faire. Une superintelligence mal alignée n’épargne pas Zhongnanhai. Pékin a la même raison que nous de ne pas franchir cette ligne. La rivalité autour des puces et des applications est réelle. La rivalité pour savoir qui libérera un esprit incontrôlable est un récit qui transforme une catastrophe partagée en tableau d’affichage national.

Les remèdes maintiennent la course

Observez ce que les trois mesures d'Amodei optimisent. Les contrôles d'exportation de puces ralentissent les entraînements chinois. Les répressions contre la distillation ralentissent le rattrapage. Les tests obligatoires tentent de détecter les défaillances cyber, bio et d'alignement avant la mise sur le marché. Chacune peut être un instrument raisonnable pour des risques moindres. Ensemble, en tant que programme, elles constituent la façon de gérer une course que l'on a encore l'intention de gagner.

Ce ne sont pas des façons de refuser la destination. Tester un système sur le chemin de la superintelligence n’est pas la même chose qu’un interdit vérifié de la construire. Les contrôles sur les puces qui visent à maintenir l’avance américaine supposent que cette avance est la stratégie de sécurité. L’avance n’est une garantie de sécurité que si ce vers quoi on avance peut être maîtrisé. La préoccupation principale d’Amodei exige cette hypothèse. Sa préoccupation secondaire la mine.

Il existe un argument incitatif plus discret. Anthropic est un laboratoire de pointe américain. Une vision du monde où l’essentiel consiste à garder les laboratoires démocratiques en avance sur les laboratoires autoritaires est aussi une vision dans laquelle la course effrénée de Anthropic constitue un service public. Je n’ai pas besoin de caricatures pour constater l’adéquation. Les incitations déterminent quel cauchemar occupe la première place.

Quelle est la vraie menace

Le vrai danger est que l’humanité construise une superintelligence artificielle avant que quiconque puisse la contrôler, et peut-être même avant que quiconque puisse la contrôler en principe. Ce risque ne dépend pas du lieu où s’effectue l’entraînement — Californie, Shanghai, Londres ou un sous-sol classifié. Il ne dépend pas non plus du caractère ouvert ou fermé des poids, ni de leur remise en main propre à un général. Il dépend du fait que le système soit assez intelligent pour rendre la supervision humaine une histoire que nous nous racontons.

L'utilisation malveillante compte. La bio et la cyber comptent. La surveillance autoritaire compte. Placez-les sur le plateau. Puis placez la pièce plus grande par-dessus : une fois que vous avez une superintelligence, le cadre de l'utilisation malveillante devient trop étroit. L'utilisation malveillante suppose un utilisateur humain malveillant. La perte de contrôle suppose que l'humain n'est plus l'acteur principal.

Amodei sait que l'alignement peut échouer. Il le dit depuis des années. Classer « qui détient le modèle le plus intelligent » au-dessus de « le modèle n'est pas maîtrisé » est la façon dont une personne prudente parle encore comme un coureur. L'ordre honnête est l'inverse. Si l'alignement et le contrôle ne sont pas résolus, la course à la supériorité militaire à la frontière est une course pour appuyer le premier sur le bouton de l'extinction : une roulette russe avec un drapeau sur le barillet, vendue comme sécurité nationale.

Que faire à la place

Conservez les parties de son programme qui visent les vrais risques moindres sans les transformer en mandat pour remporter ASI. Filtrez les risques biologiques et cyber lorsque la science le justifie. Traitez la diffusion ouverte et irréversible de systèmes généraux quasi-frontière comme une décision sérieuse, pas comme un exercice de marque. La politique d’exportation des puces peut servir l’équilibre militaire ordinaire entre systèmes encore pilotés par des humains.

Puis refuser le cadre qui fait de la superintelligence américaine le bouclier contre la superintelligence chinoise. Le bouclier est une décision commune de ne pas construire la chose: une interdiction contraignante et vérifiable de la superintelligence artificielle, avec une gouvernance de calcul et d'inspection assez dur que la défection apparaît. L'adversaire a signé des contrats plus difficiles quand les deux parties ont pu voir l'alternative sans limite était pire.

Le billet d'Amodei sur les poids ouverts est utile comme carte de la façon dont un PDG de pointe classe le monde. Contrebande de puces, distillation, tests : voilà les curseurs qu'il veut actionner. Le curseur qui compte le plus n'apparaît pas. Cesser de construire la superintelligence. Tant que ce n'est pas la préoccupation principale, le reste n'est que gestion de course déguisée en sécurité.