Arrêter la superintelligence ne signifie pas détruire toutes les puces ni mettre fin à l'apprentissage automatique. Cela signifie une interdiction légale et pratique du développement de la superintelligence artificielle. La superintelligence ne peut pas être contrôlée par les humains. Il s'agit d'un interdit permanent, pas d'une pause temporaire qui expirerait pour relancer la même course.
Ce qui doit s'arrêter vs ce qui doit continuer
L'IA étroite qui replie des protéines, lit des scanners, optimise la logistique et reste dans des domaines bornés doit continuer. La cible est la superintelligence générale, auto-améliorante et récursive, et les programmes qui visent à l'atteindre, filtrés par seuils de calcul, tests de capacités et règles de recherche. Les critiques qui disent « ils veulent interdire l'IA » vendent une caricature qui protège la course.
Pourquoi les promesses des labs ne suffisent pas
Les politiques de mise à l'échelle responsable et les engagements multi-laboratoires peuvent révéler des intentions. Ils échouent comme système de contrôle principal. La même entreprise rédige la politique, exécute les tests, juge les résultats et profite de la mise sur le marché. Sous la concurrence, les règles internes plient. Le droit externe doit fournir la morsure. Voir engagements volontaires.
L'échelle d'application
Imaginez une échelle sur une falaise.
Volonté du public à la base : des personnes qui peuvent nommer la demande et punir les dirigeants qui ne proposent qu’un théâtre d’innovation.
Droit national et agences: octroi de licences pour les grands entraînements, exposition pénale et civile pour le développement conscient de ASI, organismes d'évaluation avec un accès réel, protection des lanceurs d'alerte.
Puces et nuages: contrôles à l’exportation, connaissance du client pour les clusters, visibilité sur l’électricité et les centres de données. Le matériel est physique. C’est un atout pour la gouvernance. Voir gouvernance du calcul.
Traité de coalition: un noyau d'États couvrant la majeure partie de la capacité de pointe, avec des annexes chiffrées, pas seulement des principes. La méfiance est normale ; la vérification existe pour que les parties n'aient pas à compter sur l'amitié. Voir conception de traité et NPT leçons.
Institution de vérification: inspecteurs, calendriers de FLOP, signalement d'incidents, autorité pour déclencher des conséquences. Pensez à une capacité de type IAEA pour les centres de données et l'entraînement, pas à un forum de discussion.
Condition d'interdiction permanente: ne rouvrir que lorsque la science indépendante et le public auront franchi un seuil élevé sous des institutions non capturées par les laboratoires.
Chaque échelon soutient le suivant. Des sommets sans règles de calcul, ou des règles de calcul sans volonté publique, laissent l'ascension inachevée.
La politique intérieure constitue la moitié du problème
Aux États-Unis, un beau texte de Genève ne lie pas sans un passage par le Sénat ou par des lois et accords exécutif-congrès qui peuvent passer. Concevez l'ensemble d'instruments à rebours à partir des votes que vous pouvez gagner. Les autres pays ont leurs propres pièges de ratification. Sautez la conception nationale et vous obtenez des communiqués de presse. Voir le problème des deux tiers.
La Chine, les rivaux et l'excuse de la course
L'excuse dominante du scaling illimité est : si nous ralentissons, les autres ne le feront pas. La vulnérabilité partagée joue dans les deux sens. Une superintelligence incontrôlable est une façon de perdre le pays tout en saluant le drapeau, pas un atout national. La vérification, le refus matériel et l'exposition mutuelle des programmes de rupture existent pour les rivaux qui ne se font pas confiance. Voir mythe de la course et US-coopération avec la Chine.
Poids ouverts
Les poids généraux ouverts haut de gamme créent une voie de prolifération que les contrôles à l’exportation ne résolvent qu’en partie. Une fois les poids rendus publics, il n’existe aucun rappel central. Considérez les diffusions générales haut de gamme comme des décisions de prolifération, pas comme des lancements de produits ordinaires. Voir risque lié aux poids open source.
Ce que vous pouvez faire
Adaptez l'action à votre portée.
Électeurs: contactez les représentants avec une demande d'interdiction contraignante, pas un vague "soyez prudents." Membres du personnel: rédiger des projets de loi sur les licences et les évaluations avec des déclencheurs numériques. Donateurs: finance le plaidoyer qui fait bouger les votes et le texte du traité. Scientifiques: soutenir l'interdiction permanente et aider à concevoir la vérification. Employés du labo: utilisez les canaux légaux de signalement lorsque la sécurité interne est outrepassée. La force propre au rôle l'emporte sur l'anxiété générique. Voir passer à l’action.
La plupart de l'argent et du prestige vont encore à rendre la course plus sûre, pas à mettre fin à la course vers l'ASI. Les dons qui font grandir l'arrêt sont encore rares.
À quoi ressemble le succès
Dans deux ans : des lois contraignantes dans plusieurs juridictions, un meilleur suivi des utilisations finales des puces, un texte de négociation sérieux avec des chiffres, un soutien public durable à une interdiction contraignante. Dans cinq à dix ans : une licence de calcul couvrant la majeure partie des capacités de pointe, des inspections opérationnelles, une coalition qui encadre l’entraînement et une culture où toute évasion devient coûteuse et visible. Les communiqués de sommet ne suffisent pas.
Modes d'échec
Redéfinition (« assistance avancée » au lieu de ASI). Capture des évaluateurs. Traités symboliques sans vérification. Attente d'un « alignement résolu » comme permis de construire. Défection sans coût. Nommez-les pour pouvoir poser des garde-fous sur l'ascension.
Conception de traité sans texte sacré
Il n’existe pas de projet sacré unique. Il existe des familles de conceptions. Une coalition centrale couvrant la majeure partie de la capacité de pointe peut avancer avant l’adhésion universelle. Le séquençage cadre puis annexes (principes d’abord, calendriers numériques qui s’actualisent) s’inspire des régimes environnementaux et de désarmement réussis. Des mesures commerciales contre les non-parties modifient le calcul de l’opt-out. Un fonds multilatéral ou un accord d’accès à la technologie peut rallier les États qui craignent d’être exclus de l’IA étroite. Le projet de type MIRI est une proposition entièrement spécifiée ; NPT, Montréal et le droit des armes chimiques constituent l’étagère des précédents. Choisissez des structures que vous pouvez vérifier, pas de la poésie que vous ne pouvez que louer.
Recherche près de la ligne
Le problème de rédaction le plus ardu concerne les travaux qui jouxtent l'interdiction : systèmes agentiques, assistants de recherche en IA automatisés, auto-jeu à grande échelle. Interdire la voie claire vers ASI. Autoriser et inspecter la zone grise. Ne pas prétendre que chaque article est une bombe, et ne pas prétendre que la recherche automatisée en IA est une science ordinaire quand elle raccourcit le chemin vers des systèmes que personne ne peut révoquer.
Justice et qui paie
Les règles de calcul toucheront les entreprises et les pays de manière inégale, car la base industrielle est inégale. Un régime équitable associe des restrictions au sommet de l'échelle des capacités à un accès continu aux outils étroits bénéfiques, et n'utilise pas la « sécurité » comme prétexte à des systèmes de castes technologiques permanents. L'objectif est la survie partagée, pas un monopole du progrès.
Répondre à deux lignes dures
"Nous allons perdre l'économie." Certains capitaux se réalloueront. Certains récits boursiers se contracteront. Ces coûts sont visibles lors des appels trimestriels. L'extinction et la dépossession permanente n'apparaissent pas comme une ligne comptable. Les coûts visibles ne remportent pas automatiquement l'argument quand l'alternative est civilisationnelle.
« Quelqu'un finira toujours par faire défection. » La défection est une donnée de conception. La vérification, le refus matériel, les sanctions et l'exposition mutuelle des programmes de rupture existent pour modifier la donne. La conformité parfaite n'est pas la norme. Augmenter le coût de la tricherie l'est.
L'échelle à nouveau
Volonté publique. Loi. Puces. Traité. Inspecteurs. Interdiction permanente. Gravir signifie installer les barreaux dans l'ordre et refuser de prétendre qu'un mur peint est une échelle. Les documents, les points d'étranglement industriels et les précédents juridiques existent déjà. La force appartient au prochain barreau que vous pouvez réellement atteindre. La conception complète vit dans notre plan. La ligne fondatrice est plus simple: ne pas construire de superintelligence. La superintelligence ne peut pas être contrôlée.