Les gens emploient AGI et ASI comme s'il s'agissait de synonymes, de noms de marque ou d'éclairage de science-fiction. Ce n'est pas le cas. La distinction compte parce que le problème de contrôle et les outils politiques changent à mesure que l'on gravit l'échelle, et parce que les laboratoires ont intérêt à se dire proches de « AGI » pour le financement tout en paraissant loin du danger pour la régulation.
Définitions simples
IA étroite est conçu pour une tâche bornée : recommander des vidéos, replier des protéines, repérer des tumeurs. Il peut être excellent sans être un agent général.
AGI (intelligence générale artificielle) signifie une compétence large et flexible dans de nombreuses tâches à un niveau approximativement humain, avec suffisamment d'agence pour poursuivre des objectifs plutôt que de seulement répondre à des prompts. Les définitions varient, mais l'idée centrale est la généralité plus une autonomie utilisable.
ASI (artificial superintelligence) désigne une performance cognitive qui surclasse substantiellement les humains dans presque tous les domaines importants pour la science, la stratégie et le pouvoir. Ce n'est pas « AGI plus dix pour cent ». C'est une rupture qualitative dans qui peut surpasser qui en planification.
Un escalier, pas deux bacs
Raisonnez par paliers. Les modèles de pointe d’aujourd’hui sont larges mais inégaux, fortement étayés par des humains et progressent rapidement. Les piles agentiques (outils, mémoire, boucles de planification) peuvent faire agir un modèle de base bien plus de façon autonome qu’une simple boîte de dialogue ne le laisse penser. Une agence de classe AGI constitue déjà un grave problème de contrôle et de société si elle est mal alignée. AGI confère un avantage décisif : science plus rapide, meilleure stratégie, meilleure exploitation des biais humains, extinction plus difficile.
La superintelligence de domaine, c'est du vieux. Un système peut écraser les humains aux échecs ou au repliement de protéines tout en restant spécialisé. La superintelligence stratégique inter-domaines est précisément l'échelon que ce site existe pour empêcher.
Pourquoi « nous nous arrêterons à AGI » est instable
Supposons qu’un laboratoire atteigne des systèmes généraux de niveau humain contrôlables. La pression pour aller plus loin ne disparaît pas. Avantage militaire, avantage commercial et prestige pointent tous vers le haut de l’échelle. La dynamique de course récompense le joueur le moins prudent. L'histoire de la course est souvent utilisé pour justifier la vitesse ; cela ne justifie pas le contrôle.
Mesure sans marketing
Les benchmarks chutent ; les communiqués de presse montent. Les évaluations de capacités dangereuses tentent de mesurer l'offensive cyber, l'assistance biologique, la réplication autonome et la persuasion dans des conditions contrôlées. Elles aident. Elles ne constituent pas un dossier de sécurité complet, surtout si un système peut sac de sable. La politique devrait se baser sur le calcul, les tests de capacités et l’autonomie, pas sur ce que les entreprises appellent le produit.
Mythes qui font perdre du temps
AGI n’exige pas un corps de robot. Des outils à distance et des machines existantes suffisent à agir sur le monde physique. La conscience est une question distincte de la capacité et du contrôle. « Humain-niveau » n’est pas un seul chiffre : une personne médiane, une équipe de spécialistes et le meilleur institutionnel de l’humanité ne se situent pas au même niveau. Le AGI pertinent pour la sécurité renvoie à une capacité générale de résolution de problèmes sous des incitations réelles, et non à un simple score d’examen.
Ce qui passe dans la loi
Si la loi ne restreint que les systèmes portant la marque « AGI » ou « ASI », les entreprises changeront de nom. Les bons déclencheurs sont opérationnels : taille de l'entraînement, autonomie des outils, résultats de capacités dangereuses, diffusion de poids ouverts de modèles généraux haut de gamme. L'IA étroite qui reste un outil doit continuer. La ligne tracée par cette Fondation est celle de la superintelligence artificielle et des programmes qui visent à l'atteindre.
Comment le dire en une minute
IA étroite : des outils. AGI : une agence générale de niveau humain, déjà un sérieux problème de contrôle si elle est autonome et mal alignée. ASI : une cognition mécanique qui nous surpasse dans tous les domaines. Nous pouvons conserver les outils. Nous ne devrions pas construire l’esprit souverain. La superintelligence ne peut être contrôlée. La demande figure dans notre plan.