On 22 October 2025, the Future of Life Institute released a public letter titled the Déclaration sur la superintelligence. Contrairement aux manifestes touffus qui accompagnent habituellement de tels moments, c'est une seule phrase:

Nous appelons à une interdiction du développement de la superintelligence, non levée avant qu'un large consensus scientifique établisse qu'elle pourra être réalisée de manière sûre et contrôlée, et qu'un fort soutien public soit acquis.

Déclaration sur la superintelligence, Future of Life Institute · Octobre 2025

Cela ne dit pas que la superintelligence ne doit jamais être construite. Cela ne condamne pas l’IA en soi. Cela pose une condition (deux conditions, en fait) et demande que le développement s’arrête jusqu’à ce qu’elles soient satisfaites. Pour comprendre pourquoi cette requête qui semble modeste représente un véritable tournant dans le débat, il faut comprendre à la fois ce qu’elle exige et qui a accepté d’y apposer son nom.

Ce que l'affirmation demande réellement

La formulation est précise. Trois caractéristiques la distinguent des lettres ouvertes antérieures, y compris la célèbre lettre de 2023 appelant à une pause de six mois sur les plus grands entraînements.

  • Il cible spécifiquement la superintelligence. Pas l’IA étroite, pas les chatbots, pas les outils d’IA déjà intégrés à la vie quotidienne. L’interdiction s’applique aux systèmes qui dépasseraient les capacités humaines dans pratiquement tous les domaines cognitifs, la catégorie que nous décrivons dans notre explication sur superintelligence artificielle. Cette précision répond d'avance à l'objection classique selon laquelle les défenseurs de la sécurité voudraient arrêter les technologies bénéfiques. Ce n'est pas le cas. Ils veulent seulement arrêter une technologie précise, et précisément dangereuse, à la frontière.
  • C’est une interdiction conditionnelle, pas un bannissement permanent. La prohibition prend fin dès que deux seuils sont franchis. Cela reformule toute la question. La position par défaut aujourd'hui est : construire la superintelligence, puis établir la sécurité ensuite si nous le pouvons. L'énoncé l'inverse : établir la sécurité d'abord, puis construire. La charge de la preuve passe aux développeurs, là où (pour une technologie de cette conséquence) elle se trouve sans doute.
  • Cela nécessite l'adhésion du public, pas seulement l'approbation des experts. La seconde condition est démocratique, pas technique. Même si les scientifiques finissent par s'accorder un jour sur le fait que la superintelligence peut être contrôlée, l'énoncé insiste sur le fait que le public doit consentir à sa construction. C'est un défi direct à l'arrangement actuel, dans lequel une poignée de laboratoires privés prennent une décision qui bouleverse la civilisation au nom de tous, la préoccupation que nous examinons dans qui contrôle la superintelligence.

Pourquoi les signataires comptent plus que la phrase

Les lettres ouvertes ne coûtent rien. Ce qui a fait la différence ici, c'est la coalition. Plus de 850 personnes ont signé, et la liste est remarquable non par sa longueur mais par sa portée.

Au sommet se trouvaient les scientifiques qui ont construit le domaine. Yoshua Bengio et Geoffrey Hinton (tous deux lauréats du prix Turing, tous deux régulièrement appelés parrains de l'IA moderne) ont signé, tout comme ceux de Berkeley Stuart Russell, auteur du manuel de référence sur l'IA. Quand les personnes les plus responsables de l'existence d'une technologie demandent au monde d'arrêter avant d'en construire la forme la plus puissante, c'est un témoignage, pas de l'activisme.

Alors vinrent les constructeurs et les figures publiques. Cofondateur d'Apple Steve Wozniak et le fondateur de Virgin Richard Branson. Historien Yuval Noah Harari, acteur Stephen Fry, et musicien will.i.am. Des dirigeants retraités de la sécurité nationale, dont l'ancien président des chefs d'état-major interarmées Admiral Mike Mullen et ancien conseiller à la sécurité nationale Susan Rice. Et, plus révélateur encore, des figures qui ne sont d'accord sur presque rien d'autre: Le prince Harry et Meghan aux côtés Steve Bannon et Glenn Beck.

Ce dernier détail est tout l’argument en miniature. Quand un couple royal britannique et un stratège médiatique MAGA signent la même phrase, le sujet a échappé au tri idéologique habituel. L’inquiétude face à la superintelligence est l’une des rares positions en 2025-2026 à jouir d’une véritable portée transpartisane, ce qui est exactement le genre de coalition qui rend possible une politique contraignante, ni de gauche ni de droite, ni establishment ni populiste.

Ce qu'est la déclaration, et ce qu'elle n'est pas

Il importe de garder les yeux grands ouverts sur ses limites. Une déclaration publique n’interdit rien. Elle ne donne d’ordre à aucun régulateur, n’engage aucune entreprise et ne contraint aucun gouvernement. Quiconque y verrait une loi se tromperait.

Ce qu'il fait, c'est déplacer le Fenêtre d'Overton, l’éventail des positions jugées mainstream et exprimables. Il y a deux ans, réclamer l’interdiction d’une catégorie d’IA aurait été balayé comme une idée marginale. Après octobre 2025, c’est une position assumée publiquement par des scientifiques de niveau Nobel, des entrepreneurs iconiques et des figures politiques de tout l’échiquier. Ce changement dans ce qu’il est respectable de dire est la condition préalable à tout ce qui suit. Les politiques adoptent des positions déjà populaires ; ils mènent rarement. La fonction de la déclaration est de rendre l’interdiction assez populaire pour que les dirigeants puissent agir.

C’est précisément ainsi que les mouvements antérieurs de gouvernance technologique ont commencé. Le Conférences Pugwash spent two decades building the intellectual and moral consensus that eventually underwrote nuclear arms control. Les déclarations et les prises de position sont ce qui construit la piste d'envol, pas la ligne d'arrivée.

D'une phrase à un traité

L’écart entre la déclaration et la réalité est précisément celui que Nakada Foundation cherche à combler. Une déclaration établit que l’interdiction est souhaitable et légitime. Elle n’établit pas les mécanismes pour la faire respecter. Il faut pour cela trois choses que le texte laisse délibérément de côté:

La Déclaration sur la superintelligence a prouvé quelque chose de précieux : la volonté existe, et elle traverse toutes les lignes qui divisent habituellement les gens. Notre plan consiste à convertir cette volonté en contrôles de calcul, agence de surveillance et traité international qui donneraient à la phrase unique de la déclaration la force dont elle a besoin. Si vous êtes d'accord avec cette phrase, la chose la plus utile que vous puissiez faire ensuite est d'aider à construire la coalition qui la transformera en politique.