Les personnes qui décident à quelle vitesse avancer vers la superintelligence, quelles normes de sécurité appliquer et quand déployer des systèmes approchant ce seuil sont, pour l’essentiel, les employés et investisseurs de cinq ou six entreprises privées de technologie. Elles ne sont pas soumises au droit international contraignant, ne sont pas élues. Leurs décisions sont contraintes par les engagements volontaires qu’elles ont pris entre elles et par les environnements réglementaires des pays où elles opèrent, qui sont incomplets et largement réactifs.
Ces faits ne peuvent pas être la réponse finale.
Ce n’est pas une accusation. Les individus qui travaillent dans ces organisations essaient, dans bien des cas, d’agir de manière responsable. Le problème est structurel : des décisions de cette ampleur ne devraient pas reposer sur les bonnes intentions de quelques individus dans quelques entreprises, soumis à des pressions concurrentielles qui poussent systématiquement à un déploiement plus rapide avec des marges de sécurité plus faibles.
La structure actuelle de prise de décision
OpenAI, Anthropic, Google DeepMind et Meta AI sont les principaux acteurs occidentaux du développement de l’IA de pointe. Chacun dispose d’équipes de sécurité internes, a pris des engagements publics en faveur d’un développement responsable et participe à des forums de gouvernance volontaires, dont le Frontier Model Forum. Le développement en Chine est principalement dirigé par des entités soutenues par l’État et de grandes entreprises technologiques opérant sous coordination gouvernementale.
Les décisions les plus importantes — quand pousser vers le niveau de capacité suivant, quelles évaluations de sécurité sont suffisantes avant le déploiement, si l’alignement d’un système a été vérifié de façon adéquate — sont prises au sein de ces organisations, examinées par leurs équipes de sécurité internes et évaluées selon des normes qu’elles ont largement rédigées elles-mêmes.
Aucun gouvernement en exercice n'a l'autorité d'ordonner aux principaux laboratoires d'IA de pointe d'arrêter leur développement. Aucun organe international n'a la légitimité juridique pour exiger une vérification indépendante des évaluations de sécurité. Aucun vote démocratique n'a eu lieu, où que ce soit, sur la question de savoir s'il faut poursuivre la construction de systèmes que leurs propres concepteurs décrivent comme potentiellement transformateurs de toute activité humaine.
Il s'agit d'une description d'un fossé structurel : les personnes les plus touchées par les décisions concernant la superintelligence n'ont aucun mécanisme formel significatif pour les influencer, et non d'une critique des intentions d'une entreprise en particulier.
Pourquoi la gouvernance privée échoue-t-elle structurellement ?
Trois problèmes structurels rendent la gouvernance par les entreprises privées de la superintelligence inadéquate, quels que soient les intentions des entreprises impliquées.
Le premier est la pression concurrentielle. Même un laboratoire qui souhaite sincèrement attendre que l’alignement soit résolu sait qu’un concurrent qui déploie en premier peut s’emparer d’une position de marché difficile à reconquérir. Cela crée une incitation à définir la « sécurité suffisante » au niveau qui permet le déploiement avant les concurrents, plutôt qu’au niveau réellement suffisant. Aucune entreprise ne peut résoudre ce problème seule. Les engagements volontaires de sécurité existent précisément parce que les entreprises savent que ce problème est réel, et ils sont insuffisants précisément parce que les engagements volontaires cèdent sous la pression concurrentielle.
Le deuxième est le conflit d'intérêts dans l'évaluation de la sécurité. Les organisations qui mènent des évaluations de sécurité des systèmes d'IA sont les mêmes organisations qui ont un intérêt financier à ce que ces systèmes passent l'évaluation. C'est simplement l'état actuel du domaine, pas une caractérisation injuste. Les équipes de sécurité internes font un travail sérieux et précieux. Elles ne remplacent pas un examen externe indépendant, de la même manière que les essais cliniques internes d'une société pharmaceutique ne remplacent pas l'examen réglementaire par un organisme indépendant.
Le troisième est la portée de la décision. Décider de construire ou non une superintelligence et selon quel calendrier est une question civilisationnelle, pas une décision produit. Le lieu approprié de cette décision réside dans les structures de gouvernance responsables devant les peuples dont l'avenir est en jeu, et non dans les conseils d'administration responsables devant les actionnaires.
Ce que nécessiterait une supervision démocratique et transnationale
L’argument en faveur d’une supervision démocratique de la superintelligence ne suppose pas que les processus démocratiques soient parfaits ni que les institutions internationales fonctionnent sans accroc. Il suppose que l’alternative — une gouvernance privée soumise à la pression concurrentielle — est manifestement pire.
Une surveillance adéquate nécessiterait trois propriétés. La première est la légitimité représentationnelle : l'organe de gouvernance doit rendre des comptes aux personnes qu'il affecte, ce qui signifie en fin de compte l'humanité tout entière, pas seulement les citoyens des pays où l'IA de pointe est construite. Cela suggère des organisations de traité internationales à large adhésion, et non une réglementation nationale unilatérale.
Le second est l'autorité contraignante. Les engagements volontaires ne sont pas de la gouvernance. Un cadre de gouvernance pour la superintelligence doit avoir la capacité juridique d'exiger la conformité, de mener des audits indépendants et d'imposer des sanctions en cas de violation. Cela exige des accords de niveau traité, pas des forums industriels.
Le troisième est la capacité technique. Un organe de gouvernance incapable d'évaluer ce qu'il gouverne ne peut pas le gouverner. La supervision internationale de l'IA exige du personnel doté d'une véritable expertise technique, d'un accès aux poids des modèles et aux registres d'entraînement, ainsi que des outils analytiques pour évaluer indépendamment les affirmations d'alignement.
Le précédent nucléaire
L'argument selon lequel une gouvernance internationale efficace des technologies dangereuses est impossible est réfuté par l'histoire. Le Traité sur la non-prolifération des armes nucléaires, signé en 1968 et aujourd'hui en vigueur dans 191 pays, a réussi à limiter la prolifération des armes nucléaires à un groupe de nations bien plus restreint que ce que les analystes des années 1960 avaient prévu. Il est imparfait. Il n'a pas empêché toute prolifération. Il n'en reste pas moins l'un des accords de maîtrise des armements les plus importants de l'histoire.
La Convention sur les armes chimiques, entrée en vigueur en 1997, a permis la destruction vérifiée de plus de 70 000 tonnes métriques d'armes chimiques déclarées. Le régime d'inspection géré par l'Organisation pour l'interdiction des armes chimiques (OPCW) effectue des visites de vérification indépendantes dans les installations des pays membres et fonctionne avec une réelle crédibilité technique.
« La responsabilité du développement d’une IA superintelligente ne devrait pas être laissée à un seul acteur (État ou entreprise), mais confiée à des structures de gouvernance démocratiques et transnationales représentant l’humanité dans toute sa diversité. »
Global Policy Journal, février 2026
Aucun des deux traités n'est une analogie parfaite pour la gouvernance de ASI. Le développement de l'IA est plus rapide, plus distribué et plus difficile à surveiller physiquement que la production d'armes nucléaires. Mais l'argument central tiré de ces précédents tient : lorsqu'une technologie présente des risques véritablement mondiaux et potentiellement irréversibles, la communauté internationale a montré sa capacité à construire des structures de gouvernance pour la contraindre. Affirmer que l'IA est uniquement ingouvernable n'est pas une observation technique ; c'est un choix.
L'objection concurrentielle et pourquoi elle ne résout pas la question
La plus grave objection à la surveillance démocratique et transnationale de la superintelligence est compétitive : si les démocraties occidentales se soumettent aux contraintes de gouvernance et que la Chine ne le fait pas, un acteur moins soucieux de la sécurité atteint d'abord la superintelligence.
La réponse comporte plusieurs volets. D’abord, les cadres de gouvernance doivent être conçus dès le départ pour inclure tous les acteurs majeurs. US et ses alliés disposent d’un levier important sur le développement chinois de l’IA via l’accès aux technologies, les flux d’investissement et les chaînes d’approvisionnement en puces. Ce levier est le plus précieux tant qu’il existe, pas après qu’un cadre de gouvernance ait été construit sans la Chine puis ait échoué. Ensuite, le gouvernement chinois a son propre intérêt à ne pas être dépassé par une IA non alignée développée par une entreprise occidentale, et il a participé aux discussions internationales sur la sécurité de l’IA, notamment à Bletchley Park. Les obstacles à une participation chinoise sont réels mais pas insurmontables. Enfin, l’alternative à une gouvernance multilatérale est une course dans laquelle chaque grand acteur cherche à déployer en premier avec des contraintes de sécurité minimales, ce qui ne favorise manifestement ni US ni ses alliés, et dans laquelle une superintelligence non alignée devient plus probable quel que soit son créateur.
L'opposition à la concurrence ne constitue pas un argument pour le statu quo. Le statu quo est la gouvernance privée sous pression concurrentielle, ce qui, selon l'analyse ci-dessus, est structurellement insuffisant. La réponse à la question de la « gouvernance multilatérale est difficile » est de travailler vers elle, non pas d'accepter une gouvernance plus facile mais clairement insuffisante.
La Fondation trois propositions de politique sont conçus en tenant explicitement compte de cette contrainte : des cadres structurés pour être rejoignables par tous les grands acteurs, avec les incitations politiques et économiques nécessaires pour rendre l’adhésion plus attractive que le refus.