Un traité international contraignant peut sauver l'humanité tout en poursuivant le progrès technologique.
Nous sommes une campagne philanthropique contre les systèmes qui dépassent l'intelligence humaine et ne peuvent être corrigés ou arrêtés. L'humanité ne doit jamais construire une superintelligence.
Un système unique intentionnellement conçu pour dépasser et remplacer les capacités humaines dans tous les domaines est dangereux. L'ASI est le risque numéro un pour l'humanité, plus grand qu'une guerre thermonucléaire mondiale. Une guerre nucléaire peut mettre fin à la civilisation et laisser des survivants. Une superintelligence éteindrait notre espèce.
Nous nous inspirons de concepts éprouvés qui ont fait bouger le monde, comme les campagnes de pression publique et les traités internationaux sur les armes chimiques, la non-prolifération nucléaire et la couche d’ozone.
Nous sommes totalement indépendants et ne recevons aucun argent des laboratoires d'IA, de leurs investisseurs ou des entreprises dont les profits dépendent de la course à la frontière.
Les médias sont un outil puissant pour façonner l’opinion et créer une culture qui rend la crise impossible à ignorer. Ils influencent le public votant et l’esprit des dirigeants que nous élisons. Quand Ronald Reagan a regardé le film de 1983 Le jour d'après, le concept abstrait d’une guerre nucléaire est devenu concret, et le Président a ensuite signé un traité contraignant avec l’Union soviétique pour réduire l’arsenal nucléaire.
De nombreuses organisations travaillent à une « course plus sûre » ou à une « transition sûre ». Nous faisons partie des rares qui s'efforcent d'urgence d'empêcher ASI par une loi contraignante. La « transition » ne doit jamais avoir lieu.
Nous ne sommes pas une organisation « anti-IA » : nous soutenons l’IA étroite contrôlée et bénéfique, par exemple pour diagnostiquer des cancers ou accélérer la découverte de médicaments. Ces systèmes dépassent les capacités humaines dans un seul domaine, ce qui nous permet d’en gérer le travail en toute sécurité au profit de l’humanité.
Notre fondation se consacre exclusivement à la prévention du ASI. Nous effectuons le travail public qui rend possible un traité international contraignant : commander des films, des vidéos, des essais, des images et des relations avec des leaders culturels. Nous visons aussi à réorienter les talents et les financements de la recherche d’alignement vers la prévention du ASI.
Nous ne faisons pas de recherche technique, d'analyse politique ni de lobbying.
Nous ne prenons pas non plus position sur les sujets généraux de l'IA tels que les chatbots, l'automatisation des emplois, les drones militaires ou les centres de données.
Nous sommes une association philanthropique fondée sur US. Depuis août 2026, nous sommes en cours de parrainage fiscal pour devenir éligibles au statut 501(c)(3). Tous les dons seront alors déductibles d'impôts.
Nous constituons un petit conseil consultatif. Nous recherchons particulièrement des personnes ayant de l'expérience en communication d'intérêt public, en collecte de fonds et en production culturelle.
Atteindre un impact significatif figure parmi nos objectifs prioritaires. Nos résultats sont publics et mesurables, comme les impressions sur X ou les vues sur les vidéos YouTube, et nous les mettons en regard de l’opinion du public votant.
Naoto Nakada aurait financé les travaux sur les traités nucléaires pendant la Guerre froide. Notre fondateur considère la superintelligence comme la crise existentielle d'aujourd'hui.
Après des décennies de recherche en sécurité de l'IA, la conclusion est que nous ne pouvons pas contrôler quelque chose de plus intelligent que nous, alors que la plupart des fonds dans le domaine va encore vers des systèmes de pointe « plus sûrs » tant qu’ils sont encore construits. Arrêter l’intelligence artificielle superintelligente avant qu’elle existe reste gravement sous-financé et sous-discuté, avec seulement sept organisations dans le monde exclusivement axées sur la prévention de ASI.
Nous avons lancé la fondation en réponse à ce vide, avec un nom frappant qui rend l'urgence et la gravité de la menace incontestables.
L'histoire humaine ne fait que commencer. Nous devons veiller à ce qu'elle perdure pour des ères à venir.
Naoto Nakada
Non. Nous soutenons l'IA étroite utile : des systèmes qui accomplissent une tâche et peuvent être corrigés. Nous œuvrons à empêcher la superintelligence artificielle, des systèmes dont la capacité ouverte les place dans une catégorie différente. Un smartphone, Internet, même une centrale nucléaire peuvent être régulés et arrêtés. Une superintelligence ne le peut pas.
Nous sommes singuliers. Nous travaillons sur la superintelligence artificielle et le travail culturel qui rend possible un traité contre elle. Biais des chatbots, perte d'emplois due à l'automatisation, deepfakes, drones militaires, implantation de centres de données : tout cela peut importer ailleurs. Ce n'est pas le travail de cette fondation. Si une question ne porte pas sur la prévention de ASI, elle se situe en dehors de cette fondation.
L’objection la plus courante est du même type que celle utilisée contre la non-prolifération nucléaire. Le NPT est imparfait et il a quand même marché : aucune utilisation nucléaire en temps de guerre depuis 1945, neuf États nucléaires alors que des centaines auraient pu rejoindre le club. Le risque de défection est une raison de mettre en place une vérification, pas une raison de sprinter. L’entraînement des modèles de pointe passe encore par une courte liste de fabricants de puces. Surveiller un seuil de calcul est un problème politique plus qu’un problème de physique.
Oui. Ils ont aussi des équipes commerciales, des relations investisseurs, des administrateurs qui représentent les actionnaires et une pression concurrentielle pour livrer plus vite que leurs rivaux. Les équipes sûreté des laboratoires d’IA commerciaux répondent aux mêmes incitations que le reste de l’entreprise, et ces incitations récompensent l’expédition de capacités plutôt que la réduction des risques. Quand l’équipe sûreté de OpenAI a publié ses inquiétudes sur la vitesse, l’entreprise a accéléré quand même. Au mieux, une équipe interne complète la régulation externe. Elle ne peut pas s’y substituer.
Le lauréat du prix Turing Geoffrey Hinton, qui a consacré sa carrière à poser les fondements de l'IA moderne, estime une 10 à 20 pour cent de chances que l'IA provoque l'extinction de l'humanité au cours du siècle. Le lauréat du prix Nobel Yoshua Bengio a déclaré publiquement que le risque est réel et sous-estimé. La déclaration 2023 du Center for AI Safety, signée par plus de 500 scientifiques de l'IA dont Sam Altman, place le risque d'extinction par l'IA au même niveau que la guerre nucléaire et les pandémies comme priorité mondiale.
Rejoignez la Fondation. Partagez notre message avec des personnes qui ne l’ont pas encore entendu. Contactez votre élu et demandez-lui quelle est sa position sur le risque IA et quelles législations il soutient. Si vous disposez de ressources financières, envisagez de faire un don à la Fondation ou à l’une des six autres organisations travaillant sur la prévention de l’ASI. Si vous avez une influence culturelle ou médiatique, utilisez-la. Si vous travaillez dans un laboratoire d’IA et avez des préoccupations, envisagez de vous exprimer publiquement. La volonté politique décide de cela, et elle vient de personnes comme vous.
Recevez des mises à jour et aidez à construire la pression dont cette cause a besoin.