Un traité international contraignant sur la sécurité de l'IA ne nous sera pas offert sur un plateau. Il faut plaider en sa faveur, l'organiser et le financer. Notre indépendance dépend entièrement de personnes comme vous.
Les dons en ligne ne sont pas encore disponibles. Les processeurs de paiement exigent une entité à but non lucratif certifiée, et l’enregistrement de la fondation est encore en cours de finalisation. En attendant, manifestez votre intérêt et nous vous informerons dès que les dons seront ouverts.
Statut organisationnel. Unincorporated philanthropic association, United States. Seeking fiscal sponsorship under a 501(c)(3). No EIN yet. Gifts are not tax-deductible until we are under a qualified sponsor or hold our own determination letter.
La majeure partie des fonds consacrés à la sécurité de l’IA va encore aux laboratoires et à la recherche technique qui considèrent la superintelligence comme inévitable. Presque aucun ne finance le travail politique visant à faire en sorte que la superintelligence ne soit jamais construite. Nous effectuons ce travail, et seulement celui-ci : un traité international contraignant, une pression publique et la campagne d’attention qui rend le traité possible. Nous n’acceptons aucun financement des laboratoires d’IA ni de leurs investisseurs.
La sécurité technique de l'IA contrôle déjà l'argent du domaine et ses esprits les plus brillants, et malgré tous ces efforts, personne n'a montré comment contrôler de manière fiable un système bien plus intelligent que les humains qui le construisent. En supposant que contrôler une entité bien plus intelligente que nous soit même soluble, cela ne sera très certainement pas résolu à temps. La seule protection restante est le choix de ne pas construire de tels systèmes tant qu'ils ne peuvent pas être rendus sûrs. Ce choix est politique, et il est gravement sous-financé.
Un don ici finance la pièce manquante. Pas un énième article sur la façon de contrôler un esprit plus intelligent que ses concepteurs. Du personnel, des organisateurs, des réponses sur X qui rencontrent vraiment les slogans de la course là où ils atterrissent, du contenu que les législateurs et les créateurs voient, et la longue campagne pour orienter la philanthropie vers la prévention. Dollar pour dollar, c'est là que le prochain dollar réduit le plus le risque d'extinction.
Ce que couvre votre don est détaillé ligne par ligne ci-dessous. Nous nous engageons à publier les dons importants au-delà d’un seuil de transparence que nous fixerons publiquement.
Impossible de donner pour l’instant? Donnez plutôt votre temps.
Préférez-vous donner à grande échelle une fois que les dons déductibles d’impôts seront disponibles? Inscrivez votre intérêt pour les dons majeurs et institutionnels.
Tant que les paiements sécurisés ne sont pas activés, aucune carte n'est débitée et aucune coordonnée bancaire n'est collectée sur cette page.
Si vous voulez qu'un don fasse autant de bien qu'un don peut en faire, le raisonnement va droit au but. Le voici, sans rien cacher.
L’intérêt d’un don réside dans son effet, et l’effet d’un dollar n’est pas le même partout. La vraie question n’est donc pas de savoir si une cause est bonne, mais seulement si c’est la meilleur usage disponible du prochain dollar. Prenez cette question au sérieux et tout le reste en découle.
Les causes à plus fort impact sont celles qui touchent tout le monde, et tous ceux qui viendront après. Une menace pour tout l'avenir de l'humanité dépasse tout problème circonscrit, car ce qu’il met en jeu n’est pas une génération, mais toutes celles qui pourraient jamais suivre.
Parmi les technologies susceptibles de mettre fin à l’humanité, la superintelligence artificielle arrive en tête. Selon les meilleures estimations structurées disponibles, elle présente un risque de l’ordre de cent fois le risque d'extinction d'une guerre nucléaire, et c’est le seul qui s’améliore lui-même et agit contre toutes les contre-mesures que nous mettons en place.
La recherche en sécurité technique mobilise déjà l'argent du domaine et ses meilleurs esprits, et pourtant personne ne peut encore contrôler un système bien plus intelligent que nous. Le travail sous-financé est d'une autre nature : l'accord international contraignant et vérifié qui empêche la construction d'une superintelligence tant qu'elle ne peut pas être rendue sûre. Nous nous concentrons strictement sur ce seul objectif, et non sur la recherche qui existe déjà.
La chose la plus impactante que vous puissiez financer est la prévention de la superintelligence, et la partie la plus négligée de cet effort est le combat politique pour la rendre légale. C'est exactement là que va votre don, et pourquoi un dollar ici est, dollar pour dollar, parmi les dons les plus impactants que vous puissiez faire.
Financez la mission →Chaque dollar est destiné aux coûts administratifs, techniques et de main-d'œuvre des programmes ci-dessous. Nous préférons vous montrer les postes de dépenses plutôt que de vous demander de croire à une déclaration de mission. Nous mesurerons les progrès avec des données et publierons les chiffres.
Nous avons besoin de financement dès que possible pour une personne à temps plein chargée des réseaux sociaux, dont le travail consisterait à repérer et répondre aux publications sur X concernant la « course au ASI », la « singularité », « gagner la course à l'IA », « ASI » et la « superintelligence ». Ce travail n'est pas fait aujourd'hui. Les slogans de course atterrissent chaque heure sans contre-argument soigné dans le fil.
Pourquoi X. C’est la plateforme sociale numéro un pour les personnes les plus influentes du monde : législateurs, journalistes, dirigeants de laboratoires et les comptes qu’ils lisent. Les réseaux sociaux sont désormais une source d’information principale pour beaucoup de ces législateurs. Une seule réponse bien placée peut atteindre des millions d’impressions. C’est une notoriété qu’on ne peut pas acheter avec un autre livre blanc.
Votre argent finance un Organisation X compte (vérifié, fiable, capable de publier en volume), le salaire de la personne qui écrit et répond chaque jour, et la formation qui l'intègre à la mission et à nos directives de contenu. L'objectif est simple : aucun post de course à forte visibilité ne reste sans réponse, et notre propre fil publie l'argument en faveur de la prévention sans interruption.
Résultat mesurable: impressions et portée sur les réponses et les publications originales (statistiques publiques une fois le compte actif).
Écrits courts et longs, images, infographies et vidéos : des travaux originaux sur la superintelligence conçus pour qu’un non-spécialiste puisse les suivre en une seule séance. Créés une fois, puis diffusés sur toutes les plateformes que nous pouvons atteindre. Plus des placements payants là où l’opinion se forme réellement.
Ce n'est pas un autre livre blanc pour les personnes déjà dans le domaine. C'est un travail créatif qui rencontre les gens là où ils sont déjà : des explications, des essais, des visuels et des récits proches du film qui rendent les enjeux lisibles sans formation technique.
Parrainer des newsletters spécialisées que les législateurs et leur personnel ouvrent déjà. Sponsoriser des podcasts que ces mêmes personnes écoutent en allant au travail. Sponsoriser des créateurs de contenu avec de vrais publics. Les gens forment leurs opinions à partir des créateurs. Regardez qui parle aujourd’hui de ASI comme d’un risque existentiel : presque personne avec de l’audience. C’est comme vivre pendant la Guerre froide alors que presque personne avec un micro ne parle de prévenir la guerre nucléaire. Combler ce silence est le moyen peu coûteux de rendre la menace compréhensible avant même qu’un vote sur un traité ne soit programmé, pas de la vanité.
Votre argent paie les personnes qui créent le travail original, les parrainages de créateurs et de lettres d'information, le financement de podcasts, les comptes sociaux vérifiés et les outils qui le diffusent afin que les heures soient consacrées à l'argument plutôt qu'à la file d'attente de publication.
Résultat mesurable: vues et temps de visionnage sur des pièces originales, plus la portée de placement lorsque nous sponsorisons la distribution.
Nous avons déjà commencé à trouver des personnes capables d’effectuer ce travail. Une leçon est venue rapidement : une seule vidéo a pris des mois à terminer. C’est trop lent. La course continue d’avancer pendant qu’un film attend dans la file.
Une vidéo ne devrait pas prendre des mois.
L'argent ici sert à mettre plus de ces personnes au travail en même temps.
Résultat mesurable: délai entre le début et la publication des pièces originales.
À l'étude, pas encore financé
Beaucoup de discours, et beaucoup de philanthropie, vont encore à l'alignement : la recherche technique visant à faire en sorte que la future superintelligence se passe bien. Dites ce que « résoudre l'alignement » signifierait vraiment. Cela signifie contrôler de manière fiable quelque chose de bien plus intelligent que nous. C'est dans le nom: superintelligence. Miser l'espèce sur le contrôle d'un esprit plus intelligent que tous les humains qui l'ont construit est un plan idiot, et sur la base des preuves dont nous disposons, un plan impossible.
L'utilisation ambitieuse de l'argent des donateurs consiste en du personnel rémunéré dont le travail est de rencontrer les bailleurs de fonds et les conseillers, plaider pour rediriger le capital de sécurité rare vers le traité, la vérification et la pression publique, et faites ce travail dans les salles où l'argent est déjà promis. Pas un autre papier dans ce tas.
La sécurité des systèmes étroits qui peuvent réellement être contrôlés mérite encore des financements. La recherche qui suppose que nous construirons une espèce successeur puis que nous la mettrons en laisse n'en mérite pas. Les dirigeants de l'altruisme efficace ont autrefois réorienté la philanthropie vers les moustiquaires contre le paludisme en faisant ce genre d'argument. Si nous prenons la même voie sur la superintelligence, nous le dirons avant de demander les dollars supplémentaires.
Soyez informé·e dès que les dons en ligne sécurisés seront disponibles. Vous recevrez aussi des points d’étape occasionnels sur l’usage des fonds.