Un accord international sur la sécurité de l’IA n’arrivera pas tout seul. Il se construit politique après politique, vote après vote, conversation après conversation. Choisissez ci-dessous le rôle qui correspond au travail que vous pouvez faire dès aujourd’hui, pas un jour.
Les fondateurs, dirigeants et opérateurs disposent d’une crédibilité que les universitaires et les militants n’ont pas. Vos choix (ce que vous construisez, ce que vous refusez, avec qui vous vous associez) sont des signaux publics qui font bouger les marchés et les comportements des pairs.
Rendez la position de votre entreprise contractuelle, approuvée par le conseil d'administration et vérifiable, pas un simple vœu pieux dans un billet de blog. Engagez-vous à ne jamais construire de systèmes ASI. Seul un engagement auquel on peut vous tenir compte.
Refusez les partenariats, les coentreprises et les contrats avec les laboratoires de pointe qui courent vers ASI. Expliquez publiquement votre raisonnement. Un dirigeant d'entreprise qui renonce à un accord et explique pourquoi envoie un message qu'aucune campagne de relations publiques ne peut fabriquer.
Une IA bénéfique est possible sans construire des systèmes que personne ne peut contrôler. Si votre entreprise travaille avec l'IA, orientez-la vers des applications à finalités claires et limitées. Faites la démonstration par l'exemple rentable que sécurité et utilité ne sont pas en conflit.
Vous avez accès à des conférences, des publications et des réseaux de pairs que la plupart des défenseurs n'ont pas. Parlez franchement des enjeux depuis ces plateformes. La crédibilité de l'intérieur du secteur est irremplaçable, elle ne peut pas être embauchée ou fabriquée de l'extérieur.
Établissez des politiques claires et écrites sur les capacités d’IA que votre organisation développera ou acquerra, et celles qu’elle ne développera ni n’acquerra pas. Rendez-les contraignantes pour les fournisseurs et partenaires. Normalisez l’idée que les entreprises sérieuses ont des normes de sécurité.
Le Nakada Foundation construit l’argumentaire public en faveur d’un traité international sur la sécurité de l’IA. Nous ne sommes pas un laboratoire de recherche. Nous sommes une campagne philanthropique qui a besoin de ressources pour toucher les gens. Le page de dons indique précisément quels coûts votre argent couvre.
Que vous déployiez du capital pour un rendement financier ou dans une intention philanthropique, vous détenez l'un des leviers les plus directs disponibles. Vous désinvestir de la course et financer la résistance sont tous deux à votre portée, et les deux comptent.
Retirez des capitaux des laboratoires qui poursuivent explicitement ASI. Des capitaux retirés, c'est du calcul non acheté, des ingénieurs non embauchés, des calendriers non raccourcis. C'est l'intervention la plus directe dont dispose un investisseur, et elle est disponible dès aujourd'hui.
Exigez des engagements de sécurité vérifiables, le respect de la gouvernance du calcul et des audits indépendants par des tiers comme conditions non négociables de tout investissement ou subvention en IA. S’ils refusent, cela en dit long sur leurs priorités.
Dans les entreprises où vous détenez des parts ou des sièges au conseil, mettez la sûreté de l’IA à l’ordre du jour. Faites pression pour des engagements contraignants, des droits d’audit et le respect des futures normes internationales de gouvernance des capacités de calcul. Les conseils et les investisseurs institutionnels écoutent les gros actionnaires. Utilisez ce poids.
Le domaine de la recherche sur la sécurité de l’IA reçoit des milliards des laboratoires qu’il étudie, une structure d’incitation compromise. Les organisations indépendantes de plaidoyer et de politique qui œuvrent pour une loi contraignante ne reçoivent presque rien. Un seul don majeur peut changer l’équilibre du champ.
Le journalisme d'investigation sur les pratiques des laboratoires d'IA, la recherche politique sur les cadres de traités et le travail culturel qui rend le risque tangible et incontestable, rien de tout cela n'est commercialement attractif à produire. Le capital philanthropique est la seule source pour un travail essentiel mais non rentable.
Vous avez accès à des donateurs, des conseils de fondations, des investisseurs institutionnels et des décideurs politiques que les défenseurs ne peuvent pas atteindre par des démarches à froid. Réunissez-les. Présentez-leur cette cause. Une heure de votre accès vaut une année d’efforts pour une organisation sous-financée.
Les chercheurs, ingénieurs et personnels techniques des laboratoires d'IA et des entreprises technologiques disposent d'informations, d'accès et de leviers qu'aucun défenseur externe ne possède. L'histoire montre que les travailleurs ont changé des institutions qui semblaient impossibles à faire bouger.
Faites remonter les préoccupations par les canaux formels existants : équipes sécurité, médiateurs, comités d’éthique, accès au conseil d’administration. Consignez tout par écrit. Constituez un dossier avant d’en avoir besoin, pas après.
Vous n’êtes pas seul. Des chercheurs et ingénieurs inquiets de l’orientation du développement de l’IA de pointe existent dans tous les grands laboratoires. Trouvez-vous. L’action collective du personnel technique a déjà modifié le comportement d’entreprises d’IA, et elle le peut à nouveau.
Les personnes qui ont divulgué des informations sur des développements non sécurisés l'ont fait à un coût personnel important. Soutenez-les publiquement et professionnellement. Leurs révélations étayent le dossier public qu'aucun défenseur extérieur ne peut constituer seul, car seuls les initiés savent ce qui se passe vraiment.
Dans de nombreuses juridictions, des protections pour les lanceurs d'alerte existent pour les employés qui divulguent des informations sur des activités mettant en danger la sécurité publique. Connaissez vos droits. Consultez un avocat spécialisé dans ce domaine. Connaissez vos options tant qu'il vous reste du temps pour vous préparer.
Vous avez des compétences extrêmement recherchées. Vous pouvez trouver un autre emploi, probablement meilleur. Les chercheurs et ingénieurs qui construisent des systèmes d’IA de pointe disposent d’un levier sur leurs employeurs supérieur à celui de presque toutes les forces de travail de l’histoire. La plupart ne l’ont pas encore exercé. La question est de savoir si vous le ferez.
Si vous travaillez dans un laboratoire d'IA de pointe et avez des raisons de penser que le développement se déroule de façon non sécurisée (engagements non tenus, risques minimisés, calendrier plus court que ce qui est déclaré publiquement), la question de ce que vous feriez n'est pas hypothétique. Réfléchissez-y maintenant.
Aucune organisation privée, aussi bien financée soit-elle, ne peut lier des États souverains à des limites sur le développement de l’IA. Seuls des gouvernements négociant avec des gouvernements peuvent le faire. Les politiciens, les fonctionnaires, les diplomates et les régulateurs sont ceux qui écriront la loi, ou échoueront à le faire.
Exiger une autorisation gouvernementale pour les entraînements d'IA dépassant un seuil de calcul défini, actuellement proposé à 10²⁶ opérations en virgule flottante. C'est techniquement réalisable, vérifiable indépendamment et déjà précédé. Un petit nombre de fabricants de puces contrôlent le matériel nécessaire à l'entraînement des modèles de pointe. Autorisez-le à ce point de contrôle.
Demander officiellement à votre gouvernement de présenter une proposition aux Nations unies ou à un organe multilatéral pertinent afin d'entamer des négociations sur un traité contraignant de sécurité de l'IA. Le Protocole de Montréal est passé du consensus scientifique à la ratification en moins de deux ans. Une ambition de cette ampleur a déjà des précédents, elle n'est pas naïve.
Le risque existentiel lié à l'IA n'est pas encore un sujet habituel des auditions parlementaires ou congressuelles. Inscrivez-le à l'ordre du jour. Invitez des chercheurs et d'anciens employés de laboratoires d'IA prêts à parler franchement. Constituez le dossier législatif dont les futures actions auront besoin et que l'histoire consultera pour savoir si nous avons agi à temps.
Poussez pour des ressources suffisantes pour les agences de surveillance de l'IA, les auditeurs indépendants de sécurité et le régime d'inspection internationale qu'exigera un traité efficace. L'Agence internationale de l'énergie atomique a été créée dans les trois ans suivant le NPT. Son équivalent pour l'IA est réalisable dans le même délai si la volonté politique existe.
Le risque existentiel lié à l'IA est une question civilisationnelle, pas une question gauche-droite. Construisez des coalitions transpartisanes au niveau national. Tendez la main à vos homologues dans d'autres capitales. Le traité exigera la participation de toutes les grandes nations développant l'IA pour être efficace ; ces conversations doivent commencer maintenant, à un niveau politique.
Les entreprises d'IA consacrent des ressources énormes au lobbying et aux relations. Les cadres politiques qu'elles défendent visent à préserver leur liberté d'action commerciale, pas à protéger le public. Exigez des preuves indépendantes. Méfiez-vous des normes de sécurité rédigées par les entités qu'elles sont censées encadrer.
Artistes, journalistes, cinéastes, musiciens, écrivains, célébrités et créateurs dotés d’une plateforme, vous êtes ceux qui rendent les menaces abstraites concrètes et urgentes. L’opinion publique est ce à quoi les politiques répondent. Vous façonnez l’opinion publique.
Les statistiques et les notes de politique ne touchent pas les gens. Les histoires, si. Créez des œuvres (dans le média qui est le vôtre) qui font sentir à votre public ce qui est en jeu : ce que cela signifierait de se tromper, pour eux, pour ceux qu’ils aiment, pour toutes les générations à venir.
Interviewez des chercheurs en IA, d’anciens employés de laboratoires prêts à parler franchement et des défenseurs de politiques publiques qui travaillent sur ces questions. Votre portée peut donner à leur message une ampleur que les articles universitaires et les communiqués de presse ne peuvent atteindre seuls. Un entretien peut faire plus que cent notes de politique.
Si vous disposez d’une plateforme (lecteurs, abonnés, public), utilisez-la pour dire clairement que c’est le sujet le plus important de votre vie. Sans l’adoucir pour le rendre plus digeste. Sans le nuancer pour des raisons commerciales. Clairement. Les publics respectent la franchise de la part de personnes qui ont quelque chose à perdre en étant directes.
Refusez les partenariats, les endorsements et les contenus sponsorisés qui profitent aux laboratoires de pointe sans engagements contraignants en matière de sécurité. Si un labo vous propose un deal, le refuser publiquement envoie un message qu’ils ne peuvent pas acheter. Ils ont besoin de votre audience et de votre crédibilité. Utilisez ce levier explicitement.
La science-fiction a fait plus pour façonner la conscience publique sur la technologie que n'importe quel document de politique publique de l'histoire. Le mouvement climatique a construit son cas culturel par l'art avant de le construire par le droit. Si vous créez des choses (écrire, réaliser, composer, illustrer), faites le travail qui pousse les gens à réfléchir à ce que nous construisons.
Le Nakada Foundation prépare une campagne médiatique pour faire évoluer l'opinion publique sur la sécurité internationale de l'IA. Nous souhaitons collaborer avec des créateurs qui considèrent leur plateforme comme un levier politique. Contactez-nous.
Les jeunes ont bâti tous les grands mouvements sociaux du XXe siècle. Celui-ci a besoin de vous aussi, pas en tant que spectateurs mais en tant qu’organisateurs et décideurs dont les valeurs et les réseaux se forment dès maintenant.
Créez ou rejoignez une organisation étudiante de sûreté de l’IA. Poussez votre université à soutenir la recherche sur la gouvernance contraignante de ASI, à accueillir des intervenants sur le risque de superintelligence et à mettre la prévention au programme. Les boycotts individuels et le symbolisme des dotations sont des canaux secondaires facultatifs. Le travail qui passe à l’échelle est la pression politique organisée pour un traité. Les mouvements étudiants ont déjà fait bouger les universités. Ils peuvent les faire bouger à nouveau vers la loi, pas vers des boycotts de marques.
Le droit, les politiques publiques, la diplomatie, le journalisme et le gouvernement sont les domaines qui détermineront si un traité est négocié et appliqué. Le mouvement pour la sécurité de l'IA a désespérément besoin de personnes dans ces professions qui comprennent les enjeux techniques. Votre carrière est l'un des choix les plus déterminants que vous ferez jamais. Faites-en bon usage.
Les laboratoires d’IA de pointe recrutent agressivement dans les meilleures universités. Refuser une offre (et expliquer publiquement pourquoi) pèse davantage que tout engagement volontaire pris par un laboratoire sur la sécurité. Votre décision d’aller ailleurs est une forme de discours politique qu’ils ne peuvent contrer.
Vos camarades de promotion sont la génération qui prendra des décisions majeures sur la politique de l’IA dans dix ou vingt ans. Les conversations que vous avez aujourd’hui façonnent les intuitions qu’ils porteront ensuite. N’attendez pas que cela devienne le problème de quelqu’un d’autre pour vous y intéresser.
Les jeunes sont systématiquement sous-représentés dans les contacts politiques, et les élus le savent. Écrivez, appelez, montrez-vous. Dites à vos représentants que la sécurité internationale de l’IA est l’enjeu définissant de votre génération et demandez-leur quelles législations ils soutiennent.
Le Traité de non-prolifération nucléaire, la Convention sur les armes chimiques, le Protocole de Montréal : chacun apporte des enseignements sur ce à quoi pourrait ressembler un traité de sécurité de l’IA et sur la manière dont il pourrait être vérifié. Étudiez l’histoire. Devenez l’une des personnes qualifiées pour concevoir le prochain.
Les politiques répondent aux électeurs qui posent des questions claires et se manifestent. Ceux qui évoquent la sécurité de l'IA auprès de leurs représentants, lors d'auditions ou dans la conversation ordinaire constituent le groupe de pression qui rend possible toutes les autres actions de cette page. Nous ne soutenons ni ne nous opposons à des candidats ou à des partis.
Demandez à vos élus où ils en sont sur une législation de licence de calcul et sur les négociations d'un traité international de sécurité de l'IA. S'ils ne connaissent pas le sujet, informez-les. Des questions répétées et claires des électeurs sont ce qui transforme un dossier ignoré en dossier réel, et presque personne ne pose encore la question.
Les appels téléphoniques, les courriels et les visites de citoyens en circonscription influencent les élus d’une manière que les pétitions en ligne n’atteignent pas. Soyez précis : demandez-leur de soutenir une législation sur les licences de calcul et l’ouverture de négociations formelles pour un traité international. Écrivez aujourd’hui, pas quand l’urgence semblera plus grande, car il pourrait alors être trop tard.
Présentez-vous en personne. Demandez à vos élus s'ils soutiennent un traité international sur la sécurité de l'IA. La question elle-même est un acte d'éducation politique, pour l'élu, et pour tous les autres dans la salle qui l'entendent poser et répondre.
Les majorités politiques se construisent par les réseaux sociaux, pas par la publicité. Parlez à votre famille, vos collègues, vos voisins. Les conversations que vous avez cette année déterminent ce que les politiciens se sentiront en sécurité à dire l'année prochaine, et les lois qu'ils se sentiront capables de faire voter l'année d'après.
Si vous avez trouvé cela pertinent, la chose la plus précieuse que vous puissiez faire maintenant est d'élargir le cercle des personnes concernées par cette cause. Envoyez ceci à une personne qui n'a pas encore réfléchi à ces questions. C'est ainsi que les mouvements grandissent : une conversation à la fois.
Nous envoyons des briefings lorsqu’il y a des évolutions dans la politique internationale de l’IA qui nécessitent votre attention, et lorsque des actions concrètes sont possibles.