Le récit standard de l'histoire du contrôle des armements se concentre sur les gouvernements : les négociateurs, les chefs d'État qui ont signé les traités, les sénateurs qui les ont ratifiés ou refusé de les ratifier. Ce récit est incomplet. Derrière chaque grand accord international sur une technologie dangereuse, il y avait un effort soutenu de la société civile qui a préparé le terrain politique, qui a construit la compréhension publique du risque, développé les propositions de gouvernance que les négociateurs ont adoptées, maintenu le dialogue à travers les divisions lorsque les canaux officiels étaient fermés, et gardé la question politiquement vivante pendant les périodes où les gouvernements préféraient détourner le regard.
Les ONG environnementales ont maintenu le Protocole de Montréal en vie politiquement quand les gouvernements hésitaient. Voici ce que la société civile accomplit dans la gouvernance technologique, et ce que le plaidoyer pour la sûreté de l'IA n'a pas encore construit.
Comprendre ce que la société civile a réellement fait dans la gouvernance du contrôle des armements est un préalable pour évaluer ce que la société civile de la sécurité de l'IA doit construire.
Ce que Pugwash a fait pour le contrôle des armes nucléaires
Les Conférences Pugwash sur la science et les affaires mondiales ont été fondées en 1957, à la suite du Manifeste Russell-Einstein de 1955, dans lequel Bertrand Russell et Albert Einstein, rejoints par neuf autres scientifiques éminents, ont appelé les gouvernements à reconnaître que les armes nucléaires menaçaient la civilisation et à rechercher une résolution pacifique des conflits plutôt que la guerre. Le manifeste a été signé par des scientifiques des blocs occidental et soviétique, dont plusieurs lauréats du prix Nobel.
Le modèle Pugwash était un dialogue de deuxième voie : des scientifiques de pays adverses se rencontraient en tant qu'individus, et non en tant que représentants gouvernementaux, pour discuter de propositions de maîtrise des armements et pour construire les relations personnelles et les cadres techniques partagés qui finiraient par nourrir les négociations officielles. Les premières réunions Pugwash à la fin des années 1950 et dans les années 1960 ont examiné des propositions de vérification pour les limites des essais nucléaires qui sont ensuite apparues, sous une forme modifiée, dans le Traité d'interdiction partielle des essais de 1963. Le concept de moyens techniques nationaux pour la vérification du contrôle des armements (utilisation de la reconnaissance par satellite pour surveiller le respect sans exiger d'inspecteurs sur le terrain) a été développé et débattu lors des réunions Pugwash avant d'être intégré aux accords SALT.
Pugwash n’a pas rédigé de traités. Il a développé des idées, construit des relations et créé un espace dans lequel des scientifiques des deux côtés de la guerre froide pouvaient aborder des problèmes techniques que les canaux diplomatiques officiels ne pouvaient pas traiter. Lorsque les conditions politiques ont changé et que des négociations officielles sont devenues possibles, l’infrastructure intellectuelle de ce sur quoi ces négociations pouvaient aboutir existait déjà, car Pugwash l’avait construite pendant des années. Pugwash et son fondateur Joseph Rotblat ont partagé le prix Nobel de la paix en 1995.
Ce que la campagne sur les mines terrestres a accompli
La Campagne internationale pour interdire les mines terrestres a été fondée en 1992 par une coalition d'ONG qui ont conclu que les conséquences humanitaires des mines antipersonnel — des milliers de victimes civiles chaque année dans les pays post-conflit, une contamination généralisée des terres agricoles, des enfants mutilés des décennies après les conflits qui ont déployé les mines — exigeaient une interdiction totale plutôt que des restrictions progressives. La stratégie centrale de la campagne était de documenter les conséquences humanitaires en termes spécifiques, visuels et attribuables à une technologie nommée, et de relier cette documentation à une demande politique claire.
Le travail de documentation a été réalisé par des ONG opérant dans les pays touchés : Handicap International, Human Rights Watch, Physicians for Human Rights, et d’autres. Elles ont produit des rapports, recueilli des témoignages de victimes et généré une couverture médiatique soutenue qui a rendu la question politiquement saillante dans les pays donateurs. La campagne a œuvré systématiquement pour se constituer des alliés gouvernementaux (le Canada a été le plus important) et pour identifier la voie diplomatique permettant de contourner la Conférence du désarmement, où les grandes puissances militaires avaient bloqué les progrès.
Les interdictions de mines terrestres n'ont pas commencé dans les ministères des Affaires étrangères. Elles ont commencé avec des survivants, des médecins et des organisateurs qui ont rendu l'arme politiquement coûteuse. La sécurité de l'IA dispose de papiers et de sommets. Elle a encore besoin de ce genre de pression extérieure si la loi doit lier des laboratoires qui préféreraient s'autoréguler indéfiniment.
Le succès de la campagne reposait sur une combinaison de facteurs qui la distinguaient des efforts de plaidoyer moins réussis. Le dommage était présent et documentable. La demande était spécifique et compréhensible pour des non-spécialistes. La campagne entretenait des relations avec des gouvernements sympathisants qui pouvaient agir comme champions institutionnels. Et elle était prête à avancer sans la participation des grandes puissances, acceptant qu’un traité sans les US, la Chine et la Russie établisse néanmoins une norme qui façonnerait le comportement au fil du temps.
Ce que les ONG environnementales ont fait pour le Protocole de Montréal
La campagne visant à restreindre les substances appauvrissant la couche d'ozone s'est construite sur une base de communication scientifique qui a traduit les résultats techniques en préoccupation publique. Lorsque F. Sherwood Rowland et Mario Molina ont publié leurs travaux sur la chimie des chlorofluorocarbures en 1974, démontrant que les CFC détruiraient catalytiquement l'ozone stratosphérique, la découverte scientifique a nécessité une interprétation et une amplification pour devenir une question politique. Des ONG environnementales, en particulier Friends of the Earth et le Natural Resources Defense Council, ont mené ce travail de traduction tout au long de la fin des années 1970 et des années 1980.
La campagne des ONG a combiné éducation du public, relations avec les médias et plaidoyer politique direct. Aux États-Unis, les ONG ont soutenu des campagnes réussies pour restreindre l'usage des CFC dans les aérosols avant tout accord international, créant un précédent réglementaire national que le gouvernement de la US pouvait invoquer dans les négociations internationales comme preuve de faisabilité politique. Lorsque la découverte du trou d'ozone antarctique en 1985 a fourni une confirmation visuelle et scientifique dramatique des dommages causés par les CFC, l'infrastructure de communication des ONG était prête à en amplifier immédiatement la portée.
Après la conclusion du Protocole de Montréal, les ONG ont surveillé la mise en œuvre, identifié les problèmes de conformité et plaidé pour les amendements successifs qui ont renforcé la couverture du protocole au cours des décennies suivantes. Le rôle de la société civile ne s’est pas arrêté à la signature du traité ; il s’est poursuivi tout au long de la phase de mise en œuvre, fournissant le contrôle permanent qui a maintenu les gouvernements responsables de leurs engagements.
Ce que la société civile de sécurité de l'IA a construit et n'a pas construit
Le domaine de la sûreté de l'IA a produit un travail technique et intellectuel substantiel sur les risques des systèmes d'IA de pointe. Ce travail s'est accumulé dans des articles académiques, des actes de conférences et des communications publiques de chercheurs issus d'universités et des principaux laboratoires d'IA. Plusieurs chercheurs, dont Geoffrey Hinton et Yoshua Bengio, se sont exprimés publiquement sur le risque existentiel lié à l'IA dans des termes qui ont attiré une attention médiatique significative. Il existe désormais un nombre modeste d'organisations financées par des philanthropes travaillant sur la gouvernance et les politiques ASI.
Par rapport à l'infrastructure de la société civile qui a soutenu le contrôle des armements nucléaires et l'interdiction des mines terrestres, cependant, l'effort actuel de la société civile pour la sûreté de l'IA est faible sur des points précis.
Il n’existe pas d’équivalent du mouvement Pugwash : aucun forum durable et structuré où des chercheurs en IA du US, de Chine, du EU et d’autres grands pays développeurs d’IA se rencontrent régulièrement en tant qu’individus, en dehors des canaux officiels, pour élaborer des cadres techniques communs de gouvernance. Les processus bilatéraux et multilatéraux existants sont officiels, pas de type « piste 2 », et subissent donc toutes les contraintes de la diplomatie officielle.
Il n'existe pas d'équivalent de l'ICBL : pas de campagne de masse avec une revendication claire et précise et un bilan documenté de dommages reliant la revendication à l'expérience présente de personnes réelles. Le risque existentiel lié à l'IA est anticipé plutôt que vécu, ce qui rend la mobilisation émotionnelle et politique que la campagne sur les mines terrestres a obtenue beaucoup plus difficile à reproduire. Le dommage causé par ASI n'est pas encore au présent de la manière dont l'étaient les victimes des mines terrestres.
Il n’existe aucune fonction de surveillance continue : aucune organisation de la société civile qui suive les engagements des gouvernements en matière de gouvernance de ASI, mesure le respect des engagements volontaires et publie ses conclusions de manière à créer une responsabilité. Les ONG qui surveillent l’application des traités de maîtrise des armements, les groupes qui évaluent si les États respectent leurs obligations de désarmement, qui enquêtent sur les violations alléguées, qui documentent l’écart entre engagement et action, n’ont pas d’équivalent clair dans l’espace de gouvernance de ASI.
"Chaque grand succès de contrôle des armements a été précédé d'années de travail de la société civile qui a construit la compréhension publique, développé des propositions de gouvernance et maintenu la pression politique. Ce travail doit commencer maintenant pour l'IA."
Ce que la société civile de la sécurité de l'IA a construit est une communauté de recherche et de politique d'une qualité intellectuelle significative. Ce qu'elle n'a pas encore construit, c'est la capacité de mobilisation publique, l'infrastructure de dialogue scientifique transfrontalier et la fonction de surveillance continue qui ont distingué les campagnes de gouvernance efficaces dans d'autres domaines technologiques. Construire ces capacités est la condition politique et institutionnelle préalable à un traité qui puisse être négocié, ratifié et maintenu, pas séparé du travail de plaidoyer pour un traité.
La plus forte opposition
L'objection la plus juste est que les ONG et les universitaires ne peuvent pas faire bouger les grandes puissances, donc la société civile se contente de commenter. Les mouvements ne signent pas les traités. Ils en changent le coût de ne pas signer. La pression publique, la rédaction experte et le plaidoyer financé par des donateurs sont ce qui amène les États en retard dans des salles qu'ils préféreraient éviter.