Ceci est la suite de Partie 1, Pourquoi y a-t-il si peu d'argent dans la sécurité de l'IA?, qui diagnostique pourquoi le domaine fonctionne avec si peu. Ici, la question est de savoir comment il atteint un milliard de dollars par an.
Start with where things actually stand. Partie 1 a additionné toutes les subventions philanthropiques, tous les programmes gouvernementaux de sécurité et tous les dollars que les laboratoires de pointe consacrent à leurs propres équipes de sécurité, et est arrivé à un total d’environ 190 millions de dollars par an. En regard, le monde investit plus de 250 milliards de dollars par an pour rendre l’IA plus capable, et le chiffre ne cesse d’augmenter. Pour chaque millier de dollars dépensés pour rendre ces systèmes plus puissants, moins d’un dollar est consacré à les rendre sûrs.
Un milliard de dollars par an commencerait à changer cette arithmétique, et c'est une somme moins importante qu'il n'y paraît. C'est moins que deux jours de ce que l'industrie dépense déjà pour les capacités. C'est environ un dixième de un pour cent de ce que les États-Unis consacrent à la défense. C'est un dixième de ce que la philanthropie climatique mobilise chaque année, et la philanthropie climatique n'est pas considérée comme généreusement financée. Quoi qu'il en soit, un milliard de dollars n'est pas une grosse somme pour un problème que les personnes qui construisent la technologie ont comparé, par écrit et sous leur propre nom, aux pandémies et à la guerre nucléaire.
Si le domaine manque de fonds, ce n'est donc pas parce qu'un milliard de dollars est difficile à trouver. Le monde dépense déjà bien plus que cela à quelques mètres de là, de l'autre côté des mêmes immeubles de bureaux. L'argent est là. Ce qui manque, c'est la décision d'en déplacer une partie.
L’argent existe déjà. Le monde dépense cette somme pour rendre l’IA plus puissante environ tous les jours et demi. Ce qui manque, c’est la volonté d’en déplacer une fraction dans l’autre sens.
Un milliard est un plancher
Pourquoi un milliard, et non trois cents millions ? Parce qu’en dessous de ce seuil environ, le secteur ne peut faire qu’une chose à la fois. À 190 millions, les chiffres imposent un tri brutal. La recherche technique et les évaluations de modèles absorbent environ les deux tiers de l’ensemble. Le plaidoyer (le travail consistant à faire agir gouvernements et entreprises sur la base des résultats de la recherche) reçoit environ cinq pour cent, soit une dizaine de millions de dollars par an, moins que ce qu’une grande entreprise technologique dépense pour faire du lobbying dans une seule capitale nationale. Un milliard de dollars mettrait fin à ce tri. Il permettrait au domaine de la sécurité de payer les talents au niveau des laboratoires, de diversifier un secteur qui repose sur une seule fondation dominante et de financer le travail politique qui change les résultats plutôt que de se contenter de les documenter.
Et un milliard par an reste modeste au regard de toutes les comparaisons historiques qui s'y prêtent. Le projet du génome humain a coûté environ 3 milliards de dollars et reste considéré comme l'un des meilleurs investissements publics jamais réalisés par les États-Unis. Rapporté à un risque que ses propres créateurs classent au niveau de la guerre nucléaire, un milliard de dollars par an n'est pas une somme généreuse. Que nous débattions encore de son caractère abordable est la partie étrange.
L’éradication de la variole a coûté environ 300 millions de dollars sur les treize années de la campagne, soit moins du tiers d’une seule année de la cible évoquée ici. Depuis 1980, cette dépense unique a épargné au monde bien plus d’un milliard de dollars chaque année, et les États-Unis seuls récupèrent leur part du coût initial environ tous les vingt-six jours.
Réduire un risque à l’échelle d’une civilisation a presque toujours été l’une des choses les moins coûteuses que nous ayons jamais faites, mesuré par rapport à ce que cela rapporte.
D'où vient vraiment le milliard
Rien de tout cela ne nécessite une invention nouvelle ni un acte de générosité extraordinaire. Il suffit que quatre sources ordinaires s'activent en même temps. N'importe lesquelles de ces deux sources, menées sérieusement, suffisent à atteindre l'objectif.
| Source | Plausible par an |
|---|---|
| Philanthropie diversifiéeAujourd'hui, une seule fondation fournit plus de la moitié de l'argent philanthropique consacré à la sûreté. À titre de comparaison, la philanthropie climatique mobilise plus de 10 milliards de dollars par an auprès de nombreux donateurs. Une dotation unique de 20 milliards de dollars génère à elle seule un milliard de dollars par an grâce aux intérêts ; atteindre un dixième du total de la philanthropie climatique nécessite peut-être cinq à dix financeurs sérieux. | 300 millions de dollars |
| Budgets gouvernementaux de sécuritéDes instituts nationaux de sécurité existent déjà dans l'UK, l'US et ailleurs. L'US dépense environ 47 milliards de dollars par an pour les National Institutes of Health ; un effort dédié à la sécurité de l'IA à un pour cent de ce montant représente près d'un demi-milliard à lui seul. | 300 millions de dollars |
| Une taxe sectorielle sur la puissance de calculLes laboratoires pharmaceutiques financent environ les trois quarts de l'examen des médicaments par la FDA via des redevances d'utilisation ; l'industrie nucléaire finance presque tout son régulateur. Quatre dixièmes de un pour cent sur le calcul et l'infrastructure de l'IA de pointe déjà achetés (plus de 250 milliards de dollars par an) rapportent à eux seuls le milliard entier. | 300 millions de dollars + |
| Capital caritatif redirigéLes fonds conseillés aux donateurs détiennent déjà plus de 200 milliards de dollars engagés pour des œuvres caritatives mais non encore décaissés. Les dotations universitaires et l'infrastructure croissante du don efficace s'y ajoutent. La demande porte sur une réallocation, pas sur de nouvelles richesses. | 100 M$ |
| Total | ~1B+ |
La troisième ligne est celle qui compte le plus, car c'est la seule source qui ne repose sur la bonne volonté de personne. La philanthropie peut s'évaporer quand un donateur change d'avis, comme le domaine l'a appris lorsque son principal bailleur a réduit de plus de moitié les subventions à la sécurité technique en deux ans. Les budgets publics changent avec les élections. Une taxe légale sur l'industrie qui tire profit de la création du risque est durable, proportionnée et tout à fait précédée. C'est déjà ainsi que nous payons les organismes de surveillance qui veillent sur la médecine, l'aviation et le nucléaire. Lier une fraction du financement de la sécurité au calcul qui crée le danger est un prolongement naturel de l'argument en faveur de gouvernance du calcul.
L'argent bouge vite une fois que le risque est lisible
L’histoire est sans équivoque sur ce point. Quand un danger devient lisible pour le public et ses gouvernements, l’argent arrive à une vitesse qui révèle le mince filet actuel pour ce qu’il est : un choix, pas une contrainte. Les substances qui rongent la couche d’ozone ont été éliminées sous l’égide du Protocole de Montréal, dont le fonds a depuis déplacé des milliards de dollars pour rendre possible la transition dans les pays pauvres. Quand la COVID est arrivée, le monde a lancé un développement de vaccins mesuré en dizaines de milliards de dollars en quelques mois. Variole, ozone, polio : dans chaque cas, la contrainte n’a jamais été l’argent. C’était la reconnaissance.
La sécurité de l'IA n'a pas encore eu son moment de reconnaissance, et la raison en est structurelle plutôt que financière. Le dommage qu'elle annonce ne s'est pas produit. Il n'y a ni patients, ni villes inondées, ni familles endeuillées pour lui donner un visage, et si le travail réussit, il n'y en aura jamais. Un risque sans électorat n'a personne pour faire pression sur ceux qui signent les chèques. Un meilleur tableur ne résoudra pas le problème.
C'est un problème de mobilisation
Ce qui signifie que le chemin vers un milliard de dollars n'est pas, au fond, un plan de collecte de fonds. C'est un plan pour rendre le risque assez lisible, et le prendre au sérieux assez prestigieux, pour que l'argent suive comme toujours. Ce travail s'articule autour de trois axes.
Rendez-le visible. Une menace que les gens peuvent se représenter est une menace qu’ils financeront : journalisme, films, données et argumentaire public qui transforment une probabilité abstraite en quelque chose qu’un législateur ou un donateur peut ressentir, le même travail culturel qui a précédé les financements sérieux pour le climat et le contrôle des armements nucléaires.
Rendez-le prestigieux. Quand des lauréats du prix Nobel, d'anciens chefs d'État et des figures publiques de confiance traitent une cause comme sérieuse, les normes et les financements bougent derrière eux. Le consensus scientifique sur le risque lié à l'IA existe déjà. Ce qui a pris du retard, c'est la permission sociale pour les personnes de moyens et d'influence d'agir ouvertement.
Rendez-le obligatoire. Le don volontaire, poussé à fond, pourrait porter le domaine à trois ou quatre cents millions par an. Le passage à un milliard complet (et, plus encore, sa survie au-delà d’un changement de cœur d’un seul donateur) vient de la loi : une taxe, une ligne budgétaire, une obligation de traité. C’est pourquoi la Fondation oriente son travail vers règles contraignantes et pas seulement à la persuasion. La générosité est bienvenue, mais ce n'est pas quelque chose sur quoi on peut compter.
Oublions donc l'idée qu'un milliard de dollars par an représenterait la version ambitieuse d'une prise au sérieux du sujet. C'est la version minimale. C'est moins que deux jours de ce que nous dépensons déjà pour aggraver le problème, et une infime fraction de ce qu'il a coûté, une seule fois, pour débarrasser le monde d'une maladie qui avait tué pendant trois mille ans. La somme n'est pas insurmontable. Ce qui manque vraiment, c'est la décision de traiter un risque de cette ampleur comme si nous croyions à nos propres avertissements.
Cette décision se prend dans la pression publique, dans ce que les gouvernements entendent de la part de ceux à qui ils répondent, et dans le fait que suffisamment d'entre nous considèrent cela comme la priorité que la science indique. L'argument en faveur des règles qui rendraient l'argent durable est exposé dans notre plan, et la façon la plus rapide d'y ajouter votre poids prend cinq minutes sur le passer à l’action page.
Mais comparez ce chiffre à ce que le monde dépense déjà pour construire la technologie, ou à ce que l’humanité a investi par le passé face à des dangers qu’elle a décidé de prendre au sérieux, et un milliard cesse de paraître ambitieux. Il commence à ressembler au minimum que nous puissions faire, et il est tout à fait à notre portée.