En 1946, les États-Unis étaient le seul pays à posséder des armes nucléaires, et pendant un temps il a semblé possible que personne d’autre n’ait jamais besoin d’en construire. En juin, le financier américain Bernard Baruch a présenté un plan à la toute nouvelle Organisation des Nations unies. L’énergie atomique, dans toutes ses formes dangereuses, serait placée sous une autorité internationale. Cet organe contrôlerait l’extraction, les matières et la technologie dans le monde entier, inspecterait les violations et veillerait à ce que la science soit utilisée pour produire de l’énergie et non des bombes. Une fois le système en place, les États-Unis renonceraient à leur arsenal atomique.

C'était, sur le papier, une offre extraordinaire : la seule puissance nucléaire proposant de renoncer à son monopole au profit d'un contrôle international plutôt que de l'exploiter. Cela a échoué. En quelques années, l'Union soviétique avait la bombe, et la course aux armements que le plan était censé prévenir a duré les quatre décennies suivantes et ne s'est jamais vraiment terminée.

Pourquoi il s'est effondré

L’échec n’était pas dû au fait que personne ne s’en souciait. Il tenait aux conditions que la gouvernance d’une technologie stratégique doit satisfaire, conditions que le plan Baruch ne pouvait pas remplir.

  • Confiance et séquençage. Le plan exigeait que l'Union soviétique accepte une inspection internationale intrusive et renonce d'abord à son propre programme d'armes, tandis que les États-Unis gardaient leurs bombes jusqu'à ce que le système soit pleinement opérationnel. Moscou, sans surprise, n'accepta pas un schéma qui verrouillait l'avantage américain pendant la transition.
  • Application et le veto. Le plan proposé supprimait le veto des grandes puissances pour les questions atomiques, afin que les violations puissent être sanctionnées. L'Union soviétique, refusant d'être mise en minorité sur sa propre sécurité, a refusé. La véritable application et la souveraineté nationale se sont heurtées, la même tension examinée dans notre texte sur le objection de souveraineté.
  • La course avait déjà commencé. Même alors que le plan était débattu, les deux puissances poursuivaient la capacité sous-jacente. La gouvernance courait après une compétition déjà en cours.

Les parallèles avec l'IA, exposés avec soin

La ressemblance est gênante. Une technologie transformatrice et dangereuse arrive. Pendant une brève période, le nombre d’acteurs est faible et la situation est, en principe, encore gouvernable. Une proposition existe pour placer la technologie sous contrôle collectif avant qu’une course sans frein ne la verrouille. Et l’effort se heurte à la méfiance mutuelle, à la difficulté d’une application vérifiée et à une course déjà en cours. Remplacez « atomique » par « IA » et la forme est familière, c’est pourquoi le plan Baruch hante les discussions sérieuses sur la gouvernance de l’ASI.

Le plan Baruch est l'histoire d'une fenêtre qui s'est ouverte, brièvement, puis qui ne l'était plus. La leçon porte sur le timing.

Deux leçons, pas une

La lecture facile, c'est le désespoir : le contrôle international d'une technologie stratégique a été tenté au meilleur moment possible et a échoué, alors pourquoi espérer mieux pour l'IA. Cette lecture est incomplète.

La première vraie leçon porte sur la fenêtre d'opportunité. Le plan Baruch a échoué en partie parce qu'il est arrivé un peu trop tard, après que la méfiance se soit durcie et que les deux camps se soient engagés dans la course. La fenêtre pour gouverner une technologie est la plus large avant que la compétition ne s'installe, puis elle se referme. Pour l'IA, cette fenêtre est maintenant, pas après que la course se soit pleinement engagée, ce qui explique l'urgence de tout ce que fait la Fondation.

La deuxième leçon porte sur la conception. Le plan Baruch a échoué sur la vérification et l'application, sur l'impossibilité, en 1946, de faire confiance à la conformité sans moyen de la vérifier. C'est précisément le problème que les outils modernes, de régimes de vérification au suivi matériel, existent pour résoudre, et c'est pourquoi les traités ultérieurs de maîtrise des armements qui ont suivi l'échec du plan Baruch ont réussi là où il n'a pas pu. Le plan n'a pas prouvé que la gouvernance est impossible. Il a montré quels problèmes doivent être résolus, et qu'ils doivent l'être tôt. Notre réponse aux deux est notre plan.