一九四六年、アメリカは唯一核兵器を保有する国であり、しばらくの間、他国が核兵器を必要としないかもしれないと思われた。六月、アメリカの金融家バーナード・バルークは新設された国際連合に計画を提出した。あらゆる危険な形態の原子エネルギーを国際機関の管理下に置く。その機関は世界中の採掘、資材、技術を管理し、違反を査察し、科学が電力のためでなく爆弾のために使われないようにする。制度が整ったら、アメリカは自らの核兵器を放棄する。
それは文書上、驚くべき申し出だった。唯一の核保有国が、自らの独占を国際管理に委ねることを、利用するのではなく提案したのだ。それは失敗した。数年以内にソ連が爆弾を保有し、計画が防ごうとした軍拡競争は次の40年間続き、完全に終わらなかった。
なぜそれが崩壊したのか
失敗は、誰も関心を持たなかったことによるものではない。戦略的技術のガバナンスが満たさなければならない条件に、バーグ・プランが届かなかったことによるものだ。
- 信頼と順序付け。 この計画では、ソ連が侵入的な国際査察を受け入れ、自国の兵器計画を先に放棄することを求めていた。一方、米国は制度が完全に機能するまで爆弾を保持し続ける。モスクワが、移行期に米国の優位を固定する仕組みを受け入れるはずがなかったのは当然である。
- 執行と拒否権。 この計画は、原子力問題に関する大国拒否権を廃止し、違反を処罰できるようにすることを提案した。ソ連は自国の安全保障で多数決に晒されることを拒み、反対した。実効的な執行と国家主権の衝突は、私たちの 主権に関する異議.
- レースはすでに始まっていた。 計画が議論されている最中でも、両国は基盤となる能力を追求していました。ガバナンスはすでに進行中の競争に追いつこうとしていました。
AIとの類似点、慎重に述べる
類似点は不快なほど明らかです。変革的で危険な技術が登場する。短期間、プレイヤーの数は少なく、原理的にはまだ統制可能である。技術を集合的管理下に置く提案が存在するが、抑制のない競争が固定化する前に実現しない。そして相互不信、検証可能な執行の難しさ、すでに始まっている競争が立ちはだかる。原子力をAIに置き換えれば形は同じであり、これが本気の人工超知能ガバナンス議論でバールーフ・プランが付きまとう理由です。
バラク計画は、短い間開いていた窓が、その後閉ざされたという物語です。教訓はタイミングについてです。
教訓は二つ、一つではない
安易な読み方は絶望だ。戦略技術の国際管理は最善のタイミングで試みられ、失敗した。だからAIでも同じだと。だがその読みは不完全だ。
最初の本当の教訓は「窓」についてだ。バリューク計画が失敗した一因は、相互不信が固まり、両陣営が競争にコミットした少し後だったことにある。技術を統治する窓は、競争が根を張る前が最も広く、閉じていく。AIにとってその窓は今であって、競争が完全に定着した後ではない。これが財団のすべての活動の背景にある緊急性だ。
第二の教訓は設計についてだ。バリューフ計画は検証と執行の問題、すなわち1946年に遵守を信頼できる手段がないという点で挫折した。それこそが、現代のツールが解決すべき問題である。 検証体制 ハードウェアベースの監視に依拠し、解決すべき問題が存在する理由であり、バルーク計画の失敗後に成立した後の軍備管理条約が成功した理由でもある。計画は統治が不可能であることを証明しなかった。解決すべき問題が何かを示し、それらを早期に解決しなければならないことを示した。我々の答えは両方に対して 私たちの計画.