米国と
中国はAI安全保障で合意できるか？?

US・中国AI競争を人工超知能ガバナンスへの障壁として位置づける枠組みは、本来別のものである二つのものを同等視している。競争と共有の破滅的リスクに関する協力は相互排他的ではない。米国とソ連は40年にわたり国家権力のあらゆる次元で激しく競争しながら、同時に文明を終わらせる能力を持つ兵器を制約する一連の軍備管理協定を交渉・維持した。その協力が可能だった条件は、AI安全問題について何を教えてくれるかという点で理解する価値がある。

ライバルが壊滅的な共有リスクについて協力してきた歴史は、AI安全保障の問題に直接関連する。

USとソ連の協力が可能だった理由

冷戦期の二大国間で軍備管理協定が成立するために必要な条件がいくつかありました。それらのいずれも、競争の終結や双方の一般的な信頼を必要としませんでした。

不信は普通だ。それでも検証は存在する。

第一は、相互の破局に関する共有され具体的な理解だった。米国とソ連は核兵器の効果を観察していた。USは使用と実験を通じて、ソ連は実験と広島・長崎の情報を通じて理解していた。1950年代後半までに、両国は全面核戦争が双方にとって破局的であることを理解していた。これは理論的評価ではなく、核兵器が実際に何をするのかという物理的証拠に基づいていた。1962年のキューバ危機は、この理解を政治指導者にとって visceral で即時的なものにした。

二つ目は、政治的対立を越えて知的・人的なつながりを保った、持続的な非公式対話だった。1957年に始まったパグウォッシュ会議は、両陣営の科学者を集めて正式交渉が可能になる前から軍備管理を議論した。この非公式ネットワークが築いたアイデアと人間関係が、後の正式交渉を形作った。USとソ連の当局者が1963年に部分的核実験禁止条約を交渉したとき、彼らはゼロから始めたわけではなかった。

三つ目は慎重な範囲設定だった。部分的核実験禁止条約（1963年）は大気圏、宇宙空間、水中での核実験を禁止したが、地下実験は除外した。双方が真に共有する利益を持つ問題——大気圏でのフォールアウト——に対処し、兵器計画や軍備検証に制約を課す必要がなかった。狭い範囲の初回合意が、後のより大きな合意への信頼を築いた。SALT I（1972年）、ABM条約（1972年）、化学兵器禁止条約は、いずれもその後のアーキテクチャの上に築かれた。

第四の点は、検証が最初から組み込まれていたことだ。各合意は、明示的な検証メカニズムを備えて設計された。衛星偵察のための国家技術手段はSALTの枠組みに組み込まれ、双方が相手の監視衛星に干渉しないことに合意した。これにより、各国は相手の宣言を信用することなく、遵守を検証できた。信頼を前提としなければ機能しない合意は結ばれず、信頼なしで検証可能な合意だけが成立した。

「USと中国の比較が当てはまる点」

米国と中国は、人工超知能ガバナンスに関連するUS-ソ連ダイナミクスと構造的特徴を共有している。

両国は、軍事・経済的応用可能性を持つ最先端AIシステムを開発している。どちらも相手が手に入れることを望まない。両国は公式レベルで、安全制約が不十分な人工超知能のリスクについて懸念を表明している。両国は、壊滅的に意図しない形で振る舞うAIシステムというシナリオに直面しており、それはどちらの国のシステムが作ったかに関わらず両国に有害である。中国の研究所が開発した非整合型超知能は、中国にとっても米国にとっても危険であり、その逆も然りである。AI安全研究が最も懸念するリスクカテゴリは、核兵器能力のように競争的なものではない。これは、共有の利益のための真の構造的基盤を生み出している。

また、非公式の対話も拡大しています。2023年11月のBletchley AI Safety Summitには中国政府の参加があり、中国高官がフロンティアAI安全に特化した多国間フォーラムに初めて参加しました。中国のAI研究者も国際的な安全議論に参加しています。2024年末にはUSと中国がAIリスクに関する二国間協議を開始することで合意しました。これらはまだ初期段階で脆弱であり、二国間関係の他の側面で容易に混乱しますが、対話の基盤は存在しています。

比較が破綻するところ

US-ソ連の関係には、現在のUS-中国の関係に欠けている明快さがあった。冷戦の二大 superpower は、公式レベルで核兵器は兵器であり全面核交換は破局的であることに同意していた。核兵器の物理的影響は記録され、目撃され、理解されていた。脅威は具体的だった。

AIによる壊滅的リスクは、ほとんどの政治指導者にとって、実際に経験したものではなく、予測されるものにとどまっている。どの政府も、人工超知能から生じる実存的リスクを、1945年以降の核リスクと同じ重みで国家安全保障の枠組みに組み込んでいない。非整合的な超知能AIが文明に危害を及ぼすというシナリオには、歴史的な前例がない。このため、予防に向けた政治的動員は難しくなる。政治家は、予測される危害よりも、実際に起きた危害に確実に応答するからだ。

US・中国関係の経済的側面も、冷戦にはなかった形で事態を複雑にしています。USとソ連の経済はほぼ分離していました。USと中国は経済的に相互依存しており、サプライチェーン、技術移転、投資の流れが双方向に走っています。AI能力はこの関係における経済競争の中心であり、軍事競争だけではありません。これにより、AIを一般的な競争関係から切り離して別途交渉することが難しくなります。なぜなら、AI開発の制限は、例えば中距離核ミサイルの制限とは異なり、経済見通しにも影響を与えるからです。

対話の現状

2026年半ば時点で、US・中国AI対話は慎重かつ断続的である。2024年に始まった二国間協議は作業レベルで継続しており、主にAIリスク評価に関する情報共有に焦点を当てており、拘束力のあるコミットメントではない。両政府は破滅的なAI結果を防ぐ目標を公に支持する一方で、競争的なAI開発プログラムを維持している。多国間レベルでは、両国とも2023年のブレッチリー・サミットと2024年のソウル・サミットに出席し、フロンティアAIリスクへの共通の懸念を認める宣言に署名したが、拘束力のある義務は生じていない。

USによる先端半導体技術の輸出規制は、二国間緊張の持続的な原因となっている。最先端AI訓練に使われる最先端チップへの中国のアクセスを制限するこれらの規制は、安全保障というより競争上の考慮から動機づけられている。ガバナンスの観点から見れば、これは条約ベースの計算量制限と同様の実務的効果を持つ一方的な計算量ガバナンスの一形態だが、条約ベースのガバナンスが持つ相互的な制約や検証メカニズムは一切伴わない。

進展を可能にする条件とは

歴史的に、ライバル間の有意義な軍備管理の進展に先立つ3つの条件があり、それぞれにAI版があります。

リスクを具体的かつ政治的なものにする決定的な瞬間です。大気圏内核実験禁止条約は、両陣営による大気圏内核実験が測定可能な地球規模の降下物を生み、世論が実験継続に反対する方向に集中した後に成立しました。人工超知能ガバナンスの同等物は、両国国内の世論に対してリスクが政治的に可視化されるような深刻なインシデント——大規模に著しく意図しない振る舞いをした高性能システムの展開——かもしれません。予防的措置に抵抗してきた政府も、ニアミス体験の後にはより受け入れやすくなります。

拘束力あるコミットメントに先立つ技術的信頼醸成措置。SALT I以前、双方は衛星偵察で相手のミサイル計画を監視し、その監視が tacit に容認されていた。AI版は訓練実行の通知、共有評価基準、または協調的安全研究に関する透明性合意かもしれない。これらの措置は相手が善意で関与しているという信頼を築き、より大きなコミットメントのための政治的基盤を作る。

第三者による仲介は、双方が相手に譲歩したように見えずに参加できるようにする。成功した軍備管理イニシアチブのいくつかは多国間枠組みの恩恵を受けてきた。双方が二国間の譲歩ではなく、国際的なプロセスに関与できたからだ。人工超知能によるガバナンスプロセスを中立的な機関が主催し、USと中国の双方を含める形にすれば、二国間交渉では生み出せない合意への道が開けるかもしれない。

"米国と中国は、AI安全保障で協力するために互いを信頼する必要はない。壊滅的なAIの結果が、それを防ぐために必要な制約よりも両者にとって悪いことに同意する必要がある。"

USと中国がAI安全保障で合意できるかどうかは、結局、十分に能力のあるAIシステムが存在する前に、両政府が拘束力のある相互制約を無制約の競争より望ましいと結論づけるかどうかの問題である。歴史は、適切な条件が整えばこの結論に到達可能であることを示している。歴史はまた、政府が冷静な事前検討を通じてそれに到達することは稀であることも示している。代替案が政治的計算を変えるほど十分に鮮明になったときに到達する。政策上の問いは、統治の窓がその変化が起きるまで開いているかどうかである。

最も強い反発

最も公平な反論は、 rivalry が協力を幻想にするというものだ。核軍備管理はより激しい憎悪の下で、信頼ではなく検証によって実現した。制御不能になることへの共有された脆弱性が共同の利益である。それがなければ、双方とも操縦できないシステムへのレースに陥る。