ガバナンス推進派が「グローバルAI監視機関」を求めるのは、最終状態を述べているにすぎない。より難しいのは、その最終状態に至る道筋だ。フロンティアAI開発を監視する権限・人員・予算・法的権限・技術的能力を備えた国際機関を実際にどう作るか。危険な技術を扱う既存の機関の歴史は参考になるが、ガバナンス論が想定するほど単純ではない。

機関は宣言ではなく構築される。グローバルAI監視機関の設立に実際に必要なことを以下に示す。

国際原子力機関が機能するために必要だったこと

国際原子力機関は1957年に国際条約によって設立された。アイゼンハワー大統領が1953年にUN総会で行った「平和のための原子力」演説の2年後である。設立規約は、原子力の平和利用を促進しつつ兵器に転用されないようにするという任務を定義し、理事会と総会を機関の統治機関として設置した。

国際原子力機関は設立から4年後の1961年に初の保障措置査察を実施し、西欧の少数の研究用原子炉を対象とした。当時の保障措置システムは後の基準から見れば初歩的で、査察官は施設記録を審査し核物質の計量を行ったが、物理的アクセス権は限定的で環境モニタリング能力もなかった。このシステムは1950〜60年代の技術環境下での平和利用原子力研究には十分だったが、意図的な核兵器計画を検知するには不十分だった。

国際原子力機関能力の決定的な拡大は、設立法ではなく失敗の余波からもたらされた。1991年の湾岸戦争中および後に発見されたイラクの秘密核兵器計画は、国際原子力機関の通常査察が核兵器に向かう計画を完全に逸していたことを明らかにした。対応として1997年に採択された追加議定書は、未申告の場所への査察権を拡大し、環境サンプリングを標準的な手段として追加した。1997年以前の国際原子力機関と以後の国際原子力機関は、検知可能な範囲において実質的に異なる機関である。

教訓は、国際監視機関が真の能力を身につけるのは、初期設計の限界を露呈する失敗への対応を通じてだということだ。設立時の枠組みが基盤を定め、運用上の有効性は失敗に駆動された改革を通じて何十年もかけて蓄積される。

化学兵器禁止機関が機能するために必要だったこと

化学兵器禁止機関は1997年に化学兵器禁止条約が発効した際に設立された。主な条約枠組みに先立つ国際原子力機関とは異なり、化学兵器禁止機関は当初から既存の条約の検証機関として設計された。これにより、機関はより明確な初期任務と、より焦点の絞られた運用範囲を得た。

化学兵器禁止機関が初の査察を実施するには、かなりの準備作業が必要でした。数百ページに及ぶ検証付属文書には、さまざまな査察手順、査察官の権利、被査察国の義務、機密情報の扱いが詳細に規定されています。これらの手順を運用プロトコルに落とし込み、査察チームを訓練し、安全な通信システムを確立し、環境試料中の化学剤を特定できる分析実験室を建設し、主要な備蓄保有国と施設協定を交渉するまでには、条約発効後も何年もの歳月を要しました。

化学兵器禁止機関による初の破壊検証任務は、USとロシアの化学兵器備蓄の廃棄を監視するもので、1990年代後半に始まり20年以上続いた。化学兵器の安全な廃棄に伴う技術的複雑さと検証の課題は、その期間を通じて継続的な制度適応を必要とした。化学兵器禁止機関が今日行っていることは、初代事務局長が就任した時点では存在しなかった25年間の運用経験を反映している。

最も重要な設計上の決定

国際AI監視機関は、その長期的な有効性を決定する一連の基礎的な制度設計上の決定に直面する。これらの決定は技術的なものではなく、政治的・組織的なものであり、機関が扉を開ける前に正しく下されなければならない。

委任の範囲が最初の決定事項である。監視機関は、指定された計算量閾値を超えるフロンティアAI訓練の申告を検証することに特化した狭い範囲で設計することも、安全特性の評価や世界のAI安全状況に関する所見の公表に権限を持つ広い範囲で設計することも可能である。狭い委任は政治的に合意しやすく、実施も比較的容易である。広い委任は機関により大きなガバナンス影響力を与えるが、より大きな予算、多様なスタッフ、そして機関が何を述べることを許されるかについてのより広い政治的合意を必要とする。国際原子力機関の委任は当初狭く、後に拡大した。化学兵器禁止機関の委任は一貫して焦点を絞ったままである。両モデルはそれぞれの文脈で成功している。

第二の決定は独立性の設計である。国際機関は、大国からの政治的圧力からどれだけ隔絶されているかが大きく異なる。UN安全保障理事会の拒否権構造は、常任理事国5カ国が安保理の行動をすべて阻止できることを意味する。国際原子力機関理事会は加重投票構造により主要国に不相応な影響力を与えている。化学兵器禁止機関は、すべての締約国が締約国会議で平等の投票権を持つ、より民主的な統治構造である。主要なAIプログラムを持つ国によって主要決定が阻止されうるAI監視機関は、独立した事務局長と技術スタッフが専門的判断で行動できる機関より弱い。

人員配置の問題

国際原子力機関は約2,500人を雇用しており、その中には原子力工学の深い専門知識を持つ数百人の査察官が含まれる。化学兵器禁止機関は数百人を雇用しており、その中には化学サンプルの現場分析が可能な化学者が含まれる。最先端AIシステムを評価できるAI監視機関には、現在民間部門で高額の報酬を得ている専門知識を持つスタッフが必要になる。国際公務員の報酬体系の中でそうしたスタッフを確保・維持することは、機関が直面する最も困難な設計課題の一つである。

資金モデルが三つ目の決定です。国際機関は加盟国からの分担金（GDPやその他の要因に比例）で資金提供され、特定のプログラムには任意拠出金が補完されます。分担金予算は毎年交渉され、政治的圧力の対象となります。機関の活動に反対する加盟国は拠出金を保留したり、予算削減に投票したりできます。国際原子力機関の通常予算は年間約5億USD、化学兵器禁止機関のそれは約7000万ユーロです。意味のある技術的能力を持つAI監視機関にはこの規模またはそれ以上の予算が必要であり、政治サイクルを通じて機関の予算を維持する方法という資金安定性の問題には設計上の回答が必要です。

査察官の法的権限は四つ目の決定事項である。査察官は条約が認めることしかできない。国際原子力機関の初期保障措置協定は査察官のアクセス権を限定しており、追加議定書で拡大された。追加議定書のない古い協定下で活動する査察官は依然として権限が少ない。AI監視機関の査察官には、施設、記録、ハードウェアログ、人員への明確なアクセス権が必要であり、機関を設立する条約でそれらを明記しなければならない。曖昧さは実務上、被査察国に有利に解釈されるからだ。

条約締結前の技術的能力構築

国際原子力機関と化学兵器禁止機関の両方から得られる教訓の一つは、技術的能力は機関が設立された後に即興で作り出せないということです。両機関とも、既存の科学・技術コミュニティから要員を補充できた恩恵を受けました。国際原子力機関には核物理学と原子力工学、化学兵器禁止機関には分析化学です。核不拡散の約束を検証したり、土壌サンプルから化学兵器剤を特定したりするために必要な専門知識は、国際検証機関が必要とする前に、大学や国立研究所にすでに存在していました。

人工超知能ガバナンス検証に相当する技術コミュニティ、すなわちフロンティアAIシステムの安全特性を評価し、訓練記録を監査し、大規模計算クラスタ向けのハードウェア監視プロトコルを設計できる人々は少なく、ほぼすべてが民間AI企業と少数の学術機関に集中している。国際監視機関が採用できる専門知識基盤を構築することは、機関設立に先立つガバナンス課題そのものである。

これは、各国が設けるAI安全保障研究所、例えばUKのAI Security Institute（2023年にAI Safety Instituteとして設立）が、長期的なガバナンスの取り組みにとって重要である理由の一つである。これらの機関は、将来の国際監視機関が活用できる評価手法、組織経験、専門家コミュニティを構築している。国際監視に向けた技術的基盤は、条約や機関の政治的条件が整う前に、部分的かつ不完全ながらもすでに整備されつつある。

「検証機関を一年で作ることはできない。技術的手法、訓練されたスタッフ、運用手順、法的な枠組みは時間をかけて開発しなければならない。始めるべきは今であって、条約が調印された後ではない。」

グローバルAI監視機関は、機能させるために具体的な設計決定、資源配分、法的権限、技術的能力を必要とする制度であって、遠いユートピア的な目標ではない。国際原子力機関と化学兵器禁止機関は、そうした機関が実際に構築可能であり、機能し得ることを示している。また、条約文が示唆するよりも構築に時間がかかり、複数の政権交代を通じて持続的な政治的投資を必要とし、初期設計の限界を露呈する失敗に応じて実際の能力を開発していくことも示している。こうした制度設計の問題に踏み込まずに監視機関を求めるガバナンス提唱者は、計画ではなく願望を述べているに過ぎない。

最も強い反発

最も公平な反論は、国家が自国のもっとも価値のあるコンピュートに査察官を受け入れることは決してないというものだ。核の保障措置以前にも、同じようなことが言われた。ブレークアウトへの共有された恐怖と、離脱者へのハードウェア拒否こそが、消極的な当事者たちを監視体制に引き込む方法だ。アクセス権のない機関はただのロゴにすぎない。アクセスこそが解くべき設計問題である。