国際原子力機関は1957年に設立され、その任務は単純に聞こえました。原子力の平和利用を促進しつつ、兵器計画への転用を防ぐことです。その後数十年にわたって構築された検証システムは、国際法に前例のないものでした。地球上で最も危険な技術を監視する機能するシステムを、国際機関が運用し、世界最強国に受け入れられたのです。

国際原子力機関検証が実際に何を行い、どこで失敗したか、そしてAI問題に何が転用できるか。

国際的な人工超知能ガバナンスに関する真剣な提案は、今やすべて国際原子力機関モデルを研究している。問題は、核の検証アーキテクチャをAIの文脈にそのままコピーできるかどうかではない。できない。どの要素が移行可能で、どれを再設計する必要があり、核には全く相当しない問題はどれか、という問いだ。

検証が実際に意味すること

検証とは、通常の意味での査察ではなく、信頼を創出する仕組みである。主な目的は違反を捕捉することではなく、違反が最初から試みられないよう、違反を十分にコストが高く、目に見えるものにすることだ。この区別は重要である。成功の基準を正しく設定するからだ。違反を一度も発見しない検証システムは、失敗ではなく成功している可能性がある。

国際原子力機関のアプローチは相互に機能する四つの要素に基づく。第一は国家の申告である。核拡散防止条約に参加する国は、すべての核物質と施設を国際原子力機関に申告することを義務づけられる。これらの申告がその後のすべての監視の基準となる。施設を申告しなかった国は、単に検査に失敗したのではなく、最初の査察官が到着する前に条約の根本的要件に違反したことになる。

2つ目は保障措置協定です。各核拡散防止条約署名国は国際原子力機関と二国間保障措置協定を締結し、査察権、締約国が提供すべき情報、不遵守時の結果を定めます。1990年代初頭にイラクの未申告核計画が発覚した後に導入された追加議定書は、これらの権利を大幅に拡大しました。国際原子力機関は、申告されていない場所であっても、情報源からの情報に基づいて査察する理由がある場合には査察を許可されます。

3番目は定期検査です。国際原子力機関の検査官は、申告された核施設に予定された訪問を行います。検査官は、改ざん防止シール、リモートカメラ、物質サンプルを使用して、訪問間の施設を監視します。申告された在庫と検査官が見つけたものとの間に不一致がある場合、それは説明を要する重大な発見となります。

第四の構成要素であり、人工超知能ガバナンスに最も関連するのは環境サンプリングです。国際原子力機関は1990年代半ばから、申告されていない核活動の証拠を検出するために環境モニタリング（空気、水、土壌サンプル）を利用してきました。環境サンプル中の微量の特定同位体は、査察官が関連施設に入ったことがなくても、申告されなかった核処理を示唆できます。これは活動の避けられない物理的痕跡から導かれる、間接的な物理的証拠です。

核モデルの限界

核査察体制には実績がある。1960年代の最も悲観的な予測よりも、核兵器を保有する国ははるかに少ない。核拡散防止条約は不完全ながらも、核拡散を大幅に抑制してきた。しかし、失敗した事例は成功した事例と同じくらい教訓的である。

イラクの核兵器計画は1980年代から1990年代初頭にかけて進んでいたが、イラクは核拡散防止条約加盟国であり、兵器計画を申告していなかった。この計画が明らかになったのは湾岸戦争とその後のUNSCOM査察によってであり、通常の国際原子力機関監視によるものではない。国際原子力機関査察官はイラクの申告施設を訪問したが、何も不審な点は見つからなかった。イラクの兵器計画が申告された民生計画から完全に分離されていたためである。北朝鮮は2003年に検証体制が説明できない不整合を検出した後に核拡散防止条約を脱退し、現在核兵器を保有している。イランの未申告濃縮計画は国家情報機関によって発見され、2002年に反体制派グループによって国際原子力機関に開示されたのであり、通常監視によるものではない。

これらの事例に共通するのは、検証が技術的な意味で失敗したということではなく、決意した国家主体が条約違反のコストを吸収するという意図的な政治的決定を下したということだ。検証は費用便益計算を変えるが、それを排除するわけではない。兵器プログラムが発見された場合の政治的・経済的結果に見合う価値があると判断した国は、検証メカニズムに関わらずそのプログラムを実施する。国際原子力機関の役割は、発見の可能性を高め、政治的結果をより深刻にすることであり、違反を不可能にすることではない。

人工超知能ガバナンスに移行するもの

核検証モデルのいくつかの要素は、意味のある適応を加えることで人工超知能ガバナンスに翻訳可能である。

宣言要件はそのまま移せます。最先端人工超知能ガバナンス体制は、指定された計算閾値を超える大規模AI開発プログラムを各国に宣言させるよう義務付けられます。宣言は法的基準線を作ります。宣言内容と観測事実の食い違いは、単なる政策上の意見の相違ではなく、条約違反となります。立証責任が移るのです。宣言がなければ、監視機関は未申告の活動があったことを証明しなければなりません。宣言があれば、国は自らの宣言と観測証拠の食い違いを説明しなければなりません。

保障措置協定のモデルも移転可能だ。監視機関と署名国との間の二国間人工超知能統治協定は、監視機関のアクセス権、署名国が提供しなければならない情報、不遵守の場合の結果を明記する。この枠組みは国際法でよく理解されており、大きな法的革新を必要としない。

環境サンプリングには、コンピュート監視というAI版のアナログがある。半導体製造は地理的に集中しており、特殊な設備を必要とする。先進的なAIチップはサプライチェーンの痕跡を残す。少数の施設で製造され、通関書類の下で輸出され、特定の電力シグネチャを持つ識別可能なデータセンター構成に設置される。これらのいずれも同位体シグネチャほど明確ではないが、合わせて、国家の自己申告に完全に依存しないAI開発活動の間接的な物理的証拠を生み出す。

追加議定書の革新は直接適用可能だ。イラクの計画発覚後に検査権限が拡大されたことは、検証制度が失敗後に条約の枠組みを放棄せずに改革できることを示した。人工超知能ガバナンス条約でも初期の遵守違反は避けられない。違反を制裁の根拠とするだけでなく、検知された違反に応じて監視権限を拡大する仕組みを組み込んでおくことは、核体制が何十年もかけて学んだ教訓である。

AIの本質的に異なる点とは

核物質は物理的に区別され、比較的希少である。兵器級ウランやプルトニウムは同位体シグネチャで検知でき、偽造は難しい。ウラン濃縮施設は特定の産業機器を必要とし、環境痕跡を残す。民生用原子力利用と兵器関連活動の間には、決意ある国家なら橋渡し可能だが、監視を支える形で測定・検証可能な隔たりがある。

AI開発には同等の区別が存在しない。民生向けAIアプリケーションを生み出すのと同じハードウェア、ソフトウェア基盤、エンジニアリング人材が、文明規模の影響を及ぼし得るフロンティアAIシステムを生み出す。大規模なコンピュートクラスタが商用AIサービスを運用している場合と、フロンティアAI研究を行っている場合とでは、外から見れば区別がつかない。関連する区別は、施設や機器の物理的特性ではなく、何をどの規模で学習させるかにある。

この違いは現実的かつ重要である。つまり人工超知能ガバナンスの検証は、チップ製造レベルでのハードウェア監視、コンピュートクラスタの報告、エネルギー消費データ、ソフトウェア監査権の組み合わせに依存する必要があり、同位体シグネチャに頼ることはできない。また、関連する閾値の問題（どの規模のAI開発から監視義務が適用されるか）は、核の同等物よりも considerably 特定しにくく、コンピュートコストの変化に応じて定期的な技術的改訂を必要とする。

これらは設計上の問題であって、検証が不可能だと結論づける理由ではない。1957年の国際原子力機関は、イラクの計画を受けて追加議定書が改革された1997年の国際原子力機関とは様相が異なっていた。1960年代に用いられた監視手法は、1990年代の環境サンプリング能力とはほとんど似ていない。検証体制は失敗と成功の両方を通じて段階的に構築され、政治的意思が維持・改革され続けていれば時間とともに改善する。

軍備管理の目的は、違反のコストを十分に高くして、ほとんどの行為者がほとんどの場合に価値がないと判断するようにすることであり、確実性ではない。

人工超知能ガバナンスにとっての問題は、核査察モデルがそのまま移植できるかどうかではない。移植は不可能である。問題は、人工超知能ガバナンスの課題に十分な査察システムを、宣言、保障措置協定、査察権、物理的証拠の技術的監視という同じ論理を用いて設計できるかどうかである。国際原子力機関の70年の歴史は、政治的意思が存在すれば答えはイエスであることを示唆している。その政治的意思こそが、技術的設計ではなく、拘束的な制約である。

最も強い反発

最も妥当な反論は、ソフトウェアはウランではないから核査察の教訓は比喩に過ぎない、というものだ。ソフトウェアは容易に複製できるが、チップと電力は複製できない。物理的なボトルネックを監視する検証は依然として有効である。AIを純粋な抽象概念だと考えることが、実際に機能する唯一の取っ手を自ら手放すことになる。