国際原子力機関は1957年にアイゼンハワーの「平和のための原子力」提案から生まれた。その創設の取り決めは単純で持続可能なものだった。平和利用の原子力技術（原子炉、燃料、専門知識）へのアクセスを望む国々は、核物質が兵器に転用されていないことを検証するための国際査察を受け入れる。アクセスと説明責任の交換だ。この取引こそ、AI監視機関が提供すべき核心であり、国際原子力機関が最も関連性の高い制度的先例である理由だ。

その標語を文字通りに受け取ろう。国際原子力機関は、実在する機関であり、互いに信頼していない政府間で危険な二重用途技術に関する約束を60年にわたり検証してきた。

国際原子力機関が行うことで人工超知能ガバナンスに必要なこと

「同機関の中核的な機能は保障措置である。核物質の転用を検知し、検知の可能性を高めることで抑止する、物質計量、封じ込め、監視、現場査察のシステムだ。査察官は申告施設を訪問し、在庫を確認し、カメラや封印を設置する。また、1997年の追加議定書（イラクの秘密計画が暴露された後に採択）のもとでは、未申告の場所やより広範な情報へのアクセスを要求できる。」.

これをAIに置き換えると、要件が明確になる。AI機関には、申告施設の監視（大規模計算クラスタ）、物資会計（先端チップの追跡）、封じ込め・監視の類似措置（監査ログ、オンチップ機構）、未申告活動の調査権限が必要になる。国際原子力機関は、これらがユートピア的な機能ではなく、数十年にわたって洗練されてきた既存の国際機関の日常業務であることを示している。

国際原子力機関が正しく理解している三つのこと

  • 完全な開示なしの検証。 保障措置は、兵器設計の秘密を国家に引き渡すことなく、物質が転用されていないことを確認する。この範囲設定（重要なものだけを検証し、すべてではない）は、AI体制が商業的・国家安全保障上の機密を守りつつ、信頼性を保つために必要な妥協点とまったく同じだ。
  • 技術的独立。 国際原子力機関の査察団は、敵対国に対してもその所見が重みを持つほど、専門的かつ非政治的である。機関が国家の遵守状況を報告すれば、その報告は安全保障理事会の行動を形作る。AI機関の権威も、同様に物事を正しく指摘する存在として信頼されることに依拠する。
  • イベントではなく、常設の機関。 ガバナンスは継続的である。国際原子力機関は危機の合間にも専門知識や人間関係、監視インフラを維持する。定期的なサミットだけを基盤とする人工超知能ガバナンスにはこのつながりが欠けている。

それが間違える、またはできない3つのこと

The 国際原子力機関 is also a cautionary tale. It cannot inspect what it is not allowed to inspect: North Korea withdrew from the Non-Proliferation Treaty and expelled inspectors, and the agency could do nothing to stop it. Its authority is delegated by states and evaporates when a state refuses consent. Enforcement belongs to the Security Council, where vetoes routinely paralyze response. And the agency has a dual mandate (promoting nuclear energy while policing it) that critics argue creates a conflict of interest.

AIにとって、これらの限界は示唆に富む。監視機関の強さは、それを支える条約義務と、それを裏付ける執行意志に等しい。検証は証拠を生むが、それに基づいて行動する政治的意志までは供給しない。AI機関を設計するには、同時にそれが検証する義務と違反への制裁——国際原子力機関だけでは提供できない部分——も設計しなければならない。

AI監視機関は条約を信じられるものにする手段であって、条約の代わりではない。検証こそが約束をコミットメントに変えるものだ。

モデルを基に構築するのであって、コピーするのではない

現実的な道は国際原子力機関を複製することではなく、その論理を適応させることだ。「平和のための原子」の取引は、「コンピュートと安全なモデルへのアクセスと引き換えに監視を受け入れる」取引になる。物質の計量はチップ追跡になる。追加議定書の教訓（宣言された施設の査察だけでは、チートする動機が生まれた時点で不十分であること）は、最初からハードウェアレベルの保証を設計に組み込むべきだという主張になる。この制度は冷戦の圧力の下で成熟するのに数十年を要した。人工超知能ガバナンスにはその数十年がない。だからこそ、すでに存在するテンプレートを使って今すぐ同等のものを構築すべきだという主張になる。