2023年11月のBletchley AI Safety Summit、2024年5月のSeoul AI Safety Summit、2025年2月のParis AI Action Summitは、人工超知能ガバナンスに関する定期的なハイレベル国際会合という新たなパターンを形成しつつある。政府とAI企業が出席し、宣言とコミットメントを生み出している。これは気候変動のConference of the Partiesプロセスに構造的に似ており、その支持者と批評者の双方が過小評価しがちな点で示唆に富む。

そのパターンが拘束力のあるガバナンスを生むかどうかは、気候モデルが一貫して先送りしてきた執行に関する選択にかかっています。

COPプロセスを通じた気候ガバナンスは、批判者が言うような完全な失敗でも、設計者たちが意図したような成功でもない。それが何を達成し、何を達成できなかったのか、そしてなぜそうなのかを理解することが、超知能に対して同様のプロセスが機能し得るかを判断する出発点になる。

COPの構造が実際にどのように機能するか

締約国会議は条約の統治機関である。条約を批准したすべての国家で構成され、実施状況のレビュー、進捗の評価、新たなコミットメントの交渉のために定期的に会合する。気候変動枠組条約COPは1992年に採択されたUN気候変動枠組条約に起源を持ち、定期的なレビューと漸進的なコミットメントという基本構造を確立した。京都議定書（1997年）とパリ協定（2015年）はともにCOPプロセスの産物である。

パリ協定の中心的な革新は、京都議定書が用い、大きな不遵守と離脱を生んだトップダウンの国際的に決定された排出目標を、各国が自ら設定する排出削減目標（NDC）に置き換えたことである。各国は自らの目標をUNFCCC事務局に提出し、国際的に課された基準ではなく自ら表明した野心に対して評価される。パリCOPは、産業革命前比で気温上昇を1.5℃に抑えるという世界目標に対する全体の進捗をレビューし、各レビューサイクルで各国の野心を高めることを目指している。

この設計の構造的な魅力は、実現可能性にある。各国が自らの目標を設定し、自らの野心に対して評価され、罰則ではなく透明性の仕組みを用いるプロセスは、幅広い参加を確保できる。世界の主要経済国はすべてパリ協定の当事国である。京都議定書は、遵守違反に対する明確な結果を伴う拘束力のある国家目標を定めたため、米国を失い、最終的にカナダ、日本、ロシアも離脱した。

この設計の構造的問題は、参加と実効性が同じではないことだ。パリ協定の下で提出された国別貢献は、合計しても気候変動に関する政府間パネルが1.5度目標の達成に必要と評価する水準を大幅に下回っている。遵守メカニズムは透明性と政治的圧力であり、正式な罰則ではない。目標を達成できなかった国は次のレビューサイクルで公的 scrutiny を受けるが、法的制裁はない。

気候モデルの3つの構造的弱点

気候COPの効果を制限した三つの特徴は、同じ設計を採用した人工超知能ガバナンスCOPにもそのまま引き継がれます。

合意要件。COP決定の多くは全参加国の合意を必要とするため、どの国も事実上の拒否権を行使できる。これにより、抵抗が最も強い国が受け入れられる野心レベルまで交渉された文言が生まれる。気候変動に関する連続したCOPでは「段階的削減」ではなく「段階的廃止」、「ネットゼロに向けた道筋」ではなく拘束力のあるスケジュール、「科学的知見の留意」ではなくその含意の正式採択といった表現が繰り返されてきた。合意に基づく国際交渉は、出席国の中で政治的に実現可能な最低水準の成果物を体系的に生み出す。

コミットメントの自己決定。国別決定貢献モデルは、京都議定書が抱えていた参加の問題を解決したが、野心の問題を生み出した。各国が自ら目標を設定し、拘束力のある下限がない場合、設定される目標は、根本的な目標の技術的要件と同じくらい国内の政治的制約を反映する。強力な化石燃料産業を持つ国は、自国産業が達成可能な目標を設定する。短期的な選挙を控えた国は、短期的に政治的に擁護可能な目標を設定する。結果として生じるのは、表明された野心と必要な削減総量との間のギャップであり、COPレビューはこのギャップを記録するが、より高い野心を義務づけるメカニズムなしには埋められない。

参加と有効性のトレードオフ

パリ協定は、京都議定書の参加問題を、各国が自ら目標を設定できるようにすることで解決した。京都の拘束力のある国別目標は、米国、カナダ、日本、ロシアの離脱を招いた。パリはほぼ普遍的な参加を実現した。しかし、国家が決定し拘束力のない約束によるほぼ普遍的な参加は、表明された野心と必要な行動のギャップが最も大きいまさにその時点で統治の空白を生む。人工超知能統治も同じトレードオフに直面している。

執行のギャップ。パリ協定の遵守メカニズム（第15条に基づく）は、明示的に非敵対的かつ非懲罰的である。透明性を通じて運用される。各国が進捗を報告し、COPが報告を審査し、公的評価の政治的・評判上の圧力が不足に対する主な結果となる。気候の場合、これにより数十年にわたる記録された不足と限定的な対応が生まれた。AIの場合、1年間の監視されない最先端開発が、どのようなガバナンス対応も追い越す能力を生み出す可能性があるため、透明性のみの執行メカニズムは構造的に不十分である。

COP構造が機能するところ

気候COPの弱点はよく記録されています。その強みはあまり認められていませんが、人工超知能ガバナンス設計にとって本当に参考になります。

定期的な開催自体がガバナンスの仕組みとなる。年次COP会合は、毎年基礎となるガバナンス問題に注意を集中させる政治的暦を生み出す。市民社会、ジャーナリスト、政策立案者は、正式な執行が存在しなくてもCOP会合を説明責任の機会とみなす。年次COPレビューで世界の報道に記録される目に見える不履行の政治的コストが、一部の政府に国家目標の強化を促してきた。定期開催はまた、繰り返しの世界規模の集まりがなければ組織しにくいサイド合意、技術作業部会、二国間交渉の場も提供する。

進歩的なコミットメント構造は長期にわたって機能し得る。パリ協定に組み込まれたラチェットメカニズムは、各国の次の国別決定貢献が前回より野心的でなければならないことを義務づけ、拘束力のある下限がなくても方向性のある改善を法的に義務づける。数十年にわたれば、これは「現在の政策」の政治的基準が徐々に野心的になることで、全体として大きな動きを生み出す可能性がある。気候のような、政策失敗の結果が数十年にわたって蓄積するガバナンス問題では、この緩やかなラチェットで十分かもしれない。しかし、破局的結果が数十年ではなく数年単位で到来し得る人工超知能ガバナンスでは、遅すぎる。

COPプロセスが最も効果を発揮したのは、国内の気候政策が世界的に機能する規範的枠組みを確立した点です。パリ協定の1.5度目標は、今やほぼすべての国で自国の気候政策を公に評価する際の基準点となっています。この規範的機能、すなわち国内政治が自らを正当化しなければならない共有基準を生み出すという役割は、AI安全サミットプロセスがすでに達成しつつあり、引き続き追求すべきものです。

より強力な人工超知能ガバナンスCOPに必要なもの

人工超知能ガバナンスプロセスはCOP構造をモデルにしつつ、気候変動COPの執行ギャップを避けるよう設計されており、パリ協定が意図的に省いた3つの特徴を備える必要がある。

義務の最低基準を義務化する。拘束力のない各国決定貢献ではなく、人工超知能ガバナンス条約では全締約国が満たすべき義務的最低基準を定め、それを超える措置については各国決定貢献の仕組みを組み合わせることが可能だ。最低基準は最高リスクの活動を対象とする。一定の計算量閾値を超える最先端モデルの訓練、指定された高リスク領域でのAIシステム展開、展開前の必須安全評価などだ。各国はこれを上回ることはできるが、下回ることはできない。

独立した検証機関です。気候COPは各国の自己申告目録に依存し、UNFCCCの下で技術専門家チームによる独立審査が行われます。関連情報への直接アクセスを持つ人工超知能ガバナンス検証機関（化学兵器禁止機関の査察団に類似）は、自己申告よりも信頼性の高い遵守評価を生み出します。これがCWCと生物兵器禁止条約の有効性記録の違いを最も明確に説明する、唯一の構造的差異です。

歯止めのある制裁。透明性を超える不履行への制裁は、条約の市場アクセス利益を安全義務の遵守に結びつけることを必要とする。義務付けられた最低要件を満たせない国家は、条約加盟が提供する優遇市場アクセスと技術共有の取り決めを失う。これにより、安全保障理事会の承認を必要とせず、AI開発を動機づける競争上の利益に直接関連する制裁構造が生まれる。

気候変動のCOPは、定期的な国際会議が規範的枠組みと政治的スケジュールを統治課題に与えられることを示した。同時に、根本的なコミットメントに拘束力のある下限がなく、執行メカニズムに正式な結果が伴わなければ不十分であることも示している。人工超知能のガバナンスはCOPの構造を活用しつつ、これらの具体的な設計上の欠陥から学ぶことができる。

Bletchleyで始まったAI安全保障サミットのプロセスは、放棄するのではなく、発展させる価値がある。年1回または2年に1回のサミットは、ガバナンスに必要な定期的な国際的関心を precisely に生み出す。問題は、サミットが自主的コミットメントの場として留まるか、拘束力のある義務と機能的な検証・執行アーキテクチャを持つ条約の統治機関となるかである。その答えはサミット自体ではなく、政府がサミット間で何を交渉するかを決定することによって与えられる。