市民社会が国際技術をどのように形作るか
ガバナンス、そしてAI安全保障の提言に欠けているもの

軍備管理史の標準的な説明は、政府を中心に据える。交渉担当者、条約に署名した国家元首、批准を可決または拒否した上院議員だ。この説明は不完全である。危険な技術に関する主要な国際合意の背後には、常に持続的な市民社会の努力があった。政治的土壌を整え、リスクに関する世論の理解を築き、交渉者が採用するガバナンス提案を練り上げ、公式ルートが閉ざされたときも分断を越えた対話を維持し、政府が目を背けたがる時期にも問題を政治的に生き続けさせた。

環境NGOは政府が揺らぐ中でもモントリオール議定書を政治的に支え続けた。技術ガバナンスにおける市民社会の役割とは何か、そしてAI安全運動がまだ築けていないものがここにある。

軍備管理ガバナンスにおいて市民社会が実際に何をしたかを理解することは、AI安全保障の市民社会が何を構築する必要があるかを評価するための前提条件である。

パグウォッシュが核軍備管理のためにしたこと

パグウォッシュ科学と世界問題会議は1955年のラッセル＝アインシュタイン宣言を受けて1957年に設立された。宣言では、バートランド・ラッセルとアルバート・アインシュタインを含む9人の著名な科学者が、政府に対し、核兵器が文明を脅かしていることを認識し、戦争ではなく平和的紛争解決を求めるよう呼びかけた。宣言には西側とソ連圏の科学者、複数のノーベル賞受賞者が署名した。

パグウォッシュ・モデルの特徴はトラック2対話であった。敵対国出身の科学者が政府代表ではなく個人として会合し、軍備管理提案を議論し、公式交渉に最終的に反映される人的関係と共有の技術的枠組みを構築する。1950年代後半から1960年代にかけての初期パグウォッシュ会合では、核実験制限の検証提案が検討され、それが1963年の部分的核実験禁止条約に修正された形で盛り込まれた。地上検査を必要とせず衛星偵察で遵守を監視する「国家技術手段」という軍備管理検証の概念も、パグウォッシュ会合で議論された後にSALT合意に取り入れられた。

パグウォッシュは条約を作成したわけではありません。アイデアを練り、人間関係を築き、冷戦の両陣営の科学者が公式の外交ルートでは扱えない技術的問題について議論できる場を作りました。政治情勢が変わり公式交渉が可能になったとき、交渉で合意できる内容の知的基盤はすでに存在していました。パグウォッシュが何年もかけて築いてきたからです。パグウォッシュと創設者のジョセフ・ロートブラットは1995年にノーベル平和賞を共同受賞しました。

地雷キャンペーンは何をしたのか

国際地雷禁止キャンペーンは1992年にNGO連合によって設立された。対人地雷の人道的被害（紛争後国での年間数千人の民間人死傷、農地の広範な汚染、配備から数十年経過した子供の負傷）が、漸進的な制限ではなく完全な禁止を必要とすると結論づけた。キャンペーンの核心戦略は、特定され視覚的で、名指しされた技術に起因する人道的被害を文書化し、その文書化を明確な政治的要求に結びつけることであった。

被害国で活動するNGOによる文書化の取り組みが行われた：ハンディキャップ・インターナショナル、ヒューマン・ライツ・ウォッチ、フィジシャンズ・フォー・ヒューマン・ライツなどである。彼らは報告書を作成し、被害者の証言を集め、ドナー国でこの問題を政治的に重要視させるような持続的なメディア報道を生み出した。キャンペーンは、政府の同盟国を体系的に構築し（カナダが最も重要だった）、主要な軍事大国が進展を阻害していた軍縮会議を回避する外交的道筋を特定するために働いた。

このキャンペーンの成功は、成果の出なかった他の advocacy 活動とは異なる要因の組み合わせにあった。被害が現在進行形で文書化可能だったこと。要求が具体的で非専門家にも理解しやすかったこと。行動を起こせる同調的な政府との関係があったこと。そして主要国が参加しなくても条約を成立させ、US・中国・ロシア抜きの条約でも時間とともに規範を形成できると受け入れたこと。

モントリオール議定書のために環境NGOが果たした役割

オゾン層破壊物質を規制する運動は、技術的知見を一般の懸念に翻訳する科学的コミュニケーションの上に築かれた。F. Sherwood RowlandとMario Molinaが1974年にクロロフルオロカーボン（CFC）の化学反応に関する論文を発表し、CFCが成層圏オゾンを触媒的に破壊することを示したとき、その科学的知見は政治的争点となるために解釈と増幅を必要とした。環境NGO、特にFriends of the EarthとNatural Resources Defense Councilが、1970年代後半から1980年代にかけてこの翻訳作業を担った。

NGOキャンペーンは、市民教育、メディア発信、直接的な政治的働きかけを組み合わせました。米国では、国際合意成立以前にNGOがエアゾールスプレーでのCFC使用制限キャンペーンを成功させ、US政府が国際交渉で政治的実行可能性の証拠として提示できる国内規制の先例を作りました。1985年に南極オゾンホールが発見され、CFC被害の劇的な視覚的・科学的証拠が得られたとき、NGOのコミュニケーション基盤はその意義を即座に増幅する準備ができていました。

モントリオール議定書が締結された後、NGOは実施を監視し、遵守の問題を特定し、以降数十年にわたって議定書の適用範囲を強化する連続した改正を提唱した。市民社会の役割は条約の署名で終わらなかった。議定書の実施段階を通じて続き、政府が約束に責任を負うよう継続的な監視を提供した。

AI安全保障の市民社会が築いたものと築けなかったもの

AI安全保障分野は、最先端AIシステムのリスクに関する相当な技術的・知的成果を生み出してきた。これらの成果は、大学や主要AI研究所の研究者による学術論文、会議録、公的コミュニケーションなどに蓄積されている。ジェフリー・ヒントンやヨシュア・ベンジオをはじめとする複数の研究者が、AIの実存的リスクについて公に発言し、大きなメディアの注目を集めている。現在、人工超知能のガバナンスと政策に取り組む、財団助成の組織が一定数存在する。

核軍縮や地雷禁止を支えた市民社会の基盤に比べると、現在のAI安全保障分野の市民社会の取り組みは、具体的な点でまだ薄い。

Pugwash会議に相当するものは存在しない。US、中国、EUおよびその他の主要AI開発国のAI研究者が、公式政府ルートを離れて個人として定期的に集まり、ガバナンスのための共通技術枠組みを構築する、持続的で構造化された場がない。存在する二国間・多国間の政府プロセスは公式のものであり、トラック2ではないため、公式外交の制約をすべて受ける。

ICBLに相当するものは存在しません。明確で具体的な要求と、要求と現実の人々の現在の経験を結びつける文書化された被害記録を伴う大規模な会員キャンペーンはありません。AIの存在リスクは経験済みではなく予測されるものであり、地雷キャンペーンが達成した感情的・政治的動員を再現するのはかなり困難です。人工超知能による被害は、地雷による犠牲者がそうだったような現在進行形のものではありません。

There is no sustained monitoring function: no civil society organization that tracks government commitments on 人工超知能 governance, measures compliance with voluntary commitments, and publishes findings in ways that create accountability. The NGOs that monitor arms control treaty implementation, groups that assess whether states are meeting their disarmament obligations, that investigate alleged violations, that document gaps between commitment and action, have no clear equivalent in the 人工超知能 governance space.

「主要な軍備管理の成果はすべて、公衆の理解を築き、統治案を開発し、政治的圧力を維持する市民社会の何年にもわたる活動に先立って達成された。その活動を今、AIのために始めなければならない。」

AI安全保障の市民社会が築いたのは、知的質の高い研究・政策コミュニティである。まだ築いていないのは、他の技術分野で効果的なガバナンス運動を特徴づけてきた、市民の動員力、国境を越えた科学的対話基盤、継続的な監視機能である。これらの能力を構築することは、条約を交渉・批准・維持するための政治的・制度的要件であり、条約提唱とは別個の作業ではない。

最も強い反発

最も公平な反論は、NGOや学術界は大国を動かせないので、市民社会はただの解説に過ぎないというものだ。運動は条約に署名しない。しかし、署名しないことのコストを変えることはできる。世論の圧力、専門家による起草、寄付者支援のアドボカシーが、遅れを取った国家を、彼らがむしろ避けたい部屋へと引きずり込む方法だ。