世界で初めてのAI条約が誕生した。
ここではカバーしていないもの。

2024年9月5日、リトアニアのヴィリニュスで、米国、英国、欧州連合および数十カ国の代表が、人工知能と人権、民主主義、法の支配に関する枠組み条約に署名した。これはこれまでで初めての、人工知能に関する法的拘束力のある国際条約である。その成果と、解決を意図していなかった問題の両方を明確に理解する必要がある。

条約が実際にカバーする範囲

枠組み条約は人権文書である。その法的義務は、AIシステムが民主主義、人権、法の支配を損なわないようにすることに焦点を当てている。実際には、これは以下を意味する：:

• 透明性要件: AIシステムが人々に関する決定に影響を与える場合、人々に知らされなければならない
• 説明責任の仕組み：国家はAI開発者と展開者が危害に対して責任を問われることを確実にしなければならない
• 非差別：AIシステムは既存の平等法に違反する結果を生み出してはならない
• 効果的な救済策：AIによって被害を受けた人々は法的救済にアクセスできなければならない
• 民主主義の安全策：AIは選挙プロセスや法の支配を損なうために使われてはならない

これらは意味のあるコミットメントです。人種に基づいて差別するAI採用アルゴリズム、透明性なく展開される顔認識システム、AI生成の偽情報キャンペーン——これらすべてが条約の枠組みで直接扱われます。署名国はそれらを防ぐための法的義務を受け入れています。

執行メカニズムは締約国会議で、実施状況を審査し勧告を出すことができる。これは化学兵器禁止条約の検証制度や核不拡散条約の査察プロトコルより緩やかだが、AIが拘束力のある国際法の対象であるという原則を確立する。この原則は2024年9月以前には確立されておらず、その確立は本物の前進だ。

条約がカバーしないもの

フレームワーク条約はAIが社会でどのように使われるかを規定する。文明的リスクをもたらす可能性のあるAIシステムを最初から開発すべきかどうかを規定するものではない。

条約のリスク枠組みは、現在および近未来のAIによる害に合わせて調整されている。今日のAIシステムがすでに引き起こしている、本物で深刻な害だ。これは、AIの影響を受ける社会で人権を守るための文書としては適切な範囲である。しかし、人工超知能による文明規模の破局を防ぐための文書としては、誤った範囲である。

条約の本文には「超知能」という言葉は一切登場しない。最先端AI開発競争に義務を課す条項もない。計算資源の統治、訓練実行規模、アライメント問題、過去十年にわたって警告を積み重ねてきたジェフリー・ヒントンやヨシュア・ベンジオら研究者たちが最も懸念するシナリオについて、何も触れていない。

なぜこの区別が重要なのか

枠組み条約を十分なガバナンスと見なす誤りの危険は、国際合意を生み出す政治過程の自然な結果であり、仮定の話ではない。条約が存在すれば、政治的圧力は満たされたことになる。枠組み条約に署名した国々は、AIが統治されている証拠としてそれを指し示せる。最も能力の高いAIシステムの開発に拘束力ある国際的制約を課すべきかどうかという、より困難な会話は、ガバナンスの節目が宣言された後では容易にならない。

枠組み条約は、既存の人権・平等法がすでに規制しているのと同じAIを対象とし、それらの原則をAIの文脈に拡張して国際的に拘束力を持たせる。これは価値がある。ただし、十分に能力のあるAIシステムが、人間の福祉と微妙にずれている目標を追求することで、不可逆的な規模の被害を引き起こし、法的救済が及ばなくなるリスクに対する答えにはならない。

「AI開発がAIと人間の双方にとってうまくいくこと。それを、単なる製品責任の問題ではなく、文明レベルの課題として扱う必要がある。」

フロンティアAI安全条約に必要なもの

人工超知能からのリスクに対処するために設計された条約は、枠組み条約とはかなり異なるものになるだろう。 中田財団の提案する枠組み outlines what such a treaty would need to include:

• コンピュートガバナンス: 単一の訓練実行に適用できる計算資源に対する拘束力のある制限、ハードウェアレベルの検証によって裏付けられたもの。計算はフロンティアAI開発のボトルネックであり、現在国際レベルで測定可能で執行可能な唯一の変数です。
• 独立検証: 核査察に類似した監視メカニズムで、当事者が遵守を確認できるようにし、非遵守から最も利益を得る組織による自己申告に頼らないものです。
• 最先端AIの報道: ：最も能力の高いAIシステムの開発に特異的に適用される義務であり、社会的文脈での展開だけではない。
• US-中国の参加: AI開発を主導する2国を拘束しない条約は、たとえ他国がどれだけ署名しても構造的に不十分です。

枠組み条約は必要な第一歩だ。AIが国際法の拘束を受けるという認識は重要な前例である。しかし、 実存的技術のガバナンス史 （核、化学、生物）分野の歴史が示すように、ある領域で最初の条約が最も深刻なリスクに対処することは稀だ。実際に最も危険なものを抑制する枠組みを構築するには、何年にもわたる継続的な政治的努力が必要になる。

その政治的努力は今から始めなければならない。枠組み条約が問題を解決したと宣言された後でもなく、拘束力ある制約の執行を不可能にする能力が出現した後でもない。