条約草案とは
スーパーインテリジェンスが言うかもしれないこと。

仮定の条約の解剖を試みることは、単なる学術的演習ではない。それは漠然とした願望を具体的な、議論可能な設計決定に変換し、人工超知能ガバナンスへの障害が概念的なものではなく政治的なものであることを明らかにする。法的仕組みはすでに存在する。以下の条項はすべて既存の条約に前例がある。以下は、人工知能安全保障条約が解決しなければならない事柄の構造的スケッチであり、完成した条文ではない。

条約とは、範囲、定義、義務、検証、制度、執行という recognizable な解剖構造を持つ法的文書です。ここでは、安全でない超知能を防ぐ合意に必要な条項と、それぞれが迫る選択を具体的に見ていきます。

前文と目的

すべての条約は目的と指導原則を冒頭に述べる。ここでの目的は、人工超知能の開発を恒久的に防止することだ。超知能は制御不能だが、その閾値未満のAIの利益は保持し、それらの利益を共有するようにする。前文では予防原則を呼びかけ、リスクが人類共通の関心事であることを確認し、条約を既存の国際法の中に位置づける。これが以降のすべてを解釈する枠組みとなる。

範囲と閾値

最も困難な起草問題は、条約が何を対象とするかを定義することだ。核物質とは異なり、AI能力は連続的なスペクトルであり、自然な境界線はない。実務的なアプローチは測定可能な代理指標を使うことである。訓練計算量の閾値を超えるシステムを条約の義務の対象とし、指定された危険な能力を示すシステムには能力ベースの基準を組み合わせる。正確な数値は技術機関に委ね、改訂を可能にすべきである。文中に固定された数値は数年で陳腐化するからだ。

中核的義務

検証

誰もチェックできない禁止は無価値なので、条約には検証制度が必要である。国際原子力機関と化学兵器の前例を踏まえ、大規模計算クラスタの申告施設監視、サプライチェーンを通じた先端チップの追跡、訓練・評価記録の監査権、定義されたアクセス権を伴う現地査察、そして（最新の要素として） covertな大規模訓練を検知可能にするチップ内蔵のハードウェア保証を組み合わせる。設計目標は、核保障措置と同様に、すべての商業・安全保障上の秘密を開示させずに重要な事項を検証することである。

機関

条約はこれを管理する国際機関（AI安全機関と呼ぶ）を設立する。技術事務局兼査察機関、閾値を設定・改定する科学パネル、意思決定機関としての締約国会議、そしてモントリオール議定書モデルにならい、全面的な再批准なしに附属書を更新する仕組みである。これが、静的な文書を技術の進展に追随できる継続的な体制に変える常設機関です。

執行、発効、および改正

• 執行。 違反に対する段階的な対応。非遵守の認定から、共有利益やコンピュートへのアクセスの喪失、重大な違反の場合は安全保障理事会への付託まで。検証は証拠を生むが、結果には政治的後押しが必要であることを認識して。
• 発効。 先進的なラボとチップ生産を担う国々が、条約が拘束力を持つ前に批准することを要件とする。これにより、重要な主体を対象としつつ、単一の国が無期限に存在を拒否できる設計を避ける。
• 修正と調整。 資格ある多数決で閾値や技術的附属書を迅速に強化できる仕組み。条約が署名時の技術水準で固定されず、技術の進展に合わせて進化できるようにする。

AI条約への障壁は、我々に法的手段が欠けていることではない。必要となる条項はすべて、すでに何らかの条約に存在する。障壁は政治的意思であり、それがまさに明確な草案が助けられるものだ。

スケッチすることが重要な理由

このように具体的に条項を明示することは二つのことをもたらす。第一に、条約を神秘的なものではなく、それぞれに前例のある理解しやすい部分の集合体であることを示し、未知への飛躍ではないことを明らかにする。第二に、真の困難がどこにあるかを明確にする。それは法的枠組みではなく、閾値、検証の侵入性、条約を拘束力あるものにする大国間の取引に関する政治的選択である。草案は署名する意志を生み出さない。しかし「条約が必要だ」を「これが条約であり、これが合意すべき具体的な内容だ」に変える。それが本格的な外交の出発点となる。