これは同じ目標を共有する人々の間の本物の戦略的意見の相違であり、体制を最もよく構築する方法をめぐる国際関係論における長年の議論を反映している。どちらの道も過去に主要な条約を実現させてきたし、どちらも失敗もしてきた。このトレードオフを理解することは、それぞれのアプローチが何をもたらし、何を危険に晒すかを明確にし、両方を活用する戦略を示唆する。
もう一方は包括的アプローチだ。核心的な問題を一度に解決する、単一で野心的な条約を直接目指す。この選択は学術的なものではなく、限られた努力をどこに向けるべきかを決める。
漸進主義の論拠
漸進論は政治的現実主義に根ざしている。包括的条約は交渉が極めて難しく、批准に時間がかかり、主要当事国が容易に阻止できる。一方、技術は今まさに進んでいる。漸進論はこう言う。達成可能なステップ（自主的コミットメント、安全研究所、信頼醸成措置、コンピュート管理、枠組み条約）を直ちに実行し、より強力な合意を支える勢い、信頼、制度を築け。より困難な取引がまだ手が届かないうちに短期的なリスクを低減し、失敗するかもしれない単一の交渉にすべてを賭けることを避ける。
漸進的な道筋は、統治が学習することも可能にする。初期の控えめな措置は、何が機能するかを明らかにし、条約に必要な技術的・制度的容量を築き、拘束力のある合意に到達しやすくする規範を確立する。成功した体制のほとんど（オゾン、気候、貿易）は、枠組みから議定書へ、さらに強化された議定書へと、このように成長してきたのであって、最初から完全な形で現れたわけではない。
包括的条約の必要性
包括的論は警告をもって答える。漸進主義は本物のものの恒久的な代替となり得る。自主的コミットメントと対話に満足する世界は、拘束力のある制約への意志を決して呼び起こさないかもしれない。特に、各小さな一歩が誰もが進歩を主張できる一方で、根本的な問題（制御不能なシステムを構築する競争）が未対処のままである場合だ。さらに悪いことに、タイムラインはゆったりとした蓄積を許さないかもしれない。危険な能力が数年以内に到来する可能性があるなら、拘束力のある制限を何十年もの漸進的信頼構築の後にしか生み出さない戦略は、遅すぎる戦略である。
包括性には整合性の利点もある。人工超知能ガバナンスの各要素は相互依存している。閾値は検証なしには意味をなさず、検証は執行なしには機能せず、執行は幅広い参加なしには成立しない。包括的条約であれば、これらを整合するよう設計できる。一方、漸進的な寄せ集めでは隙間や矛盾が生じ、危険な行動を実際に縛らない措置による偽りの安心感を招きかねない。
本当のトレードオフ
- 速度 vs 十分性。 漸進主義は早く行動できますが、拘束力のある制約に到達できない可能性があります。包括主義は実際に必要なものを目指しますが、遅すぎるか到達できないかもしれません。
- 実現可能性 vs 整合性。 小さな措置は合意しやすいが、抜け穴だらけの断片的な体制を生むリスクがある。一本の条約は整合性が高いが、締結ははるかに困難だ。
- 勢い対自己満足。 漸進的な勝利は信頼を築くか、核心の問題が悪化する中で誰もが勝利を宣言することを許す。
漸進主義の危険は、困難なことを決してやらない言い訳になってしまうことだ。包括性の危険は、完璧な条約を待つうちに機会の窓が閉じてしまうことだ。解決策は両方を行い、実際にレースを止めるのはどちらなのかを正直に認めることにある。
なぜ答えは両方であり、明確な目的地があるのか
二項対立として描かれるこの議論は、誤った選択肢を提示している。一貫した戦略とは、漸進的な措置を手段とし、包括的で拘束力のある合意を最終目標として追求し、短期的なステップを意図的に条約への積み重ねとして活用することである。安全保障機関、信頼醸成措置、計算資源の統制は、即時のリスクを低減し、条約に必要な能力を構築するからこそ、今こそ取り組む価値がある。重要なのは目的地を見失わないことだ。包括的で拘束力があり、検証可能な合意を明確な目標として保持し、漸進的な進展をその合意にどれだけ近づけるかで測るのであって、世界がそれを先送りできるかどうかの説得力で測るのではない。警戒すべき失敗モードは、小さな一歩を踏み出さないことではなく、それらを到着と勘違いすることである。