AI軍拡競争:
競争はどう
安全を損なう

AI開発者が自社システムのリスクについて、公に語るよりも多くを知っていることは、今や十分に文書化されている。主要AIラボの内部安全チームは重大な懸念を記録している。ラボを離れた研究者は、現在のシステムがあまりに急速に展開されているかどうかについての内部議論を明かしている。安全上の懸念は知られており、多くの場合、開発を続けながら部分的に対応されているのであって、未知のものではない。

どの研究室や国家も、より良い選択を単独で行うことでそのインセンティブを解決することはできません。多国間ガバナンスが必要です。

これは、安全意識の高い主体でさえ、自らのリスク評価が推奨するよりも速い開発・展開へと構造的に駆り立てられる調整問題の物語であり、主に悪質な行為者についての物語ではない。これらのインセンティブ（AIレースのダイナミクス）を理解することは、個別組織の安全コミットメントが不十分である理由と、実際に必要とされるガバナンス構造を理解する上で不可欠である。

競争の構造

AI軍拡競争の基本構造は単純だ。複数の主体（国内企業間、世界の国家間）が最も高性能なAIシステムを開発して最初に展開しようと競争している。安全への投資は時間と資源を要し、能力開発の加速に回せなくなる。安全に真剣に投資して速度を落とす主体は、そうしない主体に後れを取る。競争に勝つ主体は、構造的インセンティブにより、安全を最も積極的に犠牲にした主体である可能性が高い。

これにより、安全意識の高い主体は二つの悪い選択肢の間で選ばざるを得なくなる。安全基準を維持して後れを取るか、フロンティアが安全意識の低い主体によって形作られる結果を招く。あるいは競争力を保つために安全投資を減らし、自らの基準を低下させる。いずれにせよ、競争圧力は個々の主体が協調できれば望まない結果を体系的に生み出す。

国家的な側面

研究室レベルの競争力学は、原則として国内規制で対処可能である。政府は自国の管轄下にあるすべてのAI研究室に同時に安全要件を課すことで、その管轄内における安全投資の競争上の不利益を解消できる。これが国内AI規制が重要である理由だ。たとえ国家間の問題には対処できなくても、国内の調整問題は解決できる。

国家レベルの競争は構造的に難しい。USと中国のAI競争は、地政学的に重大な結果を伴う戦略的レースとして語られることが多く、この枠組みは国家レベルでも同じインセンティブを生む。安全のために減速した国は、減速しなかった国に後れを取る。安全規制が競争上の不利をもたらすという懸念は、悪意ある反論ではなく、本物の調整問題だ。

だからこそ、純粋に国内のAI規制（たとえ厳格な国内規制であっても）は、AI軍拡競争への対応として不十分なのです。 国際ガバナンスのギャップ は、核軍拡競争を部分的に解決した軍備管理条約に類する、執行メカニズムを備えた多国間枠組みを必要とする構造的な調整問題であって、どの国がより優れた規制を持つかという技術的問題ではない。

競争力学を解決するための先例

冷戦期の危険な技術競争における協調が政治的に不可能だという懸念は、歴史的事実と一致しない。USとソ連は冷戦の最盛期に、深い不信と戦略的競争が続く中でも、両国の最も危険な兵器に拘束力のある上限を課す戦略兵器制限交渉（SALT IおよびSALT II）に合意した。化学兵器禁止条約は世界の大多数の国々で兵器カテゴリ全体を禁止した。生物兵器禁止条約も生物兵器について同様の措置を取った。モントリオール議定書はオゾン層破壊物質の世界的な段階的廃止を調整した。

これらのどれも、困難や離脱、執行の課題なしに達成されたものはない。いずれも無秩序な競争に対する本物の改善を表していた。 危険な技術に関する国際調整の歴史的先例 人工超知能ガバナンス議論の悲観的枠組みが示唆するよりも、はるかに広範である。

「安全意識の高い研究所が競争に勝つべき」という主張は、安全擁護者の意向に関係なく進行している。安全意識の高い主体が最先端にいる方が、無関心な主体がいるよりはましだが、それだけでは不十分

AI軍拡競争への懸念に対するよくある反応は、安全重視の研究所が成功すればフロンティアが安全を重視する主体によって形作られる、というものだ。

この主張には明確に述べておくべき限界がある。第一に、最先端にいることは軍拡競争のダイナミクスを排除しない。安全意識の高い研究室が、フロンティアに留まるために安全を犠牲にする競争圧力に直面するようになる。第二に、競争圧力の主張はどんな加速も正当化するために使え、安全意識の低い競争相手を常に持ち出せるからだ。第三に、この主張は安全意識の高い研究室が勝つことに依存するが、それを保証する仕組みを提供しない。それは希望であって、ガバナンス構造ではない。

AI軍拡競争のダイナミクスを解消するには、核軍拡競争を部分的に解消したものと同じものが必要です。主要なすべての行為者に同時に適用される協調的な制限、離脱を検知する検証メカニズム、そしてそれを抑止する執行メカニズムです。それは多国間ガバナンスの問題です。抑止の枠組みである MAIM は競争する国家間の膠着状態を描写するが、競争自体を解決するものではない。Foundationの ガバナンスに関する提案 この要件を中心に構築されており、正しいラボが先に終わるという希望を中心にしているわけではない。