超知能はワシントン、ブリュッセル、北京で周縁的な話題ではなくなった。残された問いは速度だ。政府が統治すべきシステムより速く動けるかどうか。
2023年11月、28カ国がブレッチリー宣言に署名した。先進AIが「潜在的に壊滅的」なリスクをもたらすことを初めて認めた国際合意である。署名国には米国、中国、英国、欧州連合、そしてアジア、アフリカ、南米の各国が含まれた。この合意は決して周辺的な文書ではなかった。国家元首や閣僚級が署名した。
UKはブレッチリー・パークで初のAI安全サミットを主催した。二回目はソウルで開催され、三回目はパリで続いた。政府系AI研究所の国際ネットワークもすでに存在し、当初はAI Safety Institutesとして発足し、UKではAI Security Institute、USではCenter for AI Standards and Innovationと改称された。米国、英国、欧州連合に拠点があり、研究を共有しリスク枠組みを調整している。四年前にはどれも存在しなかった。
米国上院では、AIリスクは数少ない本物の超党派問題の一つとなっている。Chuck Schumerは2023年にAI Insight Forumsを招集した。Josh Hawleyはスーパーインテリジェンスを「人類史上最も危険な技術」と呼んだ。Marco RubioはAIリスクを標的とした法案を提出した。脅威がイデオロギーを尊重しないため、懸念は党派を超えて広がっている。
欧州連合は2024年にAI Actを可決した。これはリスクレベルごとにAIシステムを規制する世界初の包括的法的枠組みだ。最も能力の高いフロンティアモデルには最も厳しい要件が課される。不完全な法律ではある。だが、規制当局が巨額の罰金を科す権限を持つ、拘束力のある法律でもある。
中国はアルゴリズムの透明性やコンテンツのラベル付けを義務づけるなど、独自の人工超知能ガバナンス規制を公布している。中国はBletchleyサミットとSeoulサミットにも参加した。中国を 人工超知能ガバナンスに関与しない は間違っている。
2026年の政治情勢は2020年のそれとは全く異なる。この変化は人々が働きかけた結果だ。この変化は今後も続き得るし、構築中のシステムがガバナンスの問題を答えられないものにする前に、必ず続けなければならない。
US、UK、EU、中国を含む28カ国が、先進AIが「潜在的に壊滅的」なリスクをもたらすことを認める初の国際合意に署名しました。ブレッチリー・パークでのAI安全サミットは、最先端AIのリスク評価に関する共通の枠組みを生み出しました。
欧州連合は世界初の包括的なAI規制枠組みを可決し、最も能力の高いフロンティアモデルに厳しい要件を課した。違反には全世界売上高の最大3％の罰金が科される。この法律は27加盟国で拘束力を持ち、EU内で展開されるあらゆるAIシステムに適用される。
US上院は、OpenAIのサム・アルトマンをはじめとする主要研究者や政策専門家を招いたAIリスクに関する超党派公聴会を開催する。この公聴会は、AIの実存的リスクがUSの立法監督の最高レベルで実質的に議論される初めての機会となった。
US、UK、EUは、展開前にフロンティアAIシステムの破滅的リスクを評価する権限を持つAI Safety Instituteを設立した。これらの研究所は、超知能リスク評価のための初の正式な政府インフラを表す。UKとUSの機関は2025年に改名されたが、評価インフラは残っている。
OpenAI、Google、Microsoft、Meta、そしてAmazonは2023年と2024年にワシントンで数億ドル規模のロビー活動を行いました。テクノロジー産業は米国で最大の企業ロビー勢力です。彼らは元規制当局者、元議員、元ホワイトハウス高官を雇用しています。これが、どんな人工超知能ガバナンスの取り組みも克服しなければならない力です。
ロビイングは無差別ではなく、標的を絞っている。超知能開発を制約し得る具体的な立法メカニズム——計算量閾値、必須安全評価、責任枠組み——に狙いを定める。本当の説明責任を生むあらゆる措置が、資金力のあるキャンペーンで弱体化・阻止される。
AI能力はGPT-2から、ほとんどの認知ベンチマークで大多数の人間を上回るシステムへ、六年足らずで到達しました。主要な立法は通常、提出から成立まで四年から八年の歳月を要します。技術はガバナンスが追いつくのを待ってくれません。
この不一致は、立法の緊急性を最優先事項として扱い、タイムラインを短縮する政策活動に資金を投じ、迅速な行動を促す世論を築くことを主張する。速度の不一致は物理法則ではなく政治的問題だ。
安全規制は通常、災害の後に作られ、前に作られることはない。シートベルト法は交通事故死が何十年も続いた後にできた。金融規制は危機の後に強化された。予防的な規制を政治的に行う仕組みは、ほとんどの民主主義国で未発達のままだ。
超知能の場合、災害優先モデルは受け入れられない。非整合的な超知能には修正の期間など存在しない。だからこそ、予防的ガバナンスが、 核不拡散 危機後の規制ではなく、 が適切な枠組みだ。過去に機能した。再度機能させるための政治的基盤を築く必要がある。
たばこ業界はたばこ広告の規制は不可能だと主張した。自動車業界はシートベルト義務化で販売が壊滅すると言った。化学業界はCFCの禁止で現代の製造業が終わるだろうと主張した。いずれの場合も「不可能」という主張はロビー活動の立場であって事実ではなかった。いずれの場合も規制は結局実施された。
AIリスクに関するオーバートン・ウィンドウは、歴史上どの同等の技術課題よりも速く移り変わってきた。2020年、スーパーインテリジェンスリスクは主に学術論文やオンラインフォーラムで議論される話題だった。2026年現在、それはすべてのG7政府の議題に上っている。高位の国家元首が公の演説で「実存的脅威」という表現を使っている。この変化は、問題を軽視させまいとした研究者、ジャーナリスト、市民による継続的な advocacy の結果である。それは自然に起きたわけではない。
AI安全をめぐる政治的連合が形成されつつある。国家安全保障と少数の企業への権力集中を懸念する保守派、歴史上最も重要な技術決定に対する民主的監督の欠如を懸念する進歩派、信仰共同体、科学者、芸術家、保護者たちが含まれている。これは多数派の始まりだ。
国際的な機運は本物だ。ブレッチリー・プロセス、AI研究所の国際ネットワーク、そして新たに始まったUNガバナンス議論は、どの技術分野よりも速く構築されている国際AI政策インフラを表している。部品は集まりつつある。問題は、それらが十分に速く集まるかどうかであり、それは十分な人々が押し続けるかどうかにかかっている。
私たちに加わり、行動しないことが政治的に不可能になるような圧力を築く手助けをしてほしい。