数カ月ごとに、AI能力ベンチマークが更新される。2年前には専門職免許試験に合格できなかったシステムが、今では上位パーセンタイルのスコアを出している。主要フロンティアAI研究所の幹部たちは、人工汎用知能を数十年ではなく数年の問題だと公に述べている。最も著名なAI安全研究者の一人、ニック・ボストロムは2026年のワーキングペーパーで、超知能を開発するかどうかではなく、いつ開発するかを問うた。
このような状況下で、私たちは超知能に備えられているかという問いは、理論上の演習ではなく、差し迫った実務的な評価であり、答えは明らかに「否」である。
実際に必要とされる準備態勢
「準備」が何を意味するかを具体的に示すことは重要だ。なぜならこの言葉はしばしば「リスクについて考えた」「責任ある研究室が安全に取り組んでいる」という緩い意味で使われるからだ。それらは関連する意味での準備ではない。
超知能に対する本物の準備態勢は、人工超知能能力のシステムがどこかに展開される前に、以下のすべてが整っていることを必要とする：:
- 展開前にAIアライメントを検証するための信頼できる技術的方法で、行動評価から推測するものではない
- 国際ガバナンスで、検証を通過する前に企業や国家などの単一主体がシステムを展開するのを防ぐのに十分な権限を持つもの
- システムを構築する組織から独立して運用される監視インフラ
- 主要なAI開発国における、監督機関に実際の権限を与える法的枠組み
- 競争圧力に耐えうる十分な政治的重みを持つ確立された国際規範
これらの要件に照らして評価すると、実際の現状はこうである。
ガバナンスに関する議論は間違った方向に進んでいる
2023年11月、UK政府はBletchley Park AI Safety Summitを主催した。これはフロンティアAIリスクに特化した初の主要な国際会議だった。枠組みは明確に安全優先で、結果として採択されたBletchley Declarationには28カ国が署名し、US、中国、EUを含む各国が人工超知能による「潜在的に壊滅的な」リスクを認めている。
2025年2月までに、フランスはAIアクションサミットと称する会合を主催し、名称変更によって優先順位の転換を意図的に示しました。重点はリスクの特定と管理から、展開の促進と経済的優位性の獲得へ移りました。これは中立的な用語変更ではありませんでした。中国とのAI競争を主要な枠組みとし、安全要件を潜在的な競争上の不利益と見なす政府・産業界からの本物の政治的圧力を反映しています。
"問題はもはや超知能を開発するかどうかではなく、それが最適な時期と、そのタイミング決定の利益が誰に帰属するかなのだ。"
ニック・ボストロム, 「超知能開発のタイミングについて」 · ワーキングペーパー, 2026
ボストロムの枠組みが注目されるのは、彼の初期の著作（『Superintelligence』2014年）が超知能が実存的リスクをもたらす理由の多くを確立したからだ。2026年の彼のタイミングと分配に関するシフトは、分野全体の動きを反映している。つまり開発は起こるものと受け入れ、誰がプロセスを制御するかに焦点を当てる。これは正当な問いだ。プロセスが安全であることを確保することとは異なる。
人工汎用知能から人工超知能への移行問題
ガバナンスの議論では、人工汎用知能を関連する閾値として扱うことが多い。人工汎用知能レベルのシステムなら人間の監督者が理解でき、有意義な評価が可能だという前提による。これは人工汎用知能の閾値ではおそらく正しい。問題は、その次に来るものだ。
人工汎用知能レベルの能力を持ち、自らの研究と改善を主導できるシステムは、人間レベルの性能に到達するまでにかかった時間よりはるかに短い期間で、著しく超人的な性能へ移行し得る。この技術的用語を「高速離陸シナリオ」と呼ぶ。高速離陸では、システムは人間による統治が可能な水準から、統治が不可能かもしれない水準へ、どの統治機関の対応時間よりも短い時間窓で移行する。
超知能への備えとは、人工汎用知能閾値以前に備えることであり、到来後に反応する計画ではない。人工汎用知能到達時に機能するガバナンスでは、対処不能な能力水準への急速な移行を防ぐには遅すぎる可能性がある。
なぜまだ機会の窓が開いているのか
準備態勢のギャップは現実的で深刻だ。それを正直に述べることは、何もできないと結論づけることとは異なる。適切なガバナンスを構築する窓は狭まっているが、閉じてはいない。
主要な最先端人工知能研究所は、ほとんどの認知タスクで人間レベルまたはそれに近い性能にとどまっており、それを大幅に超えていない。この能力水準から最も重要な水準への移行はまだ起きていない。これは、統治枠組みをそれに従う主体の協力のもとに構築できる時期であり、それらの主体が協力の必要性を低減させるシステムを開発した後ではない。
今ガバナンスを構築する政治的コストは現実のものです。競争上の摩擦、展開の遅れ、安全意識の低い主体に対する経済的優位性の潜在的な喪失。これらのコストは、正直に、今ガバナンスを構築せず前述の状況に陥るコストと比較して評価する必要があります。その比較における非対称性は明白です。 財団の3つの提案 はまさにこの窓口のために設計されている：閾値が越えられる前、主要なアクターすべての協力がまだ求められ、得られる間に。