諮問機関は、あらゆる地域の政府・産業界・学界・市民社会の専門家を集め、西側クラブや単一政府では得られない正当性をグローバルガバナンス提案に与えるために結成された。その最終報告書はUNの2024年未来サミットに先立って提出され、ガバナンスの空白を診断し、それを埋めるための機能と制度を提案した。限界はあるにせよ、それは公式かつ普遍的な議論の出発点として最も近いものだ。

その2024年の報告書『Governing AI for Humanity』は、普遍的なアーキテクチャを概説するこれまでで最も権威ある試みであり、主流の会話がフロンティアリスクからどれだけ離れているかを明らかにする研究だ。

「報告書が推奨したこと」

報告書は単一の強力な機関を提案するのではなく、政治的に実現可能な軽量な機能のレイヤードセットを推奨しました。主な提言は、共通の政策関連理解を構築するための国際AI科学パネル、政府間の定期的な政策対話、相互運用可能な基準の策定を支援する交換プログラム、グローバルサウスの参加を支援する能力開発ネットワーク、そしてそれらを結びつけるUN事務局内の小規模調整オフィスでした。グローバル基金とデータガバナンス枠組みの可能性も示されました。

謙虚さの背後にある論理

報告書の慎重さは意図的であり、理解する価値がある。これは、国家間の分断を考慮すると、達成可能な第一歩は拘束力のある規制機関ではなく、より強力なガバナンスを後で構築するための基盤となる連結インフラ（共有科学、対話、基準）であるという判断を反映している。特に科学パネルは、オゾンや気候の経験に依拠しており、権威ある共有評価（気候変動に関する政府間パネルがモデル）が合意を可能にする共通の事実基盤を作り出した。こうした読み方では、報告書は壁を築くのではなく、土台を築いている。

  • 科学パネル 世界にAI能力とリスクの共有された信頼できる全体像を提供し、あらゆるガバナンスの基盤となる事実を整えるために。
  • 政策対話 政府同士の対話を維持し、競合する地域的アプローチの断片化を防ぐために。
  • 基準の交換 互換性のない国家ごとの規則のパッチワークではなく、相互運用性に向けた取り組みを。
  • 能力構築 グローバルサウスを後回しではなく参加者としてガバナンスに迎え入れることは、正当性の前提条件である。

壊滅的リスクに関するギャップ

報告書はその権威にもかかわらず、安全の観点から conspicuous な限界がある。人工超知能ガバナンスを、主に幅広い社会的害（バイアス、偽情報、不平等、労働混乱）の管理の問題として扱い、超知能システムの制御を失うという具体的な危険に comparatively ほとんど重きを置いていない。提案されているレッドラインも、コンピュート閾値も、検証体制も、禁止も存在しない。推奨される手段は、制約ではなく調整と理解のためのものである。

このギャップが重要なのは、報告書が提案するつなぎのインフラが、フロンティア安全保障が最も必要とすることを意図していないからだ。それは制御不能なほど危険なシステムの開発を防ぐことである。科学パネルと政策対話は、拘束力ある合意を可能にする共通理解を築くことはできるが、それを代用することはできない。UNプロセスは必要な基盤ではあるが、それだけでは不十分だ。これは現在のガバナンス状況の多くに当てはまる記述でもある。

UNの青写真は、誰もが着席できるテーブルを用意するものであり、その価値は本物だ。しかしテーブルは合意そのものではない。最も難しい問い（誰も制御できないシステムの開発をどう止めるか）は、主流のプロセスがいまだにテーブルに載せようとしないものだ。

それが今も重要な理由

諮問機関の活動が重要なのは、まさにその正当性と到達範囲 때문です。国際システムの最高レベルで、人工超知能ガバナンスがグローバルな機関を必要とするグローバルな懸念であることを確立し、時間の経過とともに拘束力のある条約に必要な共通理解を築き得る共有科学と対話の仕組みを提案します。現実的な道筋は、UN枠組みを、より要求の厳しい安全重視のガバナンスを積み重ねる包括的な基盤として扱うことです。科学パネルと政策対話を利用して、主流の会話を、現在過小評価されている壊滅的リスクや、拘束力のある合意だけが提供できるレッドラインと検証に向かわせることです。UNはフォーラムを構築しました。課題は、その中で起こることの野心を高めることです。