1分間ブリーフィング
ホワイトペーパーを読まないスタッフ向け。渡して数字を伝え、席に着いてもらいましょう。
民間の研究所は人工超知能に向かって競争している。条約も査察機関も検証可能なオフスイッチもない。科学的な警告は fringe ではない。ガバナンスの空白は完全だ。
500+
専門家たちは2023年のCAIS声明に署名し、AIによる絶滅リスクをパンデミックや核戦争と同等に位置づけた
1億9000万ドル
年間のAI安全保障支出の概算、システムをより強力にするための2500億ドル超に対する
0
超知能開発に関する今日の拘束力のあるグローバル条約
要望
3つの動き
- 国内法:大規模な訓練実行にライセンスを義務付け、展開前の独立した評価を要求する。
- 多国間協議:検証付き禁止に関する公開交渉。
- 資金提供:研究室の壁外で独立した評価と条約設計の能力を拡大する。
枠組み
予防 · 狭いAIを安全に
私たちは医学やソフトウェアを凍結するよう求めていません。自律的な汎用システムを能力線を超えて禁止するよう求めています。超知能は制御できません。前例:核不拡散条約、化学兵器禁止、モントリオール議定書。
予想される反論:「中国は協力しないだろう。」
次に検証(チップ追跡、クラスタ検査)を構築し、離脱を執行の問題として扱うこと。一方的な暴走で制御不能なシステムを目指すのは戦略ではない。
スタッフブリーフィング:: nakadafoundation.org/contact/ · 計画: nakadafoundation.org/our-plan/ · ポリシー PDF: nakadafoundation.org/resources/pdf/policy-brief/