真剣な部屋で必ず耳にする台詞。公平に述べられ、持ち帰れるように答えられている。
"私たちが減速すれば、中国が先を争って勝つだけだ。"
超知能を最初に構築した国は、決定的な国家資産を所有する。
それは誰かがそれを指揮できる場合にのみ機能する。オペレーターより賢いシステム 武器のように狙いを定めることはできない. 制御の喪失は国境や国旗を尊重しない。
自制は一方的な軍縮である。北京は止まらない。
北京もワシントンと同じ絶滅リスクを抱えている。相互の脆弱性が、敵対国同士でも核軍備管理を機能させた理由だ。共有の破滅が、検証付きの相互制限を安全保障上の最善策にし、先に制御を失う競争を避けさせる。
彼らは欺くだろう。条約は紙切れだ。
不正行為への恐怖は本物だ。それは 条約の設計 problem: chip tracking, cluster licensing, on-site inspection, the same family of tools used for fissile material. Defection risk is why verification exists. It is not a reason to sprint off the cliff first.
敵は危険な技術を拘束しない。
USとUSSRは敵対の頂点で核制限を交渉した。宇宙条約は冷戦中に軌道上兵器を禁止した。敵同士でも、ある活動については互いに信頼しなくても抑制できる。
「誰も制御できないものを競って作るレースに勝者はいない。国家安全保障上の選択は、制御を失う競争ではなく、制御を終わらせるシステムに対する相互の査察付き禁止だ。」
完全反論: nakadafoundation.org/myths/