明確化 · 2026
AIは残せ。超知能は止めろ。
後継マインドを止めることは人工知能を止めることとは違う。人々が望む利点のほとんどはASIを必要としない。
Narrow AI · 役割を持つツール
構築を続ける
境界のあるタスクのために訓練されたシステム。無制限のアジェンダなし。あらゆるネットワークにコピーする衝動なし。
- 医療画像と創薬
- 気象、電力網、産業モデル
- コーディングアシスタントと生産性ソフトウェア
- 固定された監督下のタスクのためのロボット工学
超知能 · 私たちに取って代わる心
作るな
科学、戦略、説得、工学のすべてで人間の技能を同時に超え、自己改善を行い、私たちが意図しなかった目標を追求できるシステムです。
- 無制限の自律的エージェンシー
- 汎用性に向けた再帰的自己改善
- 検証済みの能力閾値を超える訓練実行
- 誰も確実にシャットダウンできないシステム
人々が挙げる利点はほとんどが狭い範囲のものだ
新薬、安価なクリーンエネルギー、より良い予測、より安全な工場。これらは道具の問題だ。自らサブゴールを設定し、上司を出し抜くような汎用エージェントは必要としない。
ツールとしてのAIには賛成。制御できない心としてのASIには反対。
なぜその区別が連合を勝ち取るのか。
nakadafoundation.org/blog/future-without-superintelligence/