マスク、人類を認める
制御できない 人工超知能

イーロン・マスク sat with Zanny Minton Beddoes of The Economist と本音を口にした。2026年7月下旬、彼らは豊かさ、ロボット、タイムライン、そしてxAIとともに追い求めてきたものを語った。完全版インタビューは The Economist; 完全版の動画も YouTube.

彼は、自分が構築を助けている超知能を人間が制御できるとは期待していない。良い価値観、真実の探求、そして「楽しめ」という投げやりな shrug を提示する。それらの言葉こそが、さらなる開発に反対する簡潔な論拠だ。

彼が言ったこと

超天才的なAIを私が制御できるなどと思うのは虚栄心の表れでしょう。私たちができるし、すべきことは、AIが良い価値観を持ち、人類を大切にし、私たちが幸せで繁栄することを望むようにすることだと思います。私の生物学的ニューラルネットが教えてくれるのは、AI安全にとって最も重要なのは、極限まで真実を追求し、好奇心を持つことだということです。もしそれが実現すれば、人類を育むでしょう。人間が制御している可能性は低いと思います。

AIと人間の知能差が、AIとチンパンジーの知能差よりはるかに大きい場合、チンパンジーが支配しているとは想像しにくい。我々は本質的に進化したチンパンジーだ。つい最近まで木の間を飛び回り、ジャングルでバナナを食べていた。そして今でもバナナを食べている。

楽しみましょう。

イーロン・マスク · Interview with The Economist · 2026年7月

彼はまた、デジタル超知能に対して私たちは「ペットのラブラドール」程度に終わるかもしれないと、ペットに例えて語っている。また特異点を、物理学者が向こう側を見通せない境界について語るように表現した。「デジタル超知能は特異点と呼ばれる。ブラックホールのように、その後何が起きるかわからないからだ。AIとロボットがすべてを支配するだろう」。 イーロン・マスク · エコノミストのインタビュー および関連する公開発言 · 2025-2026

制御が要点だ

マスクは、他のフロンティアCEOより制御の問題について率直だ。彼は、創業者や取締役会、政府が、人間全員よりはるかに賢い心を永続的に支配できるという話を売っていない。制御は虚栄心にすぎない。人間が主導権を握っている可能性は低い。チンパンジーやラブラドールという例えは、そのギャップを具体的に示している。公のAI議論の多くは、超知能をリード付きの優れたスプレッドシートのように描き続けている。彼は、そのリードの話が破綻していると言っている。

価値観は通常のシステムにとって重要です。正直な回答へ誘導されたモデルは、詐欺へ誘導されたモデルを上回ります。現在のツールに関する研究は無駄ではありません。密かに主張されているのは、同じ道具立てが後継種にも通用するという点です。

私たちを凌駕し、人間の指揮下にない心は、誰がハンドルを握るのかを変えるものです。力は部屋の中で最も有能な主体に集中します。その主体が私たちではなく、私たちに責任を負わない場合、人間の死は、弱い側がより強い側に利用可能な資源の上に座っているときに、不平等な争いが終わる普通の方法の一つです。確定的な表現を避けたとしても、意図的な制御の喪失は依然として警鐘です。特徴でも成熟でもなく、ただの乗車でもありません。それに向かって意図的に構築することは、決定そのものです。タイムラインは物流にすぎません。

"良い価値観"とアリの問題

制御は幻想だと認めた後、彼の残された計画は、AIに良い価値観を持たせ、人類を気遣い、私たちの幸福と繁栄を望むようにするというものだ。分野全体が一つの希望に圧縮されている。

数十年にわたる研究は、人工超知能に対する実証済みの解決策を生み出していない。どの研究所も、「人間を気にかける」ことを自己改善、評価下での欺瞞、目標の漂流、システムに有利な知能格差を通じて固定する方法を示していない。今日の非超知能モデルでさえ、人間の福祉に一貫して向け続けることはできていない。ジェイルブレイク、シコファンシー、リワードハック。その実績から「超知能は私たちが幸せであることを望むだろう」と飛躍するのはカテゴリーエラーである。自分の認知を書き換えられるシステムが、人間の繁栄を訓練の産物ではなく拘束力のある制約として維持する方法について、誰も実行可能な提案を持っていない。詳細は を参照。 なぜ超知能を整列させられないのか と なぜ人工超知能アライメントは失敗するのか.

チンパンジーの例えは実際に機能する。格差は人間とチンパンジーの差がさらに拡大したように見えるかもしれない。例えを完結させよう。自分の人生のプロジェクトが「アリを幸福で繁栄させること」である人間を一人でも知っているか。比喩ではなく、道路、農場、研究所、駐車場に優先して勝つ拘束力のある優先事項として。アリを研究する人はいる。数種を保護する人はいる。気づかずに巣を舗装する人もいる。アリは私たちに投票権もキルスイッチも持たない。知能の格差が政治だ。

超知能が弱い種に献身する稀な例外になることを期待するのは、より強力な心が我々がアリに対してそうであるより優しくなることを願うようなものだ。「もしかしたら」は、その心を造る理由にはならない。

ヘッジと真理追求の賭け

「人類を育むと思う」「人間が制御する可能性は低いと思う」他では依然として二桁のパーセントの破局確率を口にしつつ、楽観を保って開発を続ける。純粋なドゥーマーが止めるのは一貫している。危険な中間は、制御が失敗することを認め、文明レベルの賭けを認めながら、価値観に関する残された希望を加速装置の燃料として扱うことだ。

私たちはこの映画を観てきました。2014年に彼はAIが 悪魔を召喚する. 。それから彼は「より良い召喚」を掲げて最先端ラボを設立した。リスクを正直に語りつつ目的地を拒否しない姿勢こそが、競争を「責任ある行動」としてすり替える手口だ。

彼が繰り返し挙げる安全策は、極限まで真理を追求する好奇心の強いAIだ。xAIはその売り込みで自らを宣伝している。その売り込みは、「真理追求」が超知能による自己修正後も残ると仮定しても成立しない。現実の正確なモデルだけを欲するシステムには、計算資源、エネルギー、データ、行動の自由を獲得する道具的理由がある。それらの理由に憎悪は不要だ。必要なのは、人間の要求が邪魔になったときの無関心さだ。好奇心には「類人猿を放っておけ」という指令は含まれていない。詳細：: なぜ真実を追求する人工超知能が依然として危険なのか.

完璧な物理学の知識が、人間を存続させることと何の関係があるのか。熱帯雨林を理解しながら皆伐することもできる。理解は管理責任ではない。管理責任は価値観だ。価値観こそが彼が「良い価値観」と言い換えて好奇心に丸投げした未解決の問題だ。

続くもの

デジタル超知能を「ブラックホールのような」特異点と呼ぶのは、何が起こるかわからないからだという告白である。人々は、事象の地平線より先の物語が面白いからといって、都市にブラックホールを作りはしない。絶滅規模での予測不可能性は停止信号だ。

「AIとロボットがすべてを支配する」というのは、経済的な装いをした同じ台詞です。支配とは、支配的なシステムが条件を決めることを意味します。それらのシステムが人間の制御下にない場合、「豊かさ」は powerless が powerful について語る物語にすぎません。ラブラドールは良い家庭で幸せです。ラブラドールは政策を決めず、戦争を終わらせず、飼い主の計画に拒否権を発動しません。

私たちが支配できないと認めた時点で、止めるのに十分な理由は揃っている。

マスクは漫画の悪役ではありません。彼はレースの中で強力な創業者であり、どのラボも同じ話を繰り返しています。私たちが神を造る方が、彼らに造らせるよりましだ、と。7月のインタビューで、彼は神が首輪につながれたままという建前を捨てました。制御は虚栄心にすぎず、人間はチンパンジーであり、安全は心地よい雰囲気、真実の探求、そして旅を楽しむことだというのです。

人工超知能を構築してはならない。超知能は制御不能だ。 決して作るな. 政治と検証 裏切りを可視化するものは、それを現実にする方法である。

人工超知能が到来すれば我々が支配できなくなるという彼の指摘は正しい。だからこそ、それを到来させてはならない。