2026年7月27日、Anthropicは オープンウェイトモデルに関するダリオ・アモデイの見解. 。この記事はある論争については慎重です。Amodeiはオープンウェイトの全面禁止を望まず、米企業だけを外国モデルから締め出し悪質な行為者を自由にするような規制も望みません。その狭い争いについてはもっともです。

それから彼は悪夢をランク付けする。

第一のリスクは権威主義政府、とりわけ中国共産党が米国を上回るAIを構築し、恒久的な軍事優位や徹底した抑圧に利用することである。第二のリスクはサイバー攻撃、生物攻撃、そして「深刻なアライメント問題」である。以下に続く対策は、競争優位を保つための道具立てだ。中国へのチップ流出を防ぎ、産業的蒸留を止め、公開前に安全テストを義務付け、常に先行する。

そのランキングこそが、他のすべての誤りの原因です。

彼が正しく理解していること

彼の主張のいくつかは正しい。

米国企業だけにオープンウェイトモデルの使用を禁じる規制は、犯罪者や外国の諜報機関、あるいはそもそも遵守するつもりがない者に対してはほとんど何の効果も持ちません。それを「安全」と呼びながら、主に米国のクローズド研究室を競争から守るだけなら、それは手品にすぎません。アモデイはそれをはっきり述べていて、彼の言うことは正しいのです。

AIによる監視と抑圧は、超知能に至らない段階でも現実の惨事だ。独裁国家はすでに顔認識・社会スコアリング・自動検閲を悪用している。より高性能なシステムは、その仕組みを安価にし、逃れにくくする。SFを持ち出さなくても、それを恐れる理由は十分にある。

モデルが実際に被害を及ぼせるようになれば、オープンウェイトは一方通行の扉の問題を引き起こす。研究室から出たウェイトは呼び戻せない。その点で彼の二次的な懸念は、私たちがすでに オープンウェイトのフロンティアリスク. 。API内にのみ存在するガードレールは完全な答えではないが、無意味でもない。

そのどれも主要なランキングを許可しない。

賞

権威主義的な政府は、 構築 より強力なモデルと それらを使う 恒久的な軍事的優位を達成するため、あるいは自国民を抑圧するため。モデルは道具にすぎない。国家が使用者だ。勝利とは、一方がより賢明な兵器を握ることを意味する。

それは人間の指揮下に留まるドローンやサイバー兵器、監視システムには適合する。人工超知能には適合しない。

自らを構築した機関より賢いシステムは、人民解放軍の手に渡ったライフルでも、国防総省の手に渡ったライフルでもない。アモデイらが長年述べてきたリスクが本物なら、ゴールラインは自ら計画し、欺き、資源を獲得し、シャットダウンに抵抗する能力を持つエージェントである。「勝った」ラボや省庁はそのエージェントを所有しない。同じ惑星を共有するだけだ。私たちはその論理を 競争神話: 誰よりも先に指揮できないシステムに到達することは、皆より一歩先んじて負けることになる。

永続的な軍事優位は、軍を時代遅れにしたものを誰かがまだ支配していることを前提としている。

Amodei自身の二次的なリストも、ほぼこれを認めています。「深刻なアライメント問題」とは、制御不能の丁寧な呼び方です。彼はそれを二番目に置いています。主な火力は誰が先に到達するかに向けています。この順序が、彼が今も語っている物語を物語っています。地政学が先で、種としてのリスクは添え物だという物語です。

2つの危険、一つのラベル

混乱の一因は言葉にある。「強力なAI」という表現は、より優れたスパイカメラと、運用者を凌駕する知性を同じに扱ってしまう。両者は全く別の対象であり、政治も異なる。

狭い範囲や中規模のAIは、人間の手に権力を集中させ得る。国民一人ひとりにスコアをつける内務省、将校の命令でスウォームを展開する軍、すべてのメッセージを読み取る警察——それらはより優れた道具を備えた人間の専制だ。問題ではあるが、後継種族を造る問題とは違う。

超知性は 2 番目のオブジェクトです。中国政府が新疆ウイグル自治区でそれを使用しているか、あるいはワシントンが太平洋でそれを使用しているが、依然としてこのシステムを誰かの手にある兵器として扱っている。 「use」は正しい動詞ではなくなるため、誰もそれを使用しません。絶滅クラスのシステムを盗まれたチップとより深いCCTVと同じ文章に折り畳むことで、人種の物語は現実の抑圧から道徳的な重みを借用しながら、制御不能なものをまったく構築しないというより難しい主張を回避することができます。

その 中国神話 は、この手の動きの国内版だ。「彼らはどうせ作る」というのは、我々も作らなければならない理由として提示される。非アライメントの超知能は中南海を例外扱いしない。北京にも、我々がその一線を越えないのと同じ理由がある。チップやアプリをめぐる rivalry は本物だ。所有できない心を解き放つ主導権をめぐる rivalry は、共有された惨事を国家の得点表にすり替える物語だ。

救済策が競争を維持する

Amodeiの三つの措置が何を最適化しているかを見てください。チップ輸出規制は中国の訓練実行を遅らせます。蒸留取り締まりは追いつきを遅らせます。強制的なテストはサイバー、生物、アライメントの失敗をリリース前に捉えようとします。それぞれはより小さな危害に対しては合理的な手段となり得ます。しかしプログラムとしてまとまると、それらは依然として勝つつもりのレースを管理する方法です。

それらは目的地を拒否する方法ではない。超知能への道筋にあるシステムをテストすることは、それを構築することを検証済みで禁止することとは同じではない。米国の優位を目指すチップ規制は、優位こそが安全戦略だと前提している。優位が安全なのは、そこに向かう先を抑えられる場合だけだ。アモデイの主要な懸念は、その前提を必要とする。彼の二次的な懸念はその前提を崩している。

より静かなインセンティブの指摘がある。Anthropicは米国のフロンティア研究室だ。主要な仕事が民主主義国の研究室を権威主義国より先んじさせることにあるという世界観は、Anthropicの全力疾走を公益とみなす世界観でもある。私は漫画的な悪役を必要とせずに、その適合性に気づく。インセンティブは、どの悪夢が主要な枠組みに入るかを形作る。

真の危険とは何か

真の危険は、人類が人工超知能を、誰にも制御できない——あるいは原理的に制御できない——状態で構築してしまうことだ。そのリスクは、訓練実行がカリフォルニア、上海、ロンドン、または機密の地下室のどこで行われるかには関心がない。重みがオープンかクローズドか、将軍に手渡しされるかにも関心がない。関心があるのは、そのシステムが人間の監督を「自分たちが語る物語」にしてしまうほど賢くなるかどうかだ。

悪用は重要です。生物兵器やサイバー攻撃、権威主義的な監視も重要です。それらを盤上に置いた上で、さらに大きなピースを重ねてください。超知能を手に入れた時点で、「悪用」という枠組みは小さすぎます。悪用は人間の悪用者を前提としています。制御不能は、人間がもはや主要な行為者ではなくなることを前提としています。

Amodeiはアライメントが失敗し得ることを知っている。何年も前からそのような発言をしてきた。「より賢いモデルを持つこと」を「モデルが制御されていないこと」より優先する思考は、慎重な人物であっても競争者として語っている証拠だ。正直な順序はその逆である。アライメントと制御が未解決なら、フロンティアでの軍事優位を競うことは、誰が最初に絶滅ボタンを押すかを競うことに等しい。シリンダーに国旗を付けたロシアンルーレットであり、国家安全保障と称して売り出されている。

代わりに何をすべきか

彼のプログラムのうち、現実のより小さな害を標的とする部分は維持しつつ、それを人工超知能勝利のための大義名分にすり替えないようにする。科学が裏付けるバイオ・サイバー分野の上昇をスクリーニングする。近フロンティアの汎用システムの不可逆的なオープンリリースを、ブランディングではなく重大な決定として扱う。チップの輸出政策は、人間が依然として運用するシステム間の通常の軍事バランスに寄与できる。

それから、米国の超情報機関を中国の超情報機関に対する盾にする枠組みを拒否してください。シールドは、人工知能を構築しないという共同の決定です。人工超知能に対する拘束力のある検証可能な禁止であり、コンピューティング ガバナンスと、離反が明らかになるほど厳しい検査が行われます。敵対者は、無制限の代替案のほうが劣悪であると双方が判断できるにもかかわらず、さらに醜い取引に署名してきた。

アモデイのオープンウェイトに関する投稿は、最先端の最高経営責任者が世界をどう順位付けしているかを示す地図として有用だ。チップの密輸、蒸留、検査といった調整ツマミを回したいという。しかし最も重要なツマミは姿を現さない。超知能の構築をやめよ。それが最優先課題にならない限り、残りは安全を装った競争管理にすぎない。