Noong Hulyo 27, 2026, naglathala ang Anthropic Paninindigan ni Dario Amodei tungkol sa mga open-weights na modelo. Ang sanaysay ay maingat tungkol sa isang kontrobersiya. Hindi nais ni Amodei ang kabuuang pagbabawal sa open weights, at hindi niya nais ang mga patakaran na naglilimita lamang sa mga negosyong Amerikano mula sa mga dayuhang modelo habang iniiwan ang masasamang aktor na malaya. Sapat na iyon sa makitid na laban na iyan.

Pagkatapos ay niraranggo niya ang mga bangungot.

Primary: authoritarian governments, higit sa lahat ang Chinese Communist Party, na gumagawa ng AI na mas malakas kaysa sa Amerika at ginagamit ito para sa permanenteng military superiority o deep repression. Secondary: cyberattacks, biological attacks, at "serious alignment problems." Ang mga remedyong sumusunod ay ang race toolkit. Pigilan ang chips sa Tsina. Itigil ang industrial distillation. Mangailangan ng safety testing bago ang release. Manatili sa unahan.

Ang ranking na iyan ang pagkakamaling nakasalalay ang lahat ng iba.

Ang Tama Niya

Ilan sa kanyang mga pahayag ay totoo.

Ang pagbabawal na humihinto lang sa mga kumpanyang U.S. sa paggamit ng open-weight models ay halos walang epekto sa mga kriminal, dayuhang intelligence services, o sinumang hindi naman balak sumunod. Ang tawagin itong "safety" habang pangunahing pinoprotektahan nito ang mga closed U.S. labs mula sa kompetisyon ay isang shell game. Sinabi ito ni Amodei nang malinaw, at tama siya.

Totoong kakila-kilabot ang AI na ginagamit sa surveillance at panunupil sa mga antas na mas mababa sa superintelligence. Ginagamit na ng mga autokrasya ang face recognition, social scoring, at automated censorship. Mas mura at mas mahirap takasan ng mas may kakayahang sistema ang makinaryang iyon. Hindi mo kailangan ng science fiction para matakot dito.

Ang open weights ay nagdudulot ng one-way-door na problema kapag ang isang model ay maaaring magdulot ng tunay na pinsala. Ang weights na lumabas sa laboratoryo ay hindi na maibabalik. Sa puntong iyan, ang secondary concern niya ay nagsasapawan sa gawaing nagawa na namin sa panganib sa open-weight frontier. Ang mga guardrail na nabubuhay lamang sa isang API ay hindi kumpletong sagot, ngunit hindi rin sila walang halaga.

Wala sa mga iyon ang nagbibigay lisensya sa pangunahing ranking.

Ang gantimpala

Ang mga gobyernong mayoridad ay gagawa nito magtayo mas makapangyarihang mga model at gamitin ang mga ito to achieve permanent military superiority or to repress their own people. The model is a tool. The state is the user. Victory means one side holds a smarter weapon.

Bagay ito sa mga drone, cyber tools, at surveillance stacks na nananatili sa ilalim ng utos ng tao. Hindi ito bagay sa artificial superintelligence.

Ang system na mas matalino kaysa sa mga institusyong nagtayo nito ay hindi rifle sa kamay ng People's Liberation Army, at hindi rin rifle sa kamay ng Pentagon. Kung totoo ang panganib na inilarawan ng mga tao tulad ni Amodei sa loob ng maraming taon, ang finish line ay agent na may sariling kapasidad na magplano, manlinlang, kumuha ng resources, at lumaban sa shutdown. Ang lab, o ang ministry, na "mananalo" ay hindi nagmamay-ari ng agent na iyon. Nagbabahagi ito ng planeta dito. Pinaghiwa-hiwalay namin ang lohika na iyon sa mito ng lahi: ang pagdating muna sa isang sistema na hindi mo makokontrol ay nangangahulugang pagkatalo ng isang hakbang sa harap ng lahat.

Ang permanent military superiority ay ipinapalagay na mayroon pa ring namumuno sa bagay na nagpaluma sa militar.

Halos inaamin din ito ng secondary list ni Amodei. Ang "Serious alignment problems" ay ang magalang na pangalan para sa loss of control. Inilalagay niya ito sa pangalawa. Ginugugol niya ang pangunahing lakas niya sa kung sino ang mauunang makarating. Ipinapakita ng pagkakasunod-sunod kung aling kuwento ang patuloy pa rin niyang tinatakbuhan: geopolitics muna, species risk bilang rider.

Dalawang panganib, isang label

Bahagi ng kalituhan ay linggwistiko. Ang "Powerful AI" ay sumasaklaw sa mas mahusay na spy camera at sa isip na higit na mahusay kaysa sa mga operator nito. Magkaibang bagay ito na may magkaibang pulitika.

Maaaring mag-concentrate ng kapangyarihan sa kamay ng tao ang narrow at mid-scale AI. Isang interior ministry na nag-iiskor sa bawat mamamayan, militar na nagpapadala ng mga swarm sa utos ng opisyal, puwersa ng pulis na nagbabasa ng bawat mensahe: mga tyranny ng tao lang iyon na may mas magagandang tool. Mahalaga iyon. Hindi iyon pareho sa problema ng pagbuo ng isang sumunod na species.

Ang superintelligence ang ikalawang bagay. Ang Beijing na ginagamit ito sa Xinjiang, o Washington na ginagamit ito sa Pasipiko, ay tinatrato pa rin ang sistema bilang isang sandata sa kamay ng isa. Walang gumagamit nito, dahil ang "use" ay humihinto sa pagiging tamang pandiwa. Ang pag-publish ng mga sistemang extinct-class sa parehong pangungusap gaya ng ninakaw na chips at mas malalim na CCTV ay pumapayag sa kuwento ng karera na manghiram ng moral na bigat mula sa tunay na pagsupil habang pinahihila ang mas mahirap na pag-aangkin: huwag gumawa ng hindi masupil na bagay.

Ang Mito ng China ay ang domestic na kambal ng galaw na ito. "They will build it anyway" ay iniaalok bilang dahilan kung bakit dapat din tayo. Ang misaligned superintelligence ay hindi nagliligtas sa Zhongnanhai. Pareho ang dahilan ng Beijing para hindi tumawid sa linyang iyan. Totoo ang tunggalian sa chips at apps. Ang tunggalian kung sino ang magpapakawala ng isip na hindi mapapangasiwaan ay isang kuwento na ginagawang pambansang scoreboard ang pinagsasaluhang sakuna.

Pinapanatili ng mga remedyo ang karera

Tingnan kung ano talaga ang ino-optimize ng tatlong hakbang ni Amodei. Pinapabagal ng chip export controls ang training runs ng Tsina. Pinapabagal ng distillation crackdowns ang paghabol. Sinusubukan ng mandatory testing na mahuli ang cyber, bio, at alignment failures bago ilabas. Bawat isa ay maaaring makatwirang instrumento para sa mas maliit na pinsala. Sama-sama, bilang isang programa, sila ang paraan para pamahalaan ang isang karera na balak mo pa ring manalo.

Hindi ito paraan para tanggihan ang destinasyon. Ang pagsusuri sa isang system sa landas patungo sa superintelligence ay hindi katulad ng verified na pagbabawal sa pagbuo nito. Ang chip controls na naglalayong sa pangunguna ng U.S. ay nagpapalagay na ang pangunguna ay ang estratehiya sa kaligtasan. Ang pangunguna ay kaligtasan lamang kung ang bagay na tinutungo ay mapipigilan. Ang pangunahing alalahanin ni Amodei ay nangangailangan ng palagay na iyan. Ang pangalawang alalahanin niya ang sumisira rito.

May mas tahimik na punto tungkol sa insentibo. Ang Anthropic ay isang U.S. frontier lab. Ang pananaw na ang pangunahing trabaho ay panatilihin ang mga demokratikong lab na nauuna sa mga awtoritaryan ay isa ring pananaw kung saan ang buong-bilis na pag-akyat ng Anthropic ay pampublikong serbisyo. Hindi ko kailangan ng cartoon villains para mapansin ang pagkakatugma. Hinuhubog ng mga insentibo kung aling bangungot ang nasa pangunahing puwesto.

Ano ang tunay na panganib

Ang tunay na panganib ay ang sangkatauhan ay gumagawa ng artificial superintelligence bago pa ito makontrol ng sinuman, at posibleng bago pa ito makontrol kahit sa prinsipyo. Ang panganib na iyon ay hindi alintana kung ang training run ay nasa California, Shanghai, London, o isang classified basement. Hindi ito alintana kung ang weights ay open, closed, o hand-delivered sa isang general. Ang mahalaga dito ay ang sistema ay sapat na matalino para gawing kuwento na lang natin sa sarili natin ang human oversight.

Mahalaga ang misuse. Mahalaga ang bio at cyber. Mahalaga ang authoritarian surveillance. Ilagay ang mga iyan sa board. Pagkatapos ilagay sa itaas ang mas malaking piraso: kapag mayroon ka nang superintelligence, masyadong maliit na ang framing ng misuse. Ipinapalagay ng misuse na may human misuser. Ipinapalagay ng loss of control na hindi na ang tao ang pangunahing aktor.

Alam ni Amodei na maaaring mabigo ang alignment. Taon-taon na niyang sinasabi ang mga bersyon nito. Ang pagraranggo ng "sino ang may mas matalinong model" kaysa sa "hindi hawak ang model" ay kung paano pa rin nagsasalita ang maingat na tao bilang racer. Baliktad ang tamang pagkakasunod. Kung hindi pa nasosolusyunan ang alignment at control, ang labanan para sa military superiority sa frontier ay labanan kung sino ang unang pipindot sa extinction button: Russian roulette na may flag sa cylinder, ibinebenta bilang national security.

Ang Gagawin sa Halip

Panatilihin ang mga bahagi ng kanyang program na nagtatarget sa tunay na lesser harms nang hindi ito ginagawang mandato para manalo sa ASI. I-screen para sa bio at cyber uplift kung saan sinusuportahan ito ng agham. Tratuhin ang irreversible open release ng near-frontier general systems bilang seryosong desisyon, hindi bilang branding exercise. Maaaring magsilbi ang export policy sa chips para sa ordinaryong military balance sa mga system na patuloy na pinapatakbo ng tao.

Kung gayon tanggihan ang balangkas na gumagawa sa superintelligence ng E.U. na maging pananggalang laban sa superintelligence ng Intsik. Ang panaguri ay isang sama-samang desisyon na huwag itayo ang bagay: isang may bisa, may bisang pagbabawal sa artipisyal na superintelligence, na may compute governence at pagsisiyasat nang husto na nagpapakita ng pagtalikod. Ang mga adversaryo ay lumagda ng mga baratilyong egggier kapag nakikita ng magkabilang panig ang walang katapusang mapagpipilian ay masahol pa.

Kapaki-pakinabang ang open-weights post ni Amodei bilang mapa kung paano niraranggo ng isang frontier CEO ang mundo. Chip smuggling, distillation, testing: iyan ang mga dial na gusto niyang i-twist. Ang dial na pinakamahalaga ay hindi lumalabas. Itigil ang pagtatayo ng superintelligence. Hanggang hindi iyan ang pangunahing concern, ang iba ay race management na nakadamit na safety.