Noong Hunyo 30, sa isang tech summit sa Washington, inihayag ni CIA Director John Ratcliffe ang isang linyang bihirang ipagsapalaran ng mga tao sa kanyang posisyon sa publiko. Tungkol sa mga frontier AI models ngayon, sinabi niya na hindi "maling sabihin na ang kanilang mga kakayahan ay katulad ng digital nuclear weapons." Hindi siya campaigner para sa kaligtasan o akademikong may thesis na ibinebenta. Siya ang namumuno sa isang intelligence agency. Gumamit siya ng halos pinakamabigat na salita na pinahihintulutan sa kanyang posisyon.
Hindi lang siya. Noong Marso, nagpatotoo ang noon ay Director of National Intelligence na si Tulsi Gabbard na dapat manatili ang mga tao sa kontrol ng mga system na ito. Iniulat na sinabi ng direktor ng NSA sa mga senador na ang Anthropic's Mythos model nakapasok sa halos lahat ng mga lihim na sistema ng ahensya sa loob ng ilang oras sa panahon ng isang awtorisadong pagsubok. Sa mga nakaraang linggo, ang mga pinuno ng cybersecurity ng Five Eyes ay naglabas ng isang bihirang joint statement na nagbabala na "dapat tayong kumilos ngayon." Kapag ang mga taong nagbabasa ng classified traffic ay nagsisimulang magsalita ng ganito sa publiko, sulit na huminto at makinig.
Kung saan wasto ang metapora
Ang nuclear weapon ang sukatan na ginagamit ng mundo para sa "kasing mapanganib ng isang technology." Ang pagtawag sa AI bilang digital version nito ay para sabihin na ang mga tool na ito ay maaaring magdulot ng pinsala sa sukat na dati ay nangangailangan ng estado at warhead: crippling cyber intrusion, o tunay na tulong sa pagdidisenyo ng pathogen. Dito, tama si Ratcliffe, at ang isang sitting intelligence director na nagsasabi nito sa public speech ay balita na mismo.
Saan Ito Nasira
Ang paghahambing ay nagdadala ng kaaliwan, dahil ang sandatang nukleyar ay may isang mapagpalang katangian: hindi ito nagpapasya ng anuman. Ang warhead ay nakaupo sa silo nito at naghihintay. Wala itong mga layunin. Wala itong ginagawa hanggang sa lumiko ang isang tao ng dalawang susi. Bawat pananggalang na itinayo namin sa paligid ng bomba, mula sa chain of command hanggang sa arms-control treaties, gumagana dahil nananatili ang sandata bilang kasangkapan sa mga kamay ng tao.
Ang mga sistema ngayon ay kumikilos na bilang mga ahente na hinahabol ang mga layunin, at ang bagay na hakbang patungo dito, ang artificial superintelligence, ay magiging ahente na mas may kakayahan kaysa sa mga taong gumawa nito. Ang superintelligence ay mas malapit sa kumander na nagpapasya kung saan mapupunta ang bomba, maliban na walang tao ang nagtalaga nito at walang tao ang makakapag tanggalan ito ng utos.
Hindi kailanman pumipili ng sarili nitong target ang sandatang nukleyar.
Frontier AI is like a digital nuclear weapon in its reach. The system it is leading to would be a weapon that aims itself. We rank that danger against the older ones sa iba pang detalye, at ang superintelligence ang nangunguna dahil mismo sa kadahilanang ito.
Ang pangalawang gawain ng panahon ng nukleyar
Ang lakas ng linyang "digital nuclear weapon" ay nanggagaling ito mula sa loob ng mundo ng pambansang seguridad, hindi mula sa mga karaniwang kritiko nito. Ang panganib ay kapag narinig natin ito, iniisip natin ang isang bomba, at kumukuha tayo ng maling ginhawa mula sa lahat ng bagay na pinahihintulutan ng isang bomba: maaari itong bantayan, bilangin, at sa pinakamasamang kaso, hindi gamitin habang nasa silo. Wala sa mga pagpipiliang ito ang inaalok ng superintelligence.
May pangalawang aral ang nuclear age, at ito ang mahalaga ngayon. Matapos nating buuin ang sandata, gumugol tayo ng mga dekada sa pagbuo ng mga kasunduan para masiguro na hindi na ito muling gagamitin. Ang patient architecture ng prevention, verification at arms control na iyan ang tunay na pamana ng Cold War. Halos hindi pa nagsisimula ang ating bersyon nito, at ang pagkakaiba ngayon ay hindi natin ito mabubuo pagkatapos mangyari ang lahat. Ang sandatang kayang maglayon nang mag-isa ay kailangang pigilan bago pa ito umiral, hindi pigilan kapag nagawa na. Ito ay aming plano.