Drop me into 1958 and I do not think I would have hesitated. I would have spent my life trying to keep the world from ending. My foundation would have worked on keeping the United States and the Soviet Union from a thermonuclear war, not out of any special courage, but because that was the fight that decided whether there would be a future to argue about at all. Every other cause sat downstream of it.
Hindi ko nakuha ang laban na iyon. Ang bomba ay itinayo, itinutok, at, hanggang ngayon, hindi na ginamit laban sa lungsod muli pagkatapos ng 1945. Ang mga taong gumawa ng "hanggang ngayon" na iyon, ang mga gumugol ng Cold War sa pagbuo ng test bans, hotlines, at verification regimes na nagpigil sa isang nakakatakot na standoff na maging pangwakas, ay gumawa ng ilan sa pinakamahalagang gawain ng huling siglo. Karamihan sa kanila ay hindi kailanman magiging sikat dahil dito. Ang prevention ay tahimik sa kalikasan. Kapag ito ay gumana, walang nangyari, at ang wala ay mahirap ilagay sa monumento.
Ang parehong hugis, isang bagong sandata
When I say we are living through a new Cold War, I mean the same shape: the United States and China racing toward a technology neither can let the other reach first, that could end the human story if it goes wrong, and that no one racing can honestly claim to control. Swap the hydrogen bomb for artificial superintelligence and you have 1958 and 2026 in one sentence.
Hindi ako nag-iisa sa pakikinig sa echo. Noong Hunyo, sinabi ng direktor ng CIA sa isang madla sa Washington na hindi mali ang tawaging "mga digital na sandatang nuklear."
Ang mga pagkakaiba ay mali ang direksyon
May tunay na pagkakaiba sa noon at ngayon, at ito ang bahaging hindi ako makatulog. Halos lahat ng mga ito ay nagpapahirap, hindi nagpapadali, sa sitwasyon natin. Nananatili sa kamay ng tao ang sandatang nuklear; ang superintelligence hindi. Ang nuclear material ay pisikal, kaya maaari itong minahin at bilangin. Ang inputs sa AI ay chips at code, mas mahirap makita at mas madaling itago, bagaman hindi imposible na pamahalaan. At ibinigay ng Cold War sa mga kalahok nito ang isang bagay na maaaring hindi natin makuha: oras. May mga taon ang mundo para ma-absorb ang Hiroshima, maramdaman ang takot sa tiyan, at magtayo ng mga institusyon bilang tugon. Mas mabilis na nag-uugat ang AI capability kaysa sa anumang institusyong mayroon tayo.
Ano talaga ang napatunayan ng Cold War
Pero winasak ng parehong panahon ang tanging pahayag na pinakamalakas na inaasahan ng mga accelerationist: na hindi kailanman makakapagkasundo ang mga karibal na hindi nagtitiwalaan. Hindi nagtiwalaan ang Washington at Moscow, pero naglagda pa rin sila ng mga kasunduang may bisa at napapatunayan sa arms control, dahil pareho nilang nakita na mas masahol ang walang hanggang karera kaysa sa pantay na patakaran para sa kanila. Ang kawalan ng tiwala ang dahilan ng mga kasunduan, hindi ang hadlang. Kung dalawang gobyerno ang nakahanap ng lohikang ito sa kabila ng sampu-sampung libong warhead na nakatutok sa mga lungsod ng bawat isa, ang tiwalaang pahayag na hindi kailanman magagawa ng Estados Unidos at China ang pareho sa AI ay isang alibi para magpatuloy, na nakabalatkayo bilang realismo.
Bakit umiiral ang Foundation
Ang katumbas ng labang iyon ay dumating sa aking henerasyon, at sa pagkakataong ito narito ako para dito. Tumanggi akong maging bahagi ng henerasyong nagtayo ng sandatang kayang maglayon sa sarili at nagsabi sa sarili, sa buong paglalakbay doon, na wala itong pagpipilian.
Ang mga taong pumigil sa pinakamasama sa Cold War ay ginawa ito sa pamamagitan ng pagpipilit, sa kabila ng mga tutol ng lahat na tinawag silang walang muwang, na may ilang teknolohiya na masyadong mapanganib para iwan sa isang karera. Tama sila noon. Ang tanging gawaing mahalaga ngayon ay maging tama ulit, at maging tama sa tamang panahon.