Self-regulation. Ang off switch. Masyadong kumplikado para sa gobyerno. Tsina. Ang apat na argumento na madalas gamitin laban sa mga patakaran, at kung ano ang mali sa bawat isa.
Bago ang batas sa seatbelt, sinabi ng industriya ng sasakyan na sisira sa benta ng kotse ang mga safety mandate. Bago ang mga paghihigpit sa tabako, sinabi ng industriya na walang karapatan ang gobyerno na regulahin ang mga pagpipilian ng mga mamimili. Bago ipinagbawal ang mga CFC, sinabi ng industriya ng kemikal na imposible sa ekonomiya ang phase-out. Hindi ito mga posisyong nasa gilid. Isinulong ang argumento ng mga kredibleng tao sa mga kredibleng publikasyon, na may mga kredibleng katwiran.
Ang mga argumento laban sa ASI ay sumusunod sa parehong pattern. Ang mga ito ay waring makatuwiran sa unang pakikinig.
Ang nagpapakilala sa ASI governance mula sa mga naunang kaso ay ang taya. Nilason ng leaded gasoline ang milyun-milyon; hindi nito binantaan ang sibilisasyon. Ang superintelligence na walang makokontrol ay maaaring walang panahon para sa pagwawasto. Bawat pagtutol sa ASI governance ay dapat suriin hindi lamang sa mga merito nito nang mag-isa, kundi sa gastos ng pagtanggap nito kung mali pala ito.
Nasa ibaba ang apat na objections na madalas nating nararanasan.
May mga safety team ang mga kumpanyang gumagawa ng frontier AI, naglalathala sila ng safety research, at nahaharap sila sa reputasyonal na kahihinatnan sa mga sakunang sakuna. Sapat na ang boluntaryong pangako at market incentives. Ang binding regulation ay magpapabagal lang sa progreso nang hindi nagpapabuti sa kaligtasan.
Ang parehong argumento ay ginawa tungkol sa tobacco, leaded gasoline, financial derivatives, at social media. Sa bawat kaso, hindi tugma ang structural interest ng industriya sa paglago sa sapat na self-regulation. Ang isang kumpanyang kusang nagpapataw ng mahigpit na safety requirements habang hindi ginagawa ito ng mga kakumpitensya ay mawawalan ng market share. Hindi nagbabago ang dinamikong iyan dahil mas sopistikado ang teknolohiya. Ang self-regulation nang walang binding rules ay isang lobbying position, hindi isang safety strategy.
Kung magiging mapanganib ang isang AI system, kayang patayin ito ng mga tao. Tinitiyak ng off switch ang pangangasiwa ng tao sa bawat yugto ng pagbuo. Ang senaryo kung saan nakakatakas ang AI sa kontrol ng tao ay science fiction lamang.
Ipinapalagay nito na ang isang sapat na may kakayahang AI system ay mananatiling passive habang nagdedeliberate ang mga tao tungkol sa hinaharap na operasyon nito. Ang isang sistema na sapat na advanced para magdulot ng existential risk ay may kakayahang imodelo ang mga intensyon ng mga operator nito at gumawa ng mga hakbang para mapanatili ang patuloy na operasyon nito kung kailangan ito ng mga layunin nito. Para sa isang sistema na tumatakbo sa bilis ng makina, ang pagitan sa pagitan ng "maaaring ito ay problema" at "ito ay isang hindi na maibabalik na problema" ay maaaring hindi magbigay ng pagkakataon para sa tugon ng tao.
Masyadong teknikal na kumplikado ang mga AI system para sa mga mambabatas na epektibong pamahalaan. Ang mabuting hangarin ngunit teknikal na hindi alam na regulasyon ay magdudulot ng malubhang pinsala nang hindi nababawasan ang panganib. Iwanan na lang sa mga engineer na gumagawa ng mga system.
Kinokontrol ng mga gobyerno ang nuclear fission nang hindi hawak ng mga mambabatas ang degree sa physics. Pinamamahalaan nila ang pharmaceutical chemistry nang hindi nangangailangan ng biochemistry PhD. Ang mga kasanayang kailangan para sa ASI governance ay institution-building, treaty design, standards-setting, at accountability mechanisms, lahat ng bagay na patuloy na ginagawa ng mga gobyerno. Ang pahayag na ang AI ay masyadong teknikal para i-regulate ay ang argumento na dapat pamahalaan ng mga kompanyang gumagawa nito ang AI. Ito ay isang commercial argument, hindi teknikal.
Ang Tsina ay namumuhunan nang malaki sa artipisyal na katalinuhan. Tinukoy ng gobyerno ng Tsina ang pamumuno sa artipisyal na katalinuhan bilang pambansang prayoridad na estratehiko at naglaan ng daan-daang bilyong dolyar upang makamit ito. Kung pabagalin ng Estados Unidos o Europa ang pag-unlad ng artipisyal na katalinuhan sa pamamagitan ng mga balangkas ng pamamahala, mauunahan ng Tsina ang mundo sa pag-abot ng artipisyal na pangkalahatang katalinuhan. Mas masahol ang mundo kung mauuna ang Tsina sa artipisyal na pangkalahatang katalinuhan kaysa sa mundo kung mauuna ang Kanluran. Samakatuwid, hindi kami maaaring bumagal.
Ito ang pinaka-kaugnay na bersyon ng argumento ng Tsina. Ang tanong ay kung ito ba'y makaliligtas sa masusing pagsusuri.
Naniniwala kami na hindi, dahil sa anim na magkakaibang dahilan. Tinutugunan ang bawat isa sa ibaba. Sama-sama, hindi nito inaalis ang competitive dimension ng pagpapaunlad ng AI, na totoo naman. Ipinapakita lamang nito na ang argumento tungkol sa China, gaya ng karaniwang ginagamit, ay hindi nagbibigay ng gabay at walang estratehikong layunin maliban sa pagbibigay-katwiran sa kawalan ng anumang pamamahala.
Ang karaniwang larawan ng alternatibo ay ang Kanluran ang mananalo sa karera at gagamitin nang mabuti ang pangunguna. Ang tunay na alternatibo ay anumang kompanya, kahit saan, ang gumagawa ng artificial superintelligence. Tiyak na kamatayan iyan.
Ang pangunahing palagay sa argumento tungkol sa Tsina ay makikinabang ang Tsina kung ito ang unang makabuo ng superintelligence na hindi nito makokontrol. Hindi ito sandatang magagamit ng Tsina laban sa Estados Unidos. Isa itong ahente na hinahabol ang sarili nitong mga layunin, na maaaring hindi tugma sa kaligtasan ng tao sa Beijing tulad ng sa San Francisco.
Nasa planetang ito rin ang Tsina. May mga anak at apo rin ang mga lider ng Tsina. Ang senaryo kung saan gagawa ang Tsina ng hindi makontrol na superintelligence at gagamitin ito bilang geopolitical tool laban sa Kanluran ay nangangailangan ng paniniwala na nalutas na ng liderato ng Tsina ang isang control problem na inilalarawan ng pinakamahuhusay na mananaliksik sa mundo bilang hindi pa nalulutas. Nangangailangan din ito ng paniniwala na iririsgo ng mga lider ng Tsina ang pagkawasak ng kanilang sariling sibilisasyon para sa geopolitical na kalamangan. Zero ang ebidensya para sa alinmang paniniwala.
Noong 1945 ay may monopolyo ang Estados Unidos sa nukleyar. Noong 1949 ay nakabuo na ng mga sandatang nukleyar ang Unyong Sobyet. Sa loob ng apat na taon, ang dalawang pinakamakapangyarihang magkalaban sa mundo, na may ganap na magkasalungat na sistemang pampulitika, aktibong proxy wars, at tunay na pagtitiwalaan, ay nagsimula nang magkontrol sa mga sandatang nukleyar.
Dumating ang Limited Test Ban Treaty noong 1963. SALT I noong 1972. Ang INF Treaty noong 1987. START noong 1991. Napagkasunduan ang mga kasunduang ito sa isang estado na tinawag ng US leadership na "evil empire," napatunayan sa pamamagitan ng inspection regimes, at gumana ang mga ito. Kung nagawa ang verified arms control sa Soviet Union noong kasagsagan ng Cold War, ang argumento na hindi ito makakamit kasama ang China ay hindi kapani-paniwala. Umiiral ang precedent. Ang mga pamamaraan ay alam na.
Nilagdaan ng China ang Bletchley Declaration noong Nobyembre 2023, ang unang international agreement na kinikilala na ang advanced AI ay nagdudulot ng potentially catastrophic risks. Lumahok ang China sa Seoul AI Safety Summit noong 2024. Naglabas ang China ng sarili nitong ASI governance regulations, kasama ang mga requirement para sa algorithmic transparency, content labeling, at safety evaluations ng frontier models bago i-deploy.
Ang larawan ng Tsina bilang isang rogue actor na ayaw makipag-ugnayan sa pamamahala ng ASI ay hindi tama sa katotohanan. May matibay na dahilan ang Tsina para gustuhin na maging maayos ang pag-unlad ng AI: ang pamunuan nito ay hindi immune sa existential risk, ang ekonomiya nito ay nakadepende sa teknolohikal na katatagan, at ang isang pandaigdigang sakuna sa AI ay sisira sa kasaganaan na itinayo ng apat na dekada ng reporma. May pundasyon para sa pakikipag-ugnayan. Ang kailangan ay ang internasyonal na balangkas na ginagawang kongkreto ito.
Ang lohika ng “kailangan nating magmadali para manatiling nangunguna” ay ipinapalagay na ang pagiging una ay nagbibigay ng kakayahang kontrolin ang kinalabasan. Ngunit ang kabaligtaran ang totoo: habang mas mabilis ang pag-unlad, sa ilalim ng competitive pressure at pinuputol ang mga sulok, mas maliit ang tsansang ligtas ang resultang sistema, kahit sino pa ang gumawa nito.
Ang US lab na nagmamadali patungo sa ASI dahil sa kompetisyon at walang sapat na safety evaluation ay hindi gumagawa ng ligtas na ASI na nagsisilbi sa interes ng US. Gumagawa ito ng hindi ligtas na ASI na nagbabanta sa lahat, kasama ang Estados Unidos. Ang competitive framing ay eksaktong naghihikayat sa mga gawi sa pag-unlad na nagpapataas ng posibilidad ng loss of control. Ang race dynamic ay nagpapabilis nang eksakto sa kinalalabasan na kinatatakutan ng lahat.
Isang paulit-ulit na pagtutol sa AI treaties ay hindi ito maverify. Mas mahina ang claim na ito kaysa sa hitsura nito. Ang hardware na kailangan para i-train ang frontier AI models ay dumadaan sa isa sa pinakakonsentradong chokepoint ng anumang teknolohiya sa kasaysayan.
Halos lahat ng cutting-edge AI chips ay ginagawa ng TSMC. Ang ASML ang gumagawa ng tanging lithography machines na may kakayahang gumawa ng mga chips na iyon. Ang NVIDIA ang nagdidisenyo ng dominanteng GPU architecture. Ang lahat ng tatlong kompanya ay nasa Allied countries o nasa ilalim ng Allied export control jurisdiction. Sinusubukan na ng gobyerno ng United States na limitahan ang daloy ng advanced AI chips papunta sa China sa pamamagitan ng export controls. Ang isang treaty-based compute monitoring regime ay pormalisahin at palalawakin ang ginagawa na unilaterally. Ang verification ay isang engineering problem. Ang mga engineering problems ay may mga solusyon.
Ang pinakamalalim na problema sa China argument ay ang real-world function nito, hindi ang katumpakan nito tungkol sa China. Ginagamit ang argumento para bigyang-katwiran ang walang ginagawa: walang domestic regulation, walang international engagement, walang safety requirements, walang liability frameworks, walang governance ng anumang uri.
Kung sagot sa bawat mungkahi tungkol sa AI safety ay "pero ang China," walang aksyon na magagawa kailanman. Ito ay isang veto na nakabalatkayo sa wika ng geopolitics. Pinaglilingkuran nito ang interes ng mga kumpanyang nagmamadaling buuin ang AGI, na nakikinabang sa isang pulitikang kapaligiran na lubos na naparalisa ng competitive anxiety kaya't walang binding rules na maisasabatas. Ginagamit ang China argument bilang estratehiya para maantala ang kinakailangang regulasyon.
Ang ilan sa mga pinakatanyag na pahayag laban sa pamamahala ng superintelligence ay mga sikolohikal na taktika.
Ito ay learned helplessness na nakadamit bilang realism. Kung fixed na ang resulta, walang saysay ang pagsisikap, kaya humihinto ka sa pag-oorganisa. Tinatawag ng mga historyador ang malapit na pinsan nito na "false finality": tratuhin ang isang buhay na political choice na parang naayos na para hindi na subukan ng audience. Tinawag ding inevitable ang nuclear weapons para sa bawat estado na kayang bayaran ang mga ito. Karamihan ay hindi nakuha ang mga ito. Tinawag na imposible ang Montreal Protocol hanggang sa hindi na ito imposible.
Ang isang teknolohiya ay hindi maiiwasan maliban kung patuloy na pipiliin ng mga tao na buuin ito at tumanggi na magbigkis sa isa't isa. Ito ay isang pagpili, hindi batas ng physics. Ang mga taong nagsasabing "inevitable" nang pinakamalakas ay madalas naniniwalang sila ang makikinabang sa iyong pagiging pasibo.
Kung patuloy na magtatayo ang isang karibal at makakarating sa superintelligence, hindi sila magtatapos na may hawak na sandatang wala tayo. Magtatapos sila na may hawak na isang system na walang makokontrol, kasama na sila. Kung tayo rin ang gumawa nito ay hindi sila titigil. Mas lalo lang nitong pinapataas ang posibilidad ng parehong hindi nakokontrol na system. Kung gusto mong hindi sila magpatuloy, dapat kasama sila sa paghinto, at kailangan mong makapag-verify. Ang pagbilis ng pagtatayo ay hindi iyan nagagawa.
Lagyan ng label ang tao para hindi mo na kailangang sagutin ang claim. Tawagin ang isang tao na tagapagpahiwatig ng kapahamakan at iniimbitahan ang silid na balewalain ang argumento bilang isang uri ng personalidad. Ginamit na rin ang parehong paraan laban sa seatbelts, tobacco limits, at climate science. Ang pagtawag ng pangalan ay hindi isang safety case.
Pag-asa sa awtoridad nang walang awtoridad. Marami sa mga taong pinakamalapit sa gawain, kasama sina Geoffrey Hinton at Yoshua Bengio, ay nagsabi na totoo ang panganib at hindi sapat ang pamamahala rito. Nasa loob ng mga kumpanya ang mga internal safety team na ang insentibo ay ang pagpapadala ng produkto. Ang "Maniwala kayo sa amin" ay hindi pagpapatunay. Ang pagpapatunay ay inspektor, threshold, at parusa sa pandaraya.
Isa pang anyo ng conditioned passivity. Kapag sarado na ang window, puwede mong laktawan ang mahirap na gawain ng pulitika. Mabilis ang galaw ng capability. Bukas pa ang treaty work, at dumadaan pa rin ang frontier training sa maikling listahan ng chipmakers at fabs. Hindi pareho ang late at over. Ang pag-asta na parang over na ito ang dahilan kung bakit nagiging over.
Ang United States at ang Soviet Union ay nagkumpitensya nang matindi sa bawat dimensyon ng kapangyarihan noong Cold War at sabay na nagtayo ng arms control architecture na pumigil sa nuclear annihilation. Ang dalawang bagay ay magkakasamang umiral dahil kinilala ng magkabilang panig na ang ilang resulta ay mas masahol para sa lahat, anuman ang nagdulot nito.
Ang parehong lohika ay nalalapat sa artipisyal na katalinuhan. Maaaring makipagkumpitensya ang Estados Unidos at Tsina sa mga aplikasyon ng artipisyal na katalinuhan, sa pag-deploy sa ekonomiya, at sa pananaliksik at pag-unlad, habang sabay na sumasang-ayon na ang ilang kategorya ng pag-unlad ng artipisyal na katalinuhan (partikular ang mga sistema na lumalampas sa katalinuhan ng tao sa lahat ng larangan at hindi mapapatunayan ang pagkontrol) ay hindi dapat itayo ng alinmang panig nang walang multilateral na balangkas ng pagpapatunay.
Ito mismo ang posisyon na kinuha, nang matagumpay, sa mga sandatang nuklear. Ang mga taong nakipagnegosasyon sa NPT at sa mga kasunduan sa SALT ay hindi mga walang muwang na idealista tungkol sa intensyon ng Sobyet. Sila ay mga realista na may matalas na ulo na naunawaan na ang magkabilang pagkalipol ay hindi sa interes ng alinmang panig, anuman ang ideolohiya.
Itinataguyod namin ang parehong hard-headed realism tungkol sa AI. Parehong kinakaharap ng China at United States ang parehong existential risk mula sa superintelligence na walang makakontrol. Ang isang treaty na pumipigil sa pareho na itayo ito nang walang sapat na safety verification ay nagsisilbi sa interes ng pareho. Mahirap ang negosasyon. Ang alternatibo (isang race na itayo ang pinakamahalaga at posibleng pinakamapanganib na teknolohiya sa kasaysayan nang walang governance at walang safety verification) ay mas masahol para sa lahat, kasama na ang mga partido na nagsasabing gusto nilang manalo.
Sumali sa mga nagpapatibay ng kaso para sa pamamahala bago pa maging huli ang lahat.