Ang sovereignty objection sa internasyonal na ASI governance ay ang mga desisyon tungkol sa kung aling teknolohiya ang puwedeng paunlarin at i-deploy ng isang bansa ay domestic decisions, ginagawa ng mga pambansang gobyerno na may pananagutan sa kanilang mga mamamayan. Ang isang binding international treaty na naglilimita sa pag-unlad ng AI ay maglilipat ng epektibong awtoridad sa mga desisyong iyon sa isang internasyonal na katawan, o sa veto ng ibang mga bansa. Nilalabag nito ang sovereignty. Parang orihinal ito sa debate tungkol sa AI, pero hindi. Kaparehong argumento ang ginamit laban sa NPT, sa Chemical Weapons Convention, sa Montreal Protocol, at sa bawat pangunahing internasyonal na kasunduan na naglimita sa kalayaan ng mga estado sa mapanganib na teknolohiya. Sa bawat kaso, napagtagumpayan ang argumento. Kapaki-pakinabang ang pag-unawa kung paano.
Nilagdaan pa rin ng 62 bansa ang NPT noong 1968. Narito kung paano ito nangyari, at kung ano ang ibig sabihin nito para sa AI.
Ano talaga ang inaangkin ng argumento ng soberanya
Pinakamalakas ang argumento kapag inilapat sa military technology. Ang mga bansang may tunay na security threats ay may konkretong interes na mapanatili ang kalayaan sa pagkilos sa kanilang military capabilities. Ang pagtali sa kanila sa international restrictions sa AI development sa military contexts ay nangangailangan ng pagtanggap sa mga limitasyon na maaaring hindi tanggapin ng mga kalaban, sa larangang direktang nakaaapekto sa national survival. Ito ang pinakamahirap na bersyon ng sovereignty objection, at katulad ito ng posisyon ng nuclear-armed states sa buong Cold War.
Mas mahina ang argumento kapag inilapat sa civilian AI development. Walang bansa na nakadepende ang national security sa kakayahang magpatakbo ng hindi sinusubaybayang commercial AI training. Mababa ang sovereignty cost ng pagdedeklara at pagsubaybay sa malakihang civilian AI development programs. Madalas na lumalampas nang malayo ang political na paggamit ng sovereignty argument sa mga kaso kung saan talagang lehitimo ang pinagbabatayan na pag-aalala.
Mahalaga ang paghihiwalay ng mga kaso para sa disenyo ng kasunduan. Mga governance frameworks na tumutugon sa mga partikular na aktibidad kung saan totoo ang sovereignty concerns, large-scale AI development programs na may potensyal para sa civilizational-scale impact, ay maaaring idisenyo para iwanang halos hindi naaapektuhan ang civilian at commercial AI, na lubos na nagbabawas sa lakas ng pagtutol.
Paano nalutas ang nuclear sovereignty argument
Hindi inalis ng NPT ang sovereignty objection. Binago lang nito ang anyo nito. Lumikha ang kasunduan ng isang pormal na arkitektura ng sovereign choice: maaaring sumali ang mga bansa at tanggapin ang mga obligasyon sa safeguards, o manatili sa labas ng kasunduan at harapin ang political at economic consequences ng pagiging nasa labas ng international system. Pinayagan ang limang declared nuclear-weapon states na panatilihin ang kanilang mga armas kapalit ng pagtanggap ng mga obligasyon tungkol sa non-proliferation at disarmament. Tinanggap ng mga non-nuclear states ang pagsubaybay sa kanilang civilian nuclear programs kapalit ng garantisadong access sa peaceful nuclear technology at security assurances.
Ang mechanism na nagpatrabaho nito ay ang sovereignty ay napanatili sa form habang substantially constrained sa practice. Ang mga signatories ng NPT ay maaaring sa prinsipyo ay umalis sa treaty, pinapayagan ng Article X ang withdrawal na may 90 days' notice, gaya ng ginawa ng North Korea noong 2003. Ngunit ang political at economic cost ng withdrawal ay substantial. Ang sovereignty argument ay nagsasabing hindi maaaring tanggapin ng mga bansa ang external constraints sa kanilang nuclear choices. Nalutas ito ng NPT sa pamamagitan ng paggawa sa pagpili na formal at visible, habang ginagawang mataas ang cost ng maling pagpili kaya halos lahat ng bansa ay napagpasyahan na mas mabuting sumali.
Ang resulta ay isang treaty na ngayon ay may 191 states parties. Siyam na bansa ang may nuclear weapons. Tatlong bansa lang, ang India, Pakistan, at Israel, ang hindi kailanman sumali sa NPT. Umalis ang North Korea at ngayon ay may armas na. Ang sovereignty objection, na tila sapat na malakas upang pigilan ang anumang may-bisang nuclear governance noong unang bahagi ng 1960s, ay nagbunga ng isang mundo kung saan 191 pamahalaan ang tumanggap ng may-bisang monitoring obligations para sa kanilang nuclear programs.
Paano nalutas ang chemical weapons sovereignty argument
Ang Chemical Weapons Convention (1993) ay nagpapakita ng ibang modelo. Hindi tulad ng NPT na lumilikha ng pormal na two-tier world ng nuclear haves at have-nots, ipinagbabawal ng CWC ang chemical weapons para sa lahat, kasama ang mga major powers na nakipagnegosasyon dito. Tinanggap ng United States at Soviet Union, na may pinakamalalaking chemical weapons stockpiles sa mundo, ang binding obligations na ideklara at sirain ang mga ito sa ilalim ng international supervision.
Ang akomodasyon sa soberanya sa CWC ay ang karapatan ng mga pambansang industriya ng kemikal na magpatuloy sa pagpapatakbo para sa mga layuning sibilyan, sa ilalim ng pagsubaybay. Maaaring mapanatili ng mga bansa ang kanilang mga industriya ng kemikal. Hindi nila mapapanatili ang mga sandatang kemikal. Sinusuri ng Organisation for the Prohibition of Chemical Weapons ang mga deklaradong pasilidad at iniimbestigahan ang mga paratang ng paglabag. Pinapanatili ng mga bansa ang soberanya sa kanilang mga sektor ng kemikal na sibilyan; isinuko nila ang soberanya sa isang partikular na aplikasyon ng mga sektor na iyon.
Mas maaaring ilapat sa AI ang modelong ito kaysa sa modelo ng NPT, dahil ang pag-unlad ng AI ay pangunahing sibilyan at dual-use. Ang kasunduang maghihigpit sa pag-unlad ng pinakamay kakayahang frontier AI systems (yaong lampas sa tinukoy na capability o compute thresholds) habang iniiwan ang komersyal at consumer AI na ganap na unregulated ay susunod sa lohika ng CWC kaysa sa lohika ng NPT. Mas mababa ang sovereignty cost ng ganitong uri ng kasunduan kaysa sa NPT dahil hindi ito lumilikha ng permanenteng hierarchy ng permitted at prohibited capabilities batay sa kung sino ang may ano noong nilagdaan ang kasunduan.
Ang modelo ng ozone layer at scientific consensus
Nalutas ng Montreal Protocol on Substances that Deplete the Ozone Layer (1987) ang pagtutol sa soberanya sa pamamagitan ng ibang mekanismo: ang scientific consensus ang nagpalabas na hindi na mapanatili sa pulitika ang hindi paglahok. Nang malinaw na ang chlorofluorocarbons ang sanhi ng masusukat na pinsala sa ozone layer, at ang ozone depletion ay magdudulot ng masusukat na pinsala sa bawat bansa sa mundo, naging mahirap na ipagtanggol sa domestic politics ang argumento ng soberanya laban sa pagsali sa protocol. Ang mga gobyernong gumamit ng soberanya para maiwasan ang mga restriksyon sa CFC ay kinailangang sagutin kung anong soberanya ang kanilang pinoprotektahan kapag ang resulta ay pinsala sa sarili nilang mamamayan mula sa ultraviolet radiation.
Kasama rin sa Montreal Protocol ang mekanismo ng technology transfer. Nakatanggap ng tulong, parehong pinansyal at teknolohikal, ang mga umuunlad na bansa na pasasagutan sa gastos ng pagtanggal ng mga CFC para mapadali ang pagsunod. Tinugunan nito ang bersyon ng sovereignty argument na nagpapabigat sa mga umuunlad na bansa ng mga problemang nilikha ng mayayamang bansa. Pagsapit ng 2009, nakamit ng Montreal Protocol ang unibersal na ratipikasyon: 197 partido, bawat miyembrong estado ng UN.
Hindi perpekto ang parallel sa AI dahil hindi kasing-unified ng ozone science noong 1987 ang scientific consensus tungkol sa AI existential risk. Pero ang modelo ng Montreal Protocol ay nagmumungkahi na ang mas malinaw at mas publiko na expert consensus tungkol sa AI risk ay makakapagbago nang malaki sa political dynamics ng sovereignty objection. Kapag mas konkreto ang pag-unawa sa panganib, mas hindi na sustainable ang argumento ng sovereignty.
Ano pa rin ang tunay na mahirap
Hindi lang excuse ng mga gobyerno para maiwasan ang inconvenient obligations ang sovereignty objection. Ito ay sumasalamin sa tunay na political constraints. Sumasagot ang mga gobyerno sa domestic constituencies na inaasahan nilang mapanatili ang national capability at freedom of action. Ang mga treaty na nangangailangan sa isang bansa na tanggapin ang mga paghihigpit na hindi pa tinatanggap ng mga karibal ay nahaharap sa patuloy na domestic opposition, gaya ng nangyari sa SALT II treaty sa Estados Unidos matapos ang interbensyon ng Soviet sa Afghanistan noong 1979, nang tumanggi ang Senado na i-ratify ang treaty na may lagda na.
Para sa AI, ang constraint ay pinakamatalim sa US-China relationship. Ang ASI governance treaty na nagbubuklod sa United States ngunit hindi sa China, o na iraratipika ng China nang walang meaningful enforcement, ay gagana bilang unilateral constraint. Ang concern na ito ay madalas na itinataas sa ilalim ng banner ng sovereignty, ngunit ito ay mas precisely participation problem. Ang sovereignty objection ay maaaring matugunan sa pamamagitan ng treaty design. Ang participation problem ay maaari lamang matugunan sa pamamagitan ng diplomacy, sa pamamagitan ng paglikha ng mga kondisyon kung saan parehong US at China ay napagpasyahan na mas mabuting sumali sa binding framework kaysa manatili sa labas nito.
Naipapahayag na ang argumento ng soberanya laban sa arms control bago pa ang bawat pangunahing kasunduan sa kasaysayan. Hindi ito kailanman naging huling salita.
Ipinapakita ng kasaysayan na ang pagtutol sa soberanya laban sa pamamahala ng ASI ay tunay na hadlang na pampulitika na dapat idisenyo nang palibutan, hindi isang pangunahing balakid. Ang mga arkitektura ng kasunduan na nagtagumpay ay nagawa ito sa pamamagitan ng pagpapanatili ng anyo ng soberanong pagpili habang ginagawang sapat na mataas ang halaga ng maling pagpili. Magagamit din ang gayong paraan sa pamamahala ng ASI. Ang hamon ay ang pagbuo ng mga kondisyong pampulitika kung saan napagpasyahan ng mga gobyerno na ang pagsali ay tamang pagpili, na isang usapin ng pag-unawa ng publiko, pinagkasunduang siyentipiko, at patuloy na pagsisikap na diplomatiko, hindi isang usapin kung ang nagbubuklod na pandaigdigang pamamahala ay tugma sa soberanya.