Ano ang Global South
Nais Mula sa Internasyonal
Pamamahala ng ASI.

Nang tapusin ng 2023 Bletchley AI Safety Summit ang joint declaration tungkol sa frontier AI risks, 28 bansa ang pumirma. Wala sa mga pumirma ang India, Brazil, Indonesia, Mexico, Saudi Arabia, Nigeria, at karamihan sa kontinente ng Africa. Kinakatawan ng mga bansang ito ang malaking bahagi ng populasyon, economic output, at political weight ng mundo sa mga international institution. Anumang ASI governance framework na nakakakuha ng partisipasyon ng mga Kanluraning bansa at Tsina habang hindi kasama ang grupong ito ay may hindi kumpletong mandato at legitimacy problem na lalala pa sa paglipas ng panahon.

Ang mga balangkas na dinidesenyo, ang mga institusyong iminumungkahi, at ang wika ng kasunduang binubuo ay sumasalamin sa mga priyoridad ng mga bansang sabay na nangunguna sa pag-unlad ng AI at nangunguna sa pagtataguyod ng pamamahala. Ang iba pang bahagi ng mundo ay halos hindi pinapansin. Ipinapakita ng kasaysayan na ang ganitong paraan ay lumilikha ng mga balangkas na hindi nagtatagal.

Hindi ito isang bagong problema. Lahat ng pangunahing kasunduan sa pamamahala ng teknolohiya ay nakaharap na rito, at ang mga kasunduang nakamit ang tunay na malawak na partisipasyon ay nalutas ito sa pamamagitan ng malinaw na mga akomodasyon para sa mga alalahanin ng mga bansa na hindi pangunahing arkitekto ng balangkas.

Ang patuloy na sinasabi ng mga umuunlad na bansa tungkol sa pamamahala ng teknolohiya

Pare-pareho ang mga alalahanin ng mga developing countries tungkol sa international technology governance frameworks sa maraming domain, mula sa nuclear energy hanggang sa ozone depletion hanggang sa intellectual property. Hindi hindi makatwiran ang mga alalahaning ito, at hindi kailangang sang-ayunan ang bawat bersyon ng mga ito para kilalanin ang kanilang political importance.

Ang isyu ng pagkakapantay-pantay ay ang mga problemang tinutugunan ng mga balangkas ng pamamahala sa teknolohiya ay pangunahing nilikha ng mayayamang bansa na may advanced na teknolohiya. Ang mga paghihigpit na ipinapataw ng mga balangkas na ito ay nalalapat sa lahat ng bansa. Ang epekto ay ang mga umuunlad na bansa ang nagdadala ng gastos para sa mga problemang hindi nila sanhi at isinasakripisyo ang mga opsyon sa pag-unlad na na-exercise na ng mayayamang bansa bago ipinataw ang mga paghihigpit. Ipinagpaliban ng NPT ang nuclear status quo noong 1968; sumang-ayon ang mga hindi nuclear na estado na huwag bumuo ng mayroon na ang mga nuclear na estado. Hiniling ng Montreal Protocol sa lahat ng bansa na ihinto ang CFCs habang naitayo na ng mayayamang bansa ang kanilang ekonomiya sa refrigeration at air conditioning na nakadepende sa CFC. Nanganganib ang mga balangkas ng pamamahala ng ASI sa parehong dinamika: ang mayayamang bansa na nagtayo ng kanilang ekonomiya sa mga aplikasyon ng AI na binuo nila nang walang hadlang sa pamamahala ay humihiling sa mga umuunlad na bansa na tanggapin ang mga paghihigpit na sana ay nalapat sa mga aplikasyong iyon.

Kasama rito ang alalahanin sa pag-access. Karaniwang hiniling ng mga umuunlad na bansa, sa mga negosasyon sa pamamahala ng teknolohiya, ang garantisadong pag-access sa mga kapaki-pakinabang na gamit ng teknolohiyang pinamamahalaan. Ang mga partido ng NPT na hindi nukleyar ay nakatanggap ng garantisadong pag-access sa mapayapang teknolohiyang nukleyar. Ang mga partido ng Montreal Protocol ay nakatanggap ng pag-access sa mga alternatibo ng CFC sa subsidiyadong presyo. Ang mga umuunlad na bansa na nag-iisip ng pakikilahok sa pamamahala ng ASI ay magtatanong kung anong positibong benepisyo ang ibinibigay ng pagiging miyembro.

Ang representation concern ay istruktural. Ang mga internasyonal na institusyon ay dinisenyo ng mga bansang nagpupulong sa mga ito. Ang governance frameworks na ginagawa nila ay sumasalamin sa mga priyoridad at threat models ng mga bansang iyon. Paulit-ulit na pinapangatwiran ng mga developing countries na kulang ang representasyon ng kanilang mga priyoridad (access sa teknolohiya, development pathways, national regulatory sovereignty) sa mga frameworks na ginawa nang wala sila sa mesa.

Paano nalutas ng Montreal Protocol ang equity problem

Ang paraan ng Montreal Protocol sa partisipasyon ng developing countries ang pinakadirektang instructive precedent para sa ASI governance, dahil ang teknolohiyang kasangkot ay tunay na dual-use at ang transition costs ay nakakonsentra sa mga bansang hindi gaanong nag-ambag sa problema.

Itinatag ng protocol ang magkakaibang obligasyon sa pamamagitan ng Article 5, na nagbigay sa mga umuunlad na bansa na kumukonsumo nang mas mababa sa tinukoy na per-capita threshold ng ozone-depleting substances ng sampung taong pagkaantala sa pagtupad sa phaseout schedules na kailangan ng mga mauunlad na bansa. Kinilala nito na ang mga bansang halos walang kontribusyon sa kasalukuyang stock ng atmospheric CFCs ay hindi dapat magdala ng parehong agarang gastos gaya ng mga bansang malaki ang kontribusyon.

Ang Multilateral Fund, itinatag noong 1990, ay nagbigay ng pinansyal na resources sa mga Article 5 countries para mabayaran ang incremental costs ng pagsunod sa protocol. Pinondohan din nito ang technology transfer, na nagbigay sa mga developing countries ng access sa mga alternatibo sa CFC at teknikal na kapasidad na gamitin ang mga ito. Mahigit apat na bilyong dolyar na ang naibigay ng fund mula nang itatag ito. Ito ang dahilan kung bakit halos unibersal ang pagpapatibay ng Montreal Protocol: ang mga bansang kung hindi ay magtatalo na hindi kaya ng kanilang pinansyal na kapasidad ang pagsunod ay nakatanggap ng resources para sumunod.

Ang resulta ay isang protocol na kalaunan ay naratipikahan ng 197 partido, bawat UN member state. Ang mga bansa na unang lumaban ay sumali nang nasa lugar na ang mga accommodation mechanism at nang malinaw na ang scientific consensus sa ozone depletion ay ginagawang politically untenable ang walang katapusang hindi paglahok.

Ang NPT grand bargain at ang kahalagahan nito

Ang participation architecture ng Nuclear Non-Proliferation Treaty ay nag-aalok ng ibang modelo. Ang bargain ng NPT ay malinaw at reciprocal: ang mga non-nuclear states ay sumang-ayon na huwag bumuo ng mga armas kapalit ng garantisadong access sa peaceful nuclear technology sa ilalim ng IAEA safeguards, security assurances mula sa nuclear states, at isang pangako ng nuclear states na ituloy ang disarmament. Ang mga non-nuclear states ay sumuko sa isang kakayahan at tumanggap ng positibong benepisyo bilang kapalit, hindi lamang isang pangako na hindi pagbabantaan.

Mahalaga ang reciprocal structure na ito sa lawak ng treaty. Sumang-ayon ang mga bansang teknikal na may kakayahang bumuo ng nuclear weapons (West Germany, Japan, Sweden, Egypt, Brazil) na huwag gawin ito dahil binigyan sila ng treaty's peaceful use provisions ng access sa nuclear energy technology na kung hindi ay kailangan nilang paunlarin nang mag-isa o wala. Ang governance framework ay isa ring technology-sharing arrangement.

Mag-aalok ang isang ASI governance framework na itinayo sa modelong ito sa mga developing countries ng garantisadong access sa teknolohiya ng AI, training resources, at development assistance kapalit ng pagtanggap sa mga obligasyon sa safety monitoring sa anumang frontier AI programs na kanilang uunladin. Ang mga bansang tatanggap sa mga obligasyon sa monitoring ay may karapatan sa mga benepisyo ng shared governance regime, kasama ang access sa mga AI systems at imprastraktura na mas pinipili ng mga treaty-party nations na ibigay sa iba pang parties.

India at ang participation problem

Ang India ay ang pinakamahalagang bansa para sa global ASI governance participation na pinakamataong bansa sa mundo, may substantial at lumalaking technology sector, may significant AI research capacity sa mga institusyon kabilang ang Indian Institutes of Technology, at hindi pumirma sa Bletchley Declaration noong 2023, hindi kasalukuyang engaged sa major governance frameworks. Ang India ay may consistent na kasaysayan ng non-alignment sa international governance frameworks na nakikita nitong dinisenyo ng at para sa major powers, mula sa non-participation nito sa NPT.

Ang posisyon ng India sa ASI governance ay sumasalamin sa ilang alalahanin. Nagtalo ito sa iba’t ibang international forums na dapat tumuon ang ASI governance sa kasalukuyang pinsala imbes na sa speculative future risks, na nagpapakita ng ibang risk assessment kaysa sa nagbibigay-buhay sa frontier AI safety advocacy. Nagtaas ito ng mga alalahanin tungkol sa ASI governance frameworks na maaaring hadlangan ang sarili nitong technology development. At mayroon itong principled commitment sa national regulatory sovereignty na nagpapahirap sa binding international frameworks sa loob ng bansa.

Ang makabuluhang pakikipag-ugnayan sa India ay nangangailangan ng direktang pagharap sa mga concern na ito, hindi lang pag-imbita rito na mag-ratify ng framework na dinisenyo nang wala ito. Ibig sabihin nito ay isama ang mga kinatawan ng India sa design process sa maagang yugto, seryosohin ang iba nitong prioritization ng kasalukuyang harms kasama ang future risks, at tiyakin na ang anumang governance framework ay nag-aalok sa India ng tangible benefits (technology access, capacity building, representation in governance institutions) na ginagawang mas mabuting opsyon ang paglahok kaysa sa pananatili sa labas.

Ano ang iaalok ng participation-inclusive ASI governance framework

Gamit ang Montreal Protocol at NPT models, isang frontier ASI governance framework na idinisenyo para sa malawak na partisipasyon ay isasama ang ilang elemento na karaniwang hindi kasama sa kasalukuyang mga panukala.

Differentiated compliance schedules. Ang mga bansang may umuusbong na AI development programs ay bibigyan ng mas mahahabang timeline bago ilapat ang monitoring obligations sa kanilang mga programa, na kinikilala na hindi sila kasalukuyang pinagmumulan ng frontier AI risk na idinisenyo para tugunan ng treaty.

Isang technology access fund. Katulad ng Multilateral Fund ng Montreal Protocol, ang dedikadong financing mechanism ay magbibigay sa mga developing countries ng access sa AI systems, cloud compute, at technical capacity para makilahok sa AI development para sa beneficial purposes. Kondisyonal ang access sa paglahok sa treaty, na lumilikha ng positive incentive para sumali.

Makabuluhang representasyon sa mga institusyon ng pamamahala. Ang istruktura ng pamamahala ng isang Pandaigdigang Ahensya sa Pagsubaybay ng AI ay dapat magbigay sa mga umuunlad na bansa ng mga boto at posisyon sa pamumuno na proporsyonal sa kanilang populasyon at bigat pang-ekonomiya, hindi lamang sa kanilang kasalukuyang kakayahan sa pagpapaunlad ng AI. Ang isang institusyon na ang lupon ay kontrolado ng limang o anim na pangunahing bansang nagpapaunlad ng AI ay hindi ituturing na lehitimo ng iba pang bahagi ng mundo.

"Ang governance framework na dinisenyo ng mayayamang bansa para sa kanilang sarili at pagkatapos ay hinihiling sa iba pang bahagi ng mundo na sumali sa mga tuntuning iyon ay may pangalan sa kasaysayan ng international relations. Ito ay tinatawag na imperialism, at hindi ito nagbubunga ng matibay na kasunduan."

Ang existential risk mula sa frontier AI, kung mangyari man, ay hindi pipili kung aling bansa ang sasaktan. Ang governance framework na nabigo sa malawak na partisipasyon dahil hindi nito pinansin ang mga alalahanin ng karamihan ng populasyon ng mundo ay hindi isang framework na tatagal nang sapat para magkaroon ng saysay. Ang teknikal na disenyo ng ASI governance ay tunay na mahirap. Ang political na disenyo (ang pagtiyak na sapat ang inaalok ng framework sa sapat na bilang ng mga bansa para mabuo ang partisipasyon na kailangan nito) ay parehong mahirap at mas kaunting binibigyang pansin. Naunawaan ng mga taga-disenyo ng Montreal Protocol ang dalawang problema. Hindi pa seryosong hinaharap ng usapan tungkol sa frontier ASI governance ang pangalawa.

Ang pinakamalakas na pagtutol

Ang pinakamabuting pagtutol ay na ang frontier AI ay US-China na problema at ang iba ay mga manonood lang. May hawak pa rin ang mga manonood ng compute, talento, at boto sa international bodies. Mabibigo sa pulitika ang rehimeng magpapalabas sa iba sa mundo ng beneficial narrow AI. Maaaring maglakbay ang rehimeng nagbabahagi ng mga kasangkapan habang hinaharangan ang ASI na mga landas.