Ano ang Kailangan para Mabuo
isang pandaigdigang AI
Ahensya ng Pagsubaybay.

Kapag ang mga governance advocates ay nananawagan para sa isang Global AI Monitoring Agency, inilalarawan nila ang isang end state. Ang mas mahirap na tanong ay kung ano ang hitsura ng landas patungo sa end state na iyon, kung paano talaga nabubuo ang isang international body na may mandate, staff, budget, legal authority, at technical capacity upang i-monitor ang frontier AI development. Ang kasaysayan ng mga institusyong gumagawa ng ganitong gawain para sa iba pang mapanganib na teknolohiya ay nagbibigay-kaalaman, at palaging mas kumplikado kaysa sa iminumungkahi ng governance literature.

Hindi idinedeklara ang mga institusyon, itinutayo sila. Narito kung ano talaga ang kailangan para mabuo ang isang Global AI Monitoring Agency.

Ano ang kailangan ng IAEA para maging functional

Itinatag ang IAEA sa pamamagitan ng international statute noong 1957, dalawang taon matapos imungkahi ni Pangulong Eisenhower ang Atoms for Peace program sa kanyang 1953 address sa UN General Assembly. Tinukoy ng founding statute ang isang mandato (upang itaguyod ang mapayapang paggamit ng nuclear energy habang tinitiyak na hindi ito naililipat sa mga armas) at itinatag ang Board of Governors at General Conference bilang mga governing bodies ng ahensya.

Ang IAEA ay nagsagawa ng unang safeguards inspections nito noong 1961, apat na taon pagkatapos itatag, na sumasakop sa maliit na bilang ng research reactors sa Western Europe. Ang safeguards system na inilapat nito ay rudimentary ayon sa mga susunod na pamantayan: sinuri ng mga inspectors ang facility records at nagsagawa ng accountancy ng nuclear material, pero may limitadong rights of physical access at walang environmental monitoring capability. Ang system ay sapat para sa peaceful nuclear research sa ilalim ng 1950s at 1960s technology environment; hindi ito sapat para sa pag-detect ng determined weapons program.

Ang mapagpasyang pagpapalawak ng IAEA capability ay hindi nagmula sa founding statute ng ahensya kundi sa aftermath ng pagkabigo. Ang clandestine nuclear weapons program ng Iraq, natuklasan noong at pagkatapos ng 1991 Gulf War, ay nagpakita na ang IAEA routine inspections ay lubos na napalampas ang isang program na patungo sa nuclear weapon. Ang tugon ay ang Additional Protocol, pinagtibay noong 1997, na nagpalawak ng inspection rights sa undeclared locations at nagdagdag ng environmental sampling bilang standard tool. Ang IAEA na umiral bago ang 1997 at ang IAEA na umiral pagkatapos ng 1997 ay malaki ang pagkakaiba bilang institusyon sa kung ano ang kayang nilang matuklasan.

Ang aral ay ang mga internasyonal na monitoring institution ay nagkakaroon ng tunay na kakayahan bilang tugon sa mga pagkabigo na nagpapakita ng mga limitasyon ng kanilang unang disenyo. Itinatag ng founding architecture ang framework; ang operational effectiveness ay naipon sa loob ng mga dekada sa pamamagitan ng repormang dulot ng pagkabigo.

Ano ang kailangan ng OPCW para maging functional

Itinatag ang OPCW nang pumasok sa bisa ang Chemical Weapons Convention noong 1997. Hindi tulad ng IAEA, na nauna sa pangunahing treaty framework nito, dinisenyo ang OPCW mula sa simula bilang verification body para sa isang umiiral na treaty na may malinaw na obligasyon. Nagbigay ito sa institusyon ng mas malinaw na initial mandates at mas nakatuon na operational scope.

Kailangan ng OPCW ng malaking preparatory work bago nito maisagawa ang unang mga inspeksyon. Ang verification annex ng kasunduan, na umaabot sa daan-daang pahina, ay tumutukoy nang detalyado sa mga pamamaraan para sa iba’t ibang uri ng inspeksyon, ang mga karapatan ng mga inspektor, ang mga obligasyon ng mga inspected states, at ang paghawak ng confidential information. Ang pagsasalin ng mga pamamaraang ito sa operational protocols, pagsasanay sa mga inspector teams, pagtatatag ng secure communication systems, pagtatayo ng analytical laboratories na may kakayahang tumukoy ng chemical agents sa environmental samples, at pakikipagkasundo ng facility agreements sa mga unang major stockpile holders ay tumagal ng maraming taon ng gawain na sumunod sa entry into force ng kasunduan.

Ang unang destruction verification missions ng OPCW, na sumubaybay sa pag-aalis ng US at Russian chemical weapons stockpiles, ay nagsimula noong huling bahagi ng 1990s at nagpatuloy nang higit sa dalawang dekada. Ang teknikal na kumplikasyon ng ligtas na chemical weapons destruction, at ang mga hamon sa verification na dulot nito, ay nangailangan ng patuloy na institutional adaptation sa buong panahong iyon. Ang ginagawa ngayon ng OPCW ay sumasalamin sa dalawampu't limang taon ng operational experience na wala pa noong umupo ang founding director-general nito.

Ang mga desisyon sa disenyo na pinakamahalaga

Ang isang international AI monitoring agency ay haharap sa isang hanay ng foundational institutional design decisions na tutukoy sa pangmatagalang bisa nito. Ang mga desisyong ito ay hindi teknikal; ito ay pulitikal at pang-organisasyon, at kailangang gawin nang tama bago magbukas ang institusyon.

Ang mandate scope ang unang desisyon. Ang monitoring agency ay maaaring idisenyo nang makitid, nakatuon sa pag-verify ng mga deklarasyon ng frontier AI training sa itaas ng tinukoy na compute thresholds, o malawak, na may awtoridad na suriin ang AI systems para sa safety properties at i-publish ang mga natuklasan tungkol sa global AI safety landscape. Ang makitid na mandate ay mas madaling sang-ayunan sa pulitika at mas diretso ipatupad. Ang malawak na mandate ay nagbibigay sa institusyon ng mas maraming governance influence ngunit nangangailangan ng mas malaking budget, mas magkakaibang staff, at mas maraming political consensus tungkol sa kung ano ang pinahihintulutang sabihin ng ahensya. Ang mandate ng IAEA ay unang makitid at lumawak; ang mandate ng OPCW ay nanatiling nakatuon. Parehong nagtagumpay ang dalawang modelo sa kani-kanilang konteksto.

Ang independence architecture ang pangalawang desisyon. Malaki ang pagkakaiba-iba ng mga internasyonal na organisasyon sa kung gaano sila nakahiwalay sa political pressure ng mga major power. Ang veto structure ng UN Security Council ay nangangahulugang puwedeng harangan ng limang permanenteng miyembro ang anumang aksyon ng Security Council. Ang IAEA Board of Governors ay may weighted structure na nagbibigay sa mga major state ng disproportionate influence. Ang OPCW ay may mas democratic governance structure kung saan pantay ang boto ng lahat ng states parties sa Conference of States Parties. Ang isang AI monitoring agency na ang mga major decisions ay puwedeng harangan ng mga estado na may pinakamalaking AI programs ay isang weaker institution kaysa sa isa na may independent director-general at technical staff na puwedeng kumilos ayon sa kanilang professional judgment.

Ang funding model ay ang ikatlong desisyon. Ang mga international organizations ay pinopondohan sa pamamagitan ng assessed contributions mula sa member states, proporsyonal sa kanilang GDP at iba pang mga salik, na may voluntary contributions na nagpupuno sa assessed budget para sa mga partikular na programa. Ang assessed contribution budgets ay napag-uusapan taun-taon at napapailalim sa political pressure: ang mga member states na tumututol sa mga aktibidad ng agency ay maaaring pigilan ang contributions o bumoto para sa budget reductions. Ang regular na budget ng IAEA ay humigit-kumulang 500 milyong USD taun-taon; ang OPCW ay humigit-kumulang 70 milyong euros. Ang isang AI monitoring agency na may makabuluhang technical capacity ay mangangailangan ng budget sa saklaw na ito o mas mataas, at ang tanong ng funding stability (kung paano mapapanatili ang budget ng agency sa pamamagitan ng political cycles sa mga major contributing states) ay nangangailangan ng sagot sa design.

Ang legal authority ng mga inspector ay ang ikaapat na desisyon. Maaari lang gawin ng mga inspector ang pinahihintulutan ng kasunduan sa kanila. Ang mga unang safeguards agreements ng IAEA ay nagbigay sa mga inspector ng limitadong access rights na pinalawak ng Additional Protocol; ang mga inspector na gumagana sa ilalim ng mas lumang agreements na walang Additional Protocol ay may mas kaunting rights pa rin. Kailangan ng mga inspector ng isang AI monitoring agency ng malinaw na tinukoy na access rights (sa mga pasilidad, records, hardware logs, at tauhan) at kailangang malinaw na tukuyin ng kasunduang nagtatatag ng ahensya ang mga rights na iyon, dahil sa praktika ay papanigan ang inspected party kapag may ambiguity.

Pagbuo ng teknikal na kapasidad bago ang kasunduan

Isang aral mula sa parehong IAEA at OPCW ay hindi puwedeng biglaang likhain ang teknikal na kakayahan matapos maitatag ang institusyon. Parehong ahensya ay nakinabang sa mga dati nang siyentipiko at teknikal na komunidad na makapagbibigay ng tauhan: nuclear physics at nuclear engineering para sa IAEA, analytical chemistry naman para sa OPCW. Ang kadalubhasaan na kailangan para i-verify ang mga pangako sa nuclear non-proliferation o matukoy ang mga chemical weapons agents sa mga sample ng lupa ay umiiral na sa mga unibersidad at national laboratories bago pa kailanganin ito ng mga international verification bodies.

Ang katumbas na technical community para sa ASI governance verification, mga taong may kakayahang suriin ang frontier AI systems para sa safety properties, i-audit ang training records, at magdisenyo ng hardware monitoring protocols para sa malalaking compute clusters, ay maliit at halos nasa private sector AI companies at ilang academic institutions lamang. Ang pagbuo ng expertise base kung saan makakapag-recruit ang isang international monitoring agency ay isang governance task na nauuna sa pagtatatag ng institusyon.

Ito ay isa sa mga dahilan kung bakit mahalaga ang mga national AI safety institute, tulad ng AI Security Institute ng UK (itinatag noong 2023 bilang AI Safety Institute), para sa mas mahabang-gamit na governance project. Itinatayo nila ang evaluation methodology, ang institutional experience, at ang professional community na kakailanganin ng isang hinaharap na international monitoring agency. Ang teknikal na pundasyon para sa international monitoring ay inilalagay, bahagya at hindi perpekto, bago pa man handa ang political conditions para sa isang treaty at isang institusyon.

"Hindi mo mabubuo ang verification body sa loob ng isang taon. Dapat paunlarin sa paglipas ng panahon ang teknikal na pamamaraan, sinanay na tauhan, operational procedures, at legal frameworks. Ngayon na dapat simulan, hindi pagkatapos lagdaan ang kasunduan."

Ang Global AI Monitoring Agency ay isang institusyon na nangangailangan ng specific design decisions, specific resource commitments, specific legal authorities, at specific technical capacities upang gumana, hindi isang malayong utopian na layunin. Ipinapakita ng IAEA at OPCW na ang gayong mga institusyon ay maaaring itayo at gumana. Ipinapakita rin nila na ang pagtatayo sa mga ito ay mas matagal kaysa sa inilalarawan ng treaty text, nangangailangan ng sustained political investment sa maraming leadership cycles, at nagde-develop ng tunay na kakayahan bilang tugon sa mga pagkabigo na nagpapakita ng mga limitasyon ng initial design nito. Ang mga governance advocates na nananawagan ng monitoring agency nang hindi tinutugunan ang mga institutional design questions na ito ay naglalarawan ng aspirasyon, hindi ng plano.

Ang pinakamalakas na pagtutol

Ang pinakamakatwirang pagtutol ay hindi kailanman tatanggapin ng mga estado ang mga inspektor malapit sa kanilang pinakamahalagang compute. Ganoon din ang sinabi nila noon bago ang nuclear safeguards. Ang pinagsamang takot sa breakout, kasama ang pagtanggi ng hardware sa mga defector, ang paraan kung paano pa rin nagtatayo ng mga mata ang mga nag-aatubiling partido. Ang ahensya na walang access ay logo lamang. Ang access ang problema sa disenyo na dapat lutasin.