Ang Bletchley AI Safety Summit noong Nobyembre 2023, ang Seoul AI Safety Summit noong Mayo 2024, at ang Paris AI Action Summit noong Pebrero 2025 ay bumubuo ng umuusbong na pattern: periodic high-level international gatherings sa ASI governance, dinaluhan ng mga gobyerno at AI companies, na nagbubunga ng mga deklarasyon at commitments. Mukhang istruktural ito sa climate Conference of the Parties process, at ang paghahambing ay nakapagtuturo sa mga paraang hindi lubos na sinasabi ng mga tagasuporta at kritiko nito.
Kung ang pattern na iyan ay magbubunga ng binding governance ay nakasalalay nang buo sa mga desisyon tungkol sa enforcement na palaging ipinagpapaliban ng climate model.
Ang climate governance sa pamamagitan ng COP process ay hindi ang kabiguan na inilalarawan ng mga kritiko nito o ang tagumpay na inaasahan ng mga arkitekto nito. Ang pag-unawa sa kung ano ang nagawa at hindi nagawa nito, at bakit, ang starting point para sa pagpapasya kung ang isang katulad na proseso ay maaaring gumana para sa superintelligence.
Paano talaga gumagana ang istruktura ng COP
Ang Conference of the Parties ang namamahala sa isang treaty. Binubuo ito ng lahat ng estado na nagpatibay sa treaty at nagpupulong nang pana-panahon upang suriin ang implementasyon, tasahin ang progreso, at makipagnegosasyon ng mga bagong commitments. Nagmula ang climate COP sa UN Framework Convention on Climate Change, na pinagtibay noong 1992, na nagtatag ng pangunahing istruktura ng periodic review at progressive commitment. Ang Kyoto Protocol (1997) at Paris Agreement (2015) ay parehong produkto ng proseso ng COP.
Ang pangunahing inobasyon ng Paris Agreement ay ang pagpapalit sa top-down internationally determined emissions targets na ginamit ng Kyoto at nagresulta sa malaking non-compliance at withdrawal, sa nationally determined contributions. Bawat bansa ang nagtatakda ng sarili nitong emissions reduction target, isinusumite ito sa UNFCCC secretariat, at tinatasa batay sa sariling sinabing ambisyon at hindi sa internationally imposed standard. Sinusuri ng Paris COP ang pinagsama-samang progreso laban sa global temperature goal na limitahan ang warming sa 1.5 degrees Celsius above pre-industrial levels, at bawat review cycle ay inaasahang magbubunga ng mas mataas na national ambition.
Ang structural appeal ng disenyong ito ay na ito ay achievable. Ang prosesong nagpapahintulot sa mga bansa na magtakda ng sarili nilang targets, tasahin batay sa sarili nilang ambisyon, na may transparency mechanisms sa halip na parusa para sa kakulangan, ay makakakuha ng malawak na partisipasyon. Lahat ng pangunahing ekonomiya sa mundo ay mga partido sa Paris Agreement. Ang Kyoto, na may binding national targets na may tinukoy na kahihinatnan para sa hindi pagsunod, ay nawalan ng United States at kalaunan ng Canada, Japan, at Russia.
Ang istruktural na problema sa disenyong ito ay hindi pareho ang participation at effectiveness. Ang nationally determined contributions na isinumite sa ilalim ng Paris ay, sa kabuuan, malaki ang kakulangan sa tinatasa ng IPCC na kailangan para matugunan ang 1.5-degree na layunin. Ang compliance mechanism ay transparency at political pressure, hindi formal penalties. Ang mga bansa na hindi natutugunan ang sarili nilang target ay nahaharap sa public scrutiny sa susunod na review cycle pero walang legal consequences.
Tatlong kahinaan sa istruktura ng climate model
Tatlong katangian ng climate COP na nagpabawas sa bisa nito ay direktang mapapasa sa isang ASI governance COP na gumamit ng parehong disenyo.
Mga kinakailangan sa consensus. Karamihan sa mga desisyon ng COP ay nangangailangan ng buong pagkakasundo ng lahat ng partido, kaya’t may tunay na kapangyarihan ang bawat bansa na i-veto ang resulta. Dahil dito, ang wika ay napag-uusapan lamang hanggang sa antas ng ambisyon na handang tanggapin ng pinakamatigas na partido. Sa sunud-sunod na climate COP, ito ay nangangahulugang paggamit ng "phasing down" imbes na "phasing out" ng fossil fuels, "pathways" patungo sa net zero imbes na tiyak na iskedyul, at "noting" ng mga siyentipikong natuklasan imbes na pormal na pagtanggap sa mga implikasyon nito. Ang mga internasyonal na negosasyon na nakabatay sa consensus ay palaging nagdudulot ng mga resulta na nasa pinakamababang antas ng political feasibility sa mga kalahok.
Self-determination of commitments. Nalutas ng modelo ng nationally determined contribution ang suliranin sa partisipasyon na nilikha ng Kyoto, ngunit lumikha ito ng suliranin sa ambisyon. Kapag nagtatakda ang mga bansa ng sarili nilang target nang walang sapilitang minimum, ang mga target na itinakda nila ay sumasalamin sa mga domestic political constraints gaya ng mga teknikal na pangangailangan ng pinagbabatayan na layunin. Ang mga bansang may malalakas na industriya ng fossil fuel ay nagtatakda ng mga target na kayang matugunan ng kanilang industriya. Ang mga bansang nahaharap sa malapit na halalan ay nagtatakda ng mga target na madaling ipagtanggol sa malapit na panahon. Ang kabuuang resulta ay isang agwat sa pagitan ng mga nakasaad na ambisyon at ng kabuuang pagbabawas na kailangan, na dokumentado ng mga pagsusuri ng COP ngunit hindi maisasara nang walang mekanismong nag-uutos ng mas mataas na ambisyon.
Nalutas ng Paris Agreement ang participation problem ng Kyoto Protocol sa pamamagitan ng pagpapahintulot sa mga bansa na magtakda ng sarili nilang target. Ang binding national targets ng Kyoto ay nagresulta sa pag-alis ng United States, Canada, Japan, at Russia. Nakamit ng Paris ang halos unibersal na partisipasyon. Ngunit ang halos unibersal na partisipasyon na may nationally determined at non-binding commitments ay lumilikha ng governance gap nang eksakto sa puntong pinakakailangan ang pamamahala: kapag ang agwat sa pagitan ng sinasabing ambisyon at kinakailangang aksyon ay pinakamalaki. Ang ASI governance ay humaharap sa parehong trade-off.
The enforcement gap. Ang compliance mechanism ng Paris Agreement, na itinatag sa ilalim ng Article 15, ay malinaw na non-adversarial at non-punitive. Gumagana ito sa pamamagitan ng transparency: nag-uulat ang mga bansa tungkol sa kanilang progreso, sinusuri ng COP ang mga ulat, at ang political at reputational pressure ng public assessment ang pangunahing consequence ng mga kakulangan. Para sa klima, nagresulta ito sa mga dekada ng documented shortfalls na may limitadong tugon. Para sa AI, kung saan ang isang taon lang ng hindi na-monitor na frontier development ay maaaring makalikha ng mga kakayahang lumalampas sa anumang tugon ng governance, ang transparency-only enforcement mechanism ay structurally insufficient.
Saan gumagana ang COP structure
Mabuti nang naitala ang mga kahinaan ng climate COP. Mas bihirang banggitin ang mga lakas nito, at may kaugnayan talaga ang mga ito sa disenyo ng ASI governance.
Ang regular na pagpupulong ay isang mekanismo ng pamamahala mismo. Taun-taon na COP meetings ay lumilikha ng political calendar na nakatuon ang pansin sa problema ng pamamahala bawat taon. Tinatrato ng civil society, mamamahayag, at policymakers ang mga pulong ng COP bilang sandali ng pananagutan kahit walang pormal na pagpapatupad. Ang political cost ng hayagang hindi pagsunod, na naiulat sa pandaigdigang balita sa taunang pagsusuri ng COP, ay nagtulak sa ilang gobyerno na palakasin ang kanilang national commitments. Nagbibigay din ito ng lugar para sa side agreements, technical working groups, at bilateral negotiations na mahirap ayusin nang walang paulit-ulit na pandaigdigang pagtitipon.
Ang progressive commitment structures ay maaaring gumana sa mahabang panahon. Ang ratchet mechanism na binuo sa Paris Agreement, na nangangailangan na ang bawat sunod na nationally determined contribution ay hindi mas mababa ang ambisyon kaysa sa nauna, ay lumilikha ng legal na obligasyon ng directional improvement kahit walang binding floor. Sa loob ng mga dekada, maaari itong makagawa ng makabuluhang aggregate movement, dahil ang political baseline para sa "current policy" ay unti-unting nagiging mas ambitious. Para sa isang governance problem tulad ng klima, kung saan ang mga kahihinatnan ng policy failure ay naipon sa loob ng mga dekada, ang slow ratchet na ito ay maaaring sapat. Para sa ASI governance, kung saan ang mga catastrophic na resulta ay maaaring dumating sa loob ng ilang taon sa halip na mga dekada, ito ay masyadong mabagal.
Ang proseso ng COP ang pinakaepektibo sa pagbuo ng normative framework na ginagabayan ang domestic climate politics sa buong mundo. Ang 1.5-degree goal ng Paris Agreement ang naging reference point na ginagamit para sa publiko at pagsusuri ng national climate policies sa halos lahat ng bansa. Ang ganitong normative function—ang paglikha ng shared standard na kailangang i-justify ng domestic politics—ang nagsimula nang magawa ng AI safety summit process at dapat ipagpatuloy.
Ano ang kailangan ng mas malakas na ASI governance COP
Kailangan ng ASI governance process na modeled sa istruktura ng COP pero idinisenyo para maiwasan ang enforcement gap ng climate COP ng tatlong tampok na sadyang hindi isinama ng Paris Agreement.
Mandatory minimum commitments. Sa halip na nationally determined contributions na walang binding floor, maaaring magtatag ang isang ASI governance treaty ng mandatory minimum obligations na dapat tuparin ng lahat ng partido, kasama ang isang nationally determined contribution structure para sa mga hakbang na lampas sa floor na iyon. Sasaklawan ng mandatory minimum ang mga highest-risk activities: frontier model training na lampas sa defined compute threshold, deployment ng AI systems sa specified high-risk domains, at mandatory safety evaluations bago ang deployment. Maaaring lumampas ang mga bansa, ngunit hindi bababa sa minimum.
Isang independent verification body. Umaasa ang climate COP sa self-reported national inventories, na may independent review na isinasagawa ng technical expert teams sa ilalim ng UNFCCC. Ang isang ASI governance verification body na may direktang access sa may-kinalamang impormasyon, katulad ng inspectorate ng OPCW, ay makakapagbigay ng mas maaasahang compliance assessment kaysa sa self-reporting. Ito ang nag-iisang structural difference sa pagitan ng CWC at ng Biological Weapons Convention na pinakamalinaw na nagpapaliwanag sa kanilang magkaibang effectiveness records.
Consequences with teeth. Ang consequences para sa non-compliance na lumalampas sa transparency ay mangangailangan ng pagtali sa market access benefits ng treaty sa pagsunod sa safety obligations nito. Ang mga estado na nabigo na matugunan ang mandatory minimum requirements ay mawawalan ng preferential market access at technology sharing arrangements na ibinibigay ng membership sa treaty. Lumilikha ito ng consequence structure na hindi nangangailangan ng Security Council authorization at direktang may kaugnayan sa competitive interests na nag-uudyok sa AI development.
"Ipinapakita ng climate COP na ang regular na international gatherings ay makakabuo ng normative framework at political calendar sa paligid ng governance problem. Ipinapakita rin nito na hindi ito sapat kung kulang sa binding floors ang underlying commitments at walang formal consequences ang enforcement mechanism. Maaaring gamitin ng ASI governance ang COP structure at matuto mula sa mga specific design gaps na ito."
Ang AI safety summit process na nagsimula sa Bletchley ay sulit na ituloy, hindi iwanan. Ang taun-taon o biennial summits ay lumilikha nang eksaktong uri ng regular international attention na kailangan ng governance. Ang tanong ay kung ang mga summits ay mananatiling venue para sa voluntary commitment ceremonies o magiging governing body ng treaty na may binding obligations at functional verification at enforcement architecture. Ang tanong na iyan ay sasagutin hindi ng mga summits mismo kundi ng desisyon ng mga gobyerno na makipag-negosasyon sa pagitan ng mga ito.