Ang pamamahala nang walang pinagsamang siyentipikong pundasyon ay negosasyon nang walang karaniwang mapa. Ipinapakita ng mga negosasyon sa klima bago ang 1990 ang problemang ito: hindi makapagkasundo ang mga gobyerno na nagdedebate kung talagang nangyayari ang pag-init na dulot ng tao sa kung anong antas ng tugon ang angkop, dahil nagmumula sila sa hindi magkakatugmang mga premisa ng katotohanan. Ang unang ulat ng pagtatasa ng IPCC, na inilathala noong 1990, ay nagtatag na nangyayari ang pag-init at dahil sa aktibidad ng tao. Hindi nito tinapos ang mga pampulitikang pagtatalo tungkol sa kung ano ang gagawin, ngunit binago nito ang katangian ng mga pagtatalong iyon mula sa mga argumento tungkol sa kung may problema ba o wala tungo sa mga argumento tungkol sa kung paano tumugon sa isa.
Bago ang IPCC, pinagtatalunan ang climate science. Pagkatapos ng tatlong dekada ng mga ulat ng IPCC assessment, epektibong naayos na ang scientific foundation para sa climate policy, anuman ang natitirang pulitikal na pagtatalo tungkol sa tugon. Kailangan ng AI risk ng parehong uri ng authoritative synthesis. Kung ano ang kailangan para makabuo ng katumbas na katawan ay isang tanong na may konkretong sagot.
Ang pulitika ng AI risk ay nasa pre-IPCC na estado. Walang authoritative international body na nagbubuod ng ebidensya tungkol sa frontier AI risks, nagtatasa ng probability at karakter ng catastrophic outcomes, at gumagawa ng mga findings na tinatrato ng mga gobyerno bilang shared factual basis para sa governance decisions. Ang puwang na ito ay hindi minor inconvenience. Ang governance negotiations na nagsisimula nang walang shared factual premises ay madalas na nagbubunga ng mga framework na hinuhubog ng strategic interests kaysa sa karakter ng risk na pinamamahalaan.
Paano talaga nagtayo ng consensus ang IPCC
Hindi nagsasagawa ng original research ang IPCC. Sinusuma nito ang existing peer-reviewed research, na ginawa ng libu-libong siyentipiko sa mga unibersidad at research institutes sa buong mundo, sa mga komprehensibong assessment reports. Kasama sa synthesis process ang daan-daang expert authors na nagre-review at nagbubuod ng published literature sa kanilang mga larangan ng expertise. Ang summary for policymakers, ang seksyong talagang binabasa ng mga gobyerno at mamamahayag, ay ginagawa sa pamamagitan ng line-by-line negotiation sa pagitan ng scientist authors at government representatives mula sa lahat ng 195 IPCC member countries.
Ang proseso ng negosasyon na ito ang pinagmumulan ng pampulitikang awtoridad ng IPCC, ngunit pati na rin ng konserbatibong katangian nito. Maaaring tumutol ang anumang gobyerno sa partikular na wika sa summary, at nangangailangan ang proseso na matugunan ang mga pagtutol bago tanggapin ang summary. Nangangahulugan ito na ang summary ay sumasalamin sa lowest common denominator ng kung ano ang tatanggapin ng lahat ng kalahok na gobyerno, na halos palaging mas maingat kaysa sa susuportahan ng pinagbabatayan na agham kung basahin nang walang pampulitikang filter. Palaging minamaliit ng mga summary ng IPCC ang pagkaapurahan kumpara sa buong assessment reports na kanilang sinasummarize, dahil dapat mabuhay ang wika ng summary sa government review.
Sa kabila ng conservative bias na ito, naging consequential ang mga assessment ng IPCC. Ang pag-unlad mula sa unang assessment report noong 1990, na naglatag ng pangunahing siyentipikong kaso para sa human-caused warming, hanggang sa ikaanim na assessment cycle na natapos noong 2022, na naglarawan sa ebidensya bilang walang alinlangan at ang mga panganib bilang malubha at laganap, ay nagdulot ng cumulative normative shift na lalong nagpapahirap sa mga gobyerno na hayagang tanggihan ang mga pangunahing katotohanan ng climate change. Tumataas ang political cost ng pagtanggi sa bawat assessment cycle dahil kinikilala ang awtoridad ng IPCC sa halos lahat ng political system.
Ang Alternatibong Pugwash
Bago ang IPCC, ang pinakamaimpluwensyang science-policy interface para sa existential risk ay ang Pugwash Conferences on Science and World Affairs. Nagsimula ang Pugwash noong 1957 bilang tugon sa Russell-Einstein Manifesto, isang pahayag noong 1955 na nilagdaan nina Albert Einstein, Bertrand Russell, at siyam na iba pang kilalang siyentipiko na nagbabala tungkol sa mga panganib ng nuclear weapons at nananawagan sa mga gobyerno na lutasin ang mga pagtatalo sa pamamagitan ng mapayapang paraan. Ang unang Pugwash Conference, na ginanap sa nayon ng Pugwash sa Nova Scotia noong Hulyo 1957, ay nagtipon ng dalawampu’t dalawang siyentipiko mula sa sampung bansa, kabilang ang United States, Soviet Union, at United Kingdom, upang talakayin ang mga panganib ng nuclear weapons.
Ang nagpaiba sa Pugwash sa pormal na intergovernmental na proseso ay ang impormal nitong katangian. Dumalo ang mga kalahok bilang indibidwal, hindi bilang kinatawan ng gobyerno. Off the record ang mga talakayan. Nakapag-explore ang mga siyentipiko mula sa magkasalungat na bansa ng mga posisyon at ideya na hindi pa pinapahintulutan ng kanilang gobyerno na isulong nang opisyal. Dahil sa impormalidad na ito, naging posible ang tapat na pagpapalitan sa kabila ng Cold War lines na imposible sa pormal na diplomatikong setting.
Hindi gumawa ng mga kasunduan ang Pugwash. Gumawa ito ng intellectual groundwork na kalaunan ay pormalisado ng mga pormal na negosasyon. Pinino sa mga talakayan ng Pugwash ang konsepto ng mutual assured destruction bilang batayan para sa deterrence stability bago ito naging opisyal na patakaran ng US. Parehong kumukuha mula sa mga ideyang binuo sa mga talakayan ng Pugwash ang Partial Test Ban Treaty (1963) at ang Non-Proliferation Treaty (1968). Ginawaran ng Nobel Peace Prize noong 1995 ang organisasyon, kasama si Joseph Rotblat, ang matagal nitong secretary-general, bilang pagkilala sa kontribusyong ito sa arms control.
Ang IPCC at Pugwash ay kumakatawan sa dalawang magkaibang tungkulin na maaaring gampanan ng isang science-policy interface. Ang IPCC ay nag-synthesize ng umiiral na pananaliksik sa authoritative consensus assessments na may pampulitikang lehitimasya mula sa intergovernmental review. Ang Pugwash ay lumikha ng impormal na diyalogo sa mga pampulitikang linya na nagbigay-daan sa mga ideya na umunlad bago ito naging pampulitikang viable. Kailangan ng AI risk governance ang pareho: systematic evidence synthesis upang maitatag ang shared factual premises para sa patakaran, at impormal na cross-geopolitical dialogue upang bumuo ng mga konsepto ng pamamahala bago magsimula ang pormal na negosasyon. Maaaring gampanan ang mga tungkuling ito ng isang solong katawan o ng dalawang magkaibang katawan.
Ano ang dapat gawin nang iba ng AI risk panel
Isang internasyonal na panel sa panganib ng AI na ginagaya ang IPCC ay haharap sa ilang hamon na walang katumbas sa agham ng klima.
Ang proprietary knowledge problem. Karamihan sa nalalaman tungkol sa capabilities at risks ng frontier AI systems ay hawak ng maliit na bilang ng mga pribadong kumpanya. Ang research literature sa frontier AI safety ay bahagyang nai-publish, pero ang pinakamahalagang impormasyon, kasama ang mga resulta ng internal capability evaluations, safety test results, at incident reports, ay proprietary. Ang IPCC ay nag-synthesize ng public peer-reviewed research. Kailangan ng isang AI risk panel ng access sa non-public na impormasyon para ma-synthesize ang pinakamahalagang ebidensya, na mangangailangan na ibigay ng frontier AI developers ang impormasyong iyon sa panel sa ilalim ng tinukoy na confidentiality arrangements. Ang pagdidisenyo ng mga arrangement na ito ay isang malaking governance challenge na walang IPCC precedent.
Ang problema sa bilis. Ang IPCC ay gumagawa ng malalaking assessment reports tuwing lima hanggang pitong taon, may updates sa pagitan. Ang bilis na ito ay angkop sa pisikal na phenomenon na nagbabago sa decadal timescales. Ang AI capabilities ay umuunlad sa timescales ng mga buwan. Kailangan ng AI risk panel na gumawa ng mas madalas na assessments, o magtatag ng standing monitoring function na sumusubaybay sa capability developments sa near-real time, para manatiling may kaugnayan sa governance decisions. Ang mas madalas na reports ay magiging mas mahirap gawin sa pamamagitan ng line-by-line intergovernmental review process ng IPCC, dahil ang prosesong iyon ay mabagal sa disenyo.
Ang dual-use knowledge problem. Ang climate science ay pampublikong available na kaalaman na walang inherent security risk. Ang AI safety research ay minsan ay kinabibilangan ng pag-unawa kung paano eksaktong maaaring magamit nang mali ang mga dangerous capabilities, na lumilikha ng tensyon sa pagitan ng transparency na nagpapagawa sa assessment na authoritative at ang security concerns na nangangatwiran para sa paghihigpit sa ilang mga findings. Ang isang AI risk panel ay mangangailangan ng mga pamamaraan para sa paghawak ng sensitive capability findings na hindi pa kailanman kailangang paunlarin ng IPCC.
Bakit mahal na ang kawalan ng ganoong katawan
Ang kawalan ng isang awtoritatibong internasyonal na katawan na nagsasama-sama ng ebidensya ng panganib sa AI ay may konkretong gastos sa pamamahala na nakikita na ngayon.
Ang governance negotiations ay nagmumula sa hindi magkakasundong factual premises. Iba't ibang gobyerno, at iba't ibang faction sa loob ng mga gobyerno, ay gumagana sa mga pangunahing magkaibang pagtatasa kung kailan maaaring magdulot ng catastrophic risk ang artificial superintelligence, kung ano ang katangian ng mga risk na iyon, at kung anong governance measures ang tutugon sa mga ito. Kung walang shared factual baseline, ang mga negosasyon ay madalas na nagbubunga ng mga framework na dinisenyo sa paligid ng pinaka-politikal na maginhawang pananaw sa risk kaysa sa pinakatumpak na pagtatasa nito.
Fragmented at inconsistent ang risk communication. Ang mga babala tungkol sa ASI risks ay nagmumula sa isang magkakaibang koleksyon ng mga pinagmulan kabilang ang academic researchers, internal safety teams ng AI company, think tanks, at advocacy organizations, na walang shared methodology, walang common vocabulary, at walang proseso para sa paghusga ng mga hindi pagkakasundo. Ang resulta ay isang pampublikong diskurso na nag-ooscillate sa pagitan ng dismissiveness at alarm nang walang maaasahang authoritative reference point. Ang halaga ng IPCC para sa climate communication ay eksaktong iyon: nagbigay ito sa mga mamamahayag, policymakers, at publiko ng isang authoritative source na maaaring banggitin laban sa parehong pagwawalang-bahala at pagmamalabis.
"Hindi nilikha ng IPCC ang political will para tugunan ang climate change. Nilikhâ nito ang shared factual foundation na nagpahalaga sa pagbabalewala sa problema. Kailangan ng ASI governance ng parehong bagay: isang katawan na may awtoridad at metodolohiya para itatag kung ano talaga ang ipinapakita ng ebidensya tungkol sa frontier AI risks, para magpatuloy ang mga debate sa governance mula sa shared facts sa halip na strategically convenient uncertainty."
Ang pinakamahalagang precedent na ibinibigay ng IPCC para sa AI ay hindi methodological kundi political. Itinatag ang IPCC noong 1988, dalawang taon bago ang unang assessment report nito at tatlumpu’t-apat na taon bago ang mga findings ng ikaanim na assessment cycle ay inilarawan bilang nagdudulot ng impacts na laganap na, mabilis, at lumalala. Ang institutional investment sa systematic evidence synthesis ay nagsimula nang matagal bago dumating ang political will na kumilos sa ebidensyang iyon. Para sa AI risk, ang institutional equivalent ay kailangang magsimula bago pa magsara ang window para sa effective governance, hindi pagkatapos.
Ang isang panel sa AI risk na may intergovernmental membership, mandato na i-synthesize ang published at, sa ilalim ng angkop na confidentiality arrangements, non-published safety research, mas mabilis na reporting cadence kaysa sa IPCC, at access sa independent technical expertise mula sa AI safety research communities ay puwedeng itayo sa loob ng umiiral na internasyonal na institutional frameworks. Hindi ito mangangailangan ng kasunduan. Mangangailangan ito ng political commitment mula sa sapat na koalisyon ng mga gobyerno para itatag at pondohan ito. Ito ang uri ng institusyon na puwedeng likhain bago, at bilang suporta sa, binding governance obligations. Kung malilikha ito bago pa maging lipas na ang mga maagang assessment dahil sa teknolohiyang tinatasa nito ay isang tanong na may closing answer window.
Ang pinakamalakas na pagtutol
Ang pinakamabuting pagtutol ay na ang isa pang science panel ay nagiging talk shop habang nagpapadala ang mga lab. Makatarungang panganib. Kapaki-pakinabang ang IPCC pattern kapag pinipilit nito ang shared facts sa mga silid na sumusulat ng batas. Ang panel na walang daan patungo sa thresholds at enforcement ay teatro. Ipares ang assessment sa mga triggers.