Ang standard account ng arms control history ay nakasentro sa mga gobyerno: ang mga negotiator, ang mga heads of state na pumirma ng mga treaty, ang mga senador na nag-ratify o tumanggi na i-ratify ang mga ito. Hindi kumpleto ang account na ito. Sa likod ng bawat major international agreement sa dangerous technology, mayroong sustained civil society effort na naghanda sa political ground, na nagtayo ng public understanding ng panganib, nag-develop ng mga governance proposals na tinanggap ng mga negotiator, nagpanatili ng dialogue sa mga pagkakahati kapag sarado ang opisyal na mga channel, at pinanatiling buhay ang isyu sa pulitika sa mga panahong mas gusto ng mga gobyerno na tumingin sa ibang direksyon.
Pinanatiling buhay ng mga environmental NGO ang Montreal Protocol nang nag-alangan ang mga gobyerno. Narito ang ginagawa ng civil society sa technology governance, at ang hindi pa nabubuo ng AI safety advocacy.
Kailangan munang maunawaan ang ginawa ng civil society sa arms control governance bago masuri kung ano ang dapat itayo ng AI safety civil society.
Ano ang ginawa ng Pugwash para sa nuclear arms control
Ang Pugwash Conferences on Science and World Affairs ay itinatag noong 1957, kasunod ng Russell-Einstein Manifesto ng 1955, kung saan si Bertrand Russell at Albert Einstein, kasama ang siyam na iba pang kilalang siyentipiko, ay nanawagan sa mga gobyerno na kilalanin na ang nuclear weapons ay nagbabanta sa sibilisasyon at humanap ng mapayapang resolusyon ng mga salungatan sa halip na digmaan. Nilagdaan ang manifesto ng mga siyentipiko mula sa parehong Western at Soviet blocs, kasama ang ilang Nobel laureates.
Ang Pugwash model ay track-2 dialogue: mga siyentipiko mula sa magkalabang bansa na nagkikita bilang indibidwal, hindi bilang kinatawan ng gobyerno, upang talakayin ang mga panukala sa arms control at bumuo ng personal na relasyon at pinagsasaluhang teknikal na balangkas na sa huli ay magiging batayan ng opisyal na negosasyon. Ang mga unang Pugwash meeting noong huling bahagi ng 1950s at 1960s ay sinuri ang mga panukala sa verification para sa nuclear testing limits na kalaunan ay lumitaw, sa binagong anyo, sa Limited Test Ban Treaty of 1963. Ang konsepto ng national technical means para sa arms control verification (paggamit ng satellite reconnaissance upang subaybayan ang pagsunod nang hindi nangangailangan ng mga inspector sa lupa) ay binuo at pinagdebatehan sa mga Pugwash meeting bago ito isinama sa SALT agreements.
Hindi sumulat ng treaties ang Pugwash. Nag-develop ito ng mga ideya, nagtayo ng relationships, at lumikha ng espasyo kung saan ang mga siyentipiko mula sa magkabilang panig ng Cold War ay makakapag-engage sa technical problems na hindi kayang hawakan ng official diplomatic channels. Nang nagbago ang political conditions at naging posible ang official negotiations, ang intellectual infrastructure para sa kung ano ang maaaring pagkasunduan ng mga negotiations ay umiiral na, dahil matagal nang itinayo ito ng Pugwash. Si Pugwash at ang founder nitong si Joseph Rotblat ay nagbahagi ng Nobel Peace Prize noong 1995.
Ano ang ginawa ng landmine campaign
Ang International Campaign to Ban Landmines ay itinatag noong 1992 ng koalisyon ng mga NGO na nagpasya na ang humanitarian consequences ng anti-personnel landmines, libu-libong sibilyang nasawi taun-taon sa post-conflict countries, malawakang kontaminasyon ng agricultural land, mga batang napilay dekada pagkatapos ng mga digmaang nag-deploy ng mga mina, ay nangangailangan ng kumpletong pagbabawal sa halip na incremental restrictions. Ang pangunahing estratehiya ng kampanya ay idokumento ang humanitarian consequences sa mga termino na specific, visual, at maiuugnay sa isang named technology, at ikonekta ang dokumentasyong iyon sa malinaw na political demand.
Ang dokumentasyon ay isinagawa ng mga NGO na nagpapatakbo sa mga apektadong bansa: Handicap International, Human Rights Watch, Physicians for Human Rights, at iba pa. Gumawa sila ng mga ulat, nagtipon ng testimonya ng mga biktima, at lumikha ng patuloy na media coverage na nagpalabas ng isyu sa pulitika sa mga donor country. Sistematikong itinayo ng kampanya ang mga kaalyado sa gobyerno (ang Canada ang pinakamahalaga) at tinukoy ang diplomatic pathway na lalampas sa Conference on Disarmament, kung saan hinadlangan ng mga major military power ang pag-unlad.
Hindi nagsimula sa mga foreign ministry ang pagbabawal sa landmine. Nagsimula ito sa mga survivor, doktor, at organizer na ginawang politically expensive ang sandata. May mga papel at summit na ang AI safety. Kailangan pa rin nito ang ganoong uri ng panlabas na pressure kung nais na maging may-bisang batas sa mga lab na mas gusto pa ring self-regulate nang tuluyan.
Nakasalalay ang tagumpay ng kampanya sa kombinasyon ng mga salik na nagbukod dito sa mga hindi gaanong matagumpay na advocacy efforts. Present-tense at dokumentado ang pinsala. Tiyak at naiintindihan ng mga hindi espesyalista ang demand. May relasyon ang kampanya sa mga sympathetic governments na maaaring kumilos bilang institutional champions. At handa itong magpatuloy nang walang partisipasyon ng major powers, tinatanggap na ang isang treaty na walang US, Tsina, at Russia ay magtatatag pa rin ng isang norm na huhubog sa pag-uugali sa paglipas ng panahon.
Ano ang ginawa ng mga environmental NGO para sa Montreal Protocol
Ang kampanya upang paghigpitan ang ozone-depleting substances ay itinayo sa pundasyon ng scientific communication na nagsalin ng mga teknikal na natuklasan sa public concern. Nang inilathala nina F. Sherwood Rowland at Mario Molina ang kanilang mga natuklasan tungkol sa chlorofluorocarbon chemistry noong 1974, na nagpapakita na ang CFCs ay catalytically sisira sa stratospheric ozone, ang scientific finding ay nangangailangan ng interpretasyon at amplification upang maging isang political issue. Ang mga environmental NGOs, partikular ang Friends of the Earth at ang Natural Resources Defense Council, ang nagsagawa ng gawaing pagsasaling ito sa buong huling bahagi ng 1970s at 1980s.
Pinagsama ng NGO campaign ang public education, media outreach, at direct political advocacy. Sa United States, sinuportahan ng mga NGO ang matagumpay na kampanya para limitahan ang paggamit ng CFC sa aerosol sprays bago pa man umiral ang anumang international agreement, na lumikha ng domestic regulatory precedent na puwedeng ituro ng US government sa international negotiations bilang ebidensya ng political feasibility. Nang matuklasan ang Antarctic ozone hole noong 1985 na nagbigay ng dramatic visual at scientific confirmation ng pinsala ng CFC, handa na ang communications infrastructure ng NGO para agad na palakasin ang kahalagahan nito.
Matapos lagdaan ang Montreal Protocol, sinusubaybayan ng mga NGO ang implementasyon, tinutukoy ang mga problema sa pagsunod, at nagtataguyod ng sunod-sunod na amendment na nagpalawak ng saklaw ng protocol sa mga sumunod na dekada. Hindi natapos ang papel ng civil society sa lagda ng kasunduan; nagpatuloy ito sa yugto ng implementasyon, na nagbibigay ng patuloy na pagsisiyasat upang panatilihing responsable ang mga gobyerno sa kanilang mga pangako.
Ano ang naitayo at hindi naitayo ng AI safety civil society
Maraming teknikal at intelektwal na gawa ang nagawa ng AI safety field tungkol sa mga panganib ng frontier AI systems. Naipon ang mga ito sa academic papers, conference proceedings, at public communications mula sa mga mananaliksik sa mga unibersidad at major AI laboratories. Ilang mananaliksik, kasama sina Geoffrey Hinton at Yoshua Bengio, ay nagsalita nang publiko tungkol sa AI existential risk sa mga termino na nakakuha ng malaking atensyon sa media. Mayroon na ngayong katamtamang bilang ng mga organisasyong pinondohan ng philanthropy na nagtatrabaho sa ASI governance at policy.
Kung ikukumpara sa civil society infrastructure na sumuporta sa nuclear arms control at landmine ban, gayunpaman, ang kasalukuyang pagsisikap ng AI safety civil society ay manipis sa mga partikular na paraan.
Walang katumbas na Pugwash: walang patuloy, structured na forum kung saan ang mga AI researcher mula sa US, China, ang EU, at iba pang pangunahing bansa na nagde-develop ng AI ay regular na nagkikita bilang mga indibidwal, labas sa opisyal na channel ng gobyerno, para bumuo ng shared technical frameworks para sa governance. Ang bilateral at multilateral government processes na umiiral ay opisyal, hindi track-2, at dahil doon ay napapailalim sa lahat ng limitasyon ng opisyal na diplomatic engagement.
Walang katumbas ng ICBL: walang mass membership campaign na may malinaw at partikular na demand at isang dokumentadong tala ng pinsala na nag-uugnay sa demand sa kasalukuyang karanasan ng mga totoong tao. Ang AI existential risk ay inaasahan pa lamang at hindi pa nararanasan, kaya mas mahirap kopyahin ang emosyonal at pampulitikang mobilisasyon na nakamit ng landmine campaign. Ang pinsala mula sa ASI ay hindi pa present-tense sa paraang naranasan ng mga biktima ng landmine.
Walang patuloy na monitoring function: walang organisasyon ng civil society na sumusubaybay sa mga pangako ng gobyerno tungkol sa ASI governance, sumusukat sa pagsunod sa mga boluntaryong pangako, at naglalathala ng mga natuklasan sa paraang lumilikha ng accountability. Ang mga NGO na sumusubaybay sa pagpapatupad ng arms control treaty, mga grupong sumusuri kung natutupad ng mga estado ang kanilang mga obligasyon sa disarmament, na nag-iimbestiga sa mga di-umano'y paglabag, na nagdodokumento ng mga puwang sa pagitan ng pangako at aksyon, ay walang malinaw na katumbas sa espasyo ng ASI governance.
"Bago ang bawat malaking tagumpay sa arms control, may mga taon ng gawain ng civil society na nagpalawak ng pang-unawa ng publiko, naglinang ng mga panukala sa pamamahala, at nagpanatili ng political pressure. Dapat simulan na ngayon ang gawaing iyan para sa AI."
Ang itinayo ng AI safety civil society ay isang research at policy community na may makabuluhang intellectual quality. Ang hindi pa nito naitatayo ay ang public mobilization capacity, ang cross-border scientific dialogue infrastructure, at ang ongoing monitoring function na nagpapakilala sa mga epektibong governance campaign sa iba pang technology domain. Ang pagtatayo ng mga kapasidad na ito ay ang political at institutional prerequisite para sa isang treaty na maaaring negosasyon, ratipikahin, at mapanatili, hindi hiwalay sa gawain ng pagtataguyod ng isang treaty.
Ang pinakamalakas na pagtutol
Ang pinakamabigat na pagtutol ay hindi kayang galawin ng mga NGO at akademiko ang malalaking kapangyarihan, kaya ang civil society ay commentary lamang. Ang mga kilusan ay hindi pumipirma ng mga kasunduan. Binabago nila ang halaga ng hindi pumirma. Ang public pressure, expert drafting, at donor-funded advocacy ang paraan kung paano nahihila ang mga lagging states sa mga silid na mas gusto nilang laktawan.