Maaari bang magkasundo ang Estados Unidos at
Tsina sa Kaligtasan ng AI?

Ang pag-frame ng US-China AI competition bilang hadlang sa ASI governance ay tinatrato ang dalawang bagay bilang equivalent na talagang magkaiba. Ang competition at cooperation sa shared catastrophic risk ay hindi mutually exclusive. Ang United States at Soviet Union ay nag-compete nang matindi sa bawat dimension ng national power sa loob ng apat na dekada habang sabay na nag-uusap at nagpapanatili ng serye ng arms control agreements na nagpigil sa mga armas na pinakamahusay na makapagwakas ng sibilisasyon. Ang mga kondisyon kung saan posible ang kooperasyong iyon ay dapat na maunawaan para sa kung ano ang masasabi nito tungkol sa AI safety problem.

Ang kasaysayan kung paano nakikipagtulungan ang mga karibal sa mga catastrophic shared risks ay direktang may kaugnayan sa problema ng AI safety.

Ano ang nagbigay-daan sa US-Soviet cooperation

Ilang kondisyon ang kailangan para sa arms control agreements sa pagitan ng dalawang Cold War powers. Wala sa mga ito ang nangailangan na matapos ang kompetisyon, o na magtiwalaan ang dalawang panig sa anumang pangkalahatang kahulugan.

Normal ang kawalan ng tiwala. Mayroon pa ring pagpapatunay.

Ang una ay isang shared at concrete na pag-unawa sa mutual catastrophe. Parehong naobserbahan ng United States at Soviet Union ang epekto ng nuclear weapons, ang US sa pamamagitan ng paggamit at testing, ang Soviet Union sa pamamagitan ng testing at intelligence tungkol sa Hiroshima at Nagasaki. Pagsapit ng huling bahagi ng 1950s, naunawaan ng magkabilang panig na ang isang buong nuclear exchange ay magiging catastrophic para sa dalawa. Hindi ito theoretical assessment; ito ay nakabatay sa physical evidence ng ginagawa ng nuclear weapons. Ginawang visceral at immediate ng Cuban Missile Crisis noong 1962 ang pag-unawang ito para sa mga political leader sa paraang hindi nagawa ng mga taon ng strategic analysis.

Ang pangalawa ay sustained informal dialogue na nagpanatili ng intellectual at personal connections sa political divide. Ang Pugwash Conferences on Science and World Affairs, na nagsimula noong 1957, ay nagtipon ng mga siyentipiko mula sa parehong blocs para talakayin ang arms control bago posible ang anumang formal negotiation. Ang informal network na ito ang nagtayo ng mga ideya at relasyon na kalaunan ay pormalisado ng formal negotiations. Nang umupo ang US at Soviet officials para makipag-negosasyon sa Limited Test Ban Treaty noong 1963, hindi sila nagsisimula sa wala.

Ang pangatlo ay maingat na scoping. Ang Limited Test Ban Treaty (1963) ay nagbawal ng nuclear testing sa atmosphere, outer space, at underwater, ngunit hindi underground. Tinugunan nito ang isang problema, atmospheric fallout mula sa testing, kung saan ang magkabilang panig ay may tunay na shared interest sa isang solusyon, nang hindi nangangailangan sa alinmang panig na tanggapin ang mga paghihigpit sa kanilang weapons programs o verification ng kanilang arsenals. Ito ay isang makitid na unang kasunduan na nagtayo ng tiwala para sa mas malalaking kasunduan na susunod. Ang SALT I (1972), ang ABM Treaty (1972), at ang Chemical Weapons Convention ay dumating mamaya, bawat isa ay itinayo sa arkitektura ng nauna.

Ang ika-apat ay ang verification ay built in mula sa simula, hindi idinagdag mamaya. Bawat kasunduan ay dinisenyo na may explicit verification mechanisms: national technical means para sa satellite reconnaissance ay isinama sa SALT framework, at parehong panig ay sumang-ayon na huwag makialam sa monitoring satellites ng isa’t isa. Pinahintulutan nito ang bawat panig na i-verify ang compliance nang hindi nagtiwala sa deklarasyon ng isa. Ang mga kasunduang nangangailangan ng trust para gumana ay hindi pinagkasunduan; ang mga kasunduang puwedeng i-verify nang walang trust ang pinagkasunduan.

Saan humahawak ang paghahambing ng US-China

Nagbabahagi ang Estados Unidos at China ng mga istrukturang katangian sa US-Soviet dynamic na may kaugnayan sa ASI governance.

Pareho silang nagde-develop ng frontier AI systems na may potensyal na military at economic applications na ayaw ibigay ng isa sa kabila. Pareho silang nagpahayag, sa opisyal na antas, ng pag-aalala tungkol sa mga panganib ng ASI na binuo nang walang sapat na safety constraints. Pareho silang nahaharap sa isang senaryo (isang AI system na kumikilos sa catastrophically unintended na paraan) na magiging mapanganib sa parehong bansa anuman ang bansang gumawa nito. Ang isang unaligned superintelligence na binuo ng Chinese laboratory ay magiging mapanganib sa China tulad ng sa United States, at vice versa. Ang risk category na pinakamahalaga sa AI safety research ay hindi rivalrous tulad ng nuclear weapons capability. Lumilikha ito ng tunay na structural na batayan para sa shared interest.

Mayroon ding lumalagong informal dialogue. Kasama sa Bletchley AI Safety Summit noong Nobyembre 2023 ang partisipasyon ng gobyerno ng Tsina, sa unang pagkakataon na nakilahok ang mga opisyal na Tsino sa multilateral forum na partikular na nakatuon sa frontier AI safety. Nakilahok din ang mga Chinese AI researcher sa mga international safety discussion. Noong huling bahagi ng 2024, nagkasundo ang US at Tsina na simulan ang bilateral talks tungkol sa AI risk. Maaga pa at marupok pa ang mga ito, madaling maputol ng iba pang aspeto ng bilateral na relasyon, pero umiiral na ang imprastraktura para sa dialogue.

Saan nabibigo ang paghahambing

May kalinawan ang US-Soviet na relasyon na wala sa kasalukuyang US-China na relasyon. Parehong sumang-ayon ang dalawang superpower noong Cold War, sa opisyal na antas, na ang nuclear weapons ay armas at ang buong nuclear exchange ay magiging sakuna. Dokumentado, nasaksihan, at naunawaan ang pisikal na epekto ng nuclear weapons. Konkreto ang banta.

Para sa karamihan ng mga political leaders, anticipatory pa rin ang AI catastrophic risk, hindi pa nararanasan. Wala pang gobyerno na isinama ang existential risk mula sa artificial superintelligence sa national security framework nito na may parehong bigat na dala ng nuclear risk mula noong 1945. Walang historical instance ang senaryo ng isang unaligned superintelligent AI na nagdudulot ng civilizational harm. Dahil dito, mas mahirap ang political mobilization para sa prevention, dahil mas maaasahan ang tugon ng mga pulitiko sa demonstrated harms kaysa sa anticipated ones.

Komplikado rin ng economic dimension ng US-China relationship ang mga bagay sa mga paraang walang katumbas noong Cold War. Higit na magkahiwalay ang ekonomiya ng US at Soviet Union. Magkakaugnay ang ekonomiya ng US at China, na may supply chains, technology transfer, at investment flows na tumatakbo sa magkabilang direksiyon. Sentral ang AI capabilities sa economic competition sa relationship na ito, hindi lang sa military competition. Dahil dito, mas mahirap ihiwalay ang AI mula sa pangkalahatang competitive relationship at pag-usapan nang hiwalay, dahil naaapektuhan din ng restrictions sa AI development ang economic prospects sa mga paraang hindi naapektuhan ng restrictions sa, halimbawa, medium-range nuclear missiles.

Ang kasalukuyang estado ng diyalogo

Hanggang kalagitnaan ng 2026, ang US-China AI dialogue ay maingat at intermittent. Ang bilateral discussions na nagsimula noong 2024 ay nagpatuloy sa working level, pangunahing nakatuon sa information-sharing tungkol sa AI risk assessments sa halip na binding commitments. Parehong publicly endorsed ng dalawang gobyerno ang layunin na pigilan ang catastrophic AI outcomes habang sabay na nagpapanatili ng competitive AI development programs. Sa multilateral level, pareho silang dumalo sa 2023 Bletchley Summit at 2024 Seoul Summit, nilagdaan ang declarations na nagkilala ng shared concern tungkol sa frontier AI risks nang hindi lumilikha ng binding obligations.

Ang US export controls sa advanced semiconductor technology ay patuloy na pinagmumulan ng bilateral tension. Ang mga controls na ito, na naglilimita sa access ng China sa pinakamahuhusay na chips na ginagamit sa frontier AI training, ay motivated pangunahin ng competitive considerations sa halip na safety ones. Mula sa governance perspective, kumakatawan sila sa isang anyo ng unilateral compute governance na may ilan sa parehong practical effects ng treaty-based compute limits, bagaman walang anumang reciprocal constraints o verification mechanisms na kasama sa treaty-based governance.

Anong mga kondisyon ang makakapagbigay-daan sa pag-unlad

Tatlong kondisyon ang kasaysayang nauna sa makabuluhang pag-unlad ng arms control sa pagitan ng mga karibal, at bawat isa ay may katumbas sa AI.

Isang defining moment na ginagawang concrete at political ang panganib. Ang Limited Test Ban Treaty ay dumating pagkatapos na ang atmospheric testing ng magkabilang panig ay nagdulot ng measurable global fallout na nagpokus ng public opinion laban sa patuloy na testing. Ang katumbas nito sa ASI governance ay maaaring isang serious incident, isang deployment ng highly capable system na kumilos nang malaki ang pagkakaiba sa inaasahan, na ginagawang politically visible ang panganib sa domestic audiences ng dalawang bansa nang sabay. Ang mga gobyernong matagal nang resistant sa preventive action ay nagiging mas receptive pagkatapos ng near-miss experiences.

Mga technical confidence-building measures bago ang mga may-bisang pangako. Bago ang SALT I, ginamit ng magkabilang panig ang satellite reconnaissance para bantayan ang missile programs ng isa't isa, na may tacit acceptance na nangyayari ang pagsubaybay na ito. Ang katumbas sa AI ay maaaring transparency agreements tungkol sa training run notifications, shared evaluation standards, o cooperative safety research. Nagtatayo ang mga hakbang na ito ng tiwala na ang kabilang panig ay kumikilos nang may mabuting loob, na lumilikha ng political foundation para sa mas malalaking pangako.

Third-party facilitation na nagpapahintulot sa magkabilang panig na lumahok nang hindi mukhang nagbibigay ng konsesyon sa isa't isa. Ilang matagumpay na arms control initiatives ang nakinabang sa multilateral framing: ang magkabilang panig ay makakalahok sa isang international process sa halip na gumawa ng bilateral concessions sa isa't isa. Ang isang multilateral ASI governance process na kasama ang US at China, na in-host ng isang neutral na katawan, ay maaaring maging daan patungo sa mga kasunduan na hindi makakamit ng bilateral negotiations na naka-frame bilang US-China encounters.

"Hindi kailangan ng US at China na magtiwala sa isa't isa para makipagtulungan sa AI safety. Kailangan lang nilang sumang-ayon na mas masahol para sa kanilang dalawa ang mga catastrophic AI outcomes kaysa sa mga hadlang na kailangan para maiwasan ang mga outcome na iyon."

Ang tanong kung ang US at China ay maaaring magkasundo sa AI safety ay sa huli ay tanong tungkol sa kung ang dalawang gobyerno ay magkokonklusyon, bago umiral ang sapat na may kakayahang AI system, na ang binding mutual constraints ay mas mainam kaysa sa unconstrained race. Iminumungkahi ng kasaysayan na maaabot ang konklusyong ito, kung may tamang kondisyon. Iminumungkahi rin ng kasaysayan na bihirang maabot ito ng mga gobyerno sa pamamagitan ng kalmadong deliberation nang maaga. Naabot nila ito kapag ang alternatibo ay naging sapat na malinaw para baguhin ang political calculation. Ang policy question ay kung mananatiling bukas ang governance window nang sapat na matagal para mangyari ang pagbabagong iyon.

Ang pinakamalakas na pagtutol

Ang pinakamabigat na tutol ay ang tunggalian ay ginagawang pantasya ang kooperasyon. Pero nagawa ang nuclear arms control sa gitna ng mas matinding galit, gamit ang verification sa halip na tiwala. Ang sama-samang panganib na mawalan ng kontrol ang tunay na pinagsasaluhan. Kung wala ito, pareho silang tatakbo patungo sa mga sistemang walang makokontrol.