Mahusay nang naitala na mas maraming alam ang mga developer ng AI tungkol sa mga panganib ng kanilang mga sistema kaysa sa ipinapahayag nila sa publiko. Nakapagtala na ang mga internal safety team sa mga pangunahing AI lab ng malalaking alalahanin. Inilalarawan ng mga mananaliksik na umalis sa mga lab na iyon ang mga internal debate tungkol sa kung masyadong mabilis na dine-deploy ang kasalukuyang mga sistema. Alam na ang mga alalahanin sa kaligtasan at, sa maraming kaso, bahagyang tinutugunan habang nagpapatuloy ang pag-unlad, hindi hindi alam.
Walang lab o bansa ang makakayang lutasin ang insentibong iyan sa pamamagitan lang ng mas mabuting desisyon nang mag-isa. Kailangan nito ng multilateral governance.
Ito ay isang kuwento tungkol sa isang coordination problem kung saan kahit ang mga safety-conscious na aktor ay nahaharap sa structural incentives na nagtutulak sa kanila patungo sa mas mabilis na development at deployment kaysa sa inirerekomenda ng kanilang sariling risk assessments, hindi pangunahing isang kuwento tungkol sa bad actors. Ang pag-unawa sa mga incentives na iyon (ang AI race dynamics) ay mahalaga para maunawaan kung bakit hindi sapat ang mga commitments ng indibidwal na organisasyon sa safety at kung anong uri ng governance structures ang talagang kailangan.
Ang istruktura ng karera
Simple lang ang pangunahing istruktura ng AI race dynamics. Maraming aktor (mga kumpanya sa loob ng isang bansa, mga bansa sa mundo) ang nagkukumpitensya para makabuo ng pinakamakapangyarihang AI system at maideploy ang mga ito nang una. Ang pamumuhunan sa safety ay kumakain ng oras at yaman na puwedeng gamitin para mapabilis ang capability development. Sinumang aktor na magpapabagal para seryosong mamuhunan sa safety ay maiiwan ng mga aktor na hindi ganoon. Ang aktor na mananalo sa karera ay, dahil sa istruktural na insentibo, malamang na ang nag-trade nang pinaka-agresibo laban sa safety.
Lumilikha ito ng dynamic kung saan ang mga safety-conscious na aktor ay nahaharap sa pagpili sa pagitan ng dalawang masamang opsyon. Maaari nilang panatilihin ang kanilang safety standards at mahuli, na nagreresulta sa frontier na hinuhubog ng mga hindi gaanong safety-conscious na aktor. O maaari nilang bawasan ang kanilang safety investment para manatiling competitive, na nagreresulta sa pagbaba ng kanilang sariling standards. Sa alinmang paraan, ang competitive pressure ay sistematikong nagdudulot ng mga resulta na mas masahol pa sa gusto ng anumang indibidwal na aktor kung makakapag-coordinate sila.
Kung ang isang lab ay magpapabagal at ang karibal nito ay hindi, ang maingat na lab ay mawawalan ng market share at ang karera ay patuloy na mabilis. Ang simpleng payoff matrix na iyan ang dahilan kung bakit nabigo ang "kami ang magiging responsable" bilang estratehiya. Ang kaligtasan na nakadepende sa unilateral restraint ay donasyon sa pinakawalang pigil na aktor, hindi estratehiya.
Ang pambansang dimensyon
Sa prinsipyo, maaaring tugunan ang lab-level race dynamics sa pamamagitan ng domestic regulation: maaaring magpataw ang isang gobyerno ng safety requirements sa lahat ng AI labs sa loob ng hurisdiksyon nito nang sabay-sabay, na inaalis ang competitive disadvantage ng safety investment sa loob ng hurisdiksyong iyon. Ito ang dahilan kung bakit mahalaga ang domestic AI regulation. Maaari nitong lutasin ang within-country coordination problem, kahit hindi nito malulutas ang between-country problem.
Ang national-level race dynamics ay istruktural na mas mahirap. Ang US-China competition sa AI ay madalas na inilalarawan bilang isang strategic race na may makabuluhang geopolitical consequences, at ang framing na iyon ay lumilikha ng parehong incentive structure sa national level: anumang bansa na bumagal para sa safety ay nahuhuli sa mga bansang hindi gumagawa nito. Ang pag-aalala na ang safety regulation ay lumilikha ng strategic disadvantage kumpara sa mga less safety-regulated competitors ay isang tunay na coordination problem, hindi isang bad-faith objection.
Ito ang dahilan kung bakit hindi sapat ang purong domestic AI regulation (kahit mahigpit na domestic regulation) bilang tugon sa dynamics ng AI race. Ang puwang sa pandaigdigang pamamahala ay isang structural coordination problem na nangangailangan ng multilateral frameworks na may enforcement mechanisms, katulad ng arms control treaties na bahagyang nalutas ang nuclear arms race, hindi isang teknikal na problema tungkol sa kung aling bansa ang may mas mahusay na regulasyon.
Mga precedent para sa pagresolba ng race dynamics
Ang pag-aalala na ang koordinasyon sa mga mapanganib na technology races ay politically impossible ay hindi tumutugma sa historical record. Ang US at Soviet Union, sa kasagsagan ng Cold War, ay nakipagnegosasyon sa SALT I at SALT II, strategic arms limitation treaties na naglagay ng binding limits sa pinakamapanganib na armas ng dalawang partido, sa kabila ng malalim na kawalan ng tiwala at patuloy na strategic competition. Ipinagbawal ng Chemical Weapons Convention ang isang buong kategorya ng armas sa karamihan ng mga bansa sa mundo. Ginawa rin ito ng Biological Weapons Convention para sa biological weapons. Inayos ng Montreal Protocol ang global phase-out ng ozone-depleting substances.
None of these were achieved without difficulty, defection, and enforcement challenges. All of them represented genuine improvements over uncoordinated races. The makasaysayang halimbawa ng internasyonal na koordinasyon sa mga mapanganib na teknolohiya ay mas malawak kaysa sa pessimistic framing ng mga talakayan tungkol sa ASI governance.
Bakit nangyayari ang "dapat manalo ang mga laboratoryong may kamalayan sa kaligtasan sa karera" anuman ang kagustuhan ng mga tagapagtaguyod ng kaligtasan, mas mabuti ang pagkakaroon ng mga aktor na may kamalayan sa kaligtasan sa hangganan kaysa sa mga walang malasakit, hindi sapat
Isang karaniwang tugon sa mga alalahanin tungkol sa AI race dynamics ay na ang solusyon ay ang tagumpay ng mga safety-focused labs, upang mabuo ng mga aktor na nagmamalasakit sa kaligtasan ang frontier.
May mga limitasyon ang argumentong ito na dapat malinaw na sabihin. Una, ang pagiging nasa frontier ay hindi nag-aalis ng race dynamics. Ginagawa nitong ang safety-conscious lab ang ngayon ay nahaharap sa competitive pressure para mag-cut corners para manatili sa frontier. Pangalawa, puwedeng gamitin ang competitive pressure argument para bigyang-katwiran ang anumang acceleration, dahil laging may less safety-conscious competitor na puwedeng banggitin. Pangatlo, umaasa ang argument sa safety-conscious labs na mananalo, pero walang mekanismong ibinibigay para matiyak ito. Isang pag-asa ito, hindi isang governance structure.
Ang pagresolba sa AI race dynamics ay nangangailangan ng parehong bagay na bahagyang nagresolba sa nuclear arms race: coordinated limits na sabay na nalalapat sa lahat ng major actor, kasama ang verification mechanisms para matukoy ang defection at enforcement mechanisms para pigilan ito. Iyan ay multilateral governance problem. Ang deterrence frameworks tulad ng MAIM ilarawan ang standoff sa pagitan ng mga racing states, pero hindi nila nireresolba ang race mismo. Ang Foundation's mga panukala sa pamamahala ay naka-istruktura sa paligid ng pangangailangang ito, hindi sa pag-asang ang tamang mga lab ang mauunang matapos.