Nagsisimula ang arms control treaties sa definitions. Tinutukoy ng Chemical Weapons Convention ang chemical weapon bilang anumang toxic chemical o precursor nito na ginagamit bilang method of warfare. Tinutukoy ng Nuclear Non-Proliferation Treaty ang nuclear weapons states bilang mga nag-manufacture at nag-explode ng nuclear weapon bago ang Enero 1, 1967. Tinutukoy ng Strategic Arms Limitation Talks ang ballistic missiles ayon sa range at payload. Ang mga definitions na ito ay hindi politically neutral: bawat isa ay sumasalamin sa strategic choices tungkol sa kung sino ang sasaklawin, kung anong activities ang pipigilan, at kung paano ibabalanse ang interests ng mga parties.
Those questions are harder than they appear, and how they are answered will determine whether any resulting treaty can actually govern what it is meant to govern.
ASI governance ay humaharap sa isang problema sa depinisyon na may ilang katangiang walang malapit na katumbas sa arms control. Ang pag-unawa sa mga katangiang ito ay kinakailangan para makagawa ng mga depinisyon na tunay na makakapamahala sa kung ano ang nilalayong pamahalaan.
Tatlong paraan sa pagtukoy ng mapanganib na AI
Gumamit ang kasalukuyang governance frameworks ng tatlong magkaibang paraan para tukuyin kung aling AI system ang nasa saklaw nila. Bawat paraan ay may lakas at limitasyon na kailangang tugunan ng treaty-level framework.
Ang compute thresholds ay tumutukoy sa mapanganib na AI batay sa computing resources na ginamit sa pagsasanay ng isang model, na sinusukat sa floating-point operations, o FLOPs. Tinutukoy ng EU AI Act ang frontier AI models bilang yaong sinanay nang higit sa 10 sa ika-25 na kapangyarihan ng FLOPs. Ang US Executive Order on AI na inilabas noong Oktubre 2023 ay nangangailangan ng pag-uulat sa pederal na gobyerno para sa mga model na sinanay nang higit sa 10 sa ika-26 na kapangyarihan ng FLOPs. Ang Frontier AI Safety Commitments na nilagdaan sa Seoul ay nalalapat sa mga model na nasa o papalapit sa frontier capability, na may compute bilang proxy para sa frontier status.
May dalawang mahahalagang pakinabang ang compute thresholds para sa disenyo ng kasunduan. Una, observable ang compute. Ang hardware na kailangan para sanayin ang malalaking AI models, specialized chips na ginagawa ng maliit na bilang ng mga manufacturer, ay kumukonsumo ng distinctive patterns ng enerhiya at nagbubunga ng measurable na init. Makitid ang supply chains para sa mga chips na ito at dumadaan sa mga hurisdiksyon na bukas sa pagsubaybay. Pangalawa, mas mahirap gawing peke ang compute kaysa sa mga claim tungkol sa kakayahan, dahil ang paggawa ng hardware at pagpapatakbo ng training runs ay nagbubunga ng observable signatures na mahirap itago sa malaking sukat.
Ang limitasyon ng compute thresholds ay nagiging obsolete ito habang umuunlad ang mga algorithm. Ang model na sinanay ngayon gamit ang 10 to the 26th power FLOPs ay may malaking pagkakaiba sa kakayahan kumpara sa model na sinanay limang taon na ang nakalipas gamit ang parehong compute, dahil ang mga algorithmic improvements ay gumagawa ng mas may kakayahang mga model bawat yunit ng compute sa paglipas ng panahon. Ang compute threshold na itinakda ngayon ay maaaring masyadong restrictive dahil ang efficient algorithms ay gumagawa ng powerful models sa ibaba ng threshold, o masyadong permissive dahil ang frontier ay sumusulong sa itaas nito.
Ang capability-based definitions ay tumutukoy sa mapanganib na AI ayon sa kung ano ang magagawa ng sistema imbes na kung paano ito na-train. Ang sistema na autonomous na makakapag-identify at makakapag-exploit ng cybersecurity vulnerabilities na lampas sa defined severity threshold ay mapanganib sa ilalim ng capability-based definition, anuman ang dami ng compute na ginamit para likhain ito. Ang sistema na makakapagbigay ng meaningful assistance sa bioweapons synthesis na lampas sa defined level of specificity ay mapanganib, anuman ang training compute nito.
Mas tumpak na tinatarget ng capability-based definitions ang mga pinsalang nais pigilan, pero lumilikha ito ng malaking measurement problem. Hindi standardized ang capability evaluations. Iba’t ibang evaluation methodologies ang nagbibigay ng iba’t ibang resulta. Kasalukuyang gumagamit ang frontier AI developers ng proprietary methodologies na hindi publicly audited. Ang capability-based definition sa isang governance treaty ay mangangailangan ng standardized, independently verifiable capability evaluation methods na wala pa sa mga anyong tatanggapin ng lahat ng major AI-developing states.
Pinagsama ng Chemical Weapons Convention ang pangkalahatang pamantayan at naka-schedule na listahan ng mga kemikal para masakop ang kilala at hindi pa kilalang mapanganib na ahente. Tinutukoy ng pangkalahatang pamantayan bilang chemical weapons ang anumang nakalalasong kemikal na ginagamit bilang paraan ng digmaan, kahit hindi ito nakalista. Ang mga naka-schedule na listahan naman ang nagtatatag ng graduated na mga kinakailangan sa pagpapatunay para sa mga partikular na kemikal. Dahil sa layered na paraang ito, nasakop ng kasunduan ang mga ahenteng hindi pa alam noong pinagkasunduan ito. Maaaring gumamit ang ASI governance ng katulad na istruktura: isang pangkalahatang pamantayan na tumutukoy sa mapanganib na AI batay sa katangian ng epekto nito, kasama ang naka-schedule na listahan ng mga kakayahan para sa kilalang mapanganib na gamit.
Ang domain-based definitions ay tumutukoy sa mapanganib na AI ayon sa sektor kung saan ito inilalagay, hindi ayon sa training compute o general capabilities nito. Mapanganib ang system na inilalagay para sa autonomous lethal decision-making sa military contexts. Mapanganib ang system na inilalagay sa critical infrastructure control. Mapanganib ang system na inilalagay para sa large-scale persuasion na nagtatarget sa demokratikong eleksyon.
Ang domain-based definitions ay may bentahe na malinaw na iniugnay ang governance obligation sa pinsalang pinipigilan. Mas madali rin itong tanggapin sa pulitika kaysa sa general capability definitions, dahil maaaring tanggapin ng mga estado ang mga paghihigpit sa AI sa mga partikular na high-risk domain nang hindi isinusuko ang prinsipyong ang kanilang AI programs sa pangkalahatan ay napapailalim sa international oversight. Ang malaking limitasyon ay pinahihintulutan ng domain-based definitions na gumana ang isang highly capable system nang walang governance obligations kung ito ay na-deploy sa labas ng mga tinukoy na domain, kahit na madaling mailipat ang parehong system sa mga mapanganib na application.
Ang problema ng moving frontier
Karaniwang isinusulat ang arms control definitions laban sa stable technology. Ang range at yield ng ballistic missile, ang toxicity ng scheduled chemical, ang fissile mass na kailangan para sa nuclear weapon. Hindi ito nagbabago nang malaki sa buong buhay ng treaty. Mabilis na umuusad ang AI capabilities, kaya maaaring obsolete na sa loob ng ilang taon ang definition na sapat ngayon.
Lumilikha ito ng tinatawag na moving frontier problem: paano sumulat ng treaty definitions na nananatiling relevant habang umuunlad ang teknolohiya nang hindi nangangailangan ng patuloy na renegotiation ng treaty mismo. Tatlong mekanismo ang ginamit sa arms control para tugunan ang mga katulad na problema.
Delegated definitional authority: itinatag ng treaty ang isang governing body na may awtoridad na i-update ang mga technical definitions sa loob ng itinakdang parameters, na napapailalim sa approval ng Conference of the Parties. Ginagamit ng Organisation for the Prohibition of Chemical Weapons ang ganitong paraan para sa mga scheduled chemical lists nito, na maaaring baguhin sa pamamagitan ng Conference of the States Parties nang hindi muling binubuksan ang buong treaty. Mas mabilis ito kaysa sa full treaty renegotiation pero kailangan nitong pagkatiwalaan ng mga parties ang governing body sa definitional authority.
Technology-neutral definitions: tinutukoy ng treaty ang dangerous AI sa pamamagitan ng character ng effects nito sa halip na specific technical parameters. Ang definition na sumasaklaw sa anumang AI system na may kakayahang magdulot ng mass casualties sa itaas ng defined threshold, o anumang system na may kakayahang autonomous action na consequential enough para magbanta sa critical national infrastructure, ay mananatiling relevant habang nagbabago ang underlying technology dahil inilalarawan nito ang outcomes sa halip na inputs. Ang limitasyon ay mas mahirap i-verify ang outcome-based definitions, dahil ang relevant test ay kung ano ang magagawa ng system, hindi kung ano ang demonstrably ginagawa nito.
Sunset at renewal provisions: ang treaty definitions ay isinulat na may defined review cycle kung saan ito muling sinusuri at ina-update. Ang treaty ay pumapasok sa puwersa na may initial definitions, nagpapatuloy na gumana sa panahon ng review period, at ina-update sa bawat review conference. Ito ang approach na ginagamit ng NPT para sa periodic review conferences, bagaman ang mga definitions ng NPT tungkol sa nuclear weapons states ay napatunayang imposibleng i-update sa pamamagitan ng mekanismong ito dahil sa mga interes ng P5 na mapanatili ang kanilang privileged status.
Ang dimensyon ng strategic interest
Ang mga negosasyon sa depinisyon ay hindi purong teknikal na ehersisyo. Bawat pagpili ng depinisyon ay may estratehikong implikasyon kung aling mga estado ang magdadala ng pinakamalaking gastos sa pagsunod at alin ang mananatili sa pinakamalaking kalayaan sa pagkilos. Ang mga implikasyong ito ay nakikita ng mga pamahalaang nakikipagnegosasyon at humuhubog sa kanilang mga posisyon sa mga tanong sa depinisyon.
Ang mga estado na may mas may kakayahang AI programs ay mas gusto ang broad definitions na nagpapataw ng pantay na constraint sa mga kakumpitensya sa mas mababang antas ng pag-unlad. Ang isang compute threshold na itinakda sa itaas ng kasalukuyang frontier ng pinakamahuhusay na programs ay hindi nagpapataw ng constraint sa mga leading states habang nangangailangan sa lahat ng iba na manatili sa ibaba ng threshold nang walang hanggan. Ang mga estado na may hindi gaanong advanced programs ay mas gusto ang narrow definitions na nagpapahintulot sa kanila na maabot ang kasalukuyang frontier levels bago mailapat ang governance obligations, at tumututol sa mga definitions na permanenteng magpapahina sa kanila kumpara sa mga estado na unang nag-develop ng frontier AI.
"Ang definitional negotiation ay kung saan nangyayari ang karamihan sa tunay na gawain ng ASI governance treaty. Ang definition na politically achievable ngunit technically inadequate ay nagbubunga ng treaty na namamahala sa iba pa kaysa sa aktwal na panganib. Ang definition na technically adequate ngunit politically unachievable ay hindi nagbubunga ng treaty. Ang tanging daan sa problemang ito ay dumadaan sa shared technical evidence, kaya’t mas mahalaga ang AI Safety Institutes kaysa sa iniisip ng karamihan."
Ito ang strategic dimension kung bakit ang empirical work na ginagawa ng AI Security Institute ng UK at ng Center for AI Standards and Innovation ng US (parehong itinatag bilang AI Safety Institutes) ay foundational para sa treaty negotiations, kahit na ang mga katawan na ito ay hindi dinisenyo para sa paghahanda ng treaty. Sa pamamagitan ng paggawa ng shared evidence tungkol sa kung ano ang magagawa at hindi magagawa ng mga AI system sa iba't ibang antas ng kakayahan, at tungkol sa kung aling mga kakayahan ang nauugnay sa kung aling mga panganib, lumilikha sila ng factual na batayan para sa definitional negotiations na mas mahirap para sa strategic interests na simple lang i-override. Ang kasunduan sa mga katotohanan ay hindi awtomatikong gumagawa ng kasunduan sa mga depinisyon, ngunit binabago nito ang katangian ng hindi pagkakasundo mula sa isang purong strategic tungo sa isang bahagyang technical, kung saan dinidisiplina ng shared evidence ang negotiating positions ng lahat ng partido.
Ang gawaing definitional ay kailangang simulan bago pa magsimula ang negotiations. Kapag ang arms control negotiations ay nagsisimula nang walang pre-existing technical consensus sa mga definitions, ang mga negotiator ay may posibilidad na makabuo ng definitions na sumasalamin sa lowest common denominator ng political agreement sa halip na ang technical requirements ng governance goal. Kung mas maraming technical work ang nagagawa nang maaga, mas matibay ang pundasyon kung saan makakabuo ang mga negotiator ng definitions na talagang namamahala sa kung ano ang dapat nilang pamahalaan.
Ang pinakamalakas na pagtutol
Ang pinakamabigat na tutol ay ang definitions ay gagamitin nang may panlilinlang sa araw na isulat ang mga ito. Oo. Kaya kailangan ng definitions ng update authority, capability tests, at compute triggers, hindi static glossary. Ang gaming ay design input. Hindi ito dahilan para iwanang walang label ang frontier.