Ang AI development ay, sa kasalukuyan, hardware-intensive. Ang pag-train ng mga models na nasa frontier ng capability ay nangangailangan ng clusters ng libu-libong specialized chips na tumatakbo nang linggo o buwan, na kumukonsumo ng power sa range ng sampu-sampung megawatts. Ang mga chips ay dinisenyo ng maliit na bilang ng mga kumpanya, ginagawa gamit ang equipment mula sa mas maliit na bilang, at ibinebenta sa pamamagitan ng supply chains na dumadaan sa specific national jurisdictions. Ang hardware concentration na ito ay isa sa mga iilang features ng frontier AI development na ginagawang practical ang near-term regulation.
Ang konsentrasyong iyon ay lumilikha ng governance chokepoint, isa sa iilang lugar kung saan praktikal na maisasagawa ang regulasyon ng frontier AI development sa malapit na panahon.
Ang compute governance ay ang paraan ng regulasyon ng AI na sinusubukang gamitin ang konsentrasyong ito bilang lever. Sa halip na direktang i-regulate kung ano ang maaari o hindi maaaring buuin ng mga AI system (isang tanong na nangangailangan ng teknikal na paghatol na hindi kayang gawin ng karamihan sa mga regulator), ang compute governance ay nagre-regulate sa hardware na kailangan para buuin ang mga ito. Kontrolin ang compute, at mayroon kang ilang antas ng kontrol sa kung sino ang makakapag-develop ng frontier AI, sa anong sukat, at sa anong antas ng pag-uulat at transparency.
Ang mga chokepoint sa hardware
Hindi permanente ang mga chokepoint na ito. Aktibong namumuhunan ang China sa domestic semiconductor production para mabawasan ang pagdepende sa Western supply chain. Ang kasalukuyang domestic chips ay nananatiling makabuluhang nasa likod ng frontier, isang agwat na nagdudulot ng tunay na gastos sa Chinese AI development ngunit hindi ginagawang imposible ang frontier AI development kung may sapat na oras at resources. Ang governance window na nilikha ng kasalukuyang hardware concentration ay totoo ngunit may hangganan.
Anong mga hakbang sa compute governance ang umiiral na
Ang US government ay nagpatupad ng export controls sa advanced AI chips bilang pinakamalaking hakbang sa compute governance hanggang ngayon. Ang mga kontrol na inihayag noong Oktubre 2022 ay nagbawal sa pagbebenta ng Nvidia A100 at H100 chips sa China, Russia, at iba pang tinukoy na bansa. Sunod-sunod na pagpapalawak noong 2023 at 2024 ay kasama na rin ang mga chips na sadyang ginawa para makaiwas sa orihinal na threshold, kaya’t nasara ang pinakamadaling paraan ng pag-iwas. Nagdulot ito ng tunay na gastos sa Chinese AI labs: may mga dokumentadong pagpupuslit ng chips, black market pricing, at nabawasang kakayahan ng kanilang training clusters.
Kasama sa Executive Order on AI ng administrasyong Biden noong Oktubre 2023 ang requirement na mag-ulat ang mga developer sa gobyerno para sa training runs na lampas sa humigit-kumulang 10^26 floating point operations, halos katumbas ng compute na kailangan para sanayin ang isang GPT-4-scale na model. Ang reporting requirement na ito ay unang hakbang tungo sa compute-based oversight: binibigyan nito ang gobyerno ng visibility kung sino ang nagpapatakbo ng malalaking training runs bago pa ide-deploy ang mga sistema, hindi pagkatapos.
A frontier training run ay nangangailangan pa rin ng isang buong gusali ng espesyal na chips at isang singil sa kuryente na makikita mula sa kalawakan. Ang pisikal na tambak na iyon ang pinakamahusay na hawakan ng mga gobyerno. Ang compute governance ay ang hindi romantikong proyekto ng pagpapalit ng mga gusaling iyon sa lisensyadong, inspektableng imprastruktura.
Ano ang hindi magagawa ng compute governance
Tatlong makabuluhang limitasyon ang naglilimita sa bisa ng pamamahala sa kakayahang komputasyon bilang kasangkapan sa kaligtasan. Una, ang pag-iwas: maaaring bilhin ang mga chips sa pamamagitan ng mga ikatlong bansa bago pa man magkabisa ang mga restriksyon, iimbak, o palitan ng bahagyang hindi gaanong may kakayahang chips na nasa ibaba ng mga threshold ng regulasyon. Ang mga kontrol ng US ay naiwasan sa ilang dokumentadong kaso, at ang mga pattern ng pagpupuslit at pagruruta sa ikatlong bansa ay sapat na malawak upang mag-udyok ng maraming round ng paghihigpit.
Pangalawa, algorithmic efficiency: habang nagiging mas episyente ang pagsasanay ng AI, bumababa ang compute na kailangan para makamit ang isang antas ng kakayahan. Ang compute threshold na itinakda nang tama ngayon ay maaaring maging sobrang loose na sa loob ng tatlong taon dahil sa pag-unlad ng episyensiya. Kailangan ng governance frameworks na nakabatay sa fixed compute thresholds ng mga mekanismong mag-a-adjust sa mga threshold na iyon habang nagbabago ang relasyon ng compute at capability.
Pangatlo, at pinakamahalaga, hindi tinutugunan ng compute governance ang alignment problem. Ang system na sinanay gamit ang properly licensed hardware, iniulat sa mga angkop na awtoridad, at nasa loob ng sanctioned compute threshold ay maaari pa ring maging misaligned. Maaaring kontrolin ng compute governance ang bilis at sukat ng frontier AI development at magbigay ng visibility kung sino ang nagsasanay ng ano. Hindi nito masisiguro na ang sinasanay nila ay aligned.
Kaya naman ang compute governance ay higit na nauunawaan bilang isang bahagi ng mas malawak na balangkas kasama ang alignment verification requirements at international treaty obligations, hindi bilang standalone solution. Ang Foundation's tatlong panukalang patakaran ituring ang compute governance bilang ang near-term lever na bumibili ng oras at visibility habang umuusad ang mas mahirap na teknikal at diplomatikong gawain ng alignment verification at international treaty negotiation.