Ang pagtalakay sa anatomy ng isang hypothetical treaty ay hindi akademikong ehersisyo. Ginagawa nitong tiyak at debatableng mga desisyon sa disenyo ang malabong aspirasyon, at ipinapakita nito na ang mga hadlang sa ASI governance ay pampulitika, hindi konsepto. Mayroon nang legal na makinarya; bawat probisyon sa ibaba ay may nauna sa isang umiiral na kasunduan. Ang sumusunod ay isang structural sketch, hindi isang tapos na teksto, ng kailangang lutasin ng isang Treaty on Artificial Intelligence Safety.
Ang treaty ay isang structured legal instrument na may malinaw na anatomy: scope, definitions, obligations, verification, institutions, at enforcement. Narito ang konkretong paglalakbay sa mga probisyon na kailangan ng isang kasunduan para maiwasan ang unsafe superintelligence, at ang mga pagpipiliang ipinapataw ng bawat isa.
Panimula at layunin
Bawat kasunduan ay nagsisimula sa paglalahad ng layunin at mga gabay na prinsipyo nito. Dito, ang layunin ay maiwasan nang permanente ang pag-unlad ng artificial superintelligence. Hindi mapapangasiwaan ang superintelligence, habang pinapanatili ang mga benepisyo ng AI sa ibaba ng threshold na iyon at tinitiyak na ang mga benepisyong iyon ay ibinabahagi. Ang preamble ay magtatawag sa precautionary principle, aafirm na ang mga panganib ay common concern ng sangkatauhan, at ilalagay ang kasunduan sa loob ng umiiral na international law. Ito ang nagtatakda ng interpretive frame para sa lahat ng susunod.
Saklaw at mga threshold
Ang pinakamahirap na suliranin sa pagbalangkas ay tukuyin kung ano ang saklaw ng kasunduan. Hindi tulad ng nuclear material, ang AI capability ay tuloy-tuloy na spectrum na walang natural na linya. Ang praktikal na paraan ay gumamit ng masusukat na proxy: training-compute threshold na higit sa kung saan napapasailalim ang mga system sa obligasyon ng kasunduan, kasama ang capability-based criteria para sa mga system na nagpapakita ng tinukoy na mapanganib na kakayahan. Ang eksaktong bilang ay dapat ipaubaya sa technical body na may kapangyarihang baguhin ito, dahil anumang nakapirming numero sa teksto ay magiging lipas na sa loob ng ilang taon.
Mga pangunahing obligasyon
Pagbabawal sa pagtawid sa pulang linya
Ang pangunahing obligasyon: sumasang-ayon ang mga partido na huwag bumuo o mag-deploy ng mga system na lampas sa tinukoy na danger threshold hanggang sa matugunan ang mga napagkasunduang safety conditions, ang katumbas ng treaty sa pagbabawal ng ipinagbabawal na gawain.
Deklarasyon at notipikasyon
Dapat ideklara ng mga partido ang malalaking pasilidad ng compute at abisuhan ang treaty body bago magsagawa ng covered training runs, na lumilikha ng transparency baseline na pagbabatayan ng verification.
Sapilitang pagsusuri bago ilabas
Dapat sumailalim ang mga sakop na sistema sa independiyenteng pagsusuri sa kaligtasan batay sa mga itinakdang pamantayan bago i-deploy, at iulat ang mga resulta sa katawan ng kasunduan.
Implementasyon sa loob ng bansa
Dapat ipatupad ng bawat partido ang mga pambansang batas na naglalapat ng mga obligasyong ito sa mga pampubliko at pribadong developer sa kanilang teritoryo, dahil ang kasunduan ay nagbubuklod sa mga estado, hindi direkta sa mga kumpanya.
Beripikasyon
Walang silbi ang pagbabawal na walang paraan para masuri, kaya kailangan ng treaty ng verification regime. Batay sa IAEA at chemical-weapons precedents, isasama nito ang monitoring ng declared facilities sa malalaking compute clusters, pagsubaybay sa advanced chips sa buong supply chain, karapatang mag-audit sa training at evaluation records, on-site inspection na may malinaw na access rights, at (ang pinakabagong elemento) hardware-based assurances na naka-built in sa mga chips para madetect ang covert large-scale training. Ang layunin ng disenyo, tulad ng nuclear safeguards, ay i-verify ang mahalagang bagay nang hindi kailangang ibunyag ang bawat commercial o security secret.
Mga institusyon
Ang treaty ay magtatatag ng international body (tawagin itong AI Safety Organization) para pangasiwaan ito: isang technical secretariat at inspectorate, isang scientific panel para magtakda at baguhin ang mga threshold, isang conference of parties bilang decision-making organ, at isang mekanismo para i-update ang mga annex nang walang buong re-ratification, sa modelo ng Montreal. Ito ang standing institution na nagiging static na dokumento sa ongoing regime na may kakayahang makasabay sa teknolohiya.
Pagpapatupad, pagpasok sa bisa, at pagbabago
- Pagpapatupad. Graduated responses sa mga paglabag, mula sa findings of non-compliance, hanggang sa pagkawala ng access sa shared benefits at compute, hanggang sa referral sa Security Council para sa seryosong paglabag, na kinikilala na ang verification ay nagbibigay ng ebidensya ngunit ang consequences ay nangangailangan ng political backing.
- Pagpasok sa bisa. A requirement that the states hosting the leading labs and chip production ratify before the treaty binds, so it governs the actors that matter, while avoiding a design where any single one can veto its existence indefinitely.
- Pagbabago at pag-aayos. Isang fast-track na mekanismo para higpitan ang mga threshold at teknikal na annex sa pamamagitan ng qualified majority, upang umunlad ang kasunduan kasabay ng teknolohiya sa halip na mag-freeze sa sandali ng paglagda.
Hindi kakulangan ng legal na kasangkapan ang hadlang sa isang kasunduan sa AI. Lahat ng probisyong kailangan nito ay umiiral na sa ilang kasunduan. Ang hadlang ay ang pulitikal na kalooban, na eksaktong bagay na matutulungan ng isang malinaw na draft na mabuo.
Bakit mahalaga ang pag-sketch nito
Ang paglalatag ng mga probisyon nang ganito ay dalawang bagay ang nagagawa. Tinatanggal nito ang pagiging mahiwaga ng kasunduan, ipinapakita na ito ay binubuo ng mga bahaging lubos na nauunawaan, bawat isa may naunang halimbawa, hindi isang paglukso sa hindi alam. At nililinaw nito kung saan talaga ang tunay na kahirapan: hindi sa legal na arkitektura, na kayang hawakan, kundi sa mga pulitikal na pagpili tungkol sa mga hangganan, pagiging mapanghimasok ng pagpapatunay, at ang kasunduan ng mga dakilang kapangyarihan na magpapabigkis sa kasunduan. Ang isang draft ay hindi lumilikha ng kagustuhang pumirma. Ngunit binabago nito ang 'kailangan natin ng kasunduan' tungo sa 'narito ang kasunduan, at narito nang eksakto kung ano ang kailangan nating sang-ayunan', na siyang simula ng seryosong diplomasya.