May Unang AI Treaty na ang Mundo.
Narito ang Hindi Nito Saklaw.

Noong Setyembre 5, 2024, sa Vilnius, Lithuania, nilagdaan ng mga kinatawan ng United States, United Kingdom, European Union, at dose-dosenang iba pang bansa ang Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. Ito ang unang legally binding international treaty tungkol sa artificial intelligence na natapos. Nararapat itong maunawaan nang malinaw, kapwa sa kung ano ang nakamit nito at sa problemang hindi nito kailanman idinisenyo para lutasin.

Ano ang saklaw ng treaty

Ang Framework Convention ay isang human rights instrument. Ang mga legal obligations nito ay nakatuon sa pagtiyak na ang mga AI system ay hindi sumisira sa demokrasya, human rights, o rule of law. Sa praktika, nangangahulugan ito:

• Mga kinakailangan sa transparency: dapat sabihin sa mga tao kapag naaapektuhan ng AI systems ang mga desisyon tungkol sa kanila
• Mga mekanismo ng pananagutan: dapat tiyakin ng mga estado na ang mga developer at deployer ng AI ay maaaring panagutin sa mga pinsala
• Walang diskriminasyon: Ang mga sistema ng artipisyal na katalinuhan ay hindi dapat gumawa ng mga resulta na lumalabag sa umiiral na batas ng pagkakapantay-pantay
• Epektibong remedyo: ang mga taong nasaktan ng AI ay dapat magkaroon ng access sa legal redress
• Mga pananggalang na demokratiko: hindi dapat gamitin ang AI para sirain ang mga proseso ng eleksyon o ang panuntunan ng batas

Makabuluhan ang mga pangakong ito. Ang AI hiring algorithm na nagdidiskrimina base sa lahi, facial recognition system na na-deploy nang walang transparency, AI-generated disinformation campaign, lahat ng ito ay direktang tinutugunan ng framework ng treaty. Tinanggap ng mga signatory ang may-bisang obligasyon na pigilan ang mga ito.

Ang enforcement mechanism ay ang Conference of the Parties, na sumusuri sa implementasyon at maaaring maglabas ng mga rekomendasyon. Mas malambot ito kaysa sa verification regime ng Chemical Weapons Convention o sa inspection protocols ng Nuclear Non-Proliferation Treaty, pero itinatag nito ang prinsipyo na ang AI ay napapailalim sa binding international law; ang prinsipyong iyon ay hindi pa naitatag bago ang Setyembre 2024, at ang pagtatatag nito ay tunay na hakbang pasulong.

Ano ang hindi sakop ng treaty

Pinamamahalaan ng Framework Convention kung paano ginagamit ang AI sa lipunan. Hindi nito pinamamahalaan kung dapat bang paunlarin sa simula pa lang ang mga AI system na maaaring magdulot ng civilizational risk.

Ang risk framework ng kasunduan ay naka-calibrate sa kasalukuyan at malapit na mga pinsala ng AI, ang tunay at seryosong pinsalang dulot na ng mga AI system ngayon. Ito ang tamang saklaw para sa instrumento na idinisenyo para protektahan ang karapatang pantao sa mga lipunang apektado ng AI. Ito ang maling saklaw para sa instrumento na idinisenyo para pigilan ang sibilisasyonal na sakuna mula sa artificial superintelligence.

Wala sa teksto ng kasunduan ang salitang "superintelligence". Wala itong ipinapataw na obligasyon sa frontier AI development race. Wala itong sinasabi tungkol sa compute governance, tungkol sa training run size, tungkol sa alignment problem, o tungkol sa senaryo na inaalala nina Geoffrey Hinton, Yoshua Bengio, at iba pang mananaliksik na ang mga babala ay naipon sa nakaraang dekada.

Bakit Mahalaga ang Pagkakaibang Ito

Ang panganib na mapagkamalan ang Framework Convention bilang sapat na governance ay natural na resulta ng political process na gumagawa ng international agreements, hindi hypothetical: kapag may treaty na, nasiyahan na ang political pressure na gumawa nito. Ang mga bansang lumagda sa Framework Convention ay maaaring ituro ito bilang ebidensya na pinamamahalaan ang AI. Ang mas mahirap na usapan (tungkol sa kung dapat bang sumailalim ang pinakamahuhusay na AI systems na binuo sa binding international constraints sa kanilang development, hindi lang sa deployment) ay hindi nagiging mas madali pagkatapos ideklara ang governance milestone.

Pinamamahalaan ng Framework Convention ang parehong AI na pinamamahalaan na ng umiiral na human rights at equality law, pinalalawig nito ang mga prinsipyong iyon sa konteksto ng AI at ginagawang binding ang mga ito sa buong mundo. Mahalaga ito. Hindi ito tugon sa panganib na ang isang sapat na may kakayahang AI system, na hinahabol ang mga layuning bahagyang hindi naaayon sa kapakanan ng tao, ay maaaring magdulot ng pinsala sa sukat na walang legal na remedyo ang makakayang tugunan dahil ang pinsala ay hindi na maibabalik.

"Ang layunin ay ang pag-unlad ng AI ay maging mabuti para sa AI at sa mga tao. Nangangailangan iyan ng pagtrato rito bilang isang isyu ng sibilisasyon, hindi bilang tanong ng product liability."

Ano ang kailangan ng frontier AI safety treaty

Ang isang treaty na idinisenyo para tugunan ang panganib mula sa artificial superintelligence ay ibang-iba ang itsura kumpara sa Framework Convention. Ang iminungkahing balangkas ng Nakada Foundation outlines what such a treaty would need to include:

• pamamahala sa compute: mga binding na limitasyon sa computational resources na maaaring gamitin sa isang training run, na sinusuportahan ng hardware-level verification. Ang compute ang bottleneck sa frontier AI development at ang tanging variable na kasalukuyang masusukat at maipapatupad sa internasyonal na antas.
• Independenteng beripikasyon: isang mekanismong pampagsubaybay na katulad ng nuclear inspections, na nagpapahintulot sa mga partido na i-verify ang pagsunod sa halip na umasa sa self-reporting ng mga organisasyong may pinakamalaking pakinabang sa hindi pagsunod.
• Saklaw ng Frontier AI: mga obligasyon na partikular na nalalapat sa pagbuo ng pinakamakapangyarihang AI systems, hindi lang sa kanilang deployment sa social contexts.
• US-Pagsasama ng Tsina: anumang kasunduan na hindi nagbubuklod sa dalawang nangungunang bansa sa pagpapaunlad ng AI ay likas na kulang, gaano man karami pang bansa ang pumirma.

Ang Framework Convention ay isang kinakailangang unang hakbang. Ang pagkilala na ang AI ay napapailalim sa may-bisang international law ay isang mahalagang precedent. Pero ang kasaysayan ng existential technology governance (nuclear, chemical, biological) ay nagpapakita na ang unang kasunduan sa isang domain ay bihirang tumutugon sa pinakamalalang panganib. Kailangan ng patuloy na pampulitikang pagsisikap, sa loob ng maraming taon, para buuin ang mga balangkas na talagang naghihigpit sa pinakamapanganib.

Kailangang simulan ngayon ang political effort na iyan, hindi pagkatapos ideklara ng Framework Convention na nalutas na nito ang problema, at hindi rin pagkatapos umiral ang mga kakayahang ginagawang imposibleng ipatupad ang binding constraints.