Kapag nabigo ang isang tulay, alam na ng mga abogado kung paano hanapin ang responsable. Kapag nabigo ang isang AI stack sa buong model, cloud, at integrator, humihinto ang paghahanap. Ang liability rules na hindi makapangalan ng defendant ay hindi makakapigil sa susunod na pagkabigo. Ito ay governance problem, hindi metaphysical.

Isang kasunduan na hindi makapagtatalaga ng responsibilidad sa paglabag ay kasunduang hindi maipapatupad, at tunay na mahirap ang mga tanong na ito para sa teknolohiyang tulad ng AI.

Dalawang magkaibang problema

Nakatutulong na paghiwalayin ang dalawang bagay na madalas na nalilito. Pananagutan ay ang legal na tanong kung sino ang mananagot at dapat magdala ng gastos kapag nangyari ang pinsala, isang usapin ng paglalaan ng responsibilidad mula sa developer hanggang sa deployer hanggang sa user. Pagpapatungkol ay ang factual at technical na tanong ng pagtatatag kung ano talaga ang nangyari at sino ang gumawa nito, pagsubaybay sa isang mapanganib na aksyon pabalik sa isang partikular na system, model, o actor. Kailangan ng governance ng sagot sa dalawa: mga patakaran na nagtatalaga ng responsibilidad, at ang forensic capacity na matukoy ang mga katotohanang inilalapat ng mga patakarang iyon.

Bakit ginagawang mahirap ng AI ang dalawa

  • Mahaba at malabo ang kadena ng sanhi. Isang mapanganib na kinalabasan ay maaaring isangat ang isang foundation-model developer, isang kumpanyang nag-adapt ng model, ang nag-deploy, at ang end user, na bawat isa ay maaaring ituro ang iba.
  • Umuusbong at hindi malinaw ang pag-uugali. Kapag gumawa ang isang sistema ng bagay na hindi partikular na inilaan o inasahan ng mga gumawa nito, nahihirapan ang tradisyonal na notions ng fault at negligence.
  • Maaaring teknikal na mahirap matukoy ang attribution. Mahirap talagang matukoy kung aling system ang gumawa ng isang output o aksyon (lalo na kapag kinopya, fine-tuned, o pinapatakbo nang pribado ang mga model) nang walang sadyang traceability measures.
  • Maaaring tumawid ng hangganan ang mga pinsala. Isang sistema na binuo sa isang bansa, inilalagay sa iba, at nagdudulot ng pinsala sa pangatlo ay nagdudulot ng mga tanong sa hurisdiksyon na hindi kayang hawakan ng ordinaryong liability law.

Ang internasyonal na dimensyon

Sa antas ng mga estado, mayroon nang framework ang international law para sa responsibility. Sa ilalim ng matagal nang itinatag na rules of state responsibility (codified sa International Law Commission's Articles) ay may pananagutan ang isang estado sa internationally wrongful acts, kasama, sa mga tinukoy na kalagayan, ang conduct ng private actors na idinidirekta, kinokontrol, o nabibigo nitong i-regulate. Magtatayo ang isang AI treaty sa ibabaw nito: ang mga estado ang mananagot sa pagtiyak na sumusunod ang mga aktor sa kanilang teritoryo, at sa mga kahihinatnan ng pagkabigo. Ito ang paraan kung paano ang isang treaty na nagbubuklod sa mga estado ay nagiging accountability para sa mga private companies na talagang nagtatayo ng frontier AI.

Pero ang state responsibility ay nakadepende sa attribution, pagpapatunay na may paglabag at nagmula ito sa hurisdiksyon ng isang estado. Dito nagkikita ang governance at verification: ang parehong monitoring at traceability tools na nakakakita ng hindi pagsunod ang nagpapagana ng attribution, at samakatuwid ng liability. Ang enforcement provisions ng isang treaty ay kasing-kredible lamang ng kakayahan nitong itatag kung sino ang gumawa ng ano.

Ang kailangan ng isang governance regime

1

Mga malinaw na panuntunan sa paglalaan

Batas na tumutukoy kung sino sa development-and-deployment chain ang may pananagutan sa aling pinsala, para hindi maipamahagi ang accountability sa walang kasalanan. Ang mga umuusbong na balangkas, tulad ng gawain ng EU sa AI liability, ay mga unang pagtatangka.

2

Traceability sa pamamagitan ng disenyo

Mga teknikal na hakbang (logging, model identification, hardware-level records) na naka-built in para masundan ang pinagmulan ng mapanganib na aksyon, na ginagawang ebidensya ang attribution sa halip na hula.

3

Isang pamantayan ng pangangalaga

Mga defined obligations para sa frontier developers, kaya kapag hindi ito natupad ay nagiging malinaw ang pagkakamali at napupunta sa mga lumilikha ng panganib ang pasanin.

4

Kakayahang international attribution

Shared verification at forensic capability, para mapatunayan ang mga paglabag sa mga hangganan at maiugnay sa mga responsable.

Ang patakaran na walang puwedeng panagutan ay hindi patakaran. Bago natin maipatupad ang mga limitasyon sa mapanganib na AI, kailangan nating masagot ang dalawang tanong: sino ang responsable, at paano natin ito mapapatunayan. Ang mga sagot na iyan ang nakatagong pundasyon ng bawat kredibleng treaty.

Ang pundasyon sa ilalim ng kasunduan

Bihirang banggitin sa mga headline tungkol sa ASI governance ang liability at attribution, pero sila ang nagpapasya kung gagana ang lahat. Ang isang kasunduan na may mga threshold at pagbabawal pero walang paraan para ituro ang responsibilidad sa paglabag ay pahayag lang ng intensyon, hindi isang maipapatupad na patakaran. Kaya bahagi ng pundasyon ng proyekto ng kasunduan ang pagbuo ng legal frameworks na naglalaan ng responsibilidad sa buong AI supply chain, pati na rin ang teknikal na kakayahang masundan ang pinsala hanggang sa pinagmulan nito, hindi hiwalay dito. Ito rin ang mga larangang puwedeng umunlad ngayon, sa pamamagitan ng domestic liability law at traceability standards, bago pa at bilang suporta sa anumang internasyonal na kasunduan. Nakatayo sa tahimik na gawaing ito ang nakikitang arkitektura ng pamamahala (ang mga pulang linya, ang monitoring body). Kung wala ito, ang pagpapatupad ay pangako lang na walang makakapagbigay.