Kasamang nag-host ng AI Seoul Summit ng South Korea at United Kingdom ang ikalawang pagpupulong sa seryeng sinimulan sa Bletchley Park noong Nobyembre 2023. Malinaw ang paghihiwalay ng agenda. Sa corporate track, naglabas ng public safety commitments ang leading developers. Sa governmental track, sumang-ayon ang mga estado na palalimin ang kooperasyon sa evaluation science. Kung ano ang naibigay at iniwang bukas ng bawat track, iyan pa rin ang pinakamalinaw na larawan kung saan nakatayo ang ASI governance noong 2024.

Parehong tunay ang mga output. Wala sa mga ito ang batas.

Ang Mga Pangako sa Kaligtasan ng Frontier AI

Ang headline document ay ang Frontier AI Safety Commitments, nilagdaan ng labing-anim na pangunahing kumpanya ng AI, kasama ang mga developer mula sa Estados Unidos, China, United Kingdom, at UAE. Nangako ang mga kumpanya na ilathala ang safety frameworks na naglalarawan kung paano nila sinusuri ang mga panganib mula sa frontier models; tukuyin ang mga threshold ng panganib na itinuturing nilang hindi matatanggap; at, higit sa lahat, hindi bumuo o mag-deploy ng mga model kung hindi mapapanatili ang mga threshold na iyon sa ilalim ng linyang iyon, kasama ang pangako na umatras kung nabigo ang mga mitigation.

Ang makabuluhang pagbabago ay ang public principle. Sinabi ng mga leading developer, sa rekord, na may ilang kakayahang masyadong mapanganib para i-deploy, at na tutukuyin nila ang mga red line at kikilos ayon dito. Lumipat ang industriya mula sa malabong mga pangako patungo sa mga nakasaad na limitasyon. Nanatiling self-defined ang mga limitasyon.

Bakit hindi sapat ang voluntary commitments

  • Itinatakda ng mga kumpanya ang kanilang sariling thresholds. Bawat developer ang tumutukoy kung ano ang intolerable risk at paano ito susukatin. Walang iisang pamantayan at walang panlabas na katawan na nagpapatunay sa mga depinisyon.
  • Walang independiyenteng beripikasyon. Walang nagpapatunay na sinusunod ang internal safety framework, o na tapat ang mga evaluation. Nakasalalay ang compliance sa salita ng developer.
  • Walang pagpapatupad. Ang pagbasag ng pangako ay nagdudulot ng reputational cost lang. Ang mga pangako ay hindi batas.
  • Maaari silang baguhin o i-drop. Maaaring unti-unting mawala ang voluntary commitments kapag may competitive pressure at nauuna ang isang katunggali. Ganyan kasalimuot ang self-regulation.

Ang karaniwang tutol ay mas mabuti pa rin ang self-policing ng mga lab kaysa wala. Totoo, pero kulang. Ang pangako na puwedeng tukuyin, sukatin, at sirain ng mismong nangako ay kapalit lamang ng tunay na pamamahala. Ang mga kapalit ay makakatulong lang kung sadyang papalitan ng mas mahigpit na sistema.

Ang network ng mga safety institutes

Ang governmental track ay nakagawa ng isang bagay na may mas matibay na potensyal: momentum patungo sa internasyonal na network ng AI safety institutes. Batay sa mga bagong katawan ng United Kingdom at United States, sumang-ayon ang mga estado na makipagtulungan sa agham ng pag-evaluate ng frontier models, pagbabahagi ng mga pamamaraan, pag-align ng testing, at pagbuo ng teknikal na kapasidad na kailangan ng anumang future verification regime. Ang mga pampublikong katawan na talagang makakapag-assess kung mapanganib ang isang model ang nag-uugnay na tisyu na kailangan ng isang treaty balang araw. Tingnan ang gabay ng Foundation sa kung ano ang AI safety institute.

Ang Seoul Declaration, na inendorso ng mga assembled governments, ay muling pinagtibay ang human-centric, safe, at trustworthy AI at ang patuloy na international cooperation. Tulad ng teksto ng Bletchley, ito ay isang pahayag ng direksyon kaysa sa isang hanay ng mga obligasyon.

Ang pattern at ang puwang

Ang Seoul ay sumusunod sa kilalang pattern sa pamamahala ng mapanganib na teknolohiya: pagkilala, saka boluntaryong pangako, saka (kung magtagumpay ang proseso) mga binding na patakaran. Ang corporate pledges at ang institute network ang ikalawang yugto. Ang hindi pa tapos na trabaho ang ikatlo: common standards, independent verification, at legal obligation.

The safety institutes are the most promising bridge, because the capacity they build is exactly what a binding regime would use. The risk is that the summit process stalls at the voluntary stage, that the world settles for pledges because pledges are easier than treaties, while capabilities keep advancing. Seoul made the gap between commitment and governance visible. Closing it is the remaining task. The Foundation's position is that closing it means moving from company pledges to batas internasyonal na pang-iwas before self-defined red lines dissolve under race pressure. Related reading: bakit nabigo ang boluntaryong pangako sa AI safety bilang tanging estratehiya.