Ang dokumento ay ang Bletchley Declaration. Nagmula ito sa AI Safety Summit ng United Kingdom, ang unang pagtitipon ng mga gobyerno na partikular na tungkol sa mga panganib mula sa pinakamahuhusay na frontier system. Maikli ang teksto, hindi may-bisang, at maingat na may mga pag-iingat. Ang pagbabasa nito para sa kung ano ang isinasaad at kung ano ang hindi sinasabi ay nananatiling pinakamalinaw na sukatan ng kalagayan ng pandaigdigang ASI governance sa pagtatapos ng 2023.

Sa unang pagkakataon, magkasamang naitala ng magkalabang pamahalaan na ang frontier AI ay maaaring magdulot ng catastrophic harm.

Ang sinasabi ng deklarasyon

Ang pangunahing galaw ay isang pagkilala. Ang deklarasyon ay nagsasaad na ang frontier AI models ay may potensyal para sa seryoso, kahit sakunang pinsala. Binabanggit nito ang mga panganib na maaaring sinadya o hindi, at itinuturo nito ang seryosong pinsala mula sa pinakamakapangyarihang general-purpose systems. Ang mga gobyernong halos walang pinagkasunduan sa iba pang bagay, kasama ang Washington at Beijing, ay tinanggap ang framing na iyon sa publiko.

Higit pa sa pagkilala, nangangako ang mga signatories sa dalawang direksyon: tukuyin ang AI safety risks ng shared concern at bumuo ng shared scientific understanding tungkol sa mga ito; at bumuo ng risk-based national policies, nakikipagtulungan kung naaangkop. Sinusuportahan ng teksto ang patuloy na international dialogue at tinatanggap ang serye ng follow-up summits. Hindi ito nagpapanggap na hawak na ng mga summit na iyon ang mga sagot.

Ano ang hindi nito ginagawa

  • Walang mga obligasyong nagbubuklod. Wala nang anumang bansa ang kailangang kumilos ayon sa takdang panahon, mag-ulat ng sukatan, o magbawal ng kakayahan.
  • Walang institusyon. Walang ahensya, sekretariat, o monitoring body, tanging isang kasunduan na patuloy na makipag-usap at muling magtipon.
  • Walang pulang linya. Hindi tinutukoy ng deklarasyon kung aling mga kakayahan ang hindi katanggap-tanggap o kung ano ang magti-trigger ng collective action.
  • Walang verification o enforcement. Compliance is not measured because there is nothing concrete to comply with.

Bakit mahalaga pa rin ang isang non-binding statement

Madaling balewalain ang deklarasyon na walang ngipin. Isa rin itong maling pagbasa sa kung paano pumapasok ang mapanganib na teknolohiya sa international law. Ang pattern ng framework-convention na ginamit para sa ozone at klima ay nagsisimula sa pagtatatag ng mga pinagsasaluhang prinsipyo at tungkulin na makipagtulungan, dahil ang pagbanggit sa problema ay kinakailangan bago makipagnegosasyon kung ano ang gagawin dito. Ginawa ng Bletchley ang unang mahirap na diplomatikong gawain: naitala nito ang magkakasalungat na kapangyarihan na totoo at pinagsasaluhan ang panganib.

Bumukas din ito sa isang proseso. Hindi ito isang beses na summit. Naglunsad ito ng paulit-ulit na serye, ipinagpatuloy sa Seoul noong Mayo 2024, na nagbibigay sa mga pamahalaan ng patuloy na lugar para bumuo ng agham, institusyon, at sa huli ang mga pangako na hindi kayang hawakan ng isang deklarasyon. Mas nasa landas na binubuksan ng mga salita ang halaga kaysa sa mismong mga salita.

Ang karaniwang pagtutol ay ang mga malambot na pahayag ay teatro lamang. Tama naman kapag iyon na ang katapusan ng kwento. Kapag ito naman ang unang hakbang ng isang rehimeng magdaragdag pa ng thresholds, verification, at parusa, ito ang paraan ng mga estado para simulan ang pag-uusap tungkol sa mga limitasyong hindi pa nila handang tanggapin. Nabigo lang ang Bletchley kapag tumigil ang proseso sa larawan.

Ang pagsubok na susunod

The measure of Bletchley is whether acknowledgment becomes architecture. Shared concern that never hardens into binding rules, independent checks, and institutions is only language. Follow-on summits, national mga instituto ng kaligtasan ng artipisyal na intelihensiya, at scientific assessment ang makinarya na nagpapa-mature sa deklarasyon tungo sa pamamahala o nagpapahintulot dito na mawala. Bumili ang teksto ng panimulang punto. Ang gawain ay i-convert ito bago ang mga kakayahang binabalaan nito ay malampasan ang prosesong sinimulan nito. Para sa Foundation, ang conversion na iyon ay nangangahulugan ng isang nakataling landas para pigilan ang superintelligence, hindi isang permanenteng cycle ng mga summit na hindi kailanman nagpapasa ng batas.