Ang isang paulit-ulit na problema sa ASI governance ay na ang mga gobyerno ay kasaysayang kulang sa in-house expertise para suriin ang mga sistema na dapat nilang i-regulate. Ang mga safety institutes ay umiiral para isara ang agwat na iyon. Sila ay mga government o government-backed bodies na may teknikal na mga mananaliksik na ang trabaho ay tasahin ang mga kakayahan at panganib ng frontier models, ang estado sa wakas ay nagtatayo ng kakayahang makita kung ano ang ginagawa ng mga labs, sa halip na kunin ang kanilang salita.

Simula sa UK at US noong huling bahagi ng 2023, dumami at nagkonekta ang mga pambansang AI safety institute sa isang internasyonal na network. Hindi ito kapansin-pansin, ngunit maaaring ito ang pinakamahalagang imprastruktura ng pamamahala na nalikha pa.

Saan Nagmula ang Network

Inihayag ng United Kingdom ang AI Safety Institute nito sa paligid ng Bletchley summit noong Nobyembre 2023, ang unang uri nito. Itinatag ng United States ang sarili nitong institute sa NIST pagkatapos. Sa Seoul summit noong Mayo 2024, isang mas malawak na grupo ng mga pamahalaan (kasama ang Japan, Singapore, Canada, South Korea, ang EU, at iba pa) ay sumang-ayon na magtayo ng mga institute at ikonekta ang mga ito sa isang international network upang i-align ang kanilang gawain. Ang nagsimula bilang dalawang national bodies ay naging binhi ng isang cooperative system.

Paalala tungkol sa mga pangalan: ang dalawang founding institute ay pinalitan na ng pangalan, ang UK ay ngayon ang AI Security Institute, at ang US body ay naging Center for AI Standards and Innovation (CAISI) noong 2025. Patuloy ang network at ang evaluation work nito sa ilalim ng mga bagong pangalan.

Ano talaga ang ginagawa ng mga institute

  • Suriin ang frontier models. Sinusubukan nila ang mga advanced system para sa dangerous capabilities (kasama na sa high-stakes domains) at binubuo ang mga paraan para sukatin kung ano talaga ang magagawa ng isang model.
  • Paunlarin ang agham ng pagsusuri. Mahigpit at standardized na pagsusuri ng AI ay isang hindi pa nalulutas na teknikal na problema. Ang mga institute ay gumagawa ng metodolohiyang kailangan ng maaasahang governance.
  • Payuhan ang mga gobyerno. Nagbibigay sila sa mga estado ng independiyenteng teknikal na paghusga tungkol sa mga panganib ng AI, binabawasan ang pag-asa sa sariling mga pagtatasa ng mga developer.
  • Makipagtulungan sa mga hangganan. Sa pamamagitan ng network, nagbabahagi ang mga institute ng mga pamamaraan, nag-uugnay ng pagsusuri, at nagtatrabaho patungo sa karaniwang pamantayan, ang simula ng interoperable, international evaluation.

Bakit Mahalaga ang mga Ito para sa Kasunduan

Direkta at kulang ang pagpapahalaga sa koneksyon sa pagitan ng mga institutes at isang future binding agreement. Bawat seryosong proposal para sa isang AI treaty ay nakadepende sa kakayahang suriin kung tumatawid ang isang sistema sa isang mapanganib na threshold at i-verify ang pagsunod sa safety obligations. Hindi umiiral nang default ang kakayahang iyon; kailangan itong itayo. Itinatayo mismo ito ng mga safety institutes. Sa epekto, itinatayo nila ang technical organs na gagamitin mamaya ng isang verification regime.

Niresolba rin nila ang sequencing problem. Ang treaty na magtutukoy ng evaluation requirements ay walang halaga kung walang independent body na makakapagsagawa ng evaluations. Sa pamamagitan ng pagbuo ng kapasidad na iyon ngayon (bago pa umiral ang treaty) ay tinitiyak ng mga institutes na handa ang mga tool kapag dumating ang political agreement. Ang network ang praktikal na pundasyon kung saan sa huli ay makatatayo ang binding governance, at ito ay tahimik na inilalagay habang nagpapatuloy ang higher-profile diplomacy sa parallel.

Ang mga limitasyon na dapat maging tapat tungkol

Hindi kapalit ng binding governance ang mga institute, at pagkakamali ang ituring silang ganoon. Karaniwang nakadepende ang access nila sa mga model sa boluntaryong kooperasyon ng mga developer; hindi nila mapipilit ang testing ng sistema na ayaw ibahagi ng isang kumpanya. Malaki ang pagkakaiba ng kanilang remits at resources sa bawat bansa, at ang koordinasyon ng network ay nasa simula pa at hindi binding. At ang evaluation mismo ay nananatiling scientifically immature, tunay na mahirap ang maaasahang pagtukoy kung mapanganib ang isang model, at may tunay na gaps ang kasalukuyang methods.

Walang saysay ang isang kasunduan na nangangailangan ng safety evaluations kung walang makakagawa nito. Ang mga safety institutes ang bumubuo sa mga "mata" na kailangan ng anumang tunay na verification regime. Dapat mangyari ang gawaing ito bago ang kasunduan, hindi pagkatapos.

Ang imprastruktura ng enforceable governance

Ang safety institutes ay kumakatawan sa pagbabago mula sa pakikipag-usap tungkol sa AI risk patungo sa pagbuo ng kakayahang sukatin ito. Mahalaga ang pagbabagong iyan dahil ang governance na walang pagsukat ay pawang aspirasyon lamang. Ang makatotohanang landas ay para sa network na mag-mature, makakuha ng garantisadong access sa frontier models sa pamamagitan ng legal mandate sa halip na goodwill, magkasundo sa shared standards, at bumuo ng independent, well-resourced evaluation capacity na kinakailangan ng verification regime. Hindi ililigtas ng mga institutes ang mundo nang mag-isa. Ngunit sila ang nag-iipon ng mga instrumento na kung wala ay hindi gagana ang anumang binding treaty, at ang pagpapalakas sa kanila ay kabilang sa pinakakonkreto at agad na kapaki-pakinabang na bagay na magagawa ng mga gobyerno habang ang mas malaking kasunduan ay pinag-uusapan pa.