Sa White House noong Hulyo 2023, pitong nangungunang US AI companies kasama ang OpenAI, Anthropic, Google, Meta, at Microsoft ay nag-commit sa isang set ng voluntary safety, security, at transparency measures. Sa Bletchley AI Safety Summit noong Nobyembre 2023, dalawampu't walong bansa ang pumirma ng deklarasyon na kinikilala ang shared concern tungkol sa frontier AI risks. Sa Seoul AI Safety Summit noong Hunyo 2024, labing-anim na AI companies ang pumirma sa Frontier AI Safety Commitments, na sumasaklaw sa safety thresholds, model evaluations, at information sharing.
May mahabang kasaysayan ang boluntaryong pangako sa kaligtasan ng mga korporasyon sa ibang industriya, at ang kasaysayang iyon ay nagbibigay-aral tungkol sa kung ano ang kaya at hindi nila magawa.
Ito ay makabuluhang political achievements. Kinakatawan nila ang unang pagkakataon na ang mga leading developers ng frontier AI systems ay hayagang tinanggap na ang kanilang trabaho ay nagdudulot ng seryosong panganib at na angkop ang ilang uri ng governance. Mali ang pagtatanggi sa mga ito. Ngunit mas magastos na pagkakamali ang tanggapin ang mga ito bilang sapat.
Ano talaga ang kinakailangan ng voluntary commitments
Ang Frontier AI Safety Commitments na nilagdaan sa Seoul ay ang pinaka-substantive sa mga major pledges. Ang mga signatories ay nangako na: tukuyin ang safety thresholds kung saan hindi nila ide-deploy o ipagpapatuloy ang pag-train ng isang model; magsagawa at mag-publish ng evaluations ng kanilang frontier models laban sa mga thresholds na iyon; magbahagi ng impormasyon tungkol sa safety incidents at evaluations sa mga gobyerno at iba pang AI companies; at mamuhunan sa safety research. Ito ay mga genuine commitments sa kahulugang nangangailangan sila ng visible actions na maaaring obserbahan at i-commentan ng publiko.
Hindi nila kailangan: independiyenteng panlabas na beripikasyon kung natutugunan ang mga threshold; may-bisang parusa sa hindi pagsunod; anumang mekanismo ng pagpapatupad laban sa signatory na kulang; at pakikilahok ng mga kumpanyang ayaw pumirma. Mga pahayag ng intensyon lamang ang mga pangako mula sa mga kumpanyang may buong pagpapasya kung paano ito bibigyang-kahulugan at ipatutupad.
Ito ang istruktura ng isang voluntary commitment, at hindi banayad ang pagkakaiba nito sa isang binding obligation. Ang voluntary commitment ay nagbubuklod sa partido nang moral at reputasyonal. Ang binding legal obligation ay nagbubuklod sa kanila sa batas, kasama ang pormal na parusa sa hindi pagsunod. Ang puwang sa pagitan ng moral at legal obligation ang eksaktong lugar kung saan ginagawa ang pinakamalalaking desisyon sa kaligtasan sa ilalim ng competitive pressure.
Ang pattern mula sa iba pang high-risk industries
Naunahan ng voluntary corporate safety commitments ang binding regulation sa karamihan ng mga major high-risk industries, at medyo pare-pareho ang pattern kung ano ang nagawa at hindi nagawa ng mga commitment na iyon.
Sa financial services, binuo ng mga major banks ang industry-led risk management codes at practices sa buong 1990s at unang bahagi ng 2000s. Nasa lugar na ang mga codes na ito at nominally gumagana nang ipakita ng financial crisis ng 2007 hanggang 2009 na nabigo ang voluntary risk management na pigilan ang systemic risk accumulation. Sinundan ito ng Financial Stability Board, ang Basel III framework, at pinalawak na mandatory disclosure requirements. Napabuti ng voluntary commitments ang baseline practices ngunit hindi sapat sa tail risks kung saan pinakamataas ang costs of failure.
Sa industriya ng kemikal, inilunsad ang Responsible Care program noong 1985 kasunod ng serye ng mga malalaking aksidente sa chemical plant, kasama ang Bhopal noong 1984. Nangako ang mga kalahok na kompanya na pagbutihin ang safety, health, at environmental performance at mag-ulat nang transparent tungkol sa kanilang progreso. Napabuti ng Responsible Care ang safety culture ng industriya at nabawasan ang insidente ng routine accidents sa mga sumunod na dekada. Hindi nito napigilan ang mga makabuluhang insidente at sa huli ay dinagdagan ito ng mga binding regulatory requirements. Natuklasan ng sariling assessment ng programa na ang pinakamalaking limitasyon nito ay ang kawalan ng independent verification.
Ang Responsible Care program ng industriya ng kemikal, inilunsad noong 1985, ang pinakamalapit na makasaysayang parallel sa kasalukuyang AI safety commitments: isang boluntaryong pangako ng industriya na sumasaklaw sa kaligtasan, transparency, at information sharing. Natuklasan ng sariling assessment ng programa pagkatapos ng dalawang dekada na ang pangunahing limitasyon nito ay ang kawalan ng independent verification ng iniulat na performance. Structural din ang limitasyong iyon sa kasalukuyang AI safety commitments, at nagbubunga ito ng parehong gap: commitment sa mga outcome nang walang mekanismong kumpirmahin kung nakakamit ang mga outcome.
Noong una, ang kaligtasan ng nuclear power plant sa Estados Unidos ay pinamamahalaan pangunahin sa pamamagitan ng self-regulation at industry standards. Ipinakita ng aksidente sa Three Mile Island noong Marso 1979 na hindi sapat ang boluntaryong safety culture ng industriya para sa teknolohiyang ang mga failure mode ay maaaring makaapekto sa malalaking populasyon. Sinundan ito ng mandatory oversight framework ng Nuclear Regulatory Commission, kasama ang independent inspections, mandatory incident reporting, at binding operational standards. Tinutulan noon ng industriya ang mandatory regulation; ngayon ay kinikilala na ito ang nagdulot ng safety culture improvements na hindi nakamit ng boluntaryong paraan.
Ang problema ng competitive pressure
Ang voluntary commitment ay may structural vulnerability na wala sa binding regulation: ang competitive pressure problem. Kung ang isang commitment ay lumilikha ng tunay na gastos, tulad ng pagpapabagal sa development timeline, pag-aatas ng mamahaling safety evaluation, o pagbubukod sa high-revenue application, kung gayon ang anumang kumpanyang hindi pumirma sa commitment ay nakakakuha ng competitive advantage sa pamamagitan ng pag-iwas sa gastos na iyon. Ang mga kumpanyang pumirma ay nahaharap sa pagpipilian sa pagitan ng pagpapahinga sa interpretasyon ng commitment para manatiling competitive, o pagsipsip ng gastos at pagkahuli.
Hindi hypothetical ang dynamic na ito sa AI sector. Ang mga kumpanyang pumirma sa Frontier AI Safety Commitments sa Seoul ay direktang nakikipagkumpitensya sa mga kumpanya at state-sponsored programs sa China na hindi pumirma ng katumbas na dokumento. Nakikipagkumpitensya rin sila sa isa't isa, at sapat na malawak ang wika ng mga commitments na nilagdaan nila kaya hindi maiiwasan ang reasonable interpretive disagreements tungkol sa kung ano ang compliance.
Nalulutas ng binding regulation ang ganito sa pamamagitan ng paglikha ng floor na dapat sundin ng lahat ng kakumpitensya, inaalis ang competitive advantage mula sa hindi pagsunod. Ito ang dahilan kung bakit nagdudulot ng safety outcomes ang binding regulation na hindi karaniwang nagagawa ng voluntary commitments: inaalis nito ang incentive structure na ginagawang kaakit-akit ang safety shortcutting.
Ano ang maganda ang nagagawa ng voluntary commitments
Ang pinakamahalagang tungkulin ng mga boluntaryong pangako sa kasaysayan ng pamamahala sa kaligtasan pang-industriya ay ang pagtatatag ng pamantayan. Ang mga boluntaryong pangako ay lumilikha ng talaan ng pagkilala ng industriya na mayroong problema at na ang ilang mga gawain ay angkop na tugon. Ang talaang ito ay nagiging batayan kung saan gumagana ang may-bisang regulasyon.
Kapag pumunta ang regulators o legislators sa ASI governance, ang Frontier AI Safety Commitments ay magkakaroon ng itinatag na katotohanan na tinatanggap ng leading companies ang legitimacy ng safety thresholds, model evaluations, at information sharing bilang governance concepts. Mas mahina ang posisyon ng industry na magtalo na ang mga requirement na ito ay technically infeasible o commercially inappropriate, dahil na-commit na nila ito nang voluntary. Sa ganitong kahulugan, ang voluntary commitments ay unang hakbang patungo sa binding governance, hindi kapalit nito.
Ang voluntary commitments ay lumilikha rin ng institutional infrastructure. Ang Seoul commitments ay nangailangan sa mga kumpanya na bumuo ng internal processes para sa safety threshold setting at model evaluation. Ang mga prosesong ito, at ang institutional knowledge na naka-embed dito, ay ang pundasyon kung saan makakabuo ang isang binding verification regime. Ang isang regulatory body na nangangasiwa sa mandatory AI safety evaluations ay makakakuha mula sa existing company practices sa halip na magdisenyo ng compliance infrastructure mula sa simula.
"Ang voluntary commitments ay gumaganap ng kapaki-pakinabang na tungkulin sa maagang yugto ng pag-unlad ng governance, at ang Bletchley at Seoul commitments ay gumawa ng isang bagay na totoo. Ngunit ang kasaysayan ng bawat pangunahing high-risk na industriya ay nagpapakita ng parehong bagay: pinapabuti ng voluntary commitments ang baseline practices at nabigo sa tail risks. Ang tail risks ang eksaktong dahilan kung bakit tayo namamahala para sa superintelligence."
Kung ano ang kailangan ng binding governance na hindi maibibigay ng boluntaryong pangako
Apat na elemento ang nagpapakita ng pagkakaiba ng binding at boluntaryong pamamahala, at mahalaga ang lahat ng apat para sa frontier AI.
Independent verification. Ang voluntary commitment ay self-reported. Ang binding obligation ay napapailalim sa third-party verification, maging sa pamamagitan ng regulatory body, international inspection agency, o independent auditor na may legal standing. Ang self-reporting ay nagbibigay ng tumpak na impormasyon kapag ang mga reporting organizations ay walang insentibo na magkamali sa representasyon. Sa competitive markets, bihirang matugunan ang kondisyong iyan.
Mga tinukoy na consequences para sa hindi pagsunod. Ang voluntary commitments ay lumilikha ng reputational cost para sa hindi pagsunod, na totoo pero limitado. Ang binding obligations ay lumilikha ng legal consequences: multa, pagbawi ng lisensya, paghihigpit sa market access, o treaty-based na parusa. Ang kredibilidad ng isang governance framework ay nakasalalay sa kredibilidad ng mga consequences nito.
Coverage ng non-signatories. Ang pinakamalaking AI development ay maaaring manggaling sa mga kumpanya o gobyerno na hindi kailanman pumirma sa voluntary commitment. Ang binding national regulation at international treaty obligations ay lumilikha ng governance na nalalapat sa mga aktor kahit hindi sila pumayag nang maaga. Ang voluntary commitment framework ay nag-iiwan sa labas ng framework ang mga aktor na pinakamalamang na lumikha ng seryosong panganib kung pipiliin nilang gawin ito.
Katatagan sa pagbabago ng pamunuan. Ang boluntaryong pangako ay nagbubuklod sa kasalukuyang pamunuan ng isang kumpanya. Kapag nagbago ang pamunuan, nagbago ang komposisyon ng board, o tumindi ang kompetisyon, walang legal na puwersa ang pangako upang mabuhay sa mga pagbabagong iyon. Ang binding regulation ay naka-embed sa batas at nabubuhay sa ordinaryong pagbabago ng organisasyon.
Ang boluntaryong pangako sa Bletchley at Seoul ay tunay na nagawa na dapat pagtibayin pa. Ang pagpapatibay nito ay nangangahulugang aminin nang tapat ang nagawa nila at ang hindi nila magagawa, at gamitin ang pulitikal at institusyonal na momentum na dala nila para ituloy ang may-bisang pamamahala na pupunan ang mga puwang na iniwan nila.
Ang pinakamalakas na pagtutol
Ang pinakamabigat na tutol ay ang voluntary rules ang paraan ng pag-mature ng mga industriya at ang pagdedemand ng batas muna ay nag-freeze ng progress. Ang voluntary rules ay nakakatulong kapag nagdi-disclose sila. Nabigo sila kapag ang parehong firm ang sumusulat, nagbibigay ng grado, at kumikita sa test. Ang external bite ang nagpapaging tunay ng maturity.