Ang mga nagpapasya kung gaano kabilis itatayo patungo sa superintelligence, anong safety standards ang ilalapat, at kailan ide-deploy ang mga sistema na papalapit sa threshold na iyon ay, higit sa lahat, ang mga empleyado at mamumuhunan ng lima o anim na pribadong kumpanya ng teknolohiya. Hindi sila napapailalim sa umiiral na pandaigdigang batas, hindi inihalal. Ang kanilang mga desisyon ay napipigilan ng mga boluntaryong pangako na ginawa nila sa isa't isa at ng regulatory environment ng mga bansang pinagpapatakboan nila, na hindi kumpleto at higit na reaktibo.
Hindi maaaring maging huling sagot ang mga katotohanang iyon.
Hindi ito isang akusasyon. Ang mga indibidwal sa mga organisasyong ito ay, sa maraming kaso, tunay na sinusubukang kumilos nang responsable. Ang problema ay istruktural: ang mga desisyon ng ganitong kalaking sukat ay hindi dapat nakasalalay sa mabuting intensyon ng partikular na mga indibidwal sa partikular na mga kumpanya, na nagpapatakbo sa ilalim ng competitive pressures na sistematikong nagtutulak tungo sa mas mabilis na deployment sa mas mababang safety margins.
Ang kasalukuyang istruktura ng paggawa ng desisyon
OpenAI, Anthropic, Google DeepMind, at Meta AI ang pangunahing Kanluraning aktor sa frontier AI development. Bawat isa ay may internal safety teams, may pampublikong pangako sa responsableng pag-unlad, at nakikilahok sa boluntaryong governance forums kabilang ang Frontier Model Forum. Ang pag-unlad ng Tsina ay pangunahing pinamumunuan ng mga entity na sinusuportahan ng estado at malalaking kumpanya ng teknolohiya na nagpapatakbo sa ilalim ng koordinasyon ng gobyerno.
Ang mga desisyong pinakamahalaga, kung kailan itulak ang susunod na capability level, kung sapat na ang safety evaluations bago i-deploy, kung sapat na na-verify ang alignment ng isang sistema, ay ginagawa sa loob ng mga organisasyong ito, sinusuri ng kanilang internal safety teams, at tinatasa batay sa mga pamantayang karamihan ay kanila ring isinulat.
Walang kasalukuyang gobyerno ang may awtoridad na utusan ang anumang nangungunang frontier AI labs na ihinto ang pag-unlad. Walang international body ang may legal na katayuan para mangailangan ng independent verification ng safety evaluations. Walang democratic vote ang naganap, kahit saan, tungkol sa kung dapat bang magpatuloy sa pagbuo ng mga system na inilalarawan mismo ng kanilang mga developer bilang potensyal na magbabago sa lahat ng aktibidad ng tao.
Ito ay paglalarawan ng isang structural gap: ang mga taong lubos na naaapektuhan ng mga desisyon tungkol sa superintelligence ay walang makabuluhang pormal na mekanismo para maimpluwensyahan ang mga ito, hindi isang kritisismo sa intensyon ng anumang partikular na kumpanya.
Bakit likas na nabigo ang private governance
Tatlong istruktural na problema ang nagpapahirap sa pribadong pamamahala ng mga kumpanya sa superintelligence, anuman ang intensyon ng mga kumpanyang kasangkot.
Ang una ay competitive pressure. Kahit ang lab na talagang gustong maghintay hanggang masolusyunan ang alignment ay nahaharap sa kaalamang ang isang kakumpitensya na magde-deploy muna ay maaaring makuha ang market position na mahirap nang mabawi. Lumilikha ito ng insentibo na tukuyin ang "sufficient safety" sa anumang antas na nagpapahintulot ng deployment bago ang mga kakumpitensya, hindi sa antas na talagang sapat. Walang indibidwal na kumpanya ang makakayang lutasin ito nang mag-isa. Ang voluntary safety commitments ay umiiral dahil alam ng mga kumpanya na totoo ang problemang ito, at hindi ito sapat dahil ang voluntary commitments ay yumuyuko sa ilalim ng competitive pressure.
Ang pangalawa ay ang conflict of interest sa safety evaluation. Ang mga organisasyong nagsasagawa ng safety evaluation ng AI system ay ang parehong mga organisasyong may financial stake sa pagpasa ng evaluation ng mga system na iyon. Ito ay simpleng kasalukuyang estado ng larangan, hindi hindi patas na paglalarawan. Ang internal safety team ay gumagawa ng seryoso at mahalagang gawain. Hindi ito kapalit ng independent external review, katulad ng internal clinical trial ng isang pharmaceutical company na hindi kapalit ng regulatory review ng isang independent body.
Ang pangatlo ay ang saklaw ng desisyon. Kung itatayo ang superintelligence at sa anong timeline ay isang civilizational na desisyon, hindi isang product decision. Ang angkop na locus ng desisyong iyan ay ang mga governance structures na accountable sa mga taong apektado ang kinabukasan, hindi ang corporate boards na accountable sa shareholders.
Ano ang kakailanganin ng democratic at transnational oversight
Hindi ipinapalagay ng argumento para sa democratic oversight ng superintelligence na perpekto ang democratic processes o maayos ang international institutions. Ipinapalagay nito na ang alternatibo (private governance sa ilalim ng competitive pressure) ay malinaw na mas masahol.
Kailangan ng sapat na pangangasiwa ng tatlong katangian. Una ang representational legitimacy: dapat managot ang lupon ng pamamahala sa mga taong apektado nito, na sa huli ay ang buong sangkatauhan, hindi lang ang mga mamamayan ng mga bansang gumagawa ng frontier AI. Iminumungkahi nito ang mga internasyonal na treaty organization na may malawak na kasapian, hindi unilateral na regulasyon ng isang bansa.
Ang pangalawa ay ang may-bisang awtoridad. Hindi pamamahala ang mga boluntaryong pangako. Kailangan ng isang balangkas ng pamamahala para sa superintelligence ang legal na kakayahang ipatupad ang pagsunod, magsagawa ng independiyenteng pag-audit, at magpataw ng parusa sa paglabag. Nangangailangan ito ng mga kasunduan sa antas ng tratado, hindi ng mga forum ng industriya.
Ang pangatlo ay teknikal na kakayahan. Hindi mapamamahalaan ng katawan ng pamamahala ang hindi nito kayang suriin. Kailangan ng pandaigdigang pangangasiwa sa AI ng mga kawani na may tunay na teknikal na kadalubhasaan, access sa model weights at training records, at mga kasangkapan para suriin nang independyente ang mga claim tungkol sa alignment.
Ang nuclear precedent
Ang argumento na imposible ang epektibong international governance ng mapanganib na teknolohiya ay pinabubulaanan ng kasaysayan. Ang Nuclear Non-Proliferation Treaty, nilagdaan noong 1968 at ngayon ay ipinatutupad sa 191 bansa, matagumpay na napigilan ang pagkalat ng nuclear weapons sa mas maliit na grupo ng mga bansa kaysa sa hinulaan ng mga analyst noong 1960s. Hindi ito perpekto. Hindi nito napigilan ang lahat ng proliferation. Gayunpaman, isa ito sa mga pinakamahalagang arms control agreements sa kasaysayan.
Ang Chemical Weapons Convention, na ipinatupad noong 1997, ay nakamit ang verified destruction ng mahigit 70,000 metric tons ng declared chemical weapons. Ang inspection regime na pinapatakbo ng Organisation for the Prohibition of Chemical Weapons (OPCW) ay nagsasagawa ng independent verification visits sa mga pasilidad sa mga miyembrong bansa at nagpapatakbo nang may tunay na technical credibility.
"Ang responsibilidad sa pagpapaunlad ng superintelligent AI ay hindi dapat iwan sa anumang iisang aktor (estado o korporasyon) kundi ipagkatiwala sa demokratiko at transnational governance structures na kumakatawan sa sangkatauhan sa lahat ng pagkakaiba-iba nito."
Global Policy Journal, Pebrero 2026
Walang treaty na perpektong analogy para sa ASI governance. Mas mabilis, mas kumakalat, at mas mahirap subaybayan nang pisikal ang pag-unlad ng AI kaysa sa paggawa ng sandatang nukleyar. Pero nananatili ang pangunahing argumento mula sa mga halimbawang ito: kapag ang isang teknolohiya ay nagdudulot ng panganib na tunay na pandaigdigan at posibleng hindi na maibabalik, ipinakita ng pandaigdigang komunidad na kaya nitong bumuo ng mga istrukturang pamamahala na naglilimita rito. Ang pagsasabing ang AI ay natatanging hindi mapamamahalaan ay hindi teknikal na obserbasyon; ito ay isang pagpili.
Ang competitive objection at kung bakit hindi nito nalulutas ang tanong
Ang pinakaseryosong pagtutol sa demokratiko at transnasyonal na pangangasiwa ng superintelligence ay ang pakikipagkumpitensya: kung ang mga demokrasyang Kanluranin ay sumailalim sa mga indibidwal na indibidwal at ang Tsina ay hindi, ang resulta ay na ang isang hindi gaanong safety-conscious na aktor ay unang umaabot sa superintelligence.
Ang tugon ay may ilang bahagi. Una, dapat idisenyo ang mga balangkas ng pamamahala mula pa sa simula para isama ang lahat ng pangunahing aktor. May malaking impluwensya ang US at mga kaalyado nito sa pag-unlad ng AI sa Tsina sa pamamagitan ng access sa teknolohiya, daloy ng pamumuhunan, at supply chain ng chips. Pinakamahalaga ang impluwensyang ito habang umiiral pa ito, hindi pagkatapos na mabuo ang balangkas ng pamamahala nang wala ang Tsina at pagkatapos ay mabigo. Pangalawa, may sariling interes ang gobyerno ng Tsina na hindi mapagtagumpayan ng isang hindi naaayon na AI na binuo ng isang kumpanyang Kanluranin, at nakilahok na ito sa mga pandaigdigang talakayan tungkol sa kaligtasan ng AI kabilang ang sa Bletchley Park. Tunay ang mga hadlang sa pakikilahok ng Tsina ngunit hindi ito hindi malulutas. Pangatlo, ang alternatibo sa multilateral na pamamahala ay isang karera kung saan sinusubukan ng bawat pangunahing aktor na mauna nang may kaunting hadlang sa kaligtasan, na hindi malinaw na pabor sa US o mga kaalyado nito, at kung saan mas nagiging posible ang isang hindi naaayon na superintelligence anuman ang bumuo nito.
Ang pagtutol sa kompetisyon ay hindi isang argumento para sa status quo. Ang status quo ay pribadong governmentance sa ilalim ng kompetensiyang pwersa, na ang analisis sa itaas ay nagmumungkahi na hindi sapat sa istraktura. Ang sagot sa "countlatelatemental governence ay mahirap" ay ang pagsisikap tungo dito, hindi ang pagtanggap ng pamamahala na mas madali ngunit maliwanag na hindi sapat.
Ang Foundation's tatlong panukalang patakaran ay dinisenyo nang may malinaw na pag-iisip sa limitasyong ito: mga frameworks na nakaayos para masali ang lahat ng pangunahing aktor, kasama ang mga political at economic incentives na ginagawang mas kaakit-akit ang pagsali kaysa sa pag-iwas.