Pamamahala sa Superintelligence:
Isang Maikling Ulat para sa mga Policymaker

Ang kaso para sa international AI safety governance: ang problema, kung ano ang kailangan, at ang mga precedent na nagpapakita na posible ito.

Ang Hamon

Isang unprecedented na teknolohiya na walang governance framework

Ang artificial superintelligence (isang sistema na lumalampas sa katalinuhan ng tao sa bawat domain) ay aktibong binubuo ng mga pribadong korporasyon na may kaunting regulatory oversight. Ang mga leading AI laboratories ay nagsabi nang internal na inaasahan nilang maabot ang threshold na ito sa loob ng dekadang ito.

Hindi tulad ng mga nakaraang technological risks, ang superintelligence ay walang existing international governance architecture. Walang treaty, walang verification body, walang multilateral safety standard, at walang mekanismo para ihinto ang development kapag may lumabas na warning signs. Ang governance gap ay total.

Bakit Hindi Ito Maaaring Maghintay

Ang window para sa effective governance ay nagsasara

Ang international governance frameworks ay nangangailangan ng mga taon ng negosasyon para maitatag. Ang Nuclear Non-Proliferation Treaty ay tumagal ng isang dekada ng diplomasya pagkatapos ng unang nuclear tests. Ang Montreal Protocol ay nangailangan ng sustained scientific consensus-building bago makamit ang multilateral adoption.

Ang pag-unlad ng AI capability ay bumibilis. Ang mga pagpapabuti na dati ay tumatagal ng taon ay ngayon ay dumarating sa loob ng ilang buwan. Kapag may sapat nang kakayahang system, maaaring huli na para maglagay ng makabuluhang hadlang. Dapat mauna ang pamamahala bago ang kakayahan, hindi kasunod.

Mga precedent: Nagawa na natin ito noon

Nuklear NPT (1968) Internasyonal na kasunduan na naglilimita sa pagkalat ng mga sandatang nukleyar. 191 estado ang partido. Kasama ang mga mekanismo ng inspeksyon at beripikasyon.

Protocol ng Montreal (1987) Na-phase out ang 99% ng ozone-depleting substances sa buong mundo. Tinawag na "the most successful environmental treaty in history" ng UN.

Kumbensyon sa mga Armas na Biyolohikal (1972) Ipinagbawal ang pagbuo at pag-iimbak ng mga biological weapons. 183 estado ang partido. Itinatag ang internasyonal na pamantayan laban sa bioweapons.

Kasunduan sa Kalawakan sa Labas (1967) Ipinagbawal ang mga sandatang nuklear sa kalawakan at sa mga celestial body. Napagkasunduan sa pagitan ng US at USSR noong tuktok ng tensyon sa Cold War.

Mga Inirerekomendang Aksyon sa Patakaran

Kinakailangang pagsusuri sa kaligtasan bago i-deploy ng mga independiyenteng katawan ng gobyerno bago ilabas ang anumang frontier AI system, katumbas ng clinical trials para sa mga gamot.
Pagsubaybay at paglilisensya sa compute para sa training runs na lampas sa tinukoy na capability thresholds. Ang compute ang masusukat na proxy para sa capability; maaari itong subaybayan at i-regulate.
Internasyonal na Ahensya para sa Kaligtasan ng AI na may awtoridad sa inspeksyon, ginagaya ang IAEA, upang i-verify ang pagsunod sa napagkasunduang pamantayan sa kaligtasan sa iba't ibang hurisdiksyon.
Mga kinakailangan sa pag-uulat ng insidente para sa mapanganib na mga gawi na napansin habang nagte-training o nagde-deploy, kasalukuyang boluntaryo at hindi pare-pareho sa mga lab.
Batas sa Kaligtasan ng AI sa Bansa pagtatatag ng legal liability para sa mga foreseeable harms mula sa hindi sapat na nasubok na AI systems, na lumilikha ng angkop na market incentives para sa pag-iingat.
Mga multilateral na negosasyon para maitatag ang internasyonal na mga pamantayan bago pa maabot ang mga threshold ng kakayahan, hindi pagkatapos. Simulan na ngayon, habang bukas pa ang window.

Ang Pananaw ng Eksperto

Ito ang scientific consensus, hindi isang fringe position

Mahigit 500 AI scientist, kasama ang mga Nobel laureate na sina Geoffrey Hinton at Yoshua Bengio, at ang mga CEO ng OpenAI at DeepMind, ang pumirma sa 2023 statement na tumatawag sa extinction-level AI risk bilang "isang global priority kasabay ng pandemics at nuclear war."

Itinatag ng UK Government ang unang AI Safety Institute sa mundo (ngayon ay AI Security Institute) noong 2023. Ipinakilala ng EU AI Act ang mandatory risk classification para sa mga AI system. Inatasan ng US Executive Order on AI ang safety evaluations para sa frontier models. Wala pa ang internasyonal na framework, pero nabubuo na ang political will. Ngayon na ang sandali para kumilos.

Makipag-ugnayan

nakadafoundation.org

Ang Nakada Foundation to Save Humanity ay nagtataguyod ng pandaigdigang AI safety governance. Nagbibigay kami ng policy expertise, public education, at advocacy support. Makipag-ugnayan sa amin para mag-ayos ng briefing para sa iyong opisina o staff.