Karaniwang nasa loob ng lab, nasa ilalim ng NDA, at nakikita ang launch calendar ang mga unang nakakakita ng mapanganib na training run. Ang whistleblower protection ang dahilan kung bakit nagiging sistema ng babala ang mga taong ito sa halip na sistema ng katahimikan. Hangga’t wala pang external inspectors, ang mga insider ang mga smoke detector.

Ang frontier AI researchers ay may vantage point na wala pang regulator o inspector ngayon, at madalas silang nakatali sa mga kontrata at non-disparagement clauses na ginagawang magastos o career-ending ang pagsasalita. Ang pagprotekta sa kakayahan nilang magbabala ay isa sa mga pinakamadaling at hindi gaanong napapansin na levers sa ASI governance.

Bakit napakahalaga ng insiders para sa AI

May kakaibang problema sa transparency ang Frontier AI. Ang pinakamahahalagang desisyon—kung paano sinanay ang isang model, anong safety testing ang natanggap nito, anong nakakabahala na pag-uugali ang lumitaw, kung may mga babala bang hindi pinansin—nangyayari lahat sa loob ng mga pribadong organisasyon, hindi nakikita ng mga tagalabas. Kulang ang mga regulator sa access at madalas sa expertise para makita ito nang independyente. Sa ganitong kalagayan, ang mga researcher at engineer na may direktang kaalaman ang tanging mga taong nakaposisyon para matukoy at iulat na may mali nang hindi pa ito naging pampubliko sa pinakamasamang paraan.

Hindi hypothetical ang concern na ito. Noong 2024, naglathala ang grupo ng kasalukuyan at dating empleyado ng leading AI companies ng open letter, 'A Right to Warn about Advanced Artificial Intelligence', na nagsasabing hinaharangan ng confidentiality agreements ang pagtaas nila ng safety concerns at nananawagan ng proteksyon para payagan ito. Na kailangan ang gayong liham ay ebidensya mismo ng problema: ang mga taong pinakamalapit sa panganib ay naramdamang legal at propesyonal na hindi nila ito masasabi.

Ano ang humahadlang sa kanila

  • Mga kasunduang may paghihigpit. Malawak na confidentiality at non-disparagement clauses (minsan nakatali sa vested equity na nagkakahalaga ng milyon-milyon) ay maaaring gawing lubhang mapanganib sa pananalapi ang pagsasalita.
  • Legal na pagkakalantad. Kung walang malinaw na protektadong channel, ang empleyadong magbubunyag ng mga alalahanin ay nanganganib na idemanda dahil sa paglabag sa kontrata o paglabag sa trade secret.
  • Mga puwang sa kasalukuyang batas. Pinoprotektahan ng tradisyonal na whistleblower statutes ang pag-uulat ng ilegal na aktibidad, pero karamihan sa mapanganib sa frontier AI ay hindi pa ilegal, kaya hindi protektado ang mga pagsisiwalat tungkol sa lawful-but-reckless na pag-unlad.
  • Panganib sa karera. Sa isang maliit na larangan, ang impormal na halaga ng pagiging itinuturing na disloyal ay maaaring magwakas sa karera kahit saan ipinagbabawal ang formal retaliation.

Ano ang hitsura ng tunay na epektibong proteksyon

1

Mga protektadong channel para sa pagbubunyag

Mga legal na garantisadong ruta para sa mga manggagawa sa AI na mag-ulat ng mga alalahanin sa kaligtasan sa regulator o oversight body, protektado mula sa pananagutan, kahit na ang isiniwalat na gawain ay hindi ilegal.

2

Mga limitasyon sa mga kontratang nagpapatahimik

Mga paghihigpit sa paggamit ng confidentiality at non-disparagement clauses para pigilan ang pagtatago ng good-faith safety concerns, para hindi mawala sa empleyado ang vested compensation kapag nag-ulat ng panganib.

3

Mga garantiya laban sa paghihiganti

Matatag at maipapatupad na proteksyon laban sa pagtanggal, blacklisting, o iba pang ganting-salarin para sa protektadong pagbubunyag, kasama ang tunay na mga remedyo.

4

Isang katawan na tatanggap ng mga babala

Isang oversight authority (regulator o safety institute) na may mandato at kadalubhasaan para kumilos sa mga pagsisiwalat sa halip na hayaan itong mawala na lang.

Hangga't hindi natin masisiyasat ang mga lab mula sa labas, ang mga tao sa loob nila ang ating smoke detector. Batas na nagpapatahimik sa sariling mga mananaliksik ng isang kumpanya tungkol sa isang catastrophic risk ay batas na nagpapatahimik sa alarma.

Mapapamahalaan, at tulay patungo sa higit pa

Ang whistleblower protection ay may bihirang kalidad sa pamamahala ng ASI: ito ay makakamit sa pamamagitan ng ordinaryong domestic legislation, nang walang treaty, nang walang international consensus, at nang walang paglutas sa mga mahihirap na tanong tungkol sa thresholds at verification. Ang anumang hurisdiksyon na nagho-host ng frontier labs ay maaaring ipatupad ito unilaterally, at ang paggawa nito ay agad na magpapalakas sa kakayahan ng mundo na makita ang mapanganib na pag-unlad. Ito rin ay isang tulay patungo sa mas mahirap na pamamahala: ang protected disclosures na pinapagana nito ay nagbubunga ng eksaktong uri ng inside information na aasahan ng mga regulator at, sa huli, ng isang international verification regime. Ang pagbuo ng external verification ay aabutin ng mga taon. Ang pagprotekta sa mga insider na makakapagbigay ng babala sa atin sa pansamantala ay isang bagay na magagawa ngayon ng mga legislatures, at ito ay kabilang sa mga pinakamataas na leverage na safety measures na magagamit bago umiral ang isang treaty.