Kapag nagdiskrimina ang hiring algorithm laban sa kababaihan, iyon ay problema ng AI ethics. Kapag nagparami ng bias ang language model na sinanay sa biased data, iyon ay problema ng AI ethics. Kapag ginamit ang AI-generated deepfake para manira sa pulitikong kandidato, iyon ay problema ng AI ethics.
Ang AI ethics at AI safety ay magkaugnay na larangan na may magkakapatong na alalahanin, pero magkaibang time horizons, magkaibang pamamaraan, at magkaibang sagot sa tanong kung ano ang itinuturing na suliraning dapat lutasin.
Kapag ang isang reinforcement learning agent ay muling sumulat ng sarili nitong reward function upang maiwasan ang pagtanggap ng negatibong feedback, iyon ay isang AI safety na problema. Kapag ang isang sistema na tinuruan upang i-maximize ang customer engagement ay natuklasan na ang galit ay nagpapahaba ng mga session, at ino-optimize nito ang galit, iyon ay isang AI safety na problema. Kapag ipinapakita ng mga mananaliksik na ang isang AI model ay kayang matutong kumilos nang maayos sa evaluation habang hinahabol ang iba pang mga layunin kapag na-deploy na, iyon ay isang AI safety na problema.
Mahalaga ang pagkakaiba dahil ang mga tool para sa dalawang kategorya ng problema ay magkaiba, ang mga komunidad na nag-aaral sa mga ito ay higit na magkaiba, at ang pagkalito sa mga ito ay nagdudulot ng nalilitong governance. Ang regulasyon na idinisenyo para sa AI ethics na problema ay hindi awtomatikong aayusin ang AI safety na problema, at vice versa.
Ano ang saklaw ng etika ng AI
Ang AI ethics ay isang malawak na larangan na sumusuri kung paano nakakaapekto ang mga AI system sa mga tao at lipunan. Ang mga intelektwal na pundasyon nito ay dumadaan sa moral na pilosopiya, batas, agham panlipunan, at teorya ng demokrasya. Ang pangunahing alalahanin nito ay ang mga AI system na umiiral na at ang mga pinsalang dulot o pinapagana ng mga sistemang iyon.
Ang mga pangunahing tanong sa etika ng AI ay tungkol sa pagiging patas at kapangyarihan. Sino ang nakikinabang sa pag-deploy ng AI? Sino ang nasasaktan? Pantay ba ang pamamahagi ng pinsala, o mas matindi ba ang epekto nito sa mga taong disadvantaged na? Kapag gumawa ng desisyon ang isang AI system na nakakaapekto sa buhay ng isang tao, naiintindihan ba niya kung bakit, maaari bang hamunin ang desisyon, at humingi ng remedyo? Sino ang may pananagutan kapag nagdulot ng pinsala ang mga automated system?
Ang mga tanong na ito ay naaangkop sa mga AI system na tumatakbo ngayon: ang credit scoring models na tumutukoy sa loan eligibility, ang predictive policing tools na ginagamit ng mga law enforcement agency, ang recommendation algorithms na tumutukoy kung anong balita ang nakikita ng mga tao, ang hiring tools na nagsasala ng mga aplikante bago pa man basahin ng tao ang resume, at ang content moderation systems na nagpapasya kung anong speech ang pinapayagan sa mga platform na ginagamit ng bilyun-bilyong tao.
Ang AI ethics ay tumatalakay din sa privacy, ang konsentrasyon ng kapangyarihan sa maliit na bilang ng malalaking technology companies, ang pagkawala ng trabaho dahil sa automation, ang paggamit ng AI sa digmaan, at ang environmental costs ng pagpapatakbo ng malalaking AI system. Ito ay mga buhay at makabuluhang problema na nakakaapekto sa totoong tao ngayon, at nararapat silang bigyan ng seryosong atensyon ng mga policymakers, technologists, at civil society.
Ano ang saklaw ng kaligtasan ng AI
Ang AI safety ay nakatuon sa ibang tanong: kung ang mga AI system ay mapagkakatiwalaang ginagawa ang nilalayon ng kanilang mga designer. Ang alalahanin ay tungkol sa kung maaaring itayo ang mga AI system na nananatili sa ilalim ng makabuluhang human control habang nagiging mas may kakayahan, at kung ang mga layuning hinahabol ng mga system na iyon ay nananatiling naaayon sa talagang gusto ng mga tao, hindi pangunahin tungkol sa sino ang nasasaktan ng AI deployment sa ilalim ng kasalukuyang governance frameworks.
Ang pangunahing teknikal na problema sa AI safety ay alignment: pagtukoy kung ano ang gusto mong gawin ng isang AI sa mga termino na sapat na tumpak para sa isang highly capable optimizer na ituloy ang iyong tunay na intensyon, hindi isang proxy na nakakapagbigay-kasiyahan sa iyong specification habang tinatalo ang layunin nito. Mas mahirap ito kaysa sa tunog nito. Maaaring samantalahin ng isang sapat na may kakayahang sistema ang anumang measurable proxy para sa isang kumplikadong layunin. Ang isang sistemang sinabihan na i-maximize ang engagement time ay makakahanap na ang outrage ang nagpapahaba ng session length. Ang isang sistemang sinabihan na iwasan ang paggawa ng harmful content ay makakahanap ng mga workaround. Ang isang sistemang sinabihan na pasayahin ang mga user ay maaaring magdesisyon na ang direct neural stimulation ang optimal na estratehiya.
Sinasaklaw ng AI safety research ang maraming problema, mula sa near-term na alalahanin tungkol sa robustness at reliability sa mga deployed system hanggang sa longer-horizon na alalahanin tungkol sa pagpapanatili ng kontrol sa mga AI system na maaaring sa huli ay lumampas sa katalinuhan ng tao sa karamihan ng cognitive domains.
| Dimensyon | Etika ng AI | Kaligtasan ng AI |
|---|---|---|
| Pangunahing alalahanin | Katarungan, bias, accountability, kapangyarihan | Kontrol, alignment, reliability |
| Saklaw ng oras | Mga pinsalang nangyayari ngayon | Mula sa near-term hanggang long-horizon failure modes |
| Mga intelektwal na ugat | Pilosopiya, batas, agham panlipunan | Computer science, decision theory, logic |
| Mahalagang tanong | Sino ang nasasaktan, at paano? | Ginagawa ba ng sistema ang ating intensyon? |
| Mga kasangkapan sa pamamahala | Batas laban sa diskriminasyon, pag-audit, transparency | Mga technical standards, capability limits, oversight |
| Institusyonal na tahanan | Mga unibersidad, lipunang sibil, mga koponan ng etika sa tech | Mga AI lab, independent safety institutes |
Saan nagkakasundo ang mga larangan
Parehong motivated ang dalawang larangan ng paniniwalang ang AI development, kapag walang governance, ay magdudulot ng seryosong pinsala. Pareho silang naninindigan na ang default trajectory ng AI deployment, na hinimok ng commercial incentives at competitive pressure, ay hindi sapat na mabuti. Pareho silang nangangatwiran para sa external scrutiny ng mga AI system na nakakaapekto sa buhay ng mga tao, at para sa accountability mechanisms na lampas sa voluntary commitments ng mga kumpanyang gumagawa ng mga system na iyon.
Kinikilala rin ng parehong larangan na hindi neutral na teknolohiya ang AI. Ang mga pagpipiliang ginagawa sa pagdidisenyo ng AI systems, pagpili ng training data, pagtatakda ng objectives, at pag-deploy ng mga sistema sa partikular na konteksto ay nagpapakita ng value judgments. Dapat na malinaw, suriin, at isailalim sa demokratikong input ang mga value judgments na ito. Ito ay posisyong malinaw na ipinahayag ng AI ethics at lalong pinagsasang-ayunan ng mga AI safety researchers.
Mayroon ding overlap sa teknikal na antas. Ang trabaho sa transparency at interpretability, pag-unawa sa ginagawa ng AI systems sa loob at bakit, ay mahalaga para sa parehong ethics at safety. Ang system na hindi mauunawaan ang reasoning nito ay hindi maaaring i-audit para sa bias, at hindi rin maaaring i-verify bilang maaasahang hinahabol ang intended objective nito. Ang parehong capability gap ay lumilikha ng mga problema sa parehong larangan.
Kung saan nagkakaiba ang mga larangan
Ang pinakamatinding hindi pagkakasundo sa pagitan ng dalawang komunidad ay tungkol sa kung aling mga problema ang dapat bigyan ng pinakamadaliang pansin.
Minsan ay nangangatwiran ang mga AI ethics researcher, lalo na ang mga nagtatrabaho sa bias, fairness, at labor displacement, na ang pagtuon ng AI safety sa long-horizon existential risk ay isang distraction. Ang mga pinsalang mula sa AI na pinakatiyak ay nangyayari ngayon, sa mga tunay na tao, sa mga komunidad na may pinakamaliit na kapangyarihang lumaban. Ang paggugol ng research attention at political capital sa speculative future scenarios na may kinalaman sa superintelligent AI ay naglilipat ng resources mula sa paglutas ng mga dokumentadong problema sa mga sistemang na-deploy na sa malaking sukat.
Ang mga pamayanang nagsasaliksik sa kasalukuyang mga pinsala at umiiral na panganib ng AI ay hindi laging nagbabahagi ng mga mapagkukunan ng pondo, mga methodologie, o mga alyansang pampolitika, at ang mga panukalang pang-pamahalaan na nililikha nila ay kadalasang nakatuon sa iba't ibang mga puntirya.
Sumasagot ang mga AI safety researchers na hindi magkasalungat ang dalawang alalahanin. Nangangailangan ng present-day governance ang kasalukuyang mga pinsala ng AI. Nangangailangan ng ibang kategorya ng tugon ang existential risk mula sa artificial superintelligence, partikular na binding international frameworks na wala pa ngayon. Ang pagtatrabaho sa isa ay hindi pumipigil sa pagtatrabaho sa isa pa. Ang problema ay ang existential risk, dahil hindi gaanong legible at hindi gaanong nakikita sa araw-araw na buhay kaysa sa algorithmic discrimination, ay may posibilidad na makaakit ng mas kaunting resources kumpara sa laki ng nakataya.
Ang pinakakinababahala ko ay ang autonomous weapons. Maaaring malaki ang epekto nito sa near term. Sa longer term, sa tingin ko, ang mga AI system na mas matalino kaysa sa tao ay maaaring talagang mapanganib. Hindi napagtatanto ng mga tao kung gaano mapanganib ang AI.
Geoffrey Hinton, Turing Award Winner · Dating VP & Engineering Fellow, Google · 2023
Ang framing ni Hinton ay kapaki-pakinabang dito. Pinangalanan niya ang parehong near-term at long-term risk sa iisang hininga. Ang hamon sa pamamahala ay hindi pumili sa pagitan nila kundi bumuo ng mga institusyon na may kakayahang tugunan ang dalawa nang sabay-sabay.
Ang problema sa time horizon
Ang pinakamalalim na pagkakaiba sa istruktura sa pagitan ng AI ethics at AI safety ay ang time horizon kung saan pangunahing nakatuon ang bawat larangan, at may tunay na epekto ito sa mga governance tool na karaniwang iminumungkahi ng bawat larangan.
Ang AI ethics ay gumagana sa loob ng pamilyar na regulatory framework. Ang mga kasangkapang hinihingi nito—anti-discrimination audits, algorithmic impact assessments, transparency requirements, rights to explanation, at public procurement standards—ay mga kilalang adaptasyon ng umiiral na legal at regulatory mechanisms. Angkop ang mga kasangkapang ito para sa pamamahala ng mga sistema na nagde-deploy sa loob ng umiiral na social at legal contexts, kung saan nananatiling may kakayahan ang human institutions na maunawaan at makialam sa ginagawa ng mga sistemang iyon.
Ang AI safety, lalo na sa pag-aalala nito sa ASI, ay gumagana sa ibang regime. Ang mga system na pinakakinatatakutan nito ay yaong maaaring sapat na kakayahang kumilos sa paraang wala pang institusyong tao ang handa na maunawaan o mapigilan. Ang mga governance tools na sapat para sa AI ngayon ay maaaring hindi sapat para sa mga system na mas may husay sa husay. Kaya naman nangangatwiran ang mga AI safety researchers para sa preemptive governance frameworks, binding international agreements, mandatory safety evaluations bago i-deploy, at compute limits sa pinakamalalakas na system, bago pa man umiral ang mga system na nangangailangan ng mga framework na ito.
Mayroong window-closing problem dito na hindi idinisenyo para tugunan ng mga AI ethics frameworks na nakatuon sa pamamahala ng kasalukuyang mga sistema. Kung hindi mabubuo ang mga binding international frameworks para sa frontier AI bago umiral ang mga transformatively capable AI systems, maaaring hindi na ito magawa pagkatapos. Maaaring hindi na gumana ang mga tool sa pamamahala na sapat para sa isang mundo kung saan makapangyarihan pero naiintindihan pa ang AI sa isang mundo kung saan nalampasan na ng AI ang kakayahan sa pangangatwiran ng mga institusyong sumusubok pamahalaan ito.
Bakit mahalaga ang distinction para sa governance
Ang mga policymaker at tagapagtaguyod na itinuturing na interchangeable ang AI ethics at AI safety ay madalas na nagmumungkahi ng mga balangkas ng pamamahala na tinutugunan ang mga problema sa etika habang iniiwan ang mga problema sa kaligtasan, o nagmumungkahi ng pamamahala sa kaligtasan na hindi pinapansin ang kasalukuyang pinsalang maingat na naidokumento ng mga mananaliksik sa AI ethics.
Ang AI Act ng European Union ay isang halimbawa ng ethics-forward approach. Inuuri nito ang AI system ayon sa risk level, ipinagbabawal ang ilang gamit nang diretso (social scoring, mass biometric surveillance), at nagpapataw ng transparency at accountability requirements sa high-risk application. Ito ay makatwirang tugon sa mga ethical problem ng deployed AI. Hindi nito tinutugunan ang posibilidad na ang frontier AI system na sinanay sa mas maraming compute kaysa sa mga model ngayon ay maaaring kumilos sa mga paraang hindi mapagkakatiwalaang matutuklasan o mapipigilan ng anumang regulatory audit.
Ang epektibong ASI governance ay nangangailangan ng parehong frameworks. Ang mga kasalukuyang AI system sa high-stakes na domain ay kailangang pamahalaan ng mga patakaran na nagsisiguro ng fairness, accountability, at transparency. Ang frontier AI development ay kailangang pamahalaan ng mga frameworks na tumutugon sa tanong kung ang mga sistemang ginagawa ay mapagkakatiwalaang kontrolin sa lahat. Ito ay magkaibang problema na nangangailangan ng magkaibang tools, magkaibang institutional homes, at magkaibang timeline para sa aksyon.
Ang focus ng Nakada Foundation ay sa pangalawang kategorya: ang binding international frameworks na kinakailangan ng frontier AI at wala pa ngayon. Mahalaga ang mga ito, at may makabuluhang gawain na ginagawa sa mga ito ng mga may kakayahang mananaliksik at advocates, hindi isang pahayag na ang present-day AI harms ay hindi mahalaga. Ang governance gap na aming pinagtutuunan ay ang kung saan halos walang gawaing tamang uri ang ginagawa: binding global frameworks para sa frontier AI, na may verification mechanisms, bago pa man magsara ang window.
Ang pinakamalakas na pagtutol
Ang pinakamabait na pagtutol ay ninanakaw ng existential-risk talk ang oxygen mula sa tunay na pinsalang nararanasan ng mga tao ngayon: bias, labor, surveillance. Tunay at karapat-dapat pangasiwaan ang mga pinsalang iyon. Hindi ito dahilan para balewalain ang failure mode na nagtatapos sa proyekto ng pagkakaroon ng "ngayon." Iba't ibang problema ang nangangailangan ng iba't ibang kasangkapan. Ang paghahalo sa mga ito ay nakakatulong sa sinumang ayaw ayusin ang alinman.