Madaling nakatuon ang mga talakayan tungkol sa AI safety sa mga senaryong malayo pa: mga superintelligent system na may maling layunin, treacherous turns sa mga threshold ng kakayahan na hindi pa naaabot. Iba ang AI persuasion risk. Naroroon na ang pangunahing anyo ng banta sa mga sistemang available ngayon, nakakaapekto sa mga eleksyon at pampublikong diskurso sa kasalukuyan. Ang mas mapanganib na pangmatagalang bersyon ay extrapolation lamang ng teknolohiyang mabilis na umuunlad, hindi isang purong hypothetical na hinaharap.
Ang pangmatagalang bersyon (AI na kayang i-modelo at samantalahin ang indibidwal na sikolohiya nang may superhuman precision) ang direksyon kung saan patungo ang teknolohiya.
Hindi lamang dahil mas madaling magsulat ng propaganda ang AI, ginawa na iyon ng mga nakaraang teknolohiya. Ang alalahanin ay pinahihintulutan ng AI ang isang bagay na qualitatively different: highly personalized persuasive messaging sa napakalaking scale, iniayon sa indibidwal na psychological profiles, at ina-update sa real time base sa mga tugon. Ang kombinasyon ng personalization, scale, at low marginal cost ay lumilikha ng kakayahang impluwensyahan na walang dating kasangkapan ang nakapantay.
Ano ang nagpapakaiba ng AI persuasion
Ang tradisyonal na influence operations (broadcast advertising, political messaging, state propaganda) ay umaabot sa maraming tao gamit ang parehong mensahe. Ang mensahe ay maaaring maingat na ginawa at malawakang nasubok, ngunit ito ay kinakailangang kompromiso sa pagitan ng iba't ibang audience. Ang isang skilled human persuader ay maaaring iangkop ang kanilang approach sa partikular na taong kausap nila, ngunit limitado lang ang bilang ng taong maaari nilang kausapin. Ang dalawang kakayahang ito (broadcast scale at individual personalization) ay historically nasa tensyon.
Nawawala ng AI ang tensyong ito. Ang isang sistema na may access sa indibidwal na data (browsing history, social media, prior responses) at ang kakayahang makabuo ng iba't ibang persuasive content ay maaaring sabay na maabot ang milyun-milyong tao at iangkop ang bawat interaksyon sa partikular na indibidwal. Ang marginal cost ng pagbuo ng isa pang personalized persuasive message ay papalapit sa zero. Maaaring mag-iterate ang sistema batay sa kung aling mga approach ang gumagana at alin ang hindi, sa real time, sa sukat na hindi kayang pantayan ng anumang human influence operation.
Ang problema sa kawalan ng simetriya
Lubhang concentrated ang kapangyarihan ng AI persuasion. Ang pag-deploy ng persuasion-optimized AI sa malaking sukat ay nangangailangan ng malaking resources, data, compute, engineering capability, at access sa distribution channels. Pinapaboran ng mga requirement na ito ang mga well-resourced actors: malalaking korporasyon, nation-states, at wealthy individuals. Wala namang katumbas na counter-capability ang mga tinatarget. Maaaring makakuha sila balang araw ng AI tools na tutulong sa kanila na suriin ang mga content na nakikita nila, pero ang offensive at defensive asymmetry ay pabor sa attacker sa malapit na panahon.
Isang kampanya na dati nang nangangailangan ng bodega ng mga copywriter ay maaari nang mag-draft ng libu-libong variant ng mensahe bago magtanghalian, bawat isa ay inangkop sa isang segment ng mga botante. Ito ay isang product category na, hindi isang far-future sketch. Ang persuasion sa ganoong resolution ay isang AI risk na lumilitaw bago pa man gumawa ng god-model ang kahit sino.
Ito ay isang istruktural na problema, hindi problema tungkol sa anumang partikular na piraso ng disinformation. Kahit na ang bawat indibidwal na claim sa isang AI-enabled influence operation ay teknikal na totoo, ang sistematikong pagta-target ng psychological vulnerabilities sa sukat ay sumisira sa epistemic environment na nakadepende sa demokratikong deliberation. Ang layunin ng influence operations ay hubugin kung paano nararamdaman ng mga tao ang mga isyu, kandidato, at institusyon sa mga paraang nagsisilbi sa interes ng operator, hindi kinakailangang linlangin.
Ang ebidensya sa malapit na panahon
Naidokumento na ang AI-generated influence content sa mga pambansang halalan sa maraming bansa mula noong 2023. Natukoy at naiulat ng mga independent researchers at platform security teams ang mga impluwensya gamit ang AI para gumawa ng synthetic media, gumawa ng pekeng quotes mula sa tunay na public figures, at gumawa ng high-volume coordinated posting sa sukat na mangangailangan ng malalaking team ng tao. Lalong nahihirapang matukoy ang mga operasyon dahil lalong gumaganda ang AI-generated content, at nahuhuli pa ang mga detection tools sa mga generation tools.
Nasa kasalukuyang technology environment ang panganib, nakakaapekto sa tunay na political processes, at ang trajectory ay patungo sa mas may kakayahan at mas mahirap matukoy na persuasion tools, hindi hypothetical. Ang tanong ay kung anong governance responses ang proportionate at effective, hindi kung ituturing ito bilang tunay na panganib.
Ang pangmatagalang escalation
Epektibo ang kasalukuyang AI persuasion tools ngunit hindi pa na-optimize para sa persuasion sa fundamental na antas. Ang mga future system na may mas sopistikadong modelo ng indibidwal na psychology, mas detalyadong data tungkol sa mga indibidwal, at mas malaking kapasidad para sa long-run relationship simulation ay maaaring maging mas epektibo nang malaki. Ang isang sistema na makakabuo ng persistent model ng beliefs, concerns, at psychological vulnerabilities ng isang indibidwal, at makakipag-ugnayan sa kanya sa loob ng mga linggo o buwan, ay makakapagdulot ng epekto na higit pa sa naaabot ng kasalukuyang tools.
Ito ang anyo ng AI persuasion risk sa dulo ng spectrum ng superintelligence: hindi simpleng mass disinformation, kundi indibidwal na targeted long-run epistemic manipulation ng mga sistema na may mas mahusay na modelo ng human psychology kaysa sa anumang kasalukuyang tool. Ang koneksyon sa mga senaryo ng nag-iisang entidad at pagkakandado ng halaga is direct: an actor with highly effective AI persuasion tools could use them to shape public opinion about ASI governance itself, making it harder for democratic institutions to impose the constraints that would limit the actor's power.