Ito ang kasunod ng Bahagi 1, Bakit Napakaliit ng Pera sa AI Safety?, ", na nagbibigay-diagnos kung bakit napakaliit ng pondo sa larangan. Dito ang tanong ay paano ito aabot sa isang bilyong dolyar taun-taon.
Start with where things actually stand. Bahagi 1 added up every philanthropic grant, every government safety program, and every dollar the frontier labs spend on their own safety teams, and arrived at a total of roughly $190 million a year. Set against that, the world puts more than $250 billion a year into making AI more capable, and the figure keeps climbing. For every thousand dollars spent making these systems more powerful, under a dollar is spent making them safe.
Ang isang bilyong dolyar kada taon ay magsisimulang baguhin ang arithmetic na iyon, at mas maliit ito kaysa sa tunog nito. Mas mababa ito sa dalawang araw ng ginagastos na ng industriya sa capabilities. Ito ay humigit-kumulang isang ikasampu ng isang porsyento ng ginagastos ng United States sa depensa. Ito ay isang ikasampu ng ginagalaw ng climate philanthropy kada taon, at ang climate philanthropy ay hindi itinuturing na lavishly funded. Kahit ano pa ang isang bilyong dolyar, hindi ito malaking pera para sa isang problema na inihambing mismo ng mga taong gumagawa ng teknolohiya, sa pamamagitan ng pagsulat at sa kanilang sariling pangalan, sa pandemics at nuclear war.
Kaya hindi dahil mahirap humanap ng isang bilyong dolyar ang dahilan kung bakit gutom ang larangan. Maraming beses na mas malaki ang ginagastos ng mundo ilang talampakan lang ang layo, sa kabilang panig ng parehong opisina. Nandoon ang pera. Ang kulang ay ang desisyon na ilipat ang bahagi nito.
Nasa lugar na ang pera. Ginagastos ng mundo ang ganitong halaga para gawing mas malakas ang AI nang halos kada isang araw at kalahati. Ang kulang lang ay ang kagustuhang ilipat ang bahagi nito sa kabilang direksyon.
Ang bilyon ang pinakamababa
Bakit isang bilyon, hindi tatlong daang milyon? Dahil sa ibaba ng linyang iyon, ang larangan ay kayang gawin lang ang isang bagay sa isang pagkakataon. Sa $190 milyon, pinipilit ng mga numero ang brutal na triage. Ang technical research at model evaluations ay sumisipsip ng halos dalawang-katlo ng lahat. Ang advocacy (ang gawaing pagkilos ng mga gobyerno at kumpanya sa mga natuklasan ng research) ay nakakakuha ng humigit-kumulang limang porsyento, nasa $10 milyon kada taon, mas mababa pa sa isang malaking kumpanya ng teknolohiya na gumagastos sa lobbying sa isang pambansang kapital. Ang isang bilyong dolyar ay magtatapos sa triage na iyon. Papayagan nito ang safety na magbayad nang kompetitibo para sa talento na kasalukuyang sinisipsip ng mga lab, pag-iba-ibahin ang larangan na nakasandal sa isang dominanteng foundation, at pondohan ang political work na nagbabago ng mga resulta sa halip na dokumentuhin lang ang mga ito.
At ang isang bilyon kada taon ay katamtaman kumpara sa bawat historical comparison na angkop. Ang Human Genome Project ay nagkakahalaga ng humigit-kumulang $3 bilyon at naaalala bilang isa sa pinakamahusay na public investments ng United States. Kung ihahambing sa isang panganib na niraranggo ng mga lumikha nito katabi ng nuclear war, ang isang bilyong dolyar kada taon ay hindi isang mapagbigay na numero. Ang pagtatalo natin kung afford ito ang kakaibang bahagi.
Ang pagtanggal ng smallpox ay nagastos nang humigit-kumulang $300 milyon sa loob ng labintatlong taon, mas mababa pa sa isang-katlo ng isang taon ng target na pinag-uusapan dito. Mula noong 1980, ang isang beses na gastusing iyon ay nakapagtipid sa mundo ng mahigit isang bilyong dolyar bawat taon, at ang Estados Unidos lamang ay nababawi ang bahagi nito sa orihinal na gastos nang halos bawat dalawampu’t anim na araw.
Ang pagbabawas ng panganib sa sukat ng sibilisasyon ay halos palaging isa sa mga pinakamurang bagay na nagawa namin, kung ihahambing sa ibinabalik nito.
Saan talaga nanggagaling ang bilyon
Wala sa mga ito ang nangangailangan ng bagong imbensyon o pambihirang pagkabukas-palad. Kailangan lang na sabay na buhayin ang apat na ordinaryong pinagmumulan. Kahit dalawa lang sa mga ito, kung seryosong gagawin, ayos na sa target.
| Pinagmulan | Posible kada taon |
|---|---|
| Sari-saring pilantropiyaNgayon ay nagbibigay ang isang foundation ng higit sa kalahati ng lahat ng philanthropic safety money. Sa kabilang banda, gumagalaw ang climate philanthropy ng higit sa $10 bilyon bawat taon sa maraming donor. Ang isang $20 bilyong endowment ay nagbibigay ng isang bilyon bawat taon mula sa interest lang; para maabot ang ikasampu ng kabuuang climate ay kailangan siguro ng lima hanggang sampung seryosong funder. | $300M |
| Mga budget sa kaligtasan ng gobyernoMayroon nang national safety institutes sa UK, sa US, at sa iba pang lugar. Gumagastos ang US ng humigit-kumulang $47 bilyon taun-taon sa National Institutes of Health; isang dedikadong AI-safety effort na isa lang porsyento nito ay halos kalahating bilyon na sa sarili nito. | $300M |
| Isang buwis ng industriya sa computePinopondohan ng mga pharmaceutical firm ang halos tatlong-kapat ng drug review ng FDA sa pamamagitan ng user fees; ang nuclear industry naman ang halos lahat ng pondo ng regulator nito. Apat na sampung bahagi ng isang porsyento sa compute at infrastructure frontier AI na binibili na (mahigit $250 bilyon kada taon) ay sapat na para itaas ang buong bilyon nang mag-isa. | $300M+ |
| Nire-redirect na charitable capitalMay hawak na ang donor-advised funds ng mahigit $200 bilyon na nakalaan na sa charity pero hindi pa nailalabas. Idagdag pa ang university endowments at ang lumalaking effective-giving infrastructure. Ang hinihingi dito ay muling paglalaan, hindi bagong yaman. | $100M |
| Kabuuan | ~$1B+ |
Ang third row ang pinakamahalaga, dahil ito lang ang source na hindi nakasalalay sa goodwill ng sinuman. Maaaring mawala ang philanthropy kapag nagbago ang isip ng donor, gaya ng natutunan ng field nang pinutol ng dominant funder nito ang technical safety grants ng higit sa kalahati sa loob ng dalawang taon. Nagbabago ang government budgets sa bawat eleksyon. Ang statutory levy sa industriyang kumikita sa pagbuo ng panganib ay matibay, proporsyonal, at may nauna nang halimbawa. Ito na ang paraan ng pagbabayad sa mga watchdogs na nag-o-oversee ng medicine, aviation, at nuclear power. Ang pagtali ng maliit na bahagi ng safety funding sa compute na lumilikha ng hazard ay natural na extension ng kaso para sa pamamahala sa compute.
Mabilis gumalaw ang pera kapag malinaw na ang panganib
Hindi malinaw ang kasaysayan tungkol dito. Kapag naging malinaw sa publiko at sa kanilang mga gobyerno ang isang panganib, lumilitaw ang pera nang mabilis na ipinapakita nito na ang kasalukuyang trickle ay isang pagpili, hindi isang limitasyon. Ang mga kemikal na sumisira sa ozone layer ay na-phase out sa ilalim ng Montreal Protocol, na ang pondo nito ay naglipat na ng bilyun-bilyong dolyar para magawa ang pagbabagong ito sa mga mahihirap na bansa. Nang dumating ang COVID, tumindig ang mundo at naglaan ng sampu-sampung bilyong dolyar para sa pagbuo ng bakuna sa loob ng ilang buwan. Smallpox, ozone, polio: sa bawat kaso, hindi pera ang hadlang. Ang pagkilala ang naging susi.
Wala pa ring moment of recognition ang AI safety, at ang dahilan ay structural kaysa financial. Hindi pa nangyari ang pinsalang binabalaan nito. Walang patients, walang binahang bayan, walang grieving families na magbibigay ng mukha rito, at kung magtagumpay ang gawain, wala talagang mangyayari. Isang risk na walang constituency ang walang sinumang pipilit sa mga taong sumusulat ng tseke. Hindi ito masosolusyunan ng mas mahusay na spreadsheet.
Ito ay isang problema sa mobilisasyon
Alin ang nangangahulugang ang landas patungo sa isang bilyong dolyar ay hindi, sa puso nito, isang plano sa pangangalap ng pondo. Ito ay isang plano para gawing sapat na malinaw ang panganib, at sapat na prestihiyoso ang pagtrato dito nang seryoso, para natural na sumunod ang pera gaya ng dati. Ang gawaing iyon ay tumatakbo sa tatlong linya.
Gawing nakikita. A threat na kayang isipin ng mga tao ay isang threat na handang pondohan ng mga tao: journalism, film, data, at public argument na ginagawang isang bagay na mararamdaman ng isang mambabatas o donor ang abstract probability, ang parehong cultural groundwork na nauna sa seryosong pera para sa klima at nuclear arms control.
Gawing prestihiyoso ito. Kapag itinuturing ng mga Nobel laureates, dating pinuno ng estado, at pinagkakatiwalaang public figures ang isang adhikain bilang seryoso, gumagalaw ang parehong norms at pera sa likod nila. Umiiral na ang scientific consensus tungkol sa AI risk. Ang nahuhuli ay ang social permission para sa mga taong may kakayahan at katayuan na kumilos nang hayagan tungkol dito.
Gawing sapilitan. Maaaring dalhin ng voluntary giving, kung pilitin, ang larangan sa tatlo o apat na raang milyon kada taon. Ang pag-abot sa isang buong bilyon (at higit sa lahat, ang pagpapatuloy nito lampas sa pagbabago ng isip ng isang donor) ay nanggagaling sa batas: isang buwis, isang line item, isang obligasyon mula sa kasunduan. Ito ang dahilan kung bakit itinutok ng Foundation ang gawain nito sa mga patakarang may bisa at hindi lamang sa panghihikayat. Malugod ang pagiging mapagbigay, ngunit hindi ito isang bagay na maaari mong pagtibayan.
Kaya itabi na ang ideya na ang isang bilyong dolyar kada taon ay ang ambitious na bersyon ng pagkuha nito nang seryoso. Ito ang minimum na bersyon. Mas mababa ito sa dalawang araw ng ginagastos na natin para gawing mas mahirap ang problema, at maliit na bahagi lamang ng nagastos, isang beses, para maalis sa mundo ang isang sakit na pumatay nang tatlong libong taon. Hindi nakakatakot ang halaga. Ang talagang kulang ay ang desisyon na tratuhin ang isang panganib na ganito kalaki na parang naniniwala tayo sa sarili nating mga babala.
Ginagawa ang desisyong iyon sa public pressure, sa naririnig ng mga gobyerno mula sa mga taong kanilang sinasagutan, at sa kung sapat ba sa atin ang ituring ito bilang priority na sinasabi ng agham. Ang kaso para sa mga patakaran na magpapatibay sa pera ay inilatag sa aming plano, at ang pinakamabilis na paraan para maidagdag mo ang iyong suporta rito ay limang minuto lang sa kumilos pahina.
Pero ihambing ang bilang sa kung ano na ang ginagastos ng mundo sa pagbuo ng teknolohiya, o sa kung ano ang nagastos na ng sangkatauhan noon sa mga panganib na sineseryoso nila, at ang isang bilyon ay hindi na mukhang ambisyoso. Mukha na itong pinakamaliit na magagawa natin, at nasa abot-kamay pa rin.