Ang isang may-bisang internasyonal na kasunduan ay makakapagligtas sa sangkatauhan habang patuloy ang pag-unlad ng teknolohiya.
Kami ay isang philanthropic campaign laban sa mga sistemang lumalampas sa katalinuhan ng tao at hindi na mapipigil o mapipigilan. Hindi dapat kailanman bumuo ang sangkatauhan ng superintelligence.
Mapanganib ang isang singular system na sinasadyang pinalaki upang lumampas at palitan ang human capabilities sa bawat domain. Ang artificial superintelligence ay ang number-one risk sa sangkatauhan, mas malaki kaysa global thermonuclear war. Ang nuclear war ay maaaring magwakas sa sibilisasyon at mag-iwan ng mga survivor. Ang isang superintelligence ay magwawakas sa ating species.
Inihuhulma namin ang aming gawain sa mga napatunayang konsepto na nagpabago sa mundo, tulad ng mga public pressure campaigns at international treaties tungkol sa chemical weapons, nuclear non-proliferation at ozone layer.
Lubos kaming independent at hindi tumatanggap ng pera mula sa AI labs, kanilang investors, o mga kompanyang nakadepende ang kita sa pagpapabilis ng frontier.
Ang media ay isang makapangyarihang kasangkapan para hubugin ang opinyon at lumikha ng kultura na nagpapahirap na balewalain ang krisis. Nakakaapekto ito sa botante at sa isipan ng mga lider na inihahalal natin. Kapag Ronald Reagan pinanood ang pelikulang 1983 Ang Araw Pagkatapos, ", naging kongkreto ang abstract na konsepto ng digmaang nukleyar, at kalaunan ay pumirma ang Pangulo ng isang may-bisang kasunduan sa Unyong Sobyet para bawasan ang stockpile ng nukleyar.
Maraming organisasyon ang nagtatrabaho sa "safer race" o "safe transition." Isa kami sa iilang nagmamadaling pigilan ang ASI sa ilalim ng binding law. Hindi dapat mangyari ang "transition.".
Hindi kami isang "anti-AI" na organisasyon dahil sinusuportahan namin ang controlled, beneficial narrow AI, tulad ng mga nag-diagnose ng cancer at nagpapabilis ng drug discovery. Ang ganitong mga system ay lumalampas sa human capability sa isang domain lamang, na nagpapahintulot sa amin na ligtas na pamahalaan ang trabaho nito para sa kapakinabangan ng sangkatauhan.
Ang aming foundation ay eksklusibong nakatuon sa pagpigil sa ASI. Ginagawa namin ang pampublikong gawain na nagpapahintulot sa isang binding international treaty: pag-komisyon ng mga pelikula, video, sanaysay, larawan, at ugnayan sa mga lider pangkultura. Layunin din naming ilipat ang talento at pondo mula sa alignment research patungo sa ASI prevention.
Hindi kami gumagawa ng teknikal na pananaliksik, pagsusuri ng patakaran, o lobbying.
Hindi rin kami kumukuha ng posisyon sa pangkalahatang paksa ng AI tulad ng chatbots, automation ng trabaho, military drones, o data centers.
Tayo ay isang US based philanthropic association. Simula Agosto 2026, kasalukuyan tayong sumasailalim sa fiscal sponsorship process para maging 501(c)(3) eligible. Lahat ng donations ay magiging tax deductible noon.
We are assembling a small advisory board. We are particularly seeking those with experience in public interest communication, fundraising and cultural production.
Isa sa aming pangunahing layunin ang makamit ang makabuluhang epekto. Pampubliko at masusukat ang aming mga output, tulad ng impressions sa X at views sa YouTube videos, at sinusubaybayan namin iyon laban sa sentiment ng voting public.
Naoto Nakada ay nagpopondo ng nuclear treaty work noong Cold War. Itinuturing ng aming founder ang superintelligence bilang existential crisis ngayon.
Matapos ang mga dekada ng pananaliksik sa AI safety, ang konklusyon ay hindi natin makokontrol ang isang bagay na mas matalino sa atin, habang karamihan ng pera sa ang larangan pumupunta pa rin sa "mas ligtas" na frontier systems habang itinutayo pa rin ang mga ito. Ang pagpigil sa artificial superintelligence bago pa ito umiral ay nananatiling kulang sa pondo at hindi sapat na napag-uusapan, na mayroon lamang pitong organisasyon sa mundo na eksklusibong nakatuon sa pagpigil sa ASI.
Inilunsad namin ang foundation bilang tugon sa puwang na iyan, na may kapansin-pansing pangalan na nagpapakita ng pagkaapurahan at bigat ng banta.
Nagsisimula pa lang ang kwento ng sangkatauhan. Kailangan nating tiyakin na ito ay magtatagal nang maraming panahon.
Naoto Nakada
Hindi. Sinusuportahan namin ang kapaki-pakinabang na narrow AI: mga sistemang gumagawa ng trabaho at maaaring itama. Nagtatrabaho kami para pigilan ang artificial superintelligence, mga sistemang may open-ended na kakayahan na naglalagay sa kanila sa ibang kategorya. Ang smartphone, ang internet, kahit nuclear plant ay maaaring i-regulate at isara. Ang superintelligence ay hindi.
Kakaiba kami. Nagtatrabaho kami sa artificial superintelligence at sa cultural work na nagpapahintulot ng kasunduan laban dito. Chatbot bias, pagkawala ng trabaho dahil sa automation, deepfakes, military drones, data-center siting: maaaring mahalaga ang mga iyon sa iba. Hindi ito trabaho ng foundation na ito. Kung hindi tungkol sa pagpigil sa ASI ang tanong, wala ito sa foundation na ito.
Ang pinakakaraniwang pagtutol ay parehong hugis ng argumento na ginamit laban sa nuclear non-proliferation. Hindi perpekto ang NPT at gumana pa rin ito: walang nuclear use sa digmaan mula noong 1945, siyam na nuclear states samantalang daan-daan ang maaaring sumali. Ang defection risk ay dahilan para sa verification, hindi dahilan para magsprint. Ang frontier training ay dumadaan pa rin sa maikling listahan ng mga chipmaker. Ang pagmo-monitor ng compute threshold ay higit na political problem kaysa physics problem.
Oo. Mayroon din silang sales teams, investor relations departments, board members na kumakatawan sa shareholders, at competitive pressure para maglabas ng produkto nang mas mabilis kaysa sa mga karibal. Sumusunod ang safety teams sa loob ng commercial AI labs sa parehong insentibo ng buong kumpanya, at ang mga insentibong iyon ay nagbibigay ng gantimpala sa pagpapadala ng kakayahan kaysa sa pagbabawas ng panganib. Nang ilathala ng safety team ng OpenAI ang mga alalahanin tungkol sa sobrang bilis, mas lalo pang binilisan ng kumpanya ang proseso. Sa pinakamaganda, komplemento lang ng external regulation ang internal team. Hindi ito kapalit nito.
Si Geoffrey Hinton, nagwagi ng Turing Award at gumugol ng karera sa paglalagay ng pundasyon ng modernong AI, ay nag-estimate ng isang 10 hanggang 20 porsyentong tsansa na magdulot ng human extinction ang AI sa loob ng siglo. Sinabi nang hayagan ni Nobel laureate Yoshua Bengio na totoo ang panganib at kulang ang pagpapahalaga rito. Inilagay ng 2023 statement ng Center for AI Safety, nilagdaan ng mahigit 500 siyentipiko sa AI kabilang si Sam Altman, ang panganib ng pagkalipol dahil sa AI kasabay ng digmaang nukleyar at pandemya bilang pandaigdigang priyoridad.
Sumali sa Foundation. Ibahagi ang aming mensahe sa mga taong hindi pa nakarinig nito. Makipag-ugnayan sa iyong elected representative at tanungin kung ano ang kanilang posisyon sa AI risk at anong legislation ang sinusuportahan nila. Kung mayroon kang financial resources, isaalang-alang ang pag-donate sa Foundation o sa isa sa anim pang organisasyon na nagtatrabaho sa ASI prevention. Kung mayroon kang cultural o media influence, gamitin mo ito. Kung nagtatrabaho ka sa loob ng isang AI laboratory at may mga alalahanin, isaalang-alang ang pagsasalita nang publiko. Ang political will ang nagpapasya dito, at ito ay nagmumula sa mga taong tulad mo.
Kumuha ng mga update, at tumulong na bumuo ng presyon na kailangan ng adhikaing ito.