Noong 2016, karaniwang hula ng mga eksperto ay dekada pa bago makarating sa human-level AI. Pagsapit ng mid-2020s, ang malalaking survey at mga lider ng lab ay hinila na ang mga petsang iyon pasulong, minsan sa loob ng buhay trabaho ng mga nagbabasa nito. Hindi pa rin sigurado ang timeline. Ang direksyon ng mga rebisyon ang hindi.
Ano talaga ang ipinapakita ng mga prediction surveys
Ang pinakamapamaraan na datos tungkol sa mga timeline ng AGI ay mula sa AI Impacts, na nagsagawa ng survey sa mga mananaliksik ng AI tungkol sa inaasahan nilang "human-level machine intelligence" (halos katumbas ng AGI) sa loob ng ilang taon. Nakapagtuturo ang mga resulta.
Noong 2016, inilagay ng mga surveyed researcher ang median probability ng HLMI sa humigit-kumulang 50% pagsapit ng 2061. Pagsapit ng 2022, bago ang public release ng GPT-4, ang median na iyon ay lumipat na nang malaki nang mas maaga. Ang mga researcher na gumagawa ng mga prediksiyong ito ang mga taong nagbubuo ng mga sistemang kanilang hinuhulaan, hindi mga doomsayer o publicist.
Ang pattern sa datos ay walang pinagkasunduang target date, kundi isang converging window na may kaunting pagkakasundo sa eksaktong taon. Ang pattern ay bawat bagong survey (na-calibrate laban sa aktwal na capability developments) ay nagbubunga ng mas maikling timelines kaysa sa nauna.
Apat na taon. Mula sa text na halos hindi magkakadikit hanggang sa performance sa top decile ng mga human expert sa standardized measures ng professional competence. Ito ang empirical record na dapat gamitin para i-calibrate ang timeline predictions.
Ano ang sinasabi ng mga gumagawa ng AI
Hindi pareho ang mga pampublikong pahayag ng mga executive ng frontier AI laboratory at ang kanilang mga internal working assumptions. Kapansin-pansin pa rin ang mga ito, dahil karaniwang konserbatibo ang mga pampublikong pahayag ng mga tao sa ganitong posisyon, limitado ng investor relations, regulatory scrutiny, at propesyonal na pamantayan ng pag-iingat sa mga pambihirang pahayag.
"Kumpiyansa na kami ngayon na alam namin kung paano buuin ang AGI tulad ng tradisyonal nating pag-unawa dito."
Sam Altman, CEO ng OpenAI · Enero 2025
"Sa tingin ko ay ilang taon na lang (maaaring mas maaga pa) tayo mula sa AI na lumalampas sa human intelligence sa lahat ng aspeto."
Dario Amodei, CEO ng Anthropic · "Machines of Loving Grace" essay · Oktubre 2024
Ito ang mga pampublikong pahayag ng mga taong gumagawa ng capital allocation decisions batay sa internal projections na halos tiyak na mas maikli kaysa sa inilalathala nila, hindi ang mga pahayag ng mga taong tingin ay malayo pa ang AGI.
Kapag gumagastos ang isang kumpanya ng sampu-sampung bilyong dolyar sa imprastruktura ng AI dahil sa panloob na palagay na malapit na ang transformative AI, naging tunay na operational ang timeline, anuman ang sabihin ng PR team tungkol sa kawalan ng katiyakan.
Bakit mas mahalaga ang distribusyon kaysa sa petsa
Ang natural na tugon sa mga talakayan ng timeline ng AGI ay tumuon sa isang partikular na petsa: 2027 ba? 2030? 2040? Naiintindihan ang framing na ito pero mapanlinlang. Ang tanong na mahalaga para sa governance ay hindi "kailan eksakto?" kundi "ano ang probabilidad na darating ang AGI sa loob ng planning horizon ng kasalukuyang institusyon natin?"
Isaalang-alang kung ano talaga ang kailangan sa pagbuo ng sapat na ASI governance:
- Karaniwang tumatagal ng ilang taon ang international treaty negotiations mula sa simula hanggang sa lagda
- Ang ratipikasyon at implementasyon ng mga international agreements ay tumatagal pa ng ilang taon
- Dapat idisenyo, pondohan, at i-deploy ang teknikal na imprastraktura para sa beripikasyon at pagsubaybay
- Kailangang ipasa ang pambansang batas sa mga pangunahing bansa na nagde-develop ng AI
- Ang mga compute governance frameworks ay nangangailangan ng industry compliance mechanisms na binuo sa paglipas ng panahon
Kahit may pambihirang political will, kailangan pa rin ng minimum na lima hanggang sampung taon para makabuo ng makabuluhang international ASI governance framework mula sa simula. Kung hindi maliit ang posibilidad na dumating ang AGI sa loob ng isang dekada (at sinasabi ng ebidensya na hindi ito maliit), hindi matatapos sa oras ang pamamahala na magsisimula lang kapag "malinaw nang nalalapit" ang AGI.
Ito ay isang present problem na. Ang governance window ay hindi unlimited o static. Ito ay lumiliit.
Ang asymmetry na nagpapadali sa desisyong ito
May asymmetry sa dalawang uri ng error dito. Kung gagawa tayo ng robust ASI governance frameworks at lumalabas na mas malayo pa ang AGI kaysa inaasahan, ang gastos ay ilang nasayang na pagsisikap, ilang regulatory friction para sa AI development, at isang set ng international institutions na handa kapag dumating ang sandali. Kung maghihintay tayo ng katiyakan tungkol sa timelines bago gumawa ng governance, at dumating ang AGI bago handa ang governance, ang gastos ay posibleng hindi na maibabalik.
Ang asymmetry na ito ay pareho sa nag-udyok ng nuclear governance bago kumalat ang mga armas, ozone protection bago bumagsak ang ozone layer, at pandemic preparedness bago dumating ang susunod na outbreak. Sa bawat kaso, ang mga institusyong itinayo sa ilalim ng kawalan ng katiyakan ay napatunayan ang kanilang halaga nang nagkatotoo ang hinulaang senaryo.
"Mahina ang track record ng sangkatauhan sa pagtatayo ng mga institusyon pagkatapos ng pangyayari na nangangailangan ng pag-asa bago pa ito mangyari."
Yoshua Bengio, Turing Award Winner & Nobel Laureate · 2024
Hindi nakadepende ang kaso para kumilos ngayon sa paniniwala sa pinaka-agresibong AGI timelines. Nakadepende lang ito sa pagkuha nang seryoso sa buong hanay ng credible estimates (kasama ang mga mas maikli) at pagtugon sa kawalan ng katiyakan na iyon gamit ang angkop na governance action.
Ano ang sumusunod pagkatapos ng AGI
AGI ang threshold of concern, hindi ang wakas. Ang sistema na may kakayahang pangkaisipan sa antas ng tao sa lahat ng domain ay may kakayahang pagbutihin ang sarili nitong disenyo, na recursive self-enhance sa mga paraang maaaring paikliin ang timeline mula AGI hanggang artipisyal na superintelligence sa loob ng mga buwan, hindi dekada.
Ito ang senaryo na nagbigay ng pinakamalalim na babala mula sa mga mananaliksik na pinakamalapit sa teknolohiya. Hindi ang AGI mismo, kundi ang mga dinamikong maaaring sumunod sa AGI, kasama ang posibilidad na mabilis na lumipat mula sa kontroladong sistema patungo sa hindi na makontrol bago pa makasagot ang mga institusyon ng tao.
Direktang implikasyon nito sa pamamahala: dapat nakaayos na ang mga framework bago tumawid sa AGI threshold, hindi pagkatapos. Ngayon na dapat makipagnegosasyon, habang lahat ay nagtatayo pa patungo sa threshold at wala pang nakatawid. Ang tatlong policy proposals ng Nakada Foundation ay dinisenyo nang eksakto para sa window na ito.
Ang pinakamalakas na pagtutol
Ang pinakamabuting pagtutol ay na mali ang mga timeline forecast noon pa, kaya ang pamamahala base sa mga ito ay panic. Makatarungan tungkol sa point predictions. Ang portable na katotohanan ay ang direksyon ng mga rebisyon at ang asymmetry ng pagiging late: kailangan ng mga institusyon ng mga taon; maaaring tumalon ang kakayahan sa loob ng quarters. Buuin ang mga frameworks habang nasa unahan pa ang threshold.