Paano ihinahambing ang panganib ng AI?
Asteroids, nuclear war, pandemics, climate change, paano nakatatabi ang panganib mula sa artificial superintelligence sa iba pang paraan kung paano maaaring maging sakuna ang siglong ito? Ito ang mga pagtatantya ni philosopher Toby Ord mula sa Ang Precipice. Itakda ang AI number sa iyong sariling pananaw at panoorin ang pagbabago ng ranking.
…
Idagdag lahat at ang kabuuang tantiya ni Ord para sa existential catastrophe sa siglong ito ay humigit-kumulang isa sa anim, ang odds ng isang round ng Russian roulette. Ang anthropogenic risks, pinamumunuan ng AI, ang bumubuo ng halos lahat nito; ang natural risks na naligtasan ng ating species sa loob ng 200,000 taon ay ngayon isang rounding error.
Ang mga estimate ay mula sa kay Toby Ord's The Precipice: Existential Risk at ang Kinabukasan ng Sangkatauhan (2020), Table 6.1, ang kanyang pinakamahuhusay na hula para sa probabilidad na ang bawat banta ay magdulot ng existential catastrophe sa susunod na 100 taon. Pilosopo si Ord sa Oxford's Future of Humanity Institute at isa sa mga co-founder ng effective altruism movement.
Sadyang magaspang at order-of-magnitude na mga paghuhusga ang mga ito, hindi mga sukat. Ayon kay Ord, maaaring mali sila ng ilang beses. Layunin nilang ipakita ang hugis ng panganib: ang pinakamalalaking banta ngayon ay mga bagay na nililikha natin mismo, at ang AI ang nangunguna.
Ang AI figure lang ang puwede mong baguhin dito, dahil ito ang pinakakontrobersyal at ang dahilan kung bakit umiiral ang foundation na ito. Ang iba ay itinakda sa mga value ni Ord.