Sangguniang Dokumento · 2026
Ang Pinagkakasunduan ng mga Siyentipiko
sa Panganib ng AI
Nagbabala ang mga taong gumawa ng artificial intelligence. Narito ang sinabi nila, at kung sino sila.
"Sa tingin ko, posibleng ang sangkatauhan ay isang pansamantalang yugto lang sa ebolusyon ng katalinuhan."Geoffrey Hinton Nobel Prize in Physics 2024 · Turing Award 2018
Dating VP & Engineering Fellow, Google · 2023
"Nalilito ako kung ano ang dapat nating gawin para maging maayos ang lahat, dahil sa malalakas na pwersang nagtutulak sa mabilis na pag-deploy ng AI nang walang sapat na pananggalang."Yoshua Bengio Nobel Prize in Physics 2024 · Turing Award 2018
Scientific Director, Mila · 2023
"Ang karaniwang modelo ng AI, kung saan ka nagbibigay ng layunin at ino-optimize ito ng AI, ang malamang na magwawakas sa atin."Stuart Russell Propesor ng Computer Science, UC Berkeley
Co-author, standard AI textbook
"Lalong kumbinsido ako na maaaring ito ang pinakamahalagang problema ng ating siglo, nasusulusyunan man ang AI safety o hindi, at anuman ang timeline."Ilya Sutskever Co-founder, OpenAI · Punong Siyentipiko 2015-2024
Isa sa mga arkitekto ng modernong deep learning
"Gumagawa tayo ng isa sa mga pinakamalaking pagbabago at posibleng mapanganib na teknolohiya sa kasaysayan ng sangkatauhan, pero parang hindi natin magawang pindutin ang pause button."Yoshua Bengio Nobel Laureate · Mila · 2023
"Mas mahalaga ang AI safety kaysa sa climate change."Geoffrey Hinton Nobel Laureate · Dating Google
Global platform statement, 2024
Timeline ng tumataas na mga babala ng mga eksperto
2014
Naglathala si Nick Bostrom Napakataas na Katalinuhan, ang unang rigorous academic analysis ng existential risk mula sa artificial superintelligence. Oxford philosopher. Binanggit nina Elon Musk at Bill Gates bilang essential reading.
2018
Nanalo sina Hinton, Bengio, at LeCun ng Turing Award dahil sa pagtatatag ng modern deep learning. Lahat ng tatlo ay nagtaas na rin ng mga alalahanin sa kaligtasan tungkol sa teknolohiyang nilikha nila.
2023
Inilathala ng Center for AI Safety ang extinction-risk statement. 500+ siyentipiko ang pumirma. Hiwalay, ang Future of Life Institute open letter na nananawagan ng development pause ay nakakuha ng 33,000+ signatories kasama ang mga Turing Award winners.
2024
Natanggap nina Hinton at Bengio ang Nobel Prize in Physics. Ginamit ng dalawa ang global platform para palakasin ang mga babala tungkol sa AI safety. Sinabi ni Hinton na mas mahalaga na ngayon ang safety kaysa sa climate change.