Pag-iwas, Hindi Pause
Isang pansamantalang pagbagal ang nagbabalik ng restart button sa parehong karera. Gusto namin ng permanenteng pagbabawal. Hindi mapipigilan ang superintelligence.
Isang paghinto
Pabagalin ang mga lab nang ilang taon. Asahan na mahabol ng safety sa iskedyul. Pagkatapos ay ipagpatuloy. Nananatiling destinasyon ang superintelligence. Ang orasan lang ang nagbago.
Pag-iwas
Ipinagbabawal ang mga sistemang lampas sa general-capability threshold. Walang nakatakdang restart. Mananatili ang pagbabawal hangga't walang makakontrol ng isipan na mas matalino kaysa sa mga gumawa nito.
Walang validated control method na umiiral
Hindi sa maliit na sukat. Hindi sa malaking sukat. Sinasabi ito ng mga nangungunang laboratoryo sa publiko. Ang paghinto na umaasa na matatapos ang alignment sa tamang oras ay isang taya na walang pamamaraan sa likod.
Patuloy ang Narrow AI
Mga gamot, modelo ng panahon, industrial optimizers, coding tools. Ang mga sistema na walang open-ended agenda ay nananatiling legal at pinopondohan. Ang linya ay nasa paligid ng autonomous general mind, hindi sa AI sa kabuuan.
Gumagana na ang mga kasunduan sa ganitong paraan
Hindi itinatigil ng Nuclear Non-Proliferation Treaty ang mga bomba nang limang taon. Nililimitahan nito kung sino ang maaaring gumawa, kasama ang mga inspeksyon. Parehong tinanggap ng chemical weapons at ozone chemicals ang gayong pagtrato. Kailangan ng superintelligence ng ganitong uri ng batas.
Dapat ipagbawal ng mga gobyerno ang artificial superintelligence sa ilalim ng isang napatunayang pandaigdigang kasunduan. Hindi makokontrol ng tao ang superintelligence, kaya permanente ang pagbabawal.