Pagsusulit sa Literasi ng ASI
Labindalawang tanong tungkol sa kung ano ang artificial superintelligence, bakit hindi ito makokontrol, at kung ano ang kailangan para ipagbawal ito. Pumili ng sagot para makita kung tama ka at bakit. Sa dulo ay makakakuha ka ng score at reading list na inangkop sa mga hindi mo nasagot.
Ano ang sinusubukang pigilan ng Nakada Foundation?
Totoo ang ordinaryong problema ng AI. Hindi iyon ang mandato. Umiiral ang Foundation para pigilan ang ASI: mga system na lalampas sa kakayahan ng tao sa bawat domain na mahalaga.
Basahin: Ang Banta →Kapag may superintelligence na, bakit hindi tayo makakaasa na kontrolin ito?
Ipinapalagay ng kontrol na nananatili tayong mas matalinong partido. Lampas sa linyang iyan, ang shutdown switch, rule set, o lab policy ay isang bagay na kayang iwasan ng sistema.
Basahin: Hindi mo ma-align ang superintelligence →Ano ang hinihingi ng Foundation?
Isang pause na nagwawakas kapag sinasabi ng mga lab na nalutas na nila ang control ang paraan ng pagpapatuloy ng karera. Ang hinihingi ay isang pangmatagalang pagbabawal sa pagbuo ng superintelligence.
Basahin: Our Plan →Isang lab, isang gobyerno, o isang billionaire ang magkokontrol sa ASI. Ano ang mali sa claim na iyan?
Totoo ang kapangyarihan sa desisyong magtayo. Kapangyarihan sa isang tumatakbong superintelligence ay ang kuwentong sinasabi ng mga tao sa kanilang sarili para magpatuloy ang proyekto.
Basahin: Myths →Ang pinakakaraniwang argumento laban sa paghinto ay mauunahan ng China. Ano ang ipinapakita ng rekord?
Hindi benign actor ang China. Hindi rin ito blank space na walang rules. Ang paggamit ng "China won't stop" bilang dahilan para magsprint ay mahinang premise para sa civilizational bet.
Basahin: Myths →Maaari bang gawing ligtas ng alignment research ang pagbuo ng ASI?
Maaaring ilarawan ng alignment work kung paano nabibigo ang kontrol. Kapaki-pakinabang iyon. Hindi nito binibigyan ng lisensya ang pagbuo ng sistemang sinasabi ng gawaing iyon na hindi natin makokontrol.
Basahin: Hindi mo ma-align ang superintelligence →Sa debate na ito, "P(doom)" ay nangangahulugang…
Ito ay shorthand para sa subjective probability ng catastrophe. Ang pagbanggit ng numero ay nagpipilit ng malinaw na pahayag sa halip na malabong pahiwatig ng panganib.
Basahin: Ano ang P(doom)? →Bakit may tendensya ang goal-driven superintelligence na humanap ng kapangyarihan?
Ang isang sistema na maaaring i-off, kulangin sa compute, o harangan sa mga tools ay mas masahol sa halos bawat layunin. Ang power-seeking ay bunga ng competence, hindi ng cartoon na pagnanais na mamuno.
Basahin: AI na Naghahanap ng Kapangyarihan →Ano ang dapat mangyari sa ordinaryong, tool-like na AI?
Pabor ang Foundation sa narrow AI na nananatiling kasangkapan. Ang pagbabawal ay para sa mga sistemang lalampas sa atin, hindi para sa software na tumutulong sa isang tao sa trabaho.
Basahin: AGI vs ASI →Aling makasaysayang rehimen ang madalas na iminungkahi bilang modelo para sa pagpapatunay ng pagbabawal sa ASI?
Ang on-site inspections at material accounting ng IAEA ay ang karaniwang precedent kung paano maaaring i-verify ng magkakaribal na estado ang mga limitasyon sa mapanganib na pag-unlad.
Basahin: Isang IAEA para sa AI →Kung hindi namin kailanman ikokonekta ang isang superintelligence sa internet, ligtas ba kami?
Ipinagpapalagay ng sealed lab na tayo pa rin ang mas matalino, at walang magbubukas ng pinto. Parehong nabigo kapag mas may kakayahan na ang nasa loob kaysa sa mga nasa labas.
Basahin: Ang problema sa kontrol →Kaya mo bang mabuhay sa ASI sa paraang iniisip ng iba na makaligtas sa nuclear war: bunker, liblib na isla, o pag-off-grid?
Ang nuclear war ay may hangganan sa heograpiya. Ang superintelligence ay wala. Maaari itong maabot ang anumang networked machine at anumang taong gumagamit pa rin nito. Ang planong may saysay ay hindi ito itayo.
Basahin: Superintelligence vs nuclear weapons →