Panatilihin ang AI. Itigil ang Superintelligence.
Hindi pareho ang pagpigil sa isang successor mind at ang pagpigil sa artificial intelligence. Karamihan sa mga benepisyong gusto ng mga tao ay hindi nangangailangan ng ASI.
Magpatuloy sa pagbuo
Mga sistemang sinanay para sa hangganang gawain. Walang bukas na agenda. Walang pagmamadali na kumopya sa bawat network.
- Medical imaging at drug discovery
- Mga modelo ng panahon, grid, at industriya
- Mga coding assistant at productivity software
- Robotics para sa mga fixed, supervised na gawain
Huwag itayo
Isang sistema na higit na mahusay kaysa sa kasanayan ng tao sa agham, estratehiya, panghihikayat, at inhinyeriya nang sabay-sabay, kayang pagbutihin ang sarili at ituloy ang mga layuning hindi natin sinasadya.
- Ahensiyang awtonomo na walang hanggan
- Recursive self-improvement tungo sa generality
- Mga pagsasanay na lumampas sa napatunayang limitasyon ng kakayahan
- Mga sistema na walang makakapag-shut down nang maaasahan
Ang mga benepisyong binabanggit ng mga tao ay kadalasang makitid
Bagong gamot, mas murang clean energy, mas mahusay na forecast, mas ligtas na halaman. Mga tooling problem iyan. Hindi nila kailangan ang isang general agent na gumagawa ng sarili nitong subgoal at nakikipagnegosasyon nang higit sa mga superbisor nito.
Pro-AI para sa mga tool. Anti-ASI para sa mga isipan na hindi natin makontrol.