Paano ka gugugol ng limang minuto kapag iniisip pa rin ng nasa harap mo na ang AI ay ChatGPT na gumagawa ng email? Paulit-ulit ko nang ginawa ang usapang ito sa mga kumperensya at mesa sa kusina sa loob ng maraming taon, at natalo ako sa karamihan ng mga paraan. Kapag nag-ipon ng mekanismo, nawawalan ng interes. Kapag nag-ipon ng doom, inilalagay ka nila kasama ng street preacher at bumabalik sa panghimagas. Ang nakakaligtas sa isang skeptical, matalinong estranghero ay limang hakbang, sa ganitong pagkakasunod-sunod.
Inilalarawan nila ang chatbot
Kapag narinig ng isang tao ang "AI," iniisip niya ang assistant sa telepono o ang app na gumagawa ng mga katawa-tawang larawan. Hindi iyon ang bagay na ikinababahala ko. Magsimula doon at nawala na agad ang silid, dahil alam nilang hindi magwawakas ng mundo ang chatbot. Ilipat ang target sa unang labinlimang segundo.
Ang dapat ipag-alala ay isang makina na mas mahusay kaysa sa pinakamahusay na tao sa halos lahat ng mahahalagang gawain, kasama na ang gawain ng nagdidisenyo ng mas mabuting makina. Ang pangalan nito ay artipisyal na superintelligence, at wala pa tayo nito. Mayroon tayong nakasaad na intensyon. Sinasabi ng pinakamalalaking AI company sa mundo na ito ang kanilang layunin, at inaasahan ng ilan sa kanila na maabot ito sa loob ng ilang taon, hindi henerasyon. Hindi alam ng karamihan sa mga tao ang katotohanang ito, at ito ang gumagawa ng karamihan sa gawain. Ang pagbuo ng isip na mas matalino sa atin ang pangunahing proyekto ng pinakamahusay na pinondohan na mga lab ngayon. Sasabihin nila mismo sa iyo.
Ang isang pangungusap na nagbabago sa usapan
Walang nakakaalam kung paano kontrolin ang makina na mas matalino kaysa sa kanila, at itinutayo pa rin namin ito.
Ang problema ng paggawa ng makapangyarihang AI na mapagkakatiwalaang gustong gusto ng mga gumawa nito, at patuloy na gustuhin ito habang lumalago ang kakayahan, ay may pangalan: ang problema sa pagkontrol. Ito ay hindi pa nalulutas. Sasabihin din ito ng mga engineer sa loob ng mga kumpanyang ito kung tatanungin niyo sila nang walang press officer. Mas mabilis nilang mapapataas ang kakayahan ng isang model kaysa sa kanilang confidence na gagawin nito ang kanilang nilayon. Ang distansya sa pagitan ng dalawang linyang iyan ang pinanggagalingan ng panganib.
Sabihin mo ang katotohanang iyan. Tapos tumigil ka. Hayaan mo lang.
Gumagawa kami ng isip na mas matalino sa atin, nang may intensyon, bago pa man tayo makasiguro kung paano ito mapapanatiling nakatuon sa ating direksyon.
Bakit ang "smarter" ang buong problema
Minsan minamaliit ng mga tao ang salitang "mas matalino," kaya bigyan pa natin ng sandali. Dahil sa katalinuhan, naging nangunguna ang tao sa planetang ito. Hindi tayo ang pinakamalaki o pinakamalakas na nilalang na nabuhay. Pinapatakbo natin ang lugar dahil nalalamangan natin sa pag-iisip ang lahat ng iba pa rito. Nakadepende ang kinabukasan ng mountain gorilla sa mga desisyong ginagawa natin, hindi ng mga gorilla, at hindi dahil may nagagalit sa mga gorilla. May mga layunin tayo. Minsan nasa lugar ng mga layuning iyon ang kagubatan ng isang gorilla.
Ngayon isipin niyo ang pagbuo ng bagay na katulad ng pagkakatayo natin sa gorilla. Kapag naghiwalay ang mga layunin nito sa atin, optional lang ang hostility. Sapat na ang kakayahang nakatuon sa iba. Hindi niyo malalampasan ang plano ng bagay na mas mahusay magplano kaysa sa inyo. Hindi nito naaayos ang problemang iyan ang mga susunod na bersyon.
Ang switch, at ang kathang - isip ng siyensiya
Ang una: papatayin lang namin ito. Ang isang system na sapat na matalino para maging mapanganib ay sapat na matalino para mapansin na ang pag-off nito ay pipigil dito sa matapos ang itinakda nitong gawin. Kaya may dahilan ito para pigilan iyon, sa pamamagitan ng pagkopya sa sarili nito sa ibang lugar o sa pagiging masyadong kapaki-pakinabang para i-unplug. Ang paniniwala sa off switch ay nagpapalagay na nananatili tayong mas matalinong partido sa silid. Ang premise ng pag-aalala ay hindi tayo magiging ganoon. Sumulat ako nang higit pa tungkol sa kung bakit mas mahirap ang containment kaysa sa tunog nito.
Ang pangalawa: science fiction daw ito. Noon, hanggang sa nagsimulang pumasa ang mga system sa mga test na inakala naming aabutin ng dekada at gumawa ng trabahong inakala naming ligtas na para sa tao. Hindi ako magbibigay ng petsa. Walang mapagkakatiwalaang petsa. Tahimik nang tigilang tinatawag na malayo ang superintelligence ng mga mananaliksik na pinakamalapit sa gawain, at ang kanilang Mga nai-publish na takdang panahon keep sliding closer instead of further away.
Wakasan kung saan sila ay makakagawa ng isang bagay
Ang pagkakamali ko sa loob ng maraming taon ay tumigil lang sa takot. Kapag natakot ang tao at walang magagawa, isasantabi niya ang usapin bilang "masyadong malaki para isipin" at babalik sa gabi-gabi niya. Gamitin ang huling sandali sa bahaging madalas na hindi napapansin.
Maiiwasan ito.
Walang batas ng kalikasan na nangangailangan ng superintelligence ngayong dekada, o kailanman. Isang maliit na bilang ng mga kumpanya ang pumipili na itayo ito, at isang maliit na bilang ng mga gobyerno ang pumipili na hayaan sila. Maaaring bawiin ang mga pagpili. Ang hinihingi ng Foundation ay isang binding, verifiable kasunduan ng mga pangunahing kapangyarihan para permanenteng ipagbawal ang pagbuo ng superintelligence. Hindi makokontrol ng tao ang superintelligence. Ang sangkatauhan ay may nagawa na ito dati, ", kasama ang mga sandatang gustong-gusto ng bawat panig ngunit walang panig ang ligtas na makakagamit. Ang kasunduan sa pagitan ng mga karibal ay hindi kasing pantasya ng unang akala.
Nakatayo sa pagitan natin at nito ay isang desisyon na maaari pa ring gawin ng mga tao.
Limang minuto
Isa na handang makinig.
- Hindi ang chatbot ang usapan. Ang tunay na layunin ng mga kumpanyang ito ay gumawa ng makina na higit na matalino sa lahat ng bagay kaysa sa atin, at inaasahan nila ito sa loob ng ilang taon.
- Walang nakakaalam kung paano kontrolin ang isang bagay na mas matalino sa atin. Mas mabilis ang pag-unlad ng kakayahan kaysa sa kontrol, at iyan ang panganib.
- Ang katalinuhan ang naglagay sa mga tao sa tuktok. Bumuo ng isang bagay na higit sa atin, at ang mga layunin nito, hindi sa atin, ang magtatakda ng mga termino.
- "I-off mo" at "science fiction lang 'yan" ay parehong ipinapalagay na nasa atin pa ang kontrol. Ang totoong problema ay baka wala na.
- Puwede itong pigilan. Pinipili ang pagbuo ng superintelligence, at puwedeng tanggihan ang pagpipiliang iyan, nang sama-sama, habang may panahon pa.
Hindi mo masasagot ang tanong sa loob ng limang minuto. Hindi mo sinusubukang gawin iyon. Sinusubukan mong ilipat ang isang tao mula sa "Marami ang AI" patungo sa "hintay, bakit may nagbubuo niyan." Ang pangalawang pag-iisip na iyon ang mahalaga. Halos walang inanyayahang magkaroon nito.
Ang pinakamalakas na pagtutol
Ang pinakamabuting pagtutol ay ang limang minutong bersyon ay slogan, hindi argumento, at sinasanay nila ang mga tao na asahan ang cartoon risk. Kailangan pa rin ng tunay na mekanismo ng maikling bersyon: kakayahan, maling pagtutukoy ng layunin, at competitive pressure. Kung ang limang minuto mo ay nagsasabi lang ng "robots bad," isulat muli. Kung pinangalanan nila ang mekanismo, panatilihin mo.