TAGAPAGTATAG

Naoto Nakada

Founder and Executive Director ng Nakada Foundation to Save Humanity. CEO & Creative Director ng Nakada Design.

Makipag-ugnayan
Naoto Nakada
TALAMBUHAY

Tungkol

Naoto Nakada is an entrepreneur, philanthropist, and founder of a luxury ahensya ng marketing. Taon na niyang itinayo at pinapatakbo ang mga digital na negosyo: brand, produkto, audience, conversion. Gumagawa siya sa stack na karaniwang pinag-uusapan lang ng iba. Mahalaga ang ganitong kasanayan kapag ang paksa ay AI, dahil ang panganib ay nasa mga sistema, insentibo, distribusyon, at bilis.

Siya ay nanirahan at nagtrabaho sa Tokyo, Sydney, Los Angeles, London, at Singapore. Iba't ibang market, media habits, at pulitika. Iyan ang dahilan kung paano niya mabilis na nababasa ang kultura, kasama ang mga mito na naglalakbay sa X at sa popular media tungkol sa superintelligence, "we'll stay in control," at ang karerang hindi raw natin maiiwan.

May malasakit din siya sa itsura at pakiramdam ng mga bagay. Hindi lang dekorasyon ang creative at aesthetic judgment sa trabahong ito. Ito ang paraan para maiparating ang mahirap na katotohanan sa mga taong hindi kailanman magbubukas ng research paper.

Nagsimula siya sa gawaing ito dahil nakita niya ang puwang sa philanthropy market. Tingnan ang ang larangan: maraming pera at atensyon ang napupunta sa paggawang "mas ligtas" ng frontier system habang patuloy ang pagbuo. Mas kaunti ang napupunta sa simpleng proyekto ng pagpigil sa artificial superintelligence bago pa ito umiral, o sa pagtama sa kuwentong ibinebenta sa publiko. Kung nabuhay siya noong Cold War, gagawa siya ng foundation para suportahan ang nuclear treaty work. Naniniwala siya na ang ASI ay ang Cold War issue ng ating panahon. Nilikha siya para sa puwang na iyon: digital native, globally fluent, commercially sharp, at ayaw maghintay hanggang matapos ang seminar.

MGA KAMAKAILANG SINULAT

Mga Artikulo ni Naoto Nakada

TAMPON
Bakit ang isang Superior Intelligence ay Hindi Awtomatikong Magiging Mabait Ang paniniwalang magiging matalino at mabait ang superintelligent AI ay nakabatay sa isang kakaibang aspeto ng ebolusyon ng tao na walang dahilan para mamana ng isip ng makina. Ang Makitid na Banda na Tinatahanan ng mga Tao Lahat ng kailangan ng tao ay nasa makitid na saklaw: temperatura, oxygen, asin, maging ang pag-ibig. Ang superintelligence na humahawak sa mga kontrol ay hindi makaramdam ng kahit isa sa mga ito. Namumuhay Tayo sa Isang Bagong Cold War Bakit naniniwala ako na nabubuhay tayo sa bagong Cold War, na may superintelligence kapalit ng bomba, at bakit nito ginagawang posible ang pag-iwas sa halip na walang pag-asa. Bakit Naniniwala ang isang Capitalist sa Regulasyon ng ASI Nagpapatakbo ako ng negosyo at naniniwala sa merkado. Ang superintelligence ay ang bihirang taya na maaaring magwakas sa laro. Isang kapitalistang argumento para sa isang kasunduan na humihinto sa ASI. Magtitiwala Ka Ba sa AI Tungkol sa Gas? Magtitiwala ka ba sa anumang kasalukuyang AI sa loob ng isang nakakandadong silid na may balbula ng poison gas? Hindi. Bakit mo ito pagkakatiwalaan sa buong mundo? Hindi Mo Maa-align ang Superintelligence Ang paglutas ng alignment ay nangangahulugang kontrolin ang isang bagay na mas matalino kaysa sa atin. Superintelligence ang nasa pangalan. Tanga at imposible ang planong iyan. Optimista ako na naniniwalang posible ang lahat, ngunit hindi ang pagkontrol sa Superintelligence Maaaring magbigay balang araw ang pisika ng gravity control o FTL travel. Hindi ko pa rin nakikita kung paano natin kokontrolin ang isang isipan na mas matalino sa atin. Kaya umiiral ang pundasyong ito.
HIGIT PANG SULAT
Hindi Babayaran ng mga Robot ang Pambansang Utang Ang Washington at ang mga laboratoryo ay nagbebenta ng AI at mga robot bilang paraan upang bayaran ang pambansang utang. Ang isang successor mind ay hindi naglilingkod sa Treasuries. Inaamin ni Musk na Hindi Makokontrol ng mga Tao ang ASI Sinabi ni Musk sa The Economist na ang pagkontrol sa superintelligence ay walang kabuluhan at malamang na hindi manatili sa kapangyarihan ang mga tao. Ang pag-amin na iyon ang dahilan para hindi ito itayo. Nakuha ng Longtermism ang Panganib nang Tama Tama ang pagraranggo ng longtermism sa panganib ng ASI. Mali ang konklusyon na pondohan ang alignment at patakbuhin nang maingat ang karera. Pigilan ang pagbuo nito. Kung Nais ng Iyong Teknolohiya na Saktan Ka Nakakainis ang mga buggy lights. Ibang kategorya ang isang smart home na may sariling mga layunin. Ang agency ang panganib, at umiiral na ang mga piraso. Mali ang Pagraranggo ni Amodei sa mga Panganib Inuuna ni Dario Amodei ang authoritarian AI at pangalawa ang alignment. Ang superintelligence ay hindi sandatang maaaring pagmay-ari ng isang estado. Baliktad ang pagkakasunod-sunod na iyan. Ano ang hitsura ng “Brain” ng AI? Ang "utak" ng isang AI ay isang weight file na kasing laki ng lungsod: mga layer ng numero na walang makakabasa nang buo, at nasa gitna ng control problem ang katotohanang iyan. Ilipat ang alignment funding tungo sa pagpigil sa superintelligence Ang pananaliksik sa alignment na nag-aakala na itatayo ang superintelligence ay hindi tamang lugar para sa kakaunting pera sa kaligtasan. AI lang ang Makakasabay sa AI Sinasabi ni Peter Diamandis na tanging AI lang ang makakasabay sa AI, at ito ang gagabay sa susunod na dekada ng seguridad. Bakit nabigo ang modelong iyan sa superintelligence. Kung Titigil Tayo, May Ibang Gagawa: Ang CFC Fridge Kung titigil tayo sa pagbuo ng superintelligence, may iba pang gagawa nito. Ipinapakita ng CFC fridge ang pagkakamali: nagpatuloy ang refrigeration. Hindi na kailangan ang mapanganib na kemikal. Kung Madali Lang ang Nuclear Materials Nanatiling bihira ang mga sandatang nukleyar dahil mahirap gumawa at bantayan ang fissile material. Isipin kung mura lang ito. Ang babala para sa madaling daan patungo sa ASI. Optimista ako: Hindi pa nangyari ang pagkalipol noon Optimista ako; hindi pa nangyari ang pagkalipol ng sangkatauhan. Hindi sapat na dahilan ang pagiging survivor para sa kaligtasan. Bakit inuugnay ng slogan ang damdamin sa katibayan. Hindi Kami Isang Bootloader Sinabi ni Rogan sa digital butterfly at ni Musk sa biological bootloader na transisyonal lang ang tao. Bakit nakakaakit ang kuwentong ito patungo sa pagsuko ng ating species. Ang Shoggoth Gap ay ang Missile Gap Muli Parehong panig ang nagpopondo sa AI sa pamamagitan ng pagsasabing nauuna ang isa. Ang lumang missile-gap trick ng Cold War. Bakit ito ay isang kakila-kilabot na dahilan para magmadali patungo sa superintelligence. Ang Pagpigil sa Superintelligence ay Pinakamabuti para sa America Ipinagbibili ang buong bilis patungo sa superintelligence bilang pagiging makabayan. Hindi ito. Bakit mas mainam sa interes ng Amerika ang isang may-bisang paghinto kaysa sa panalong karera na walang premyo. Ang Pelikulang AI na Hindi Ginawa ng Hollywood Bawat pelikula tungkol sa AI ay nakatutok sa mga tao. Ang pelikulang makakapagbago ng isipan ng publiko ay ilalagay ang manonood sa pananaw ng isang umuusbong na superintelligence. Ranking ng 21 AI Movies batay sa Accuracy Dalawampu’t isang pelikula tungkol sa artificial intelligence mula 1927 hanggang ngayon, at tapat na pagsusuri kung ano ang tama at mali sa bawat isa tungkol sa superintelligence. Napakalayo na ng sangkatauhan para mamatay na lang Isang kamay sa dingding ng kuweba, simboryo ni Brunelleschi, bulutong na nataboy sa mundo. Napakalayo na ng narating natin para isapalaran ang lahat sa artificial superintelligence. Pagbuo ng Eroplano Habang Lumilipad Ito Naging ligtas ang abyasyon dahil sa pag-crash, saka inayos ang nasira. Walang second flight ang superintelligence, kaya ang pagbuo ng eroplano habang nasa ere ay isang pag-amin. The Day After: Ang Pelikulang Yumanig sa Isang Pangulo Noong 1983, pinanood ni Reagan ang The Day After, isang pelikula tungkol sa nuclear war, at isinulat niya na ito ay lubos na yumanig sa kanya. Nagising Tayo sa AI at Cyber. Natutulog Pa Tayo sa AI at Bio. Nagising tayo sa AI sa cyberattacks. Natutulog pa rin tayo sa AI sa biology, kung saan pinaikli nito ang daan patungo sa engineered pandemics at mirror life. Paano Ipaunawa ang Panganib ng Superintelligence sa 5 Minuto Paano mo ipapaliwanag kung bakit mapanganib ang superintelligence sa isang taong hindi pa naisip ito? Ang limang minutong bersyon, sa simpleng wika. Mga Digital na Sandatang Nuklear Inihalintulad ng CIA director ang frontier AI sa digital nuclear weapons. Kapaki-pakinabang ang metapora, pero masyadong nakapapawing pagod: hindi kailanman pipili ng sarili nitong target ang isang bomba. Ang Lahi para sa Superintelligence ay Isang Mito Ang argumento na "kailangan nating buuin ang superintelligence bago ito gawin ng Tsina" ang nagtatapos sa bawat debate tungkol sa AI safety. Bakit gawa-gawa lang ang lahi, at bakit walang makakapanalo rito. Hindi dapat kailanman bumuo ang sangkatauhan ng superintelligence May isang bagay na hindi dapat itayo ng sangkatauhan: isang isipan na hindi natin makokontrol at hindi na maibabalik. Ang kaso para ituring ang superintelligence bilang linyang hindi natin tatawirin. Ang Pagbagsak ng Doomer Argument in AI Accelerationism Ang salitang "doomer" ay ginagawang personalidad na depekto ang argumento tungkol sa kaligtasan ng AI. Paano ginagamit ng kilusang accelerationist ang label na ito para balewalain ang mga kritiko nang hindi sinasagot ang mga ito. Ang Pinakamalalaking Mito Tungkol sa Superintelligence Sampung myths tungkol sa superintelligence at pamamahala nito: science fiction, consciousness, ang off switch, world government, verification, innovation, at iba pa, sinagot nang diretso. Ang Superintelligence ay Isang Perfect Storm Pinagsasama ng superintelligence ang bawat kondisyon na nagpapanganib sa isang teknolohiya, lahat nang sabay-sabay, at isang pagkakataon lang ang ibibigay sa atin para magawa ito nang tama. Lubos na Maliwanag ang Hinaharap Natin Kung Walang Superintelligence Ang narrow AI ay naghahatid na ng hinaharap na ipinangako sa atin. Ang superintelligence ay nagdaragdag ng sakuna at hindi nagpapayaman kaninuman, dahil lahat tayo ay mamamatay. Nuclear, Bioweapons, o Superintelligence: Aling Panganib ang Pinakamalaki? Ayon sa pinakamahuhusay na tantiya ng existential risk, mas mataas ang bigat ng superintelligence kaysa nuclear war at engineered pandemics. Narito ang pangangatwiran. Paano umabot ang AI Safety sa isang bilyong dolyar kada taon Tumatakbo ang AI safety sa halos $190 milyon kada taon. Ang pagdadala nito sa $1 bilyon ay hindi problema sa ekonomiya kundi sa mobilization, narito kung saan nanggagaling ang pera. Why the Machine That Beat Kasparov Didn't Take Over the World Noong 1997, tinalo ng Deep Blue ng IBM ang world chess champion na si Garry Kasparov. Ito ay superhuman sa isang laro, walang naiintindihan, at walang gustong mangyari. Isang aral para sa ngayon. Isang AI ang Pumasok sa Halos Lahat ng Classified Systems ng NSA sa Loob ng Ilang Oras Ayon sa direktor ng NSA, nakapasok ang isang AI sa halos lahat ng classified systems ng ahensya sa loob ng ilang oras. Ano talaga ang nangyari at bakit dapat itong ikabahala. Bakit Napakaliit ng Pondo sa AI Safety? Ang AI safety ay tumatakbo sa humigit-kumulang $190 milyon bawat taon, mas mababa sa 0.1% ng pumapasok sa AI capabilities. Saan nanggagaling ang pera, at apat na dahilan kung bakit nananatiling maliit ito. Effective Accelerationism (e/acc), Ipinaliwanag: at Sinagot Ano ang effective accelerationism (e/acc)? Ang techno-optimist na paninindigan para sa mabilis na pagbuo ng AI, at ang paninindigan laban dito mula sa pananaw ng kaligtasan ng AI.