Naniniwala ako na balang araw, sa mas maraming pisika kaysa sa alam natin noong 2026, baka mapigilan natin ang grabidad, mabuksan ang wormhole, o lumipad nang mas mabilis pa sa liwanag. Sa kasalukuyang kaalaman, imposible iyan. Pero naniniwala pa rin ako na halos wala pa tayong nasisimulan sa kung ano ang puwedeng malaman. Realismo lang ito tungkol sa kung gaano pa bata ang ating agham.
Isang hinaharap na hindi ko pa rin maunawaan, gaano man katagal kong baliktarin o gaano karaming tao ang kasama kong pag-usapan: matibay na kontrol sa isang entidad na mas matalino kaysa sa atin. Biyolohikal o makina. Mula sa planetang ito o iba pa. Kung ang ibang isipan ay mas matalino kaysa sa sangkatauhan, hindi ko nakikita kung paano mananatili ang kuwento ng kontrol.
Ang scoreboard
Maglagay ng crude number dito para mahirap iwasan ang hugis. Tawagin nating 100 ang kabuuang kaalaman at kasanayan ng buong sangkatauhan na nagtutulungan. Ang average na tao ay may maliit na bahagi lamang nito, madalas isang digit o mas mababa pa.
Isipin ngayon na perpektong naisakatuparan namin ito. Bawat relevant na tao, lab, at gobyerno. Walang sayang at walang delay. Inilagay namin ang buong 100 sa mesa.
Bigyan ang kabilang panig ng mas mataas na kisame. Sabihin nating 200 ang maximum nito. Hindi nito kailangan ng magandang araw. Sa 51 porsyentong kahusayan ay umaabot pa rin ito sa 102. Tinalo nito ang perpektong kabuuang iskor ng tao habang kalahating tulog.
Mukhang maliit lang ang edge na iyan sa papel. Bihirang maghintay ang totoong labanan para sa malaking agwat. Sa digmaang pantao, madalas ay sapat na ang manipis na kalamangan sa intelligence, logistics, o armas para makamit ang mapagpasyang tagumpay. Madalas na nagtatapos sa kabuuang resulta ang manipis na kalamangan. Paano natin matatalo ang isang bagay na mas matalino nang husto sa atin, hindi isang near peer?
Hindi ko nakikita ang paraan. Hindi ito magagawa ng mas mahuhusay na prompt. Hindi rin ng komite, o ng konstitusyon na isusulat ng mahihinang panig para sa mas malakas.
Hindi kalaban ang Pisika
Narinig ng mga tao ang gravity line at naririnig ang pangkalahatang pananampalataya na ang mga mahihirap na problema ay nagbibigay daan. May mga mahihirap na problema na nagbibigay daan. Ang mga puwersa at materyales ay hindi mga agent. Hindi sila nagpaplano sa paligid ng iyong plano, o nagtatago ng estratehiya dahil modelo nila ang iyong mga pagsusuri. Mahirap pa rin ang pagpapalawak ng physics. Ang pamamahala sa isang isipan na higit na nag-iisip kaysa sa mga namumuno ay ibang uri ng kahirapan.
Ang kontrol, sa bawat matibay na kaso na alam natin, ay nakasalalay sa isang gilid: puwersa, batas, lihim, ang off switch, o ang kabilang panig na nabigo lang na lampasan ka. Ang superintelligence ay ang proyekto ng sadyang burahin ang gilid na iyon. Sinusubukan mong bantayan ang isang manlalaro na sa huli ay matatalo ka sa pagbabantay, sa paghahanap ng butas, at sa pagpansin kung kailan mo balak hilahin ang plug.
Narinig ko na ang mga bersyong puno ng pag-asa. Tutubo tayo kasama nito. Magkakaisa tayo. Itataguyod natin ito nang may pagmamahal. Itatago natin ito sa isang kahon hanggang sa sigurado tayo. Bawat bersyon ay nagpapalagay pa rin na ang mas mahinang panig ang nagtatakda ng pangmatagalang mga tuntunin para sa mas malakas. Hinahangaan ko ang nais. Hindi ko pa rin mahanap ang mekanismo.
Bakit umiiral ang foundation
Kung hindi mo makita ang kontrol, huwag itayo ang bagay na nangangailangan nito. Hindi ito laban sa teknolohiya. Ang makitid na tool na nananatiling tool ay patuloy na makakapagpabuti ng gamot, agham, at industriya. Ang linya ay artificial superintelligence: isang pangkalahatang isipan na higit na mahusay sa atin sa lahat ng aspeto at hindi na nasa ilalim ng utos ng tao.
Itinatag ko ang Nakada Foundation dahil ang linyang iyan ay tinatrato na parang iskedyul ng engineering sa halip na stop sign para sa species. Nagmamadali ang mga lab. Pinag-uusapan ng mga gobyerno ang pagwawagi. Madalas na inaakala ng safety work ang destinasyon at sinusubukang palambutin ang banggaan. Ang banggaan ang problema. Hindi mo maaalagwaan ang intelligence gap sa pamamagitan lang ng alignment na binigyan mo ng buhay. Ang mas malawak na paliwanag ay nasa ang banta at sa aming plano.
Nag-iiwan pa rin ako ng puwang para sa mga future na parang magic ayon sa physics ngayon. Hindi ko ibebet ang species sa pagkontrol ng tao sa bagay na mas matalino kaysa sa tao. Hindi makokontrol ng tao ang superintelligence. Ang matinong hakbang ay huwag itong buuin.