"Kung titigil tayo sa pagbuo ng superintelligence, may iba pa ring gagawa." Ito ang conversation-ender sa daan-daang silid. Parang geography at game theory ito. Madalas ay hindi. Madalas ito ay paraan para magpatuloy sa pagbuo habang tinatawag na hindi maiiwasan ang build. Subukan ang parehong hugis sa teknolohiyang napangasiwaan na natin. "Kung titigil tayo sa paggawa ng CFC fridges, may iba pa ring gagawa ng fridges."
Oo. Patuloy silang gumagawa ng mga ref. Itinigil lang nila ang paggamit ng kemikal na nagbubutas sa langit.
Dalawang magkaibang pangngalan
Ang refrigerator ay isang serbisyo: malamig na pagkain, bakuna, mas kaunting spoilage. Ang chlorofluorocarbons ay isang paraan upang makuha ang serbisyong iyon, at isang sakuna para sa ozone layer kapag naging malinaw ang chemistry. Ang Montreal Protocol hindi ipinagbawal ang lamig. Nag-iskedyul ito ng pag-phaseout ng mga sangkap na nagdudulot ng pinsala, nagpondo ng mga alternatibo para sa mas mahihirap na bansa, at pinalakas ang kasunduan gamit ang trade pressure. Sinabi ng industriya na imposible ang phaseout. Nanatili ang mga ref. Nawala ang mga CFC.
Binabagsak ng superintelligence rhetoric ang dalawang pangngalan sa isa. Nagiging isang blob ang "AI" na kinabibilangan ng cancer models, route planners, at isang hypothetical agent na mas matalino kaysa sa buong species ng tao. Kung tinatanggihan mo ang huling item, sinasabi ng slogan na tinatanggihan mo na rin ang mga una, at may iba pang walang prinsipyo na magpapadala ng lahat. Ang galaw ay ang magpanggap na ang lason ay kapareho ng produkto para ang pagtanggal ng lason ay parang digmaan laban sa produkto.
Hindi namin iniligtas ang ozone layer sa pamamagitan ng pangakong gagawa muna kami ng butas. Iningatan namin ang fridge at itinigil ang chemical.
Para saan ang "someone else will"
Ang isang karibal na laboratoryo, o isang karibal na estado, ay maaaring magsikap na magsanay sa anumang linya na iginuhit mo. Ang posibilidad na iyan ay totoong - totoo upang isaplano. Ito rin ang posibilidad na ang kontrol sa armas ay naimbento upang pangasiwaan. Ang sagot sa "isa pang maaaring magtayo ng isang nuke" ay hindi "kung gayon ay dapat nating subukin nang walang takda." Ito'y ang beripikasyon, mga chompinpoint sa materyal na fissile, at mga resulta para sa paghinto.
Mas magulo ang compute kaysa uranium, at walang seryosong tao ang nagpapanggap na iba. Pisikal pa rin ito, mahal sa frontier, at dumadaan sa maikling listahan ng chipmakers, fabs, at cloud regions. Sapat na iyan na istruktura para pagtibayan ang mga inspeksyon, kaya pamamahala sa compute lumalabas sa bawat seryosong treaty sketch. Ang "may gagawa pa rin naman" ay nilalaktawan ang trabahong iyan at diretso nang humihingi ng permiso.
Pansinin kung sino ang nakikinabang sa paglaktaw. Kapag ang pagpigil ay ipinapakita bilang unilateral surrender, ang tanging adultong postura ay ang buong bilis. Naririnig ng mga investor ang tadhana. Naririnig ng safety staff na ang pagbagal ay walang muwang. Hindi kailangan ng slogan na manalo sa debate tungkol sa mekanismo. Kailangan lang nitong gawing parang bata ang ikatlong opsyon, ang shared restraint.
Hindi kailanman naging kaaway ang ref
Gusto namin ng narrow AI na nag-diagnose, nagdidisenyo ng gamot, at nakakahanap ng sira sa mga tulay. Sabihin ito nang malinaw para hindi dumikit ang smear. Ang linya ng foundation ay pagtanggi na itayo mga sistema na lumalampas at pumapalit sa kontrol ng tao habang hindi pa nalulutas ang problema sa pagkontrol.
Mas malapit iyan sa "gumamit ng ibang refrigerant" kaysa sa "ipagbawal ang cold storage." Ang mga taong nagpapalabo sa pagkakaiba ay ginagamit ang kasikatan ng kapaki-pakinabang na AI bilang takip para sa isang kakayahang hindi nananatiling kasangkapan.
Ano talaga ang itinuturo ng laban sa ozone
Nagtagumpay ang Montreal dahil naging malakas ang agham, umiral ang mga substitute, at naharap ang mga holdout sa trade costs. Mas mahirap ang superintelligence sa mga substitute para sa "strategic dominance," at mas madali sa isang aspeto na hindi pinapansin ng slogan: walang major power ang may coherent interest sa isang system na hindi nananatili sa ilalim ng utos ng sinuman. Ang shared vulnerability ang raw material ng isang deal. Pinalalawak namin ang kasong iyon sa Mito ng China pahina at sa mito ng lahi essay. Ang maikling bersyon ay ang rival fear ay maaaring magpondo ng treaty gaya ng pagpopondo nito sa isang sprint, kapag nakikita na ang hollow finish.
Tanungin kung aling noun ang tinutukoy nila. Ang useful AI ay hindi nasa chopping block. Ang uncontrollable superintelligence ang nasa isyu. Para sa pangalawang noun, ang defection risk ay dahilan para bumuo ng enforcement, hindi dahilan para mag-pre-defect. Patuloy na tumatakbo ang mga ref. Gumaling ang langit dahil alam ng mga tao ang pagkakaiba.