Kung naglaan ka ng oras sa online na debate tungkol sa AI, nakita mo na ang suffix na ito. Nagdaragdag ang mga tao ng "e/acc" sa kanilang usernames tulad ng paglagay ng lapel pin ng nakaraang henerasyon. Ito ay nangangahulugang epektibong akselerasyonismo, at ito ang pinakamalinaw, pinakakumpiyansa, at pinakamaimpluwensyang counterweight sa AI safety movement. Ang seryosohin ito (sa halip na gawing karikatura) ang tanging tapat na paraan para kontrahin ito.

Ano ang pinaniniwalaan ng effective accelerationism

Lumitaw ang effective accelerationism noong 2022 mula sa pseudonymous social-media accounts, pinakakilala ang isa na tinatawag ang sarili na "Beff Jezos," na kalaunan ay nakilalang dating Google engineer na si Guillaume Verdon, kasama ang collaborator na kilala bilang Bayeslord. Hiniram nito ang pangalan ng mas lumang philosophical current na accelerationism, ngunit sa praktika ito ay mas simple at mas optimistic kaysa sa academic ancestor nito.

Ang pangunahing pahayag:

  • Ang teknolohiya ang makina ng pag-unlad ng sangkatauhan. Halos bawat pag-unlad sa kalusugan, yaman, at kalayaan ay nagmumula sa teknolohikal na progreso. Mas maraming progreso, mas mabilis, ay nangangahulugang mas maraming kasaganaan.
  • Ang artipisyal na katalinuhan ay ang pinakamakapangyarihang makina na kailanman ay itinayo, at ang pagpapabilis nito ang pinakamabilis na daan patungo sa pagpapagaling ng sakit, pagtatapos ng scarcity, at pagpapalawak ng magagawa at magiging kakayahan ng sangkatauhan.
  • Ang panganib na sakuna ay mababa o hindi gaanong mahalaga. Some prominent accelerationists put the probability of AI-caused existential catastrophe at "zero or near zero," and regard doom scenarios as unfalsifiable anxiety.
  • Hindi mo mauunawaan ang isang teknolohiya nang hindi ito ginagawa. Pinipigilan ng restraint ang mismong karanasang nagtuturo sa atin kung paano gawing ligtas ang isang teknolohiya. Natututo tayo sa paggawa, hindi sa paghinto.
  • Mapanganib ang restriksyon sa sarili nitong paraan. Mabigat na regulasyon ay nagko-concentrate ng kapangyarihan, sumasakal sa kompetisyon, at maaaring ibigay ang hinaharap sa mga hindi gaanong maingat na aktor. Ang bukas, mabilis, at desentralisadong pag-unlad ay mas ligtas kaysa sa controlled slow-down.

Sa ganitong paglalarawan, ang e/acc ay isang kilalang Amerikanong, kilalang Enlightenment na pananampalataya sa progreso, na nakatuon sa isang teknolohiyang may tunay na pangako, hindi hangal. Mas marami pa ang pinagkakasunduan ng aming posisyon dito kaysa sa ipinapakita ng online na sigawan: gaya ng aming malinaw na sinasabi, hindi kami laban sa AI. Nakapagpagaling na ng sakit at nakapagpabilis ng pagtuklas ang Narrow AI. Mas makitid at mas matalas ang hindi pagkakasundo kaysa sa "optimists versus doomers."

Saan tama ang e/acc

Ang isang tapat na pagtutol ay nagsisimula sa pag-amin sa mga malalakas na punto, dahil malakas nga ang mga ito.

Ang Progress talaga ang naging dakilang humanitarian force. Life expectancy, child mortality, literacy, absolute poverty, ang mga long-run trend line ang pinakamagandang balita sa kasaysayan ng sangkatauhan, at ang teknolohiya ang nagpatakbo nito. Ang blanket suspicion sa bagong teknolohiya ay may mahinang track record.

Talagang may gastos ang precautionary restriction, at madalas na hindi nakikita. Tuwing taon na naaantala ang lunas, may mga taong namamatay na sana ay nabubuhay pa. Ang "First, do no harm" ay hindi nangangahulugang "first, do nothing," dahil ang hindi pagkilos ay pagpipili rin na may bilang ng mga biktima. Dapat dalhin ng anumang seryosong argumento sa kaligtasan ang bigat na ito, hindi ito itaboy.

Talagang panganib ang konsentrasyon ng kapangyarihan. A governance regime na ibinibigay ang kontrol ng AI sa maliit na kartel ng mga incumbent o sa isang gobyerno lang ay sarili nitong uri ng sakuna, isang punto na binabanggit din namin sa aming mga sulatin tungkol sa nag-iisang artipisyal na katalinuhan at demokratikong pangangasiwa. tama ang e/acc na ang "just regulate it" ay maaaring maging malubhang mali.

Saan nasisira ang argumento

At gayon pa man, hindi sumusunod ang konklusyon. Nasa tatlong partikular na galaw ang pagkakamali, hindi sa optimismo ng e/acc tungkol sa teknolohiya sa pangkalahatan.

1. Tinatrato nito ang hindi pa napatunayang claim bilang settled fact

Ang load-bearing premise ay ang catastrophic AI risk ay "near zero." Ngunit hindi ito isang natuklasan. Wala pang nakapagpakita nito. Ito ay itinakda laban sa maingat na paghatol ng mismong mga mananaliksik na nagtayo ng modernong AI, sina Geoffrey Hinton, Yoshua Bengio, at daan-daang iba pa na pumirma sa 2023 statement na naglalagay ng extinction risk kasama ng pandemics at nuclear war. Kapag ang central assumption ng isang kilusan ay tuwirang sinasalungat ng mga pioneer ng larangan mismo, ang pagtawag sa assumption na iyon na "optimism" ay minamaliit ang nangyayari. Ito ay isang taya, at tahimik na ipinapalagay ng accelerationist ang sagot sa tanging tanong na pinanghahawakan ng buong argumento. Sinusuri namin ang aktwal na hanay ng mga expert estimates sa aming explainer tungkol sa P(doom).

2. "Learn by building" ay nabigo para sa mga pagkakamaling hindi mo masusurvive

Ang claim na pinakamahusay nating nauunawaan ang mga teknolohiya sa pamamagitan ng pagbuo sa mga ito ay totoo para sa halos lahat ng bagay, at eksaktong mali para sa isang kategorya na mahalaga dito. Ang iterative, learn-from-failure na pag-unlad ay gumagana kapag ang mga pagkabigo ay survivable at reversible. Naglalabas ka ng buggy software, nag-crash ito, inaayos mo. Ang loop na iyon ang makina ng lahat ng engineering progress.

Hindi ito gumagana kapag ang unang seryosong pagkabigo ay siya ring huli. Isang misaligned superyinteligensya hindi isang crash na ma-patch mo; ito, ayon sa lohika ng pagsasama ng mga layuning instrumental at ang mapanlinlang na pagliko, isang sistema na lumalaban sa pagwawasto at pagpapasara. Ang "matututo tayo habang nagpapatuloy" ay nangangailangan ng pangalawang pagkakataon. Sa partikular na problemang ito, baka wala na. Ang aming paninindigan ay the utopian upside e/acc wants requires alignment we do not know how to achieve, at na ang unaligned superintelligence ay hindi naghahatid ng kasaganaan, ito ay nagtatapos lamang sa kuwento.

3. Nagkakamali ito sa pagtingin sa coordination problem bilang values problem

e/acc ay nag-frame ng debate bilang optimists na mahilig sa progress versus pessimists na natatakot dito. Pero kahit isang committed optimist ay humaharap sa dynamics ng karera: kapag maraming lab at bansa ang nagkukumpitensya para mauna, may insentibo ang bawat isa na putulin ang mga safety corner, dahil ang sinumang magpapabagal ay talo lang sa sinumang hindi. Ang resulta ay lahat ay mas mabilis kaysa sinuman thinks is wise. Hindi ito tagumpay ng optimismo; klasikong collective-action failure ito, ang uri na nagbubunga ng mga resulta na hindi pipiliin ng sinumang kalahok. Hindi nito nalulutas ang bitag ang acceleration. Lalo pa nitong pinapalalim. Ang tanging makakalutas nito ay koordinasyon, eksaktong mga binding, internasyonal na balangkas na tinututulan ng e/acc.

Ang hindi pagkakasundo, tumpak na sinabi

Kapag tinanggal ang memes, hindi sumasang-ayon ang dalawang kampo sa isang bagay lang: ang pagkakasunod-sunod ng operasyon. Sinasabi ng e/acc na magtayo muna, at magtiwala na susunod ang kontrol at pag-unawa mula sa kakayahan. Sinasabi ng safety position na itatag muna ang kontrol, dahil sa teknolohiyang ito walang hanggan at hindi maibabalik ang gastos ng pagkakamali sa pagkakasunod.

Hindi mo kailangang maging pesimista para tanggapin ang pangalawang pananaw. Kailangan mo lang mapansin ang isang asymmetry. Kung tama ang mga accelerationist at pinamamahalaan pa rin natin, mawawalan tayo ng kaunting bilis at kahusayan, tunay na gastos, na maibabalik pa. Kung mali ang mga accelerationist at hindi natin pinamamahalaan, mawawalan tayo ng kakayahang idirekta ang pinakamakapangyarihang bagay na nilikha ng ating species, nang permanente. Sa harap ng asymmetry na iyan, ang pagpipilit sa kaligtasan muna ay ang pinakapangunahing anyo ng pagiging maingat, na inilapat sa pinakamataas na pusta na desisyon na gagawin natin, hindi takot sa pag-unlad.

Kaya naman hindi tumututol ang Nakada Foundation laban sa AI, at hindi rin tumututol laban sa magandang kinabukasan. Ito ay nangangatwiran na magtayo muna ng preno bago umabot sa buong bilis ang sasakyan. Kung gusto mo ang kasaganaan na ipinangako ng mga accelerationist, ang pinakatiyak na paraan para makuha ito ay siguraduhing mabubuhay tayo para tamasahin ito. Ang aming plano is what "safety first" looks like in practice.