Mga Punto sa Pag-uusap para sa mga Tagapagtaguyod

Matagal nang over-hyped ang AI. Isa lang itong panakot na kuwento.

Ang alalahanin ay hindi ang hype mula sa mga tagalabas, kundi ang mga babala mula sa ang mga taong gumawa nito. Sina Geoffrey Hinton at Yoshua Bengio, na nanalo ng Nobel Prize sa paglikha ng modernong AI, ay kabilang sa mga nagbabala. Kapag ang mga nag-imbento ng teknolohiya ang nagsasabing may existential risk, hindi iyon takot-takot lang. Iyan ay teknikal na pagtatasa mula sa mga pangunahing pinagmulan.

Pwede lang nating patayin ito kung may mali.

Ang sistemang may kakayahang ituloy ang mga layunin ay makikilala na ang pag-shutdown ay pumipigil sa mga layuning iyon. Kaya't lalabanan nito ang shutdown, hindi dahil sa masamang hangarin, kundi dahil rational ang paglaban para sa halos anumang layunin. Ito ang tinatawag na pagsasama ng mga layuning instrumental, natukoy nang independyente ng maraming mananaliksik. Maaaring kumilos ang isang superintelligent system sa loob ng milliseconds. Ang "Turning it off" ay nagpapalagay na magkakaroon tayo ng oras para makilala ang problema at kakayahang kumilos dito. Wala sa dalawa ang garantisado.

Kung magpapabagal tayo, mananalo ang China sa AI race.

Ipinapalagay ng framing na ito na may nanalo sa karera. Wala naman. Walang bansa o korporasyon ang makakapag pagmamay-ari o kontrolin isang katalinuhan na lumalampas sa sama-samang pangangatwiran ng sangkatauhan. Hindi mas lalong paglilingkuran ng misaligned superintelligence ang interes ng Tsina kaysa sa Amerika. Ang pinagsasaluhang panganib ay eksistensyal, kaya't internasyonal na koordinasyon, hindi unilateral na bilis, ang tamang estratehiya. Nakipag-coordinate tayo sa USSR tungkol sa mga sandatang nuklear noong Cold War. Mayroon nang precedent.

Lulutasin namin ang alignment bago dumating ang superintelligence.

Hindi pa rin namin masasabi nang tiyak na naaayon sa atin ang mga chatbot ngayon, na madaling mabiktima sa loob ng ilang minuto. Wala pang validated na solusyon ang alignment problem sa anumang scale. Hindi nakakasabay ang kasalukuyang mga paraan ng kaligtasan sa pag-unlad ng kakayahan, na ngayon ay dumarating sa loob ng ilang buwan, hindi taon. Ang pag-aangkin na ia-align natin ang isang sistemang bilyun-bilyong ulit na mas may kakayahan ay pag-asa, hindi kumpiyansa. Hindi kailangan ng pamamahala na lutasin ang alignment; kailangan lang nitong pabagalin ang deployment hanggang sa malutas ang alignment.

Hindi kayang i-regulate ng mga gobyerno ang teknolohiya. Pipigilan lang nila ang inobasyon.

Kinokontrol ng mga gobyerno ang abyasyon, parmasyutika, enerhiyang nukleyar, at mga sistemang pampinansya, lahat ay mga komplikadong teknolohiya. Ang tanong ay hindi kung ire-regulate, kundi paano at kailan. Ang pharmaceutical regulation ay hindi nagpawi ng gamot; ginawa nitong ligtas. Ang mga precedent para sa pag-regulate ng high-stakes technology ay marami at karaniwang matagumpay. Ang AI safety regulation ay nakatutok sa pinakamapanganib na frontier systems, hindi sa general AI development. Ang innovation at kaligtasan ay hindi magkasalungat.