Noong unang bahagi ng 1970s natutunan ng mga biologist na i-splice ang mga gene mula sa isang organismo patungo sa isa pa. Binuksan ng recombinant DNA ang medisina at biyolohiya nang sabay, at natakot ang mga nag-imbento nito. Hindi nila maitatanggi na maaaring makatakas ang binagong organismo mula sa lab at magdulot ng pinsalang walang alam kung paano pigilan. Kaya gumawa sila ng halos hindi naririnig na bagay. Tumigil sila.
Noong 1974, ang mga nangungunang mananaliksik, kasama na ang mga magiging Nobel laureates, ay hayagang nanawagan ng boluntaryong moratorium sa pinakamapanganib na recombinant DNA experiments. Noong Pebrero 1975, humigit-kumulang 140 siyentipiko, kasama ang mga abogado at mamamahayag, ay nagtipon sa Asilomar conference center sa California para magpasya kung paano ligtas na maipagpapatuloy ang gawain. Nagkaroon sila ng balangkas ng containment measures na naaayon sa panganib, at muling nagsimula ang pananaliksik sa ilalim ng napagkasunduang mga pananggalang. Para sa mga tagasuporta ng pagpapahinto sa frontier AI, ito ang reference point: isang larangan na kinilala ang sarili nitong panganib at pinili ang pag-iingat kaysa bilis.
Ano talaga ang nakuha nang tama ng Asilomar
Totoo ang tagumpay at karapat-dapat itong sabihin nang malinaw.
Bumuo ng hakbang ang mga siyentipiko bago pa maganap ang sakuna, hindi pagkatapos nito—na siyang pinakabihira at pinakamahalagang bagay sa buong kasaysayan ng kaligtasan sa teknolohiya. Tinanggap nila ang pagpipigil sa sarili nilang gawain, kasama na ang pananaliksik na nangangako ng katanyagan at pag-unlad, dahil sa bigat ng panganib. At gumawa sila ng praktikal na mga patakaran na naaangkop sa antas ng panganib, sa halip na balewalain ang panganib o ipagbawal nang buo ang larangan. Ito ay patunay na kayang tingnan ng isang komunidad ng pananaliksik ang sarili nitong frontier, hatulan itong masyadong mapanganib para sa pagmamadali, at pigilan ang sarili. Ang nauna nang ito ay tuwirang pagtutol sa pahayag na ang pagpapahinto sa isang makapangyarihang teknolohiya ay walang muwang o imposible, kaya’t kasama ito sa mga kaso ng arms control sa aming pahina tungkol sa kung bakit dapat kumilos maaari.
Bakit ito ay mas mahirap na modelo kaysa sa nakikita
Ang pagiging tapat tungkol sa precedent ay nangangahulugang banggitin kung bakit mas mahirap ang kaso ng AI, dahil ang mga pagkakaiba mismo ang dahilan kung bakit gumana ang Asilomar.
- Maliit at pinag-isang komunidad ito. Ilang dosenang lab, isang scientific culture, mga taong kilala ang isa't isa. Ang frontier AI ay isang pandaigdigang labanan sa pagitan ng mga korporasyon at estado na nagkakahalaga ng trilyon, nang walang pinagsasaluhang talahanayan.
- Ang komersyal na stakes ay katamtaman lamang noong 1975. Halos wala pa ang industriya ng biotech noon. Dumating ang AI kasama ang pinakamalalaking kumpanya sa mundo at mga pambansang seguridad na establisyemento na handa nang sumuporta, at ito ang dynamics ng karera Asilomar ay hindi kailanman hinarap.
- Ang muling pagsisimula ang layunin. Ang Asilomar ay dinisenyo para humanap ng ligtas na paraan para magpatuloy, hindi para pigilan nang tuluyan. Ipinagpalagay ng containment model nito na maaari mong ikulong ang panganib sa loob ng isang pisikal na laboratoryo. Hindi naman talaga halatang mapipigilan ang isang may kakayahang AI sa ganitong paraan.
Mayroon ding nakakabahalang epilogue. Bahagyang napanatili ang Asilomar consensus dahil ito ay makitid na sandali na may aligned incentives, at kahit noon ay nakadepende ito sa voluntary goodwill na pipilitin ng mas commercial at competitive na larangan. Hindi direktang nasusukat sa fractured global industry sa ilalim ng matinding pressure na manalo ang gumana sa 140 collegial scientists.
Pinatunayan ng Asilomar na posible ang isang pause. Ipinakita rin nito ang mga kondisyong kailangan nito, at kung gaano kaunti ang mayroon ang AI sa kasalukuyan.
Ang aral na kinukuha ng Foundation
Mahalaga ang dalawang bahagi ng Asilomar. Tinatanggihan nito ang fatalism na nagsasabing walang magagawa, na hindi mapapabagal ang isang makapangyarihang teknolohiya. Ginawa ito ng mga siyentipiko, sinadya, at hindi bumagsak ang langit. Ngunit ipinapakita rin nito na ang impormal, boluntaryo, at collegial na mekanismo na gumana noong 1975 ay hindi sapat para sa AI, dahil kulang ang AI sa maliit na komunidad, mababang stakes, at nakokontrol na panganib na nagbigay-daan sa goodwill na sapat. Ang tamang konklusyon ay kailangan ng AI ang nagawa ng Asilomar, tunay na pagpigil bago ang panganib, na inihahatid sa pamamagitan ng nagbubuklod, verifiable, at internasyonal na makinarya na kinakailangan ng isang trilyong-dolyar na pandaigdigang karera, hindi na kailangan ng AI ng sarili nitong Asilomar. Tingnan aming plano.