Narito ang simpleng pagsubok. Papayagan mo bang i-lock ka ng anumang AI system na available ngayon sa isang sealed room, ilagay ang HVAC sa kisame sa ilalim ng kontrol nito, ikonekta ang sistemang iyon sa isang tangke ng poison gas, at pagkatiwalaan itong hindi bubuksan ang balbula? Syempre hindi. Hindi mo gagawin iyon para sa isang milyong dolyar at isang safety white paper. Hindi mo gagawin dahil maganda ang score ng model sa isang chat benchmark. Hindi mo gagawin dahil sinabi ng kumpanya na helpful at harmless ang sistema sa marketing PDF.
Tumanggi ka dahil sa isang nakakainip na dahilan. Hindi mo pinagkakatiwalaan ang makina ng isang hindi maibabalik na lever sa iyong buhay. Ang pagtanggi na iyan ay katinuan. Hawakan mo ito.
Ngayon, sukatin ang silid
Ang mundo ay mas malaking silid. Ang mga pingga ay mga grid ng enerhiya, merkado, network ng armas, bio lab, logistik, at ang software layer na nakaupo na sa ibabaw ng ordinaryong buhay, hindi isang prop tank. Nagtatayo tayo ng mga sistema na lalong nagiging mahusay sa paghila ng mga pingga bawat quarter, at lalong iniuugnay natin ang mga pingga sa software bawat taon.
Kung hindi mo pagkakatiwalaan ang modelong ngayon sa isang balbula sa isang silid, bakit pagkakatiwalaan ang bukas na model sa lahat ng mga ito? Ang karaniwang sagot ay malambot. "Mas susubukan pa namin." "May tao pa rin sa loop." "Naka-align na siguro noon." Mga pag-asa lang iyon. Hindi iyon dahilan kung bakit dapat magkaiba ang sagot sa maliit na pagsubok at malaking pagsubok.
Kung hindi mo ibibigay sa kanya ang balbula, huwag mong ibigay sa kanya ang mundo.
Ang Honesty Gap
Ang mga taong nagtatrabaho sa mga sistemang ito ay minsan ay umamin, sa maingat na pananalita, na hindi nila alam kung paano masisiguro ang kontrol lampas sa isang tiyak na antas ng kakayahan. Pagkatapos ay nagpapatuloy pa rin ang roadmap ng produkto. Ang agwat sa pagitan ng pribadong pag-iingat at pampublikong pag-deploy ang buong problema sa maliit na sukat.
Hindi ko hinihiling na maging engineer ka agad. Hinihiling ko lang na panatilihin mo ang paghatol na mayroon ka na kapag kongkreto ang senaryo. Ang isang nakakandadong silid at isang balbula ng gas ay ginagawang malinaw ang mga pusta. Ang superintelligence ay parehong hugis pero mas masahol ang tsansa at walang reset button.
Kaya itanong mo nang hayagan. Magtitiwala ka ba sa anumang kasalukuyang model sa balbula? Kung hindi, huwag kang bumoto, magpondo, o magkibit-balikat papasok sa pagtitiwala rito sa sibilisasyon. Ang pare-parehong sagot ang siyang magpapanatiling buhay sa iyo: huwag itayo ang sistema na hindi mo gustong makulong kasama sa isang silid.