Inilathala ng Anthropic ang unang Responsible Scaling Policy nito noong Setyembre 2023. Kapag binuksan ang dokumento, makikita ang istruktura sa mga heading bago pa ang retorika. Pinangalanan nang maaga ang capability levels. Bawat level ay may kasamang safeguards na dapat i-activate kapag sinasabi ng evaluations na nalampasan na ng model ang linya: mas mahigpit na weight security, mas mahigpit na deployment rules, mas malalim na red-teaming, at sa mga upper tiers ay written commitment na hindi mag-train o mag-release hanggang sa nasa lugar ang mga tinukoy na proteksyon. Ang industry short name ay RSP. Ang underlying logic ay madalas na tinatawag na if-then commitments.
Ang mga leading frontier labs ang naglathala ng pinakakilalang bersyon, at kumalat ang format. Karaniwang tumatakbo ang mga tier mula sa mga system na halos katulad ng ngayon hanggang sa mga modelong makakapagbigay ng makabuluhang tulong sa bioweapon, seryosong cyberattack, o dangerous autonomy. Nilalayon ng dokumento na sagutin ang isang simpleng tanong bago ang emergency: kapag tumaas ang capability, ano talaga ang gagawin ng kumpanya?
Bakit ang format na ito ay tunay na pagpapabuti
Kumpara sa pangkalahatang pangako na seryosohin ang kaligtasan, ang RSP ay mas kongkreto. Binabanggit nito ang mga kakayahan, threshold, at tugon nang maaga, kaya nagiging isang bagay na maaaring ituro ng mga tagalabas ang isang damdamin. Ito ay anticipatory. Kailangang magpasya ang lab kung magkano ang magagastos ng isang mapanganib na kakayahan bago dumating ang rush ng discovery at ang press cycle nang sabay.
The format also ties words to tests through pagsusuri ng mapanganib na kakayahan, ", kaya may tunay na kahulugan ang mga threshold sa operasyon at hindi lamang slogan. May mga patakaran pang nagpapahinto sa pag-unlad kapag hindi na kayang sabayan ng mga safeguard ang kakayahan. Ang paglalagay ng pangungusap na iyan sa pampublikong dokumento ay tunay na pag-unlad.
Ang kilalang pagtutol, pinangalanan
Ang pinakamalakas na kaso para sa RSPs ay nagsasabi: ang public, specific, pre-committed na mga patakaran ang paraan ng pagkahinog ng mga industriya; ang pagdedemanda ng external law bago ang anumang internal policy ay cynicism na nagpapahinto sa progreso. Sa pananaw na ito, ang mga RSPs ang draft constitution ng frontier safety, at ang tamang galaw ay hikayatin pa ang mga ito kaysa tanggihan ang mga may-akda.
Totoo, at structural pa rin ang kahinaan. Ang parehong lab ang sumusulat ng policy, nagde-define ng thresholds, nagpapatakbo ng evaluations, naghuhusga kung nalampasan ang linya, nagdedesisyon kung sapat ang safeguards, at pinapanatili ang kapangyarihang baguhin ang teksto. Kapag nagbanggaan ang commercial pressure na mag-ship at ang commitment na ginawa at pinangangasiwaan ng lab, walang independent party na humahawak ng whistle.
Hindi pabor ang kasaysayan sa optimistikong pagbabasa. Ang talaan ng boluntaryong pangako sa kaligtasan ng korporasyon sa ilalim ng kompetitibong presyon, na sinundan sa aming piraso tungkol sa kusang-loob na mga pangako, ay isang talaan ng standards na lumalambot kapag nagsisimula nang kumagat. Ang if-then rule ay kasing-lakas lang ng then, at ang then ay ipinapatupad ng partido na nakikinabang sa pagpapahina nito. Ang rule na itinakda mo, sinusukat, at maaaring baguhin para sa sarili mo ay isang statement of intent. Hindi ito isang constraint.
Dalawang karagdagang puwang ang nasa ilalim ng dokumento. Nakadepende ang mga RSP sa evaluations para makita ang nalampasan na threshold, kaya lahat ng naglilimit sa evaluations (kasama ang sandbagging, hindi kilalang kakayahan, at ang kahirapan sa pagpapatunay ng kaligtasan) ay naglilimita sa patakarang itinayo sa mga ito. At ang RSP ay nagbubuklod lamang sa lab na tumanggap nito. Ang isang kakumpitensya na tumanggi, o isang programa ng estado sa labas ng kulturang ito, ay hindi naaapektuhan. Walang iisang kumpanya ang makakapagsara ng problemang koordinasyon na iyon nang mag-isa.
Paano binabasa ng Foundation ang mga ito
Panatilihin ang mabubuting makinarya. Gamitin muli ang threshold logic, ang if-then structure, at ang ugnayan sa mga evaluation. Baguhin kung sino ang humahawak ng panulat at sino ang nagpapatupad ng paghinto. Ilipat ang mga trigger na iyan mula sa boluntaryong patakaran patungong may-bisang batas, sinusuportahan ng isang independent body at ng pamamahala sa compute, kaya hindi maaaring tahimik na baguhin ng isang lab ang sarili nitong ceiling kapag naging inconvenient ito.
Ituring ang mga patakaran bilang draft ng enforceable rules, pagkatapos tapusin ang trabaho sa labas ng lab: binding law, independent enforcement, compute controls. Ang transisyong ito ang tinutukoy ng aming plano ay para sa.