Bago ipadala ang isang bagong gamot sa Estados Unidos, kailangang ipakita ng isang tao ang kaligtasan at bisa sa ilalim ng mga patakaran na maaaring pigilan ang paglulunsad. Karamihan sa software ay nagpapadala pa rin muna at humihingi ng paumanhin pagkatapos. Ang pattern ng FDA ang tanong na patuloy na iniiwasan ng patakaran sa AI: patunayan muna bago hindi na maibabalik ang pinsala.
Ang pharmaceuticals ang malaking pagbubukod. Hindi puwedeng maglabas ang drug company ng gamot at hintayin na lang ang mga bangkay. Kailangan nitong patunayan ang kaligtasan at bisa sa Food and Drug Administration sa pamamagitan ng staged clinical trials bago kung maaari nitong ibenta ang produkto. Nasa developer ang burden of proof, at nasa bago pa ng deployment. Ang FDA model para sa AI ay nagtatanong kung ang frontier AI, na mayroong mga katangiang nagpaliban sa gamot, ay dapat pamahalaan sa parehong paraan.
Bakit kaakit-akit ang analogy
Mas malapit ang pagkakatugma kaysa sa unang tingin, dahil ang mga dahilan kung bakit kailangan ng pre-market approval ang mga gamot ay pareho rin sa frontier AI.
- Nabaliktad ang burden of proof. Dapat patunayan ng developer na ligtas ang produkto, sa halip na kailanganin ng regulator o publiko na patunayan na mapanganib ito pagkatapos mailabas. Ang pagbabaliktad na ito ang eksaktong pinagtatalunan ng Foundation sa iba pang lugar, sa mga kaso ng kaligtasan at mga patakaran sa scaling.
- Ang pag-apruba ay nauuna bago ang deployment. Nangyayari ang check habang nakakulong pa ang system, hindi pagkatapos na malaya na ito sa mundo, at iyan lang ang punto kung saan natatalo ng prevention ang reaction.
- Ang staged testing ay sumasabay sa risk. Ang mga clinical trial ay nagpapatuloy sa mga phase, bawat gate ay nangangailangan ng ebidensya bago ang susunod. Natural itong naaangkop sa capability thresholds para sa AI.
Para sa isang teknolohiya kung saan ang ilang pagkabigo ay maaaring malubha at mahirap baliktarin, ang isang rehimeng tumatangging payagan ang pinakamataas na panganib na system na lumabas hanggang sa affirmatively na maipakita ang kaligtasan ay isang seryoso at kaakit-akit na panukala.
Kung saan nahihirapan ang modelo
Ang analogy ay gabay, hindi template, at ang mga pagkakaiba ay nagtuturo.
A drug is a fixed molecule doing a specific thing in a body, studied through a mature science with quantified risks. A frontier model is general-purpose, used for open-ended tasks nobody fully enumerated, with mga kakayahang maaaring lumabas nang hindi inaasahan at behavior na maaaring magbago pagkatapos i-deploy sa pamamagitan ng fine-tuning o bagong tools. Maaari mong tukuyin kung ano ang ibig sabihin ng ligtas para sa isang gamot sa blood pressure. Ang pagtukoy kung ano ang ibig sabihin ng ligtas para sa isang general reasoning system ay ang hindi pa nasasagot na problema sa gitna ng larangan, at ang agham na kailangan ng isang reviewer na katulad ng FDA ay madalas ay wala pa.
Mayroon ding border problem. Pinamamahalaan ng FDA ang isang pambansang merkado na may matitigas na gilid. Pwedeng sanayin ang isang mapanganib na model kahit saan at kopyahin kahit saan, kaya ang national pre-approval lamang ay nag-iiwan ng puwang na tanging international coordination lang ang makakapagsara, na sinusuportahan ng mga pisikal na chokepoints ng pamamahala sa compute.
Ang modelo ng FDA ang nagbibigay sa atin ng tamang prinsipyo—patunayan ang kaligtasan bago ilabas—at nagpapaalala kung gaano pa karami ang kulang sa underlying safety science.
Ano ang dapat kunin mula rito
Mas mahalaga ang modelo ng FDA hindi bilang blueprint na kokopyahin kundi bilang patunay na normal, magagawa, at tinatanggap ang pre-market approval para sa mga produkto kung saan masyadong seryoso ang downside para hawakan sa pamamagitan ng recall. Sumang-ayon na ang lipunan, sa kaso ng gamot, na kailangang patunayan ang kaligtasan ng ilang bagay bago ito makarating sa atin. Ang pagpapalawak ng prinsipyong iyon sa frontier AI systems na maaaring maging pinakamalala ang kabiguan ay ang paglalapat ng umiiral na pamantayan sa bagong teknolohiyang malinaw na kwalipikado, na inihahatid sa pamamagitan ng halo ng domestic requirement at international framework na inilatag sa aming plano, hindi isang radikal na kahilingan.