Noong Hulyo 2025, naglathala si Mark Zuckerberg ng liham tungkol sa "personal superintelligence" na nagbabala rin tungkol sa pagiging maingat sa kung ano ang pipiliin ng Meta na i-open source. Ang pagkakapares na iyan ang buong problema sa patakaran sa isang pahina: isang karera tungo sa general systems, at isang desisyon sa paglabas na hindi na mababawi kapag naging publiko na ang weights.
Ano ang ibig sabihin ng "open" dito
Kapag sinasabi ng mga tao ang "open source AI" ay iba-iba ang ibig nilang sabihin: open code, open data, open weights, open paper. Ang mataas na taya na labanan ay higit na tungkol sa timbang: ang mga trained parameters na puwede mong i-download at patakbuhin. Kapag nailabas na ang mga ito sa frontier generality, sinumang may sapat na hardware ay puwedeng mag-fine-tune, magtanggal ng filter, at magpanatili ng pribadong fork habang panahon.
Isang one-way door ang release. Pwede mong i-patch ang isang hosted API. Hindi mo ma-recall ang torrent.
Ano talaga ang pinoprotektahan ng openness
Ang pinakamalakas na argumento para sa pagiging bukas ay hindi pagiging walang muwang. Ang pagkonsentra sa sarado ay panganib sa kapangyarihan. Kailangan ng access ng mga independiyenteng mananaliksik para mahanap ang mga pagkabigo na hindi uunahin ng mga lab. Madalas na nabigo ang seguridad sa pamamagitan ng pagiging hindi kilala. Hindi dapat maging permanenteng nangungupahan sa API ang mga mananaliksik sa labas ng mga kumpanya sa mayayamang bansa. Ang bukas na tooling, bukas na evals, at bukas na agham sa mga system na kayang pa ring pigilan ay mga bagay na sulit ipagtanggol.
Ang kaso ng panganib nang walang melodrama
Sa mataas na kakayahan, ang open general weights ay proliferation. Dinadagdagan nito ang mga aktor na maaaring gumamit ng bio assistance, cyber offense, persuasion, at autonomous agents sa maling paraan. Dinadagdagan din nito ang mga independiyenteng eksperimento sa long-running autonomy. Karamihan ay mabibigo. Ang ilan ay lilikha ng mga bagong teknik para sa evasion. Hindi kayang pigilan ng mga lisensya at "responsible use" na teksto ang isang determinadong fine-tuner. Nakakatulong ang red-teaming bago ang release pero hindi pa rin nito masasertipika ang isang model laban sa bawat posibleng future scaffold at tool.
Ang pinakamalakas na pagtutol
Ang pinakamabuting pagtutol ay na ang open weights ay nagpapademokrasya ng pagsusuri at ang closed labs ang tunay na panganib sa konsentrasyon. Nakakatulong ang pagsusuri sa mga sistemang maaari pa nating i-patch at i-recall. Hindi pareho ang demokrasya ng access at ang kaligtasan ng kakayahan. May problema sa pamamahala ang mundo kung tatlong kumpanya lang ang nagho-host ng frontier models. May iba, mas mahirap na problema ang mundo kung nakaupo ang highly general weights sa bawat GPU ng mga enthusiast.
"Bad actors already have it" ay karaniwang maaga pa. May mga biglaang pagtaas ng kakayahan. Hindi dahil may mas mahinang model na tumagas noong nakaraang taon ay lisensya na para i-ship ang susunod. Mahalaga ang timing.
Mga tunay na gitnang landas
Graded na paglabas: open the small and the narrow; gate the large and the general. Naka-istrukturang access: trusted research environments, logged queries, and credentialed fine-tunes instead of a raw dump. Buksang tooling: panatilihing bukas ang mga compiler, eval harnesses, at safety research stacks kahit sarado ang frontier weights. Mga policy choice iyan, hindi lang vibes.
Isang decision tree para sa mga lab
Magiging kapaki-pakinabang pa ba ang download na ito pagkatapos ng susunod na anim na capability jumps? Kung oo, ituring ito bilang proliferation decision. Kung hindi, ituring ito nang mas malapit sa normal na product launch. Maaari bang makuha ng independent security at biosecurity teams ang access na kailangan nila nang walang public torrent? Kung oo, piliin ang structured access. Kung ang tanging argumento para sa pagbubukas ay marketing parity sa isang karibal, hindi iyon isang safety case.
Ano ang gagawin
Builders: default closed sa high end; i-publish ang evals at interfaces na nagbibigay-daan sa outside scrutiny. Hosts at platforms: i-log at i-rate-limit ang high-risk uses; huwag i-launder ang proliferation bilang "community." Policymakers: sumulat ng triggers sa capability at compute, hindi sa salitang "open"; kailangan ng staged review bago ang general weight drops. Mga indibidwal: mas piliin ang open tools sa narrow systems; ituring ang frontier-weight releases bilang civic events, hindi free swag.
Ang linya ng Foundation ay simple. Ang narrow AI na nananatiling tool-like ay maaaring manatiling bukas at dapat. Ang mga programang naglalayong sa artificial superintelligence ay hindi dapat buksan sa open weights sa ligaw habang hindi pa nalulutas ang kontrol. Ang open science ay hindi suicide pact. Tingnan ang aming plano.