2025年7月，马克·扎克伯格发表了一封关于“个人超级智能”的信，同时警告要谨慎对待Meta选择开源的内容。这一组合将整个政策问题浓缩在一页纸上：一场通往通用系统的竞赛，以及一旦权重公开就无法撤销的发布决定。

此处“开放”的含义

人们说“开源AI”时意指不同事物：开放代码、开放数据、开放权重、开放论文。高风险争论主要围绕 权重: ：你可以下载并运行的训练后参数。一旦这些参数以前沿通用性发布，任何拥有足够硬件的人都可以微调、剥离过滤器，并永远保留一个私有分支。

发布是一扇单向门。你可以修补托管的 API。你无法召回种子。

开放真正保护的是什么

支持开放的最有力理由并非天真。封闭集中是一种权力风险。独立研究者需要访问权限以发现实验室不会优先处理的故障。依靠隐蔽的安全常常失效。富裕国家实验室之外的研究者不应永远只是API租户。在我们仍能控制的系统上开放工具、开放评估和开放科学，是值得捍卫的善。

不加渲染的风险案例

在高能力水平下，开放通用权重即扩散。它会增加可能滥用生物辅助、网络攻击、说服和自主代理的行动者，也会增加长期自主性的独立实验。大多数会失败，但有些会产生新的规避技术。许可证和“负责任使用”文字无法约束决心微调的人。发布前的红队测试有帮助，但仍无法证明模型能抵御未来所有支架和工具。

最强烈的反对

最公平的反对意见是，开放权重能让审查民主化，而封闭实验室才是真正的集中风险。审查有助于我们仍能修补和召回的系统。获取的民主化不等于能力的可控性。只有三家公司托管前沿模型的世界存在治理问题。高度通用权重存在于每个爱好者 GPU 上的世界则存在不同且更难的问题。

“坏人已经拥有它”通常言之过早。能力会跃升。去年泄露的较弱模型，并非授权发布下一个模型的理由。时机至关重要。

真实存在的中间道路

分级发布：: 开放小型和狭窄的；把关大型和通用的。 结构化访问：: 受信任的研究环境、记录查询以及凭证化微调，而非原始转储。 开放工具：: 即使前沿权重保持封闭，也要保持编译器、评估工具链和安全研究栈开放。这些是政策选择，而非氛围。

实验室的决策树

这次下载在接下来六次能力跃升后是否仍有价值？如果是，就把它当作扩散决策来处理。如果不是，就更接近普通产品发布。独立安全与生物安全团队能否在不公开种子的情况下获得所需访问权限？如果是，就优先结构化访问。如果开放的唯一理由是与竞争对手在营销上持平，那就不构成安全理由。

该怎么做

开发者：高端默认封闭；发布评估和接口以便外部审查。托管方与平台：记录并限流高风险用途；不要把扩散包装成“社区”。政策制定者：按能力和算力设定触发条件，而非“开源”二字；在权重普遍发布前要求分阶段审查。个人：优先在窄域系统上使用开源工具；将前沿权重发布视为公民事件，而非免费赠品。

基金会的立场很简单。保持工具形态的狭义AI可以保持开放，也应该如此。旨在实现人工超级智能的程序则不应在控制问题尚未解决时，以开放权重的方式散布到野外。开放科学不是自杀协议。见 我们的计划.