En julio de 2025, Mark Zuckerberg publicó una carta sobre la "superinteligencia personal" que también advertía sobre tener cuidado con lo que Meta decide abrir como código abierto. La combinación es todo el problema de política en una sola página: una carrera hacia sistemas generales y una decisión de liberación que no se puede deshacer una vez que los pesos son públicos.

Qué significa "open" aquí

La gente dice "open source AI" cuando se refiere a cosas diferentes: código abierto, datos abiertos, pesos abiertos, papers abiertos. La lucha de alto riesgo se trata principalmente de pesos: los parámetros entrenados que puedes descargar y ejecutar. Una vez que se distribuyan con generalidad de frontera, cualquiera con suficiente hardware podrá ajustarlos, quitar filtros y mantener una bifurcación privada para siempre.

La liberación es una puerta de un solo sentido. Puedes parchear una API alojada. No puedes retirar un torrent.

Qué protege realmente la apertura

El argumento más sólido a favor de la apertura no es la ingenuidad. La concentración cerrada es un riesgo de poder. Los investigadores independientes necesitan acceso para encontrar fallos que los laboratorios no priorizarán. La seguridad por oscuridad falla con frecuencia. Los investigadores fuera de las empresas de países ricos no deberían ser inquilinos permanentes de APIs. Las herramientas abiertas, las evaluaciones abiertas y la ciencia abierta en sistemas que aún podemos contener son bienes que vale la pena defender.

El caso de riesgo sin melodramatismo

En alta capacidad, los pesos generales abiertos son proliferación. Multiplican los actores que pueden hacer mal uso de asistencia biológica, ofensiva cibernética, persuasión y agentes autónomos. También multiplican experimentos independientes en autonomía de larga duración. La mayoría fracasará. Algunos generarán nuevas técnicas de evasión. Las licencias y el texto de «uso responsable» no contienen a un fine-tuner determinado. El red-teaming previo al lanzamiento ayuda, pero aún así no puede certificar un modelo contra cada andamiaje y herramienta futura.

La mayor resistencia

La objeción más justa es que los pesos abiertos democratizan el escrutinio y que los laboratorios cerrados son el verdadero peligro de concentración. El escrutinio ayuda en sistemas que aún podemos parchear y retirar. La democracia de acceso no es lo mismo que la seguridad de la capacidad. Un mundo donde solo tres empresas alojan modelos de frontera tiene problemas de gobernanza. Un mundo donde pesos altamente generales residen en cada GPU de entusiastas tiene problemas diferentes y más difíciles.

"Los actores malintencionados ya lo tienen" suele ser prematuro. Saltos de capacidad. Que un modelo más débil se filtrara el año pasado no es una licencia para enviar el siguiente. El momento importa.

Caminos intermedios que son reales

Lanzamiento gradual: abre lo pequeño y lo estrecho; restringe lo grande y lo general. Acceso estructurado: entornos de investigación confiables, consultas registradas y ajustes finos con credenciales en lugar de un volcado crudo. Herramientas abiertas: mantener compiladores, arneses de evaluación y pilas de investigación de seguridad abiertos incluso cuando los pesos de frontera permanezcan cerrados. Esas son elecciones de política, no vibras.

Un árbol de decisiones para laboratorios

¿Seguirá siendo útil esta descarga después de los próximos seis saltos de capacidad? Si es así, trátala como una decisión de proliferación. Si no, trátala más como el lanzamiento normal de un producto. ¿Pueden los equipos independientes de seguridad y bioseguridad obtener el acceso que necesitan sin una torrent pública? Si es así, prefiere el acceso estructurado. Si el único argumento para abrirlo es la paridad de marketing con un rival, eso no es un argumento de seguridad.

Qué hacer

Constructores: por defecto cerrado en el extremo alto; publicar evaluaciones e interfaces que permitan el escrutinio externo. Anfitriones y plataformas: registrar y limitar el ritmo de usos de alto riesgo; no blanquear la proliferación como "comunidad". Responsables de políticas: redactar desencadenantes basados en capacidad y cómputo, no en la palabra "abierto"; exigir revisión por etapas antes de liberar los pesos de forma general. Individuos: preferir herramientas abiertas en sistemas estrechos; tratar las liberaciones de pesos de frontera como eventos cívicos, no como regalos gratuitos.

La postura de la Fundación es sencilla. La IA estrecha que siga siendo una herramienta puede permanecer abierta y debe hacerlo. Los programas orientados a la superinteligencia artificial no deberían liberarse con pesos abiertos mientras el control siga sin resolverse. La ciencia abierta no es un pacto suicida. Véase nuestro plan.