El Anthropic publicó su primera Responsible Scaling Policy en septiembre de 2023. Al abrir el documento, la estructura aparece en los encabezados antes que la retórica. Los niveles de capacidad se nombran de antemano. Cada nivel se empareja con salvaguardas que se supone que se activan cuando las evaluaciones indican que el modelo ha cruzado el umbral: mayor seguridad de los pesos, reglas de despliegue más estrictas, red teaming más profundo y, en los niveles superiores, un compromiso escrito de no entrenar ni publicar hasta que se implementen las protecciones especificadas. El nombre corto de la industria es RSP. La lógica subyacente suele llamarse compromisos if-then.
Los laboratorios de frontera líderes publicaron las versiones más conocidas y el formato se extendió. Los niveles suelen ir desde sistemas parecidos a los actuales hasta modelos que podrían asistir de forma significativa en un arma biológica, un ciberataque grave o autonomía peligrosa. El documento busca responder una pregunta sencilla antes de la emergencia: cuando la capacidad suba, ¿qué hace exactamente la empresa?
Por qué el formato es una mejora real
Comparado con una promesa general de tomar la seguridad en serio, un RSP es más concreto. Nombra capacidades, umbrales y respuestas con antelación, lo que convierte un estado de ánimo en algo que los externos pueden señalar. Es anticipatorio. El laboratorio tiene que decidir qué le costará una capacidad peligrosa antes de que lleguen juntos la prisa del descubrimiento y el ciclo de prensa.
El formato también vincula las palabras a las pruebas mediante evaluaciones de capacidades peligrosas, así que los umbrales tienen un significado operativo y no son solo un eslogan. Algunas políticas van más allá y se comprometen a detener el desarrollo si las salvaguardas no pueden seguir el ritmo de las capacidades. Incluir esa frase en un documento público ya cuenta como un avance real.
La objeción popular, con nombre
El argumento más sólido a favor de los RSP dice: las reglas públicas, específicas y precomprometidas son el modo en que maduran las industrias; exigir leyes externas antes de cualquier política interna es cinismo que paraliza el progreso. Según esta visión, los RSP son el borrador de la constitución de la seguridad de frontera, y lo correcto es alentar más de ellos en lugar de descartar a sus autores.
Cierto, y la debilidad sigue siendo estructural. El mismo laboratorio redacta la política, define los umbrales, ejecuta las evaluaciones, juzga si se cruzó una línea, decide si sus salvaguardas son suficientes y conserva el poder de revisar el texto. Cuando la presión comercial por lanzar choca con un compromiso que el propio laboratorio redactó y administra, ninguna parte independiente tiene el silbato.
La historia no favorece la lectura optimista. El historial de compromisos voluntarios de seguridad corporativa bajo presión competitiva, detallado en nuestro artículo sobre compromisos voluntarios, es un registro de normas que se suavizan cuando empiezan a doler. Una regla si-entonces solo es tan fuerte como el entonces, y el entonces lo aplica la parte que se beneficia de debilitarlo. Una regla que tú mismo estableces, mides y puedes modificar es una declaración de intenciones. No es una restricción.
Dos vacíos adicionales quedan bajo el documento. Los RSP dependen de evaluaciones para detectar si se cruzó un umbral, por lo que todo lo que limita las evaluaciones (incluido ocultamiento de capacidades, capacidades desconocidas y la dificultad de demostrar seguridad) limita la política que se puede construir sobre ellas. Y un RSP solo obliga al laboratorio que lo adopta. Un competidor que lo rechace, o un programa estatal fuera de esta cultura, queda intacto. Ninguna empresa puede resolver sola ese problema de coordinación.
Cómo los lee la Fundación
Conserva la buena maquinaria. Reutiliza la lógica de umbrales, la estructura if-then y el vínculo con las evaluaciones. Cambia quién sostiene la pluma y quién hace cumplir la detención. Traslada esos disparadores de una política voluntaria a una ley vinculante, respaldada por un organismo independiente y por gobernanza del cómputo, por lo que un laboratorio no puede revisar silenciosamente su propio techo cuando este se vuelve inconveniente.
Trata las políticas como borradores de reglas exigibles, luego termina el trabajo fuera del laboratorio: ley vinculante, aplicación independiente, controles de cómputo. Esa transición es lo que nuestro plan es para.