Un Instituto de Seguridad de la IA es un organismo gubernamental creado para evaluar sistemas de IA de frontera por riesgos para la seguridad nacional y la seguridad pública, y para que el Estado desarrolle su propia experiencia en IA de frontera. La primera oleada se agrupó en torno a la cumbre internacional de IA de 2023. Los institutos ahora comparten métodos y hallazgos a través de una red internacional impulsada por Seúl y las reuniones posteriores.

Varias capitales importantes ya cuentan con un instituto o equivalente. La mayoría aún no puede ordenar que se retenga un modelo peligroso.

Una nota sobre nombres: los dos institutos fundadores han sido renombrados. The UK body se convirtió en el AI Security Institute en febrero de 2025. The US institute ahora es el Center for AI Standards and Innovation (CAISI) en el NIST. "AI safety institute" sigue siendo el término genérico estándar, y esta guía lo usa en todo momento.

Durante años, las únicas organizaciones que entendían en profundidad los modelos de frontera eran las empresas que los construían. Un instituto es un intento de colocar capacidad técnica independiente dentro del gobierno, para que las autoridades públicas puedan evaluar los sistemas en lugar de aceptar el informe del desarrollador como última palabra.

¿Qué hacen realmente?

Su trabajo se agrupa en unas pocas áreas.

  • Evaluar modelos de frontera, a veces antes de su lanzamiento, en busca de capacidades peligrosas en ámbitos como la ciberseguridad, la biología y la autonomía, usando los métodos detrás de evaluaciones de capacidades.
  • Desarrollando la ciencia de la evaluación en sí, porque medir estos riesgos bien sigue siendo un problema de investigación abierto, no un procedimiento establecido.
  • Asesorando al gobierno, para que las políticas se basen en personas que realmente han examinado los sistemas.
  • Coordinación internacional, para que un modelo probado en un país no tenga que reconstruirse desde cero en todos lados y para que las normas empiecen a converger.

Esto es un progreso institucional real. Construir capacidad estatal para entender la IA de frontera es un requisito previo para gobernarla. No puedes regular lo que no puedes evaluar, y hasta hace poco los gobiernos en gran medida no podían.

El poder que mayormente les falta

La mayoría de los institutos de seguridad de IA pueden probar, asesorar y publicar. Pocos pueden obligar. El acceso a los modelos suele depender de la cooperación de los laboratorios. Los hallazgos suelen informar más que vincular. En la mayoría de los casos, un instituto no puede ordenar que se retenga un modelo peligroso. Estos organismos pueden ver un riesgo y recomendar una respuesta. Rara vez pueden exigir una.

Esa brecha entre evaluación y autoridad es el límite estructural. Un instituto que descubre un peligro grave y solo puede asesorar es tan efectivo como la voluntad del gobierno de actuar contra la presión comercial y competitiva de seguir adelante. Gran parte de la arquitectura actual es un sistema de alerta. Un sistema de alerta no es una salvaguarda hasta que alguien con poder responda a la alarma.

La objeción popular es que la capacidad técnica basta y la política alcanzará. La capacidad sin autoridad es cómo los gobiernos se enteran de las malas noticias tarde y actúan aún más tarde. Las pruebas que no pueden obligar a una parada son preparación para la gobernanza, no gobernanza en sí.

En qué podrían convertirse

El valor duradero de los Institutos de Seguridad de la IA es lo que ensamblan para regímenes vinculantes posteriores: capacidad técnica independiente, normas compartidas y un canal internacional entre gobiernos. En ese sentido son la forma temprana del tipo de organismo por el que aboga la Fundación. Nuestro artículo sobre una agencia internacional de monitoreo describe a dónde esto podría llevar. El Modelo IPCC muestra cómo la evaluación científica compartida puede respaldar la política internacional.

Lo que tiene que cambiar es la autoridad. La evaluación debe conectarse con la aplicación, ya sea mediante una ley nacional que haga de la aprobación de un instituto una condición para el despliegue, o mediante un marco internacional que dé a los hallazgos verificados consecuencias reales. Dale a estos institutos un poder que coincida con su experiencia, y gran parte del andamiaje de una gobernanza seria ya está en parte construido. Esa transición es el tema de nuestro plan: detener la superinteligencia mediante la ley, con capacidad de evaluación pública como infraestructura, no como sustituto de la prohibición y la verificación.