Un problema recurrente en la gobernanza de los ASI es que los gobiernos históricamente han carecido de la experiencia interna para evaluar los sistemas que deben regular. Los institutos de seguridad existen para cerrar esa brecha. Son organismos gubernamentales o respaldados por el gobierno, integrados por investigadores técnicos cuya tarea es evaluar las capacidades y riesgos de los modelos de frontera; el Estado, por fin, adquiere la capacidad de ver qué construyen los laboratorios, en lugar de fiarse de su palabra.

A partir de los UK y US a finales de 2023, los institutos nacionales de seguridad de la IA se han multiplicado y se han integrado en una red internacional. No son llamativos, pero pueden ser la infraestructura de gobernanza más importante creada hasta ahora.

De dónde surgió la red

El Reino Unido anunció su Instituto de Seguridad de la IA en torno a la cumbre de Bletchley en noviembre de 2023, el primero de su tipo. Estados Unidos estableció el suyo en el NIST poco después. En la cumbre de Seúl de mayo de 2024, un grupo más amplio de gobiernos (incluidos Japón, Singapur, Canadá, Corea del Sur, EU y otros) acordó crear institutos y conectarlos en una red internacional para alinear su trabajo. Lo que comenzó como dos organismos nacionales se convirtió en la semilla de un sistema cooperativo.

Una nota sobre los nombres: los dos institutos fundadores han sido renombrados desde entonces, el de UK ahora es el AI Security Institute, y el organismo de US se convirtió en el Center for AI Standards and Innovation (CAISI) en 2025. La red y su trabajo de evaluación continúan bajo los nuevos nombres.

Lo que hacen en realidad los institutos

  • Evaluar modelos de frontera. Prueban sistemas avanzados en busca de capacidades peligrosas (incluyendo en dominios de alto riesgo) desarrollando los métodos para medir lo que un modelo puede hacer realmente.
  • Desarrollar la ciencia de la evaluación. Las pruebas rigurosas y estandarizadas de la IA son un problema técnico sin resolver. Los institutos están construyendo la metodología que requiere una gobernanza confiable.
  • Asesorar a los gobiernos. " Otorgan a los estados un juicio técnico independiente sobre los riesgos de la IA, reduciendo la dependencia de las propias evaluaciones de los desarrolladores.".
  • Cooperar a través de las fronteras. A través de la red, los institutos comparten métodos, coordinan pruebas y trabajan hacia estándares comunes, los inicios de una evaluación interoperable e internacional.

¿Por qué importan para un tratado?

La conexión entre los institutos y un futuro acuerdo vinculante es directa y subestimada. Toda propuesta seria de un tratado de IA depende de la capacidad de evaluar si un sistema cruza un umbral peligroso y de verificar el cumplimiento de las obligaciones de seguridad. Esa capacidad no existe por defecto; hay que construirla. Los institutos de seguridad la están construyendo exactamente. Están, en efecto, construyendo los órganos técnicos que un régimen de verificación utilizaría más adelante.

También resuelven un problema de secuenciación. Un tratado que especificara requisitos de evaluación no valdría nada si ningún organismo independiente pudiera realizar las evaluaciones. Al desarrollar esa capacidad ahora (antes de que exista el tratado) los institutos aseguran que las herramientas estén listas cuando llegue el acuerdo político. La red es el trabajo práctico sobre el que eventualmente puede sostenerse una gobernanza vinculante, y se está estableciendo en silencio mientras la diplomacia de mayor perfil avanza en paralelo.

Los límites sobre los que hay que ser honestos

Los institutos no son un sustituto de una gobernanza vinculante, y sería un error tratarlos como tal. Su acceso a los modelos generalmente depende de la cooperación voluntaria de los desarrolladores; no pueden obligar a realizar pruebas de un sistema que una empresa se niega a compartir. Sus mandatos y recursos varían ampliamente entre países, y la coordinación de la red aún es incipiente y no vinculante. Y la evaluación en sí misma sigue siendo científicamente inmadura; determinar de manera confiable si un modelo es peligroso es realmente difícil, y los métodos actuales tienen brechas reales.

Un tratado que exija evaluaciones de seguridad es vacío si nadie puede realizarlas. Los institutos de seguridad están construyendo los ojos que cualquier régimen real de verificación necesitará. Ese trabajo debe hacerse antes del tratado, no después.

La infraestructura de una gobernanza exigible

Los institutos de seguridad representan un cambio de hablar sobre el riesgo de la IA a construir la capacidad de medirlo. Ese cambio importa porque la gobernanza sin medición es solo aspiración. El camino realista es que la red madure, obteniendo acceso garantizado a los modelos de frontera mediante mandato legal en lugar de buena voluntad, convergiendo en estándares compartidos y construyendo la capacidad de evaluación independiente y bien dotada de recursos que requiere un régimen de verificación. Los institutos no salvarán el mundo por sí solos. Pero están ensamblando los instrumentos sin los cuales ningún tratado vinculante podría funcionar, y fortalecerlos es una de las cosas más concretas e inmediatamente útiles que los gobiernos pueden hacer mientras el acuerdo más amplio aún se está negociando.