Cuando los defensores de la gobernanza piden una Agencia Mundial de Monitoreo de la IA, están describiendo un estado final. La pregunta más difícil es cómo se llega a ese estado final, cómo se construye realmente un organismo internacional con el mandato, el personal, el presupuesto, la autoridad legal y la capacidad técnica para monitorear el desarrollo de IA de frontera. La historia de las instituciones que hacen este trabajo con otras tecnologías peligrosas es informativa y, consistentemente, más complicada de lo que sugiere la literatura sobre gobernanza.
Las instituciones se construyen, no se declaran. Esto es lo que en realidad requeriría construir una Agencia Global de Monitoreo de IA.
¿Qué requiere el IAEA para volverse funcional
La IAEA se creó por estatuto internacional en 1957, dos años después de que el presidente Eisenhower propusiera el programa Átomos para la Paz en su discurso de 1953 ante la Asamblea General de UN. El estatuto fundacional definió un mandato (promover los usos pacíficos de la energía nuclear mientras se garantiza que no se desvíe hacia armas) y estableció una Junta de Gobernadores y una Conferencia General como órganos de gobierno de la agencia.
El IAEA realizó sus primeras inspecciones de salvaguardias en 1961, cuatro años después de su fundación, cubriendo un pequeño número de reactores de investigación en Europa Occidental. El sistema de salvaguardias que aplicó era rudimentario según los estándares posteriores: los inspectores revisaban los registros de las instalaciones y realizaban la contabilidad del material nuclear, pero tenían derechos limitados de acceso físico y ninguna capacidad de monitoreo ambiental. El sistema era adecuado para la investigación nuclear pacífica en el entorno tecnológico de las décadas de 1950 y 1960; no era adecuado para detectar un programa de armas determinado.
La expansión decisiva de la capacidad del OIEA no provino del estatuto fundacional de la agencia, sino de las consecuencias de un fracaso. El programa clandestino de armas nucleares de Irak, descubierto durante y después de la Guerra del Golfo de 1991, reveló que las inspecciones rutinarias del OIEA habían pasado por alto por completo un programa que avanzaba hacia un arma nuclear. La respuesta fue el Protocolo Adicional, adoptado en 1997, que amplió los derechos de inspección a ubicaciones no declaradas y añadió el muestreo ambiental como herramienta estándar. El OIEA que existía antes de 1997 y el OIEA que existió después de 1997 son instituciones sustancialmente diferentes en lo que pueden detectar.
La lección es que las instituciones de monitoreo internacional desarrollan sus capacidades reales en respuesta a los fracasos que exponen los límites de su diseño inicial. La arquitectura fundacional establece el marco; la efectividad operativa se acumula durante décadas mediante reformas impulsadas por el fracaso.
¿Qué requiere el OPCW para volverse funcional
El OPCW se estableció cuando la Convención sobre Armas Químicas entró en vigor en 1997. A diferencia del IAEA, que precedió a su marco de tratado principal, el OPCW se diseñó desde el principio como el órgano de verificación de un tratado existente con obligaciones definidas. Esto le dio a la institución mandatos iniciales más claros y un alcance operativo más enfocado.
El OPCW requirió un trabajo preparatorio sustancial antes de poder realizar sus primeras inspecciones. El anexo de verificación del tratado, que abarca cientos de páginas, especifica en detalle los procedimientos para diferentes tipos de inspección, los derechos de los inspectores, las obligaciones de los Estados inspeccionados y el manejo de información confidencial. Traducir estos procedimientos en protocolos operativos, capacitar equipos de inspectores, establecer sistemas de comunicación seguros, construir laboratorios analíticos capaces de identificar agentes químicos en muestras ambientales y negociar acuerdos de instalaciones con los primeros grandes poseedores de arsenales llevó años de trabajo que siguieron a la entrada en vigor del tratado.
Las primeras misiones de verificación de destrucción de OPCW, que supervisaron la eliminación de los arsenales de armas químicas de US y Rusia, comenzaron a finales de los años noventa y continuaron durante más de dos décadas. La complejidad técnica de la destrucción segura de armas químicas y los desafíos de verificación que planteaba exigieron una adaptación institucional continua durante todo ese período. Lo que OPCW hace hoy refleja veinticinco años de experiencia operativa que no existía cuando su primer director general asumió el cargo.
Las decisiones de diseño que más importan
Una agencia internacional de monitoreo de IA enfrentaría un conjunto de decisiones fundacionales de diseño institucional que determinarían su efectividad a largo plazo. Estas decisiones no son técnicas; son políticas y organizativas, y deben tomarse correctamente antes de que la institución abra sus puertas.
El alcance del mandato es la primera decisión. Una agencia de monitoreo puede diseñarse de forma estrecha, centrada en verificar declaraciones de entrenamiento de IA de frontera por encima de umbrales de cómputo especificados, o de forma amplia, con autoridad para evaluar sistemas de IA en cuanto a propiedades de seguridad y publicar hallazgos sobre el panorama global de seguridad de la IA. Un mandato estrecho es más fácil de acordar políticamente y más sencillo de implementar. Un mandato amplio otorga a la institución mayor influencia en gobernanza, pero requiere un presupuesto mayor, personal más diverso y mayor consenso político sobre lo que la agencia puede decir. El mandato de IAEA fue inicialmente estrecho y se amplió; el de OPCW se ha mantenido enfocado. Ambos modelos han tenido éxito en sus contextos respectivos.
La arquitectura de independencia es la segunda decisión. Las organizaciones internacionales varían considerablemente en cuanto a su aislamiento de la presión política de las grandes potencias. La estructura de veto del Consejo de Seguridad UN significa que los cinco miembros permanentes pueden bloquear cualquier acción del Consejo de Seguridad. La Junta de Gobernadores del IAEA tiene una estructura ponderada que otorga a los Estados principales una influencia desproporcionada. El OPCW tiene una estructura de gobernanza más democrática en la que todos los Estados parte tienen votos iguales en la Conferencia de los Estados Parte. Una agencia de monitoreo de IA cuyas decisiones principales puedan ser bloqueadas por los Estados con los programas de IA más grandes es una institución más débil que una con un director general independiente y personal técnico que pueda actuar según su juicio profesional.
La IAEA emplea aproximadamente 2500 personas, incluidas varias centenas de inspectores con profunda experiencia en ingeniería nuclear. La OPCW emplea varias centenas, incluidos químicos capaces de realizar análisis de campo de muestras químicas. Una agencia de monitoreo de IA capaz de evaluar sistemas de IA de frontera necesitaría personal con experiencia que actualmente exige salarios altos en el sector privado. Construir y retener ese personal dentro de la estructura de compensación del servicio civil internacional es uno de los problemas de diseño más difíciles que enfrentaría la agencia.
El modelo de financiamiento es la tercera decisión. Las organizaciones internacionales se financian mediante contribuciones obligatorias de los Estados miembros, proporcionales a su PIB y otros factores, y las contribuciones voluntarias complementan el presupuesto obligatorio para programas específicos. Los presupuestos de contribuciones obligatorias se negocian cada año y están sujetos a presiones políticas: los Estados miembros que se oponen a las actividades de una agencia pueden retener sus aportes o votar por recortes presupuestarios. El presupuesto ordinario de la IAEA es de aproximadamente 500 millones de USD al año; el de la OPCW ronda los 70 millones de euros. Una agencia de monitoreo de IA con capacidad técnica real necesitaría un presupuesto de ese orden o superior, y la cuestión de la estabilidad del financiamiento (cómo mantener el presupuesto de la agencia a través de los ciclos políticos en los principales Estados contribuyentes) exige una respuesta de diseño.
La autoridad legal de los inspectores es la cuarta decisión. Los inspectores solo pueden hacer lo que el tratado les autorice. Los acuerdos de salvaguardas iniciales del IAEA otorgaban a los inspectores derechos de acceso limitados que se ampliaron con el Protocolo Adicional; los inspectores que operan bajo acuerdos más antiguos sin el Protocolo Adicional aún tienen menos derechos. Los inspectores de una agencia de monitoreo de IA necesitarían derechos de acceso claramente especificados (a instalaciones, registros, registros de hardware y personal) y el tratado que establece la agencia debe especificar esos derechos con claridad, porque la ambigüedad se resolverá en la práctica a favor de la parte inspeccionada.
Construir capacidad técnica antes del tratado
Una lección tanto de la IAEA como de la OPCW es que la capacidad técnica no se puede improvisar después de que se establece la institución. Ambas agencias se beneficiaron de comunidades científicas y técnicas preexistentes que pudieron dotarlas de personal: física nuclear e ingeniería nuclear para la IAEA, química analítica para la OPCW. La experiencia necesaria para verificar los compromisos de no proliferación nuclear o para identificar agentes de armas químicas en muestras de suelo existía en universidades y laboratorios nacionales antes de que los organismos internacionales de verificación la necesitaran.
La comunidad técnica equivalente para la verificación de gobernanza de ASI, personas capaces de evaluar sistemas de IA de frontera en cuanto a propiedades de seguridad, auditar registros de entrenamiento y diseñar protocolos de monitoreo de hardware para grandes clústeres de cómputo, es pequeña y está casi por completo en empresas privadas de IA y un puñado de instituciones académicas. Construir la base de experiencia desde la cual una agencia internacional de monitoreo pueda reclutar es en sí misma una tarea de gobernanza que precede a la fundación de la institución.
Esta es una razón por la que los institutos nacionales de seguridad de la IA, como el AI Security Institute de UK (creado en 2023 como el AI Safety Institute), importan para el proyecto de gobernanza a largo plazo. Están construyendo la metodología de evaluación, la experiencia institucional y la comunidad profesional que necesitaría una futura agencia internacional de monitoreo. Los cimientos técnicos para el monitoreo internacional se están sentando, de forma parcial e imperfecta, antes de que estén dadas las condiciones políticas para un tratado y una institución.
"No se puede crear un organismo de verificación en un año. Los métodos técnicos, el personal capacitado, los procedimientos operativos y los marcos legales deben desarrollarse con el tiempo. El momento de empezar es ahora, no después de que se firme el tratado."
Una Agencia Global de Monitoreo de IA es una institución que requiere decisiones de diseño específicas, compromisos de recursos específicos, autoridades legales específicas y capacidades técnicas específicas para funcionar, no una meta utópica lejana. IAEA y OPCW demuestran que tales instituciones pueden construirse y funcionar. También demuestran que construirlas lleva más tiempo de lo que sugiere el texto de un tratado, requiere inversión política sostenida a través de múltiples ciclos de liderazgo y desarrolla sus capacidades reales en respuesta a fallos que exponen los límites de su diseño inicial. Los defensores de la gobernanza que piden una agencia de monitoreo sin abordar estas cuestiones de diseño institucional están describiendo una aspiración, no un plan.
La mayor resistencia
La objeción más justa es que los Estados nunca aceptarán inspectores cerca de su computación más valiosa. Decían cosas parecidas antes de las salvaguardias nucleares. El miedo compartido a una ruptura, más la negación de hardware a los desertores, es cómo las partes reacias aún construyen mecanismos de vigilancia. Una agencia sin acceso es solo un logo. El acceso es el problema de diseño que vale la pena resolver.