Cuando la gente argumenta que la gobernanza internacional ASI es imposible, uno de los argumentos estructurales más comunes que esgrime es el del UN Consejo de Seguridad. China y Rusia, dice el argumento, vetarán cualquier restricción vinculante al desarrollo de IA. El UN no puede actuar. Por lo tanto, la gobernanza vinculante ASI no puede ocurrir.
Cualquier marco que canalice la aplicación de la gobernanza de ASI a través del Consejo de Seguridad le da a cualquiera de los dos países la capacidad de bloquearla por completo. Saber esta limitación determina cómo debe ser una arquitectura efectiva de gobernanza de ASI, y qué no puede ser.
Este argumento malentiende cómo funciona realmente la gobernanza internacional. El poder de veto del Consejo de Seguridad es real y tiene consecuencias, pero se aplica a un conjunto de decisiones mucho más estrecho de lo que la mayoría de la gente supone. Entender exactamente qué cubre el veto y qué no cubre es el requisito previo para diseñar una arquitectura de gobernanza ASI que pueda funcionar de verdad en un mundo donde China y Rusia no van a restringir voluntariamente su desarrollo de IA.
Qué cubre realmente el veto del Consejo de Seguridad
El Consejo de Seguridad del UN tiene autoridad bajo el Capítulo VII de la Carta del UN para autorizar acciones de aplicación cuando determine que la paz y la seguridad internacionales están amenazadas. Estas acciones incluyen sanciones económicas, embargos de armas y la autorización del uso de la fuerza militar. Los cinco miembros permanentes —Estados Unidos, Reino Unido, Francia, China y Rusia— tienen cada uno veto sobre estas resoluciones del Capítulo VII.
Lo que el veto no cubre es la negociación y ratificación de tratados. Los Estados negocian tratados a través de procesos separados. Firman tratados de forma bilateral o multilateral. Ratifican tratados a través de sus procesos legislativos nacionales. El Consejo de Seguridad no tiene ningún papel en esto. China no puede vetar la Convención sobre Armas Químicas. Rusia no puede vetar el Tratado de No Proliferación Nuclear. Ninguno de los dos países puede impedir que otros Estados negocien y ratifiquen un tratado de seguridad de la IA.
El veto importa en la etapa de aplicación, no en la de tratado. Si un Estado viola un tratado y las partes afectadas quieren que el Consejo de Seguridad autorice medidas de aplicación, un veto de los P5 puede bloquear esa autorización. Es un problema real para el diseño de tratados. Significa que una arquitectura de gobernanza que dependa de la aplicación del Consejo de Seguridad para su carácter vinculante es vulnerable a la obstrucción de los P5 justo cuando se necesita la aplicación.
La solución es no depender de la aplicación del Consejo de Seguridad.
Cómo los tratados exitosos evitan el veto
La Convención sobre Armas Químicas (1993) es el precedente más instructivo. La Organización para la Prohibición de las Armas Químicas, con sede en La Haya, realiza inspecciones rutinarias de las instalaciones químicas de los Estados miembros e investiga presuntas violaciones. Su órgano rector, la Conferencia de los Estados Partes, puede atribuir responsabilidad por las violaciones y tomar decisiones sobre las consecuencias, incluida la suspensión de los derechos y privilegios de un Estado infractor. Ninguno de estos procesos requiere autorización del Consejo de Seguridad.
Cuando Siria usó armas químicas en 2013 y de nuevo en 2017 y 2018, el OPCW investigó, atribuyó la responsabilidad y suspendió los derechos de Siria en la organización. Rusia vetó repetidamente las resoluciones del Consejo de Seguridad sobre el uso de armas químicas por parte de Siria. Pero los vetos de Rusia no pudieron deshacer los hallazgos de hecho del OPCW ni las consecuencias que la Conferencia de los Estados Parte impuso a través de sus propios procedimientos. La independencia operativa del OPCW respecto del Consejo de Seguridad fue exactamente lo que lo hizo funcional frente a la obstrucción de los P5.
El tratado fundacional de OPCW ubicó deliberadamente la verificación, la atribución y la autoridad de consecuencias dentro de los propios órganos de gobierno de la organización y no en el Consejo de Seguridad. Cuando Rusia bloqueó la acción del Consejo de Seguridad sobre el uso de armas químicas en Siria, la investigación y el proceso de rendición de cuentas de OPCW continuaron a través de sus propios procedimientos. Esta elección de diseño hizo que el régimen de la CWC fuera operativo exactamente en las condiciones políticas en las que un diseño dependiente del Consejo de Seguridad habría colapsado.
El Organismo Internacional de Energía Atómica utiliza una estructura similar de dos vías. La Junta de Gobernadores de IAEA puede declarar que un Estado incumple sus obligaciones de salvaguardias e informar de esa declaración al Consejo de Seguridad. Pero la resolución de la Junta tiene validez independientemente de lo que haga el Consejo de Seguridad. Cuando Irán fue declarado en incumplimiento en 2005, la resolución de la Junta de IAEA fue un hecho jurídicamente y políticamente significativo incluso antes de que el Consejo de Seguridad adoptara ninguna medida. IAEA también informa de los incumplimientos a la Asamblea General de UN, que, aunque no puede autorizar medidas de cumplimiento, puede amplificar la presión política mediante sus propias resoluciones.
La alternativa de la Asamblea General
La Asamblea General de UN tiene 193 miembros y sus resoluciones no pueden ser vetadas. Las resoluciones de la Asamblea General no son jurídicamente vinculantes del mismo modo que las del Consejo de Seguridad, pero están lejos de ser irrelevantes. Representan posiciones de consenso de la comunidad internacional. Establecen marcos normativos que orientan las negociaciones de tratados, la legislación nacional y las decisiones judiciales sobre las obligaciones de los Estados en virtud del derecho internacional consuetudinario.
La Asamblea General ya ha empezado a ocuparse de la gobernanza de ASI. En marzo de 2024 adoptó por consenso una resolución sobre el aprovechamiento de las oportunidades de una inteligencia artificial segura, fiable y digna de confianza para el desarrollo sostenible. No era un instrumento de gobernanza vinculante, pero fue la primera resolución de la Asamblea General que estableció un lenguaje acordado internacionalmente sobre el carácter del desarrollo responsable de la IA. El lenguaje de estas resoluciones se convierte en la base a partir de la cual se trabaja en las negociaciones de tratados.
El procedimiento Uniting for Peace (1950) estableció que, cuando el Consejo de Seguridad queda bloqueado por un veto, la Asamblea General puede convocarse en sesión especial de emergencia para considerar asuntos de paz y seguridad internacionales. Este procedimiento se ha invocado varias veces, la más reciente en relación con la invasión rusa de Ucrania en 2022. En teoría, si un bloqueo del Consejo de Seguridad impidiera una respuesta a una catástrofe relacionada con la IA, el procedimiento Uniting for Peace podría trasladar la consideración a la Asamblea General. Esto no produciría una autorización de cumplimiento vinculante, pero sí generaría una respuesta política y normativa con peso real.
Qué arquitectura de tratado evita el problema del veto
Un tratado de gobernanza de ASI diseñado para funcionar en un mundo con obstrucción por veto de UNSC compartiría varias características con los regímenes de control de armas y desarme más eficaces que existen.
La autoridad de verificación debe residir en un organismo de tratado, no en el Consejo de Seguridad. El tratado crearía una organización independiente, análoga a la OPCW o la IAEA, con su propio consejo de gobierno, cuerpo de inspectores y procedimientos de decisión para determinar violaciones e imponer consecuencias. Las consecuencias a disposición del organismo del tratado incluirían la suspensión de derechos de membresía, la denuncia pública mediante informes de atribución y la exclusión de programas de cooperación técnica. Estas consecuencias no requieren autorización del Consejo de Seguridad.
El órgano del tratado informaría sus hallazgos al Consejo de Seguridad, pero el informe tendría un peso independiente. Una constatación formal del órgano de gobernanza del tratado ASI de que un Estado había violado sus obligaciones sería un hecho político y jurídico significativo, independientemente de que el Consejo de Seguridad autorizara luego medidas de cumplimiento. Este es el modelo IAEA: la remisión de la Junta de Gobernadores al Consejo de Seguridad no es solo un trámite, sino que genera presión política que opera al margen de si el Consejo actúa.
Los Estados que ratifiquen el tratado aceptarían la jurisdicción de un mecanismo independiente de solución de controversias. El derecho comercial ofrece un modelo útil aquí. El sistema de solución de controversias de la Organización Mundial del Comercio, que puede autorizar medidas comerciales de represalia, opera independientemente del Consejo de Seguridad. Los Estados miembros de la OMC aceptan esta jurisdicción como condición de membresía. Un tratado de gobernanza de ASI podría incluir disposiciones análogas, creando un mecanismo de aplicación a través de consecuencias comerciales que ningún veto del Consejo de Seguridad puede alcanzar.
"El problema del veto es real. Pero se aplica a un segmento más estrecho de la gobernanza de lo que la gente supone. Los regímenes de control de armas más efectivos han construido mecanismos de verificación, atribución y consecuencias que operan independientemente de la autorización del Consejo de Seguridad. La gobernanza de ASI puede seguir la misma lógica arquitectónica."
El problema más difícil: gobernar a los no participantes
Eludir el veto del Consejo de Seguridad resuelve el problema de gobernar a las partes del tratado que luego violan sus obligaciones. No resuelve el problema más difícil de gobernar a los Estados que nunca se adhieren al tratado.
Si China o Rusia se niegan a ratificar un tratado de gobernanza ASI, sus programas de IA no estarán sujetos en absoluto a sus obligaciones. Ningún régimen de inspección, ningún órgano del tratado ni ningún mecanismo de solución de controversias se aplicará a un Estado que no sea parte. El problema del veto en el Consejo de Seguridad se vuelve irrelevante en este caso, porque esos países quedan completamente fuera del marco del tratado.
Este es el auténtico desafío estructural para la gobernanza de ASI con el que a veces se confunde el problema del veto del Consejo de Seguridad. Requiere un conjunto diferente de soluciones: condiciones de acceso al mercado (que exijan el cumplimiento de normas de seguridad como condición para la exportación o importación de IA), construcción de coaliciones para encarecer la no participación, y los procesos de establecimiento de normas a través de la Asamblea General y otros foros multilaterales que aumentan el costo político de permanecer fuera del marco. Estas son las estrategias que convirtieron el Tratado de Prohibición de Minas y la Corte Penal Internacional en instrumentos de peso incluso sin la participación de Estados Unidos, China y Rusia.
El veto del Consejo de Seguridad es una restricción real sobre cómo puede ser la gobernanza internacional vinculante del ASI. No es una restricción sobre si esa gobernanza es posible. Las instituciones que han gobernado con éxito las armas de destrucción masiva han sorteado esta limitación mediante un diseño cuidadoso de los tratados, organismos de verificación independientes y mecanismos de aplicación que no dependen de la autorización del Consejo de Seguridad. Los arquitectos de la gobernanza del ASI deberían estudiar esos diseños, no aceptar el veto como un techo permanente de lo alcanzable.