La literatura de gobernanza sobre seguridad de la IA tiene un sesgo hacia las analogías exitosas. La Convención sobre Armas Químicas se cita con frecuencia. El Protocolo de Montreal aparece en la mayoría de las discusiones serias. El sistema de salvaguardias nucleares de la IAEA se presenta como modelo de lo que podría parecer una agencia de monitoreo de IA. Estas son referencias valiosas, pero producen una imagen incompleta de lo que la gobernanza internacional puede y no puede lograr.
Dos en particular destacan: el Tratado de Prohibición Completa de los Ensayos Nucleares, que nunca ha entrado en vigor, y la Convención sobre Armas Biológicas, que carece de mecanismo de verificación y fue violada a gran escala durante dos décadas.
Los fracasos son igual de instructivos y, en algunos aspectos, más. Revelan las decisiones de diseño específicas y las condiciones políticas que hacen que los regímenes de gobernanza se desmoronen o queden cortos. Para la gobernanza de ASI, que aún no se ha diseñado, entender estos modos de fallo es más accionable que estudiar historias de éxito, porque las decisiones de diseño que determinarán el éxito o el fracaso siguen abiertas.
Modo de fallo uno: la trampa de la entrada en vigor
El Tratado de Prohibición Completa de los Ensayos Nucleares se abrió a la firma en septiembre de 1996. Para 2026, 187 países lo han firmado y 178 lo han ratificado. No ha entrado en vigor.
La razón es el Artículo XIV, que exige que el tratado entre en vigor solo después de la ratificación de los 44 Estados que tenían plantas de energía nuclear o reactores de investigación cuando se negoció el tratado. Esta lista de 44 Estados del Anexo 2 se diseñó para garantizar que el tratado cubriera a los Estados más relevantes para las pruebas nucleares. En cambio, se ha convertido en un veto permanente ejercido por ocho países: China, Egipto, India, Irán, Israel, Corea del Norte, Pakistán y Estados Unidos. Hasta que los ocho ratifiquen, el CTBT no puede entrar en vigor independientemente de cuántos otros Estados lo hayan hecho.
El CTBT no ha sido inútil. La Organización del Tratado de Prohibición Completa de los Ensayos Nucleares opera un sistema mundial de monitoreo de estaciones sísmicas, hidroacústicas, de infrasonido y de radionucleidos que puede detectar ensayos nucleares con alta fiabilidad. Este monitoreo ha producido inteligencia real sobre los programas nucleares de Estados no signatarios, incluidos los seis ensayos de Corea del Norte entre 2006 y 2017. El sistema de monitoreo de la CTBTO no existiría sin el marco del tratado, aunque su aplicación siga siendo provisional. Pero la obligación central del tratado, prohibir los ensayos nucleares, no es jurídicamente vinculante para los Estados más propensos a realizarlos, porque nunca ha entrado en vigor.
La disposición de entrada en vigor del CTBT, que exige la ratificación de los 44 Estados nombrados, se diseñó para garantizar una cobertura universal de los actores más relevantes. En cambio, creó una estructura en la que cualquier Estado relevante puede bloquear indefinidamente todo el régimen. Un tratado de gobernanza de ASI con una disposición similar, que exija la ratificación de Estados Unidos, China, Rusia, EU y todos los principales países desarrolladores de IA antes de la entrada en vigor, enfrentaría la misma vulnerabilidad estructural. El tratado debería entrar en vigor entre las partes dispuestas a partir de un umbral definido, sin exigir cobertura universal como condición previa.
Para la gobernanza de ASI, el fracaso del CTBT señala una elección de diseño concreta: las cláusulas de entrada en vigor. Un tratado que exige la participación de todos los grandes Estados desarrolladores de IA antes de que entre en vigor otorga a cada uno de ellos un poder de veto unilateral sobre todo el régimen. US, China, EU, UK y quizá otros cinco o diez Estados podrían figurar como partes obligatorias, y cualquiera de ellos podría impedir indefinidamente que el tratado entre en vigor.
El diseño más robusto permite que el tratado entre en vigor entre una masa crítica de partes dispuestas, creando un régimen de gobernanza operativo, mientras deja la puerta abierta para que las no partes se unan después. Las no partes enfrentan exclusión de los beneficios del tratado (compartir tecnología, preferencias de acceso al mercado, investigación cooperativa de seguridad), lo que crea incentivos para unirse. La efectividad del tratado entre las partes existentes, mientras tanto, crea un modelo de gobernanza demostrado que reduce la incertidumbre sobre lo que implicaría unirse. Tanto el Tratado de Prohibición de Minas como la Corte Penal Internacional usaron este enfoque.
Modo de fallo dos: una prohibición sin verificación
La Convención sobre Armas Biológicas se abrió a la firma en 1972 y entró en vigor en 1975. Prohíbe el desarrollo, la producción y el almacenamiento de armas biológicas y exige a los Estados que destruyan cualquier reserva existente. Cuenta con 183 Estados parte. No tiene mecanismo de verificación, ni inspectorado, ni órgano formal con autoridad para investigar supuestas violaciones o dictaminar incumplimientos.
La Unión Soviética ratificó la CAB en 1975. En 1973, dos años antes de la ratificación, el Consejo de Ministros soviético había aprobado la creación de Biopreparat, una red de institutos de investigación nominalmente civiles que constituía el mayor programa de armas biológicas ofensivas del mundo. En su apogeo en los años ochenta, Biopreparat empleaba a unos 60 000 científicos y producía armas de peste, viruela y ántrax a escala industrial, junto con agentes modificados genéticamente para resistir antibióticos y vacunas. Este programa operó en violación directa y completa de la CAB durante los años setenta y ochenta, hasta que fue revelado por desertores soviéticos tras el colapso de la USSR. El régimen de la CAB no tuvo forma de detectarlo.
Este es el fracaso más importante de la verificación del control de armas en el período de posguerra. Una prohibición que no puede verificarse es una norma, no un mecanismo de rendición de cuentas. Crea un estándar público de comportamiento aceptable que tiene efectos reales en el comportamiento de los Estados en muchos casos, aunque sea estructuralmente incapaz de detectar violaciones sistemáticas por parte de Estados con medios y motivos para violarla encubiertamente.
Las negociaciones para añadir un protocolo de verificación a la CAB se extendieron de 1995 a 2001. Estados Unidos rechazó el protocolo propuesto en julio de 2001, argumentando que sus procedimientos de inspección eran demasiado intrusivos para la biotecnología comercial legítima y demasiado débiles para detectar violaciones de forma fiable. Las negociaciones colapsaron y no se han retomado en ninguna forma que pudiera producir un mecanismo de verificación vinculante. La CAB sigue vigente como una norma sin un órgano de verificación.
Qué significa el fracaso de la BWC para la gobernanza de ASI
La analogía entre las armas biológicas y la IA no es perfecta, pero varias características del fracaso de la BWC son directamente transferibles a la gobernanza del ASI.
El uso dual es el desafío central de la verificación. Las armas biológicas se producen con equipos, conocimientos y procesos de laboratorio en gran medida idénticos a los de la investigación farmacéutica y de salud pública legítima. Distinguir entre investigación ofensiva y defensiva, o entre aplicaciones civiles y armamentísticas, requiere inspectores altamente capacitados con acceso a información comercial y técnica confidencial, y aun así genera ambigüedad real en muchos casos. Este carácter de uso dual hizo que un protocolo de verificación para la BWC fuera técnicamente exigente y políticamente controvertido de formas que la verificación de armas químicas o nucleares, que tienen firmas más claras, no lo fue.
La IA tiene el mismo carácter de doble uso a un nivel más fundamental. Un modelo de lenguaje grande entrenado para la generación de lenguaje natural es técnicamente indistinguible de uno entrenado para la persuasión a escala. Un modelo entrenado para asistir en investigación científica es técnicamente idéntico a uno entrenado para la acción autónoma en entornos de alto riesgo. Las capacidades que hacen que la IA de frontera tenga valor comercial son las mismas que la hacen potencialmente peligrosa. La verificación en la gobernanza de ASI enfrenta el mismo desafío que derrotó a la verificación de la BWC: debe distinguir entre aplicaciones peligrosas y legítimas de sistemas técnicamente idénticos.
"La Convención sobre Armas Biológicas muestra exactamente lo que produce con el tiempo una prohibición sin verificación. Una norma ampliamente aceptada, violada de forma demostrable y a gran escala por una potencia importante durante veinte años, sin ningún mecanismo para detectar o responder a la violación. Para la gobernanza de ASI, este es el resultado por defecto si la verificación se aplaza a un protocolo futuro que quizá nunca llegue, no una preocupación teórica."
La lección no es que la verificación sea imposible para la IA, sino que la verificación debe incorporarse al tratado desde el principio en lugar de aplazarse a un protocolo posterior. Las negociaciones de verificación de la BWC fracasaron después de veintiséis años de esfuerzo. Un tratado de gobernanza del ASI que establezca primero la prohibición y aplace la arquitectura de verificación corre el riesgo del mismo resultado: una norma sin mecanismo de rendición de cuentas, que opera junto a programas de desarrollo que no puede ver.
Modo de fallo tres: retirada sin costo
Corea del Norte se adhirió al Tratado de No Proliferación Nuclear en 1985, anunció su retirada en 1993 y de nuevo en 2003, y realizó su primera prueba nuclear en 2006. La disposición de retirada del NPT, el Artículo X, permite que cualquier Estado se retire con noventa días de aviso si decide que acontecimientos extraordinarios han puesto en peligro sus intereses nacionales supremos. La retirada de Corea del Norte se produjo después de que el IAEA la declarara en incumplimiento de sus obligaciones de salvaguardias, y la retirada terminó efectivamente con la capacidad del IAEA de monitorear el programa nuclear de Corea del Norte.
Para la gobernanza de ASI, el precedente de NPT/Corea del Norte señala la importancia del costo de la retirada. Un tratado del que se puede salir con un aviso de noventa días sin penalización ofrece una garantía débil, porque un Estado que quiera realizar actividades prohibidas por el tratado puede simplemente retirarse antes de que esas actividades se hagan visibles. Las disposiciones de retirada en un tratado de gobernanza de ASI deberían incluir: un período de aviso definido lo suficientemente largo para que los órganos del tratado y las otras partes puedan responder; la retención de derechos de inspección durante un período definido después de la notificación de retirada; y la suspensión automática de beneficios al notificarse la intención de retirarse, en lugar de al hacerse efectiva la retirada.
Estas opciones de diseño no impedirían la retirada, pero sí harían que retirarse fuera costoso y visible en lugar de rutinario y silencioso. El objetivo no es atrapar a los Estados en compromisos que rechazan, sino asegurar que el acto de abandonar el régimen sea un evento políticamente significativo que genere atención internacional y respuesta diplomática.
Los diseñadores de gobernanza de ASI tienen la ventaja de poder estudiar estos fracasos antes de redactar las disposiciones pertinentes. Los fracasos del CTBT, la BWC y NPT están todos documentados, analizados y disponibles. Las decisiones de diseño que produjeron esos fracasos son evitables. La cuestión es si el proceso político que produce un tratado de gobernanza de ASI permitirá que las ideas de diseño técnico derivadas de estos fracasos sobrevivan al contacto con las posiciones negociadoras de las grandes potencias.
La mayor resistencia
La objeción más justa es que los tratados fallidos demuestran que los tratados nunca funcionan. Los diseños fallidos demuestran cláusulas defectuosas. Las trampas de entrada en vigor, la falta de verificación y las retiradas fáciles son elecciones de redacción que se pueden corregir. La lección es redactar lo contrario, no abandonar el derecho.