La objeción de soberanía a la gobernanza internacional ASI sostiene que las decisiones sobre qué tecnologías puede desarrollar y desplegar un país son decisiones internas, tomadas por gobiernos nacionales que responden ante sus propios ciudadanos. Un tratado internacional vinculante que restrinja el desarrollo de la IA transferiría la autoridad efectiva sobre esas decisiones a un organismo internacional o al veto de otros países. Esto vulnera la soberanía. El argumento se presenta como si fuera original del debate sobre la IA. No lo es. Se usaron argumentos idénticos contra el NPT, la Convención sobre Armas Químicas, el Protocolo de Montreal y todos los demás tratados internacionales importantes que limitaron la libertad de acción de los Estados sobre tecnologías peligrosas. En cada caso, el argumento terminó superándose. Entender cómo resulta útil.
El NPT fue firmado por 62 países en 1968 de todos modos. Así fue como sucedió, y lo que significa para la IA.
Qué afirma realmente el argumento de la soberanía
El argumento es más fuerte cuando se aplica a la tecnología militar. Los países que enfrentan amenazas de seguridad reales tienen un interés concreto en mantener la libertad de acción sobre sus capacidades militares. Vincularlos a restricciones internacionales sobre el desarrollo de IA en contextos militares requiere aceptar limitaciones que los adversarios podrían no aceptar, en un dominio donde la capacidad importa directamente para la supervivencia nacional. Esta es la versión más dura de la objeción de soberanía, y refleja la posición de los Estados con armas nucleares a lo largo de la Guerra Fría.
El argumento es considerablemente más débil cuando se aplica al desarrollo civil de IA. La seguridad nacional de ningún país depende de su capacidad para ejecutar entrenamientos comerciales de IA sin supervisión. El coste de soberanía de declarar y supervisar programas civiles de desarrollo de IA a gran escala es bajo. El uso político del argumento de soberanía suele extenderse mucho más allá de los casos en que la preocupación subyacente es realmente legítima.
Separar los casos importa para el diseño del tratado. Los marcos de gobernanza que aborden las actividades específicas donde las preocupaciones de soberanía son reales —programas de desarrollo de IA a gran escala con potencial de impacto a escala civilizacional— pueden diseñarse para dejar la IA civil y comercial en gran medida intacta, reduciendo sustancialmente la fuerza de la objeción.
Cómo se resolvió el argumento de la soberanía nuclear
El NPT no eliminó la objeción de soberanía. La reformuló. El tratado creó una arquitectura formal de elección soberana: los países podían adherirse y aceptar obligaciones de salvaguardas, o permanecer fuera del tratado y enfrentar las consecuencias políticas y económicas de estar fuera del sistema internacional. Los cinco estados declarados con armas nucleares pudieron conservar sus armas a cambio de aceptar obligaciones de no proliferación y desarme. Los estados sin armas nucleares aceptaron el monitoreo de sus programas nucleares civiles a cambio de acceso garantizado a tecnología nuclear pacífica y garantías de seguridad.
El mecanismo que hizo que esto funcionara fue que la soberanía se preservó en la forma mientras se restringía sustancialmente en la práctica. Los signatarios de NPT pueden en principio retirarse del tratado; el Artículo X permite la retirada con 90 días de aviso, como hizo Corea del Norte en 2003. Pero el costo político y económico de retirarse es sustancial. El argumento de soberanía decía que los países no podían aceptar restricciones externas a sus decisiones nucleares. NPT resolvió esto haciendo que la elección fuera formal y visible, mientras elevaba el costo de la elección equivocada lo suficiente como para que casi todos los países concluyeran que unirse era preferible.
El resultado fue un tratado que hoy cuenta con 191 Estados parte. Nueve países poseen armas nucleares. Solo tres países, India, Pakistán e Israel, nunca se han adherido al NPT. Corea del Norte se retiró y ahora posee armas. La objeción de soberanía, que parecía lo suficientemente poderosa como para impedir cualquier gobernanza nuclear vinculante a principios de los años sesenta, produjo un mundo en el que 191 gobiernos aceptaron obligaciones vinculantes de monitoreo para sus programas nucleares.
Cómo se resolvió el argumento de soberanía sobre las armas químicas
La Convención sobre Armas Químicas (1993) presenta un modelo diferente. A diferencia de NPT, que crea un mundo formal de dos niveles de poseedores y no poseedores de armas nucleares, la CWC prohíbe las armas químicas para todos, incluidos los grandes poderes que la negociaron. Estados Unidos y la Unión Soviética, que tenían los mayores arsenales de armas químicas del mundo, aceptaron obligaciones vinculantes de declararlas y destruirlas bajo supervisión internacional.
El acomodo de soberanía en la CWC es el derecho de las industrias químicas nacionales a seguir operando con fines civiles, sujeto a monitoreo. Los países pueden mantener industrias químicas. No pueden mantener armas químicas. La Organización para la Prohibición de las Armas Químicas inspecciona las instalaciones declaradas e investiga las alegaciones de violación. Los países conservan la soberanía sobre sus sectores químicos civiles; han renunciado a la soberanía sobre una aplicación específica de esos sectores.
Este modelo puede aplicarse mejor a la IA que el modelo del NPT, porque el desarrollo de la IA es predominantemente civil y de uso dual. Un tratado que restringiera el desarrollo de los sistemas de IA de frontera más capaces (los que superen umbrales especificados de capacidad o computación) mientras deja la IA comercial y de consumo totalmente sin regular seguiría la lógica de la CWC en lugar de la del NPT. El costo de soberanía de este tipo de tratado es menor que el del NPT porque no crea una jerarquía permanente de capacidades permitidas y prohibidas según quién tuviera qué cuando se firmó el tratado.
El modelo de la capa de ozono y el consenso científico
El Protocolo de Montreal sobre Sustancias que Agotan la Capa de Ozono (1987) resolvió la objeción de soberanía mediante un mecanismo distinto: el consenso científico hizo políticamente insostenible la no participación. Una vez que quedó claro que los clorofluorocarbonos estaban causando daños medibles a la capa de ozono, y que el agotamiento del ozono causaría daños medibles a todos los países de la Tierra, el argumento de soberanía contra unirse al protocolo se volvió difícil de sostener en la política interna. Los gobiernos que invocaban la soberanía para evitar las restricciones a los CFC se enfrentaban a la pregunta de qué soberanía estaban protegiendo cuando la consecuencia era el daño a sus propios ciudadanos por la radiación ultravioleta.
El Protocolo de Montreal también incluyó un mecanismo de transferencia de tecnología. Los países en desarrollo que asumirían el costo económico de eliminar los CFC recibieron asistencia, tanto financiera como tecnológica, para facilitar el cumplimiento. Esto abordó la versión del argumento de soberanía según la cual los acuerdos ambientales internacionales cargan a los países en desarrollo con el pago de problemas creados por los países ricos. Para 2009, el Protocolo de Montreal había logrado la ratificación universal: 197 partes, todos los Estados miembros de UN.
El paralelo con la IA es imperfecto porque el consenso científico sobre el riesgo existencial de la IA no está tan unificado como la ciencia del ozono en 1987. Pero el modelo del Protocolo de Montreal sugiere que un consenso experto más claro y público sobre el riesgo de la IA cambiaría significativamente la dinámica política de la objeción de soberanía. Cuanto más concretamente se entienda el riesgo, menos sostenible se vuelve el argumento de soberanía.
Qué sigue siendo realmente difícil
La objeción de soberanía no es solo una excusa para que los gobiernos eviten obligaciones incómodas. Refleja restricciones políticas reales. Los gobiernos responden a electorados nacionales que esperan que mantengan la capacidad nacional y la libertad de acción. Los tratados que exigen a un país aceptar restricciones que sus rivales no han aceptado enfrentan una oposición interna sostenida, como ocurrió con el tratado SALT II en Estados Unidos tras la intervención soviética en Afganistán en 1979, cuando el Senado se negó a ratificar un tratado ya firmado.
Para la IA, la restricción es más aguda en la relación US-China. Un tratado de gobernanza de ASI que vincule a Estados Unidos pero no a China, o que China ratifique sin aplicación significativa, funcionaría como una restricción unilateral. Esta preocupación se plantea con frecuencia bajo la bandera de la soberanía, pero es más precisamente un problema de participación. La objeción de soberanía puede abordarse con el diseño del tratado. El problema de participación solo puede resolverse mediante la diplomacia, creando las condiciones bajo las cuales tanto US como China concluyan que unirse a un marco vinculante es preferible a permanecer fuera de él.
El argumento de soberanía contra el control de armas se ha planteado antes de cada tratado importante de la historia. Nunca ha sido la última palabra.
La historia sugiere que la objeción de soberanía a la gobernanza de ASI es una restricción política real que debe tenerse en cuenta en el diseño, no una barrera fundamental. Las arquitecturas de tratados que han tenido éxito lo lograron preservando la forma de la elección soberana mientras hacían que el costo de la elección equivocada fuera suficientemente alto. El mismo enfoque está disponible para la gobernanza de ASI. El desafío es crear las condiciones políticas en las que los gobiernos concluyan que unirse es la opción correcta, lo cual es una cuestión de comprensión pública, consenso científico y esfuerzo diplomático sostenido, no una cuestión de si la gobernanza internacional vinculante es compatible con la soberanía.