Qué es un tratado de seguridad de IA
Así se vería una negociación.

En 1968 el Tratado de No Proliferación Nuclear pasó del borrador a un instrumento firmado tras años de grupos de trabajo, estancamientos y batallas internas. Quienes dicen "necesitamos un tratado de IA" rara vez imaginan esa maquinaria. Deberían. La brecha entre el eslogan y un texto ratificado es donde mueren la mayoría de los planes.

Las negociaciones de tratados internacionales se desarrollan como procesos extendidos, técnicos y de varios años, llevados a cabo por misiones diplomáticas, expertos legales y asesores técnicos.

Cómo funcionan las negociaciones de tratados internacionales

La mayoría de los tratados multilaterales modernos comienzan con una autorización política: normalmente una resolución de la Asamblea General del UN o una decisión de un organismo multilateral que manda iniciar las negociaciones. Esto crea la base formal para una conferencia de negociación o un comité permanente en un foro existente como la Conferencia de Desarme en Ginebra. Sin esa autorización política, las conversaciones sobre un tratado son preparatorias e informales. Con ella, se convierten en un proceso de negociación formal con mandato para producir texto.

El órgano de negociación se reúne en sesiones, normalmente varias semanas al año, con trabajo entre sesiones realizado por grupos de trabajo técnicos entre las sesiones formales. Los grupos de trabajo abordan cuestiones específicas en paralelo: definiciones, mecanismos de verificación, arreglos institucionales, obligaciones de implementación y disposiciones financieras. Cada grupo de trabajo produce un borrador de texto que se consolida en un borrador continuo del tratado completo a lo largo de sesiones sucesivas.

El borrador del tratado se negocia por consenso, lo que significa que ninguna disposición se finaliza hasta que todos los participantes estén de acuerdo. Esto es un umbral más alto que la votación por mayoría, pero produce tratados con mayor legitimidad duradera y participación más amplia, porque ningún país ha sido votado en contra en disposiciones que considera inaceptables. El costo es que el consenso requiere más tiempo y el ritmo lo marca la delegación con más objeciones que superar.

Una vez finalizado el texto, se abre a la firma. La firma es un acto político de respaldo, no un compromiso jurídico. El compromiso jurídico llega cuando un país ratifica el tratado mediante su proceso constitucional interno. La mayoría de los tratados especifican un número mínimo de ratificaciones antes de entrar en vigor jurídico.

Qué grupos de trabajo necesitaría un tratado de IA de frontera

Un tratado diseñado para gobernar el desarrollo de IA de frontera requeriría grupos de trabajo organizados en torno a preguntas que no tienen respuestas establecidas en el derecho internacional. Las principales:

Definiciones. El tratado debe especificar qué sistemas de IA rige. Esto es más difícil que definir armas nucleares o agentes químicos, porque la IA es un espectro continuo de capacidades sin una distinción nítida entre versiones peligrosas y seguras. Las propuestas se centran en umbrales de computación como proxy: un entrenamiento por encima de una escala computacional especificada activaría las obligaciones del tratado. El umbral necesitaría justificación técnica, revisiones periódicas a medida que bajen los costos de computación y un mecanismo de resolución de disputas para los casos cercanos al límite.

Obligaciones de los desarrolladores de sistemas cubiertos. Una vez que un sistema cruza el umbral definido, ¿cuáles son las acciones requeridas? La mayoría de las propuestas incluyen notificación previa a un organismo de monitoreo antes o durante el entrenamiento; evaluación obligatoria del sistema entrenado según estándares de seguridad especificados; reporte de los resultados de la evaluación; y restricciones al despliegue de sistemas que no cumplan los estándares. Cada una de estas requiere definiciones de qué constituye un cumplimiento adecuado, que es en sí misma una disputa técnica y legal antes de que comience una sola sesión de negociación.

Mecanismos de verificación. ¿Cómo confirmaría un órgano independiente que las actividades declaradas coinciden con las actividades reales? Este sería el grupo de trabajo técnicamente más exigente. Las propuestas en circulación combinan monitoreo a nivel de hardware mediante cooperación con fabricantes de chips que rastrean ventas por encima de especificaciones determinadas, inspección de instalaciones mediante derechos de visita a grandes clústeres de cómputo, y derechos de auditoría sobre registros de entrenamiento y registros de evaluación. Cada elemento plantea cuestiones de confidencialidad comercial y clasificación de seguridad nacional que no se resuelven fácilmente.

Estructura institucional. ¿Qué organismo administraría el tratado? Una nueva organización, análoga al OPCW, creada por el propio tratado tiene el mayor valor de gobernanza, pero requiere el mayor esfuerzo político y recursos para establecerse. Delegar en un organismo existente tiene menor costo político, pero puede no tener el mandato ni la experiencia técnica que la tarea exige. El IAEA tiene experiencia en monitoreo de tecnologías de doble uso; la UIT tiene algunas pretensiones jurisdiccionales sobre cuestiones relacionadas con la IA. Cada opción tiene implicaciones de recursos distintas y diferentes historias de independencia política frente a las grandes potencias.

Requisitos de entrada en vigor. El tratado debería especificar qué países deben ratificarlo antes de que entre en vigor jurídicamente. Un tratado que entrara en vigor sin los US, China o los UK no obligaría a las organizaciones responsables del desarrollo de IA de frontera. Los NPT exigían la ratificación de un grupo definido de Estados. Un tratado de IA necesitaría un mecanismo similar, con la dificultad evidente de que exigir la ratificación de los US y China otorga a ambos países un veto sobre la existencia del tratado.

El proceso de negociación en etapas

Los puntos de fricción previsibles

La experiencia con negociaciones comparables sugiere varias disputas que surgirían de manera predecible y que deben tenerse en cuenta desde el principio.

La tensión entre verificación y confidencialidad. Los países y empresas con programas de IA de frontera resistirán los mecanismos de verificación que exijan revelar información comercial o militarmente sensible. Las capacidades de IA representan ventajas competitivas. Los derechos de inspección que hacen creíble un sistema de verificación serán rechazados por las mismas partes cuya conformidad hace significativo el tratado. El régimen nuclear resolvió esto mediante acuerdos de salvaguardias cuidadosamente delimitados que verificaban la no desviación de material nuclear sin exigir la revelación de información sobre el diseño de armas. La gobernanza de ASI requerirá un ejercicio análogo de delimitación.

La disputa sobre la definición del umbral. Cualquier umbral de cómputo que se use para definir los sistemas cubiertos será cuestionado. Las partes justo por debajo del umbral argumentarán que debería ser más bajo; las que están justo por encima dirán que está fijado demasiado bajo. Y cualquier umbral fijo quedará obsoleto a medida que bajen los costos de cómputo, lo que requerirá mecanismos de enmienda que a su vez serán políticamente controvertidos. Un enfoque usado en otros tratados es delegar la fijación del umbral a un órgano técnico en lugar de incluir números fijos en el texto del tratado, lo que permite revisiones sin necesidad de enmendarlo.

El problema de la participación de China. Un tratado que entre en vigor sin China no rige a las organizaciones responsables del desarrollo de IA más significativo fuera del US. Lograr que China acepte obligaciones vinculantes sobre su desarrollo de IA de frontera requiere ofrecer algo creíble a cambio (probablemente una combinación de garantías de acceso tecnológico y restricciones simétricas al desarrollo del US) en condiciones de profunda sospecha mutua. Este es un problema de diplomacia que el diseño del tratado no puede resolver por completo.

El problema del actor privado. La IA de frontera la desarrollan principalmente empresas privadas. El tratado obligaría a los Estados, que luego implementarían las obligaciones mediante leyes nacionales aplicadas a las empresas. Esto introduce una complejidad regulatoria que los tratados de armas nucleares y químicas no enfrentaron, porque esos tratados se referían principalmente a programas estatales. Un tratado de IA de frontera necesitaría especificar claramente cómo las obligaciones estatales se traducen en obligaciones empresariales y cómo las violaciones de una empresa se atribuyen al Estado parte que la acoge.

"Cada tratado importante de control de armas parecía imposible de negociar hasta que se negoció. La pregunta siempre es si las condiciones políticas han madurado lo suficiente como para que el costo de la inacción continua supere el costo del acuerdo."

Un tratado de seguridad en IA de frontera es el resultado de un proceso político sostenido que aún no ha comenzado formalmente, no un evento único. El trabajo que se está haciendo ahora —cumbres de seguridad en IA, conversaciones bilaterales entre gobiernos, institutos nacionales de seguridad, propuestas académicas de marcos de gobernanza— es la fase preparatoria. Convertir eso en un mandato formal de negociación, luego en un texto de tratado y después en ratificación, es trabajo de años. La urgencia radica en que las capacidades que se van a gobernar podrían desarrollarse más rápido que el proceso de gobernanza. Esa urgencia es el argumento para empezar en serio ya.

La mayor resistencia

La objeción más justa es que las grandes potencias nunca limitarán a sus laboratorios de frontera, por lo que describir la negociación es académico. Cada gran tratado de armas parecía imposible hasta que el costo de la inacción aumentó. El trabajo preparatorio existe. Lo que falta es la voluntad política impulsada por la demanda pública y las palancas industriales, no un vocabulario nuevo.