Trabajar la anatomía de un tratado hipotético no es un ejercicio académico. Convierte una aspiración vaga en un conjunto de decisiones de diseño específicas y debatibles, y revela que los obstáculos para la gobernanza de ASI son políticos, no conceptuales. La maquinaria legal ya existe; cada una de las disposiciones siguientes tiene un precedente en un tratado vigente. Lo que sigue es un esbozo estructural, no un texto terminado, de lo que un Tratado sobre Seguridad de la Inteligencia Artificial tendría que resolver.
Un tratado es un instrumento jurídico estructurado con una anatomía reconocible: alcance, definiciones, obligaciones, verificación, instituciones y aplicación. Aquí hay un recorrido concreto por las disposiciones que necesitaría un acuerdo para impedir la superinteligencia insegura, y las decisiones que cada una obliga a tomar.
Preámbulo y objeto
Todo tratado comienza exponiendo su propósito y sus principios rectores. Aquí el objetivo sería impedir de forma permanente el desarrollo de la superinteligencia artificial. La superinteligencia no puede controlarse, al tiempo que se preservan los beneficios de la IA por debajo de ese umbral y se garantiza que esos beneficios se compartan. El preámbulo invocaría el principio de precaución, afirmaría que los riesgos son de interés común para la humanidad y situaría el tratado dentro del derecho internacional vigente. Esto establece el marco interpretativo de todo lo que sigue.
Alcance y umbrales
El problema más difícil al redactar es definir qué cubre el tratado. A diferencia del material nuclear, la capacidad de IA es un espectro continuo sin una línea natural. El enfoque viable es usar proxies medibles: un umbral de cómputo de entrenamiento por encima del cual los sistemas quedan sujetos a las obligaciones del tratado, combinado con criterios basados en capacidades para sistemas que muestren habilidades peligrosas especificadas. Los números exactos deberían delegarse a un órgano técnico facultado para revisarlos, porque cualquier cifra fija que se escriba en el texto quedará obsoleta en pocos años.
Obligaciones fundamentales
Prohibición de cruzar la línea roja
La obligación central: las partes acuerdan no desarrollar ni desplegar sistemas por encima del umbral de peligro definido hasta que se cumplan las condiciones de seguridad pactadas, el equivalente del tratado a una prohibición del acto prohibido.
Declaración y notificación
Las partes deben declarar las grandes instalaciones de computación y notificar al organismo del tratado antes de realizar entrenamientos cubiertos, creando la línea base de transparencia sobre la que se construye la verificación.
Evaluación obligatoria previa al despliegue
Los sistemas cubiertos deben someterse a una evaluación de seguridad independiente según estándares definidos antes de su implementación, con resultados reportados al órgano del tratado.
Implementación nacional
Cada parte debe promulgar leyes nacionales que apliquen estas obligaciones a los desarrolladores públicos y privados en su territorio, ya que el tratado vincula a los estados, no directamente a las empresas.
Verificación
Una prohibición que nadie puede verificar no sirve de nada, así que el tratado necesita un régimen de verificación. Inspirado en los precedentes del OIEA y las armas químicas, combinaría el monitoreo de instalaciones declaradas de grandes clústeres de computación, el seguimiento de chips avanzados a través de la cadena de suministro, derechos de auditoría sobre los registros de entrenamiento y evaluación, inspecciones en sitio con derechos de acceso definidos y (el elemento más nuevo) garantías basadas en hardware integradas en los chips para hacer detectable el entrenamiento encubierto a gran escala. El objetivo de diseño, como en las salvaguardas nucleares, es verificar lo que importa sin obligar a revelar cada secreto comercial o de seguridad.
Instituciones
El tratado crearía un organismo internacional (llamémoslo Organización de Seguridad de la IA) para administrarlo: una secretaría e inspección técnica, un panel científico que fije y revise los umbrales, una conferencia de las partes como órgano decisorio y un mecanismo para actualizar anexos sin necesidad de ratificación completa, siguiendo el modelo de Montreal. Esta es la institución permanente que convierte un documento estático en un régimen continuo capaz de seguir el ritmo de la tecnología.
Aplicación, entrada en vigor y enmienda
- Aplicación. Respuestas graduales ante las violaciones, desde hallazgos de incumplimiento hasta la pérdida de acceso a beneficios compartidos y computación, pasando por la remisión al Consejo de Seguridad en casos graves, reconociendo que la verificación genera evidencia pero las consecuencias requieren respaldo político.
- Entrada en vigor. Un requisito de que los Estados que albergan los laboratorios y la producción de chips líderes ratifiquen antes de que el tratado obligue, para que rija a los actores que importan, evitando al mismo tiempo un diseño en el que cualquiera de ellos pueda vetar su existencia indefinidamente.
- Enmienda y ajuste. Un mecanismo de vía rápida para endurecer umbrales y anexos técnicos por mayoría calificada, para que el tratado pueda evolucionar con la tecnología en lugar de congelarse en su momento de firma.
La barrera para un tratado sobre IA no es que nos falten herramientas jurídicas. Todas las disposiciones que necesitaría ya existen en algún tratado. La barrera es la voluntad política, que es precisamente lo que un borrador claro puede ayudar a construir.
Por qué es importante esbozarlo
Exponer las disposiciones de forma tan concreta hace dos cosas. Desmitifica el tratado, mostrando que es un ensamblaje de partes bien entendidas, cada una con un precedente, no un salto a lo desconocido. Y aclara dónde radica la verdadera dificultad: no en la arquitectura legal, que es manejable, sino en las decisiones políticas sobre umbrales, intrusión de la verificación y el acuerdo entre grandes potencias que haría vinculante al tratado. Un borrador no crea la voluntad de firmar. Pero convierte "necesitamos un tratado" en "aquí está el tratado, y aquí está exactamente lo que tendríamos que acordar", que es donde debe comenzar la diplomacia seria.