Los tratados de control de armas comienzan con definiciones. La Convención sobre Armas Químicas define un arma química como cualquier sustancia química tóxica o su precursor utilizada como método de guerra. El Tratado de No Proliferación Nuclear define los estados con armas nucleares como aquellos que fabricaron y explosionaron un arma nuclear antes del 1 de enero de 1967. Las Conversaciones sobre Limitación de Armas Estratégicas definieron los misiles balísticos por alcance y carga útil. Estas definiciones no eran políticamente neutrales: cada una reflejaba elecciones estratégicas sobre quién sería cubierto, qué actividades se restringirían y cómo se equilibrarían los intereses de las partes.
Esas preguntas son más difíciles de lo que parecen, y la forma en que se respondan determinará si cualquier tratado resultante puede realmente gobernar lo que pretende gobernar.
ASI governance enfrenta un problema de definición con varias características sin precedente cercano en el control de armas. Comprender estas características es el requisito previo para diseñar definiciones que realmente gobiernen lo que pretenden gobernar.
Tres enfoques para definir la IA peligrosa
Los marcos de gobernanza actuales han usado tres enfoques distintos para definir qué sistemas de IA entran en su ámbito. Cada enfoque tiene fortalezas y limitaciones que un marco de nivel de tratado debería abordar.
Los umbrales de cómputo definen la IA peligrosa según los recursos computacionales usados para entrenar un modelo, medidos en operaciones de punto flotante, o FLOPs. La Ley de IA EU define los modelos de IA de frontera como aquellos entrenados con más de 10 a la 25.ª potencia FLOPs. La Orden Ejecutiva US sobre IA emitida en octubre de 2023 exigía informes al gobierno federal para modelos entrenados con más de 10 a la 26.ª potencia FLOPs. Los Compromisos de Seguridad de la IA de Frontera firmados en Seúl se aplican a modelos en la frontera de la capacidad o cerca de ella, usando el cómputo como proxy del estatus de frontera.
Los umbrales de computación tienen dos ventajas significativas para el diseño de tratados. Primero, la computación es observable. El hardware necesario para entrenar modelos grandes de IA, chips especializados producidos por un pequeño número de fabricantes, consume patrones distintivos de energía y genera calor medible. Las cadenas de suministro de estos chips son estrechas y pasan por jurisdicciones susceptibles de monitoreo. Segundo, la computación es más difícil de falsificar que las afirmaciones de capacidad, porque producir el hardware y ejecutar los entrenamientos genera firmas observables que son difíciles de ocultar a escala.
La limitación de los umbrales de computación es que quedan obsoletos a medida que mejoran los algoritmos. Un modelo entrenado hoy con 10 a la 26 potencia FLOPs tiene capacidades sustancialmente distintas de las de un modelo entrenado hace cinco años con la misma computación, porque las mejoras algorítmicas producen modelos más capaces por unidad de computación con el paso del tiempo. Un umbral de computación fijado hoy será demasiado restrictivo cuando algoritmos eficientes produzcan modelos potentes por debajo del umbral, o demasiado permisivo cuando la frontera avance por encima de él.
Las definiciones basadas en capacidades definen la IA peligrosa por lo que el sistema puede hacer en lugar de por cómo fue entrenado. Un sistema que puede identificar y explotar de forma autónoma vulnerabilidades de ciberseguridad por encima de un umbral de gravedad definido es peligroso según una definición basada en capacidades, independientemente de cuánta computación se haya usado para producirlo. Un sistema que puede proporcionar asistencia significativa a la síntesis de armas biológicas por encima de un nivel definido de especificidad es peligroso, independientemente de su computación de entrenamiento.
Las definiciones basadas en capacidades apuntan con más precisión a los daños que buscan evitar, pero generan un problema de medición importante. Las evaluaciones de capacidades no están estandarizadas. Distintas metodologías de evaluación dan resultados diferentes. Los desarrolladores de IA de frontera realizan hoy estas evaluaciones con metodologías propietarias que no se auditan públicamente. Una definición basada en capacidades dentro de un tratado de gobernanza exigiría métodos de evaluación estandarizados e independientes que puedan verificarse, algo que aún no existe en una forma que acepten todos los principales países que desarrollan IA.
La Convención sobre Armas Químicas combinó un criterio de propósito general con listas programadas de sustancias químicas para abarcar tanto agentes peligrosos conocidos como desconocidos. El criterio de propósito general define las armas químicas como cualquier sustancia química tóxica utilizada como método de guerra, independientemente de que figure en una lista. Las listas programadas establecen luego requisitos de verificación graduales para sustancias específicas. Este enfoque por capas permitió que el tratado cubriera agentes aún desconocidos en el momento de su negociación. La gobernanza de ASI podría usar una estructura análoga: un criterio de propósito general que defina la IA peligrosa por el carácter de sus efectos, combinado con listas programadas de capacidades para aplicaciones peligrosas conocidas.
Las definiciones basadas en dominios caracterizan la IA peligrosa por el sector en el que se despliega, en lugar de por su cómputo de entrenamiento o sus capacidades generales. Un sistema desplegado para la toma autónoma de decisiones letales en contextos militares es peligroso. Un sistema desplegado en el control de infraestructuras críticas es peligroso. Un sistema desplegado para la persuasión a gran escala dirigida a elecciones democráticas es peligroso.
Las definiciones basadas en dominios tienen la ventaja de vincular claramente la obligación de gobernanza con el daño que previene. También son más políticamente viables que las definiciones de capacidad general, porque los estados pueden aceptar restricciones en la IA en dominios específicos de alto riesgo sin conceder el principio de que sus programas de IA en general están sujetos a supervisión internacional. La limitación significativa es que las definiciones basadas en dominios permiten que un sistema altamente capaz opere sin obligaciones de gobernanza si se implementa fuera de los dominios definidos, incluso si el mismo sistema podría redirigirse fácilmente a aplicaciones peligrosas.
El problema de la frontera móvil
Las definiciones de control de armas suelen redactarse contra una tecnología estable. El alcance y el rendimiento de un misil balístico, la toxicidad de un producto químico programado, la masa fisible necesaria para un arma nuclear. Estos no cambian de forma significativa durante la vida del tratado. Las capacidades de IA avanzan rápidamente, lo que significa que una definición adecuada hoy puede quedar obsoleta en pocos años.
Esto genera lo que podría llamarse el problema de la frontera móvil: cómo redactar definiciones de tratados que sigan siendo relevantes a medida que avanza la tecnología sin necesidad de renegociar constantemente el propio tratado. Se han usado tres mecanismos en el control de armas para abordar problemas análogos.
Autoridad definitoria delegada: el tratado establece un órgano de gobierno con autoridad para actualizar definiciones técnicas dentro de parámetros definidos, sujeto a la aprobación de la Conferencia de las Partes. La Organización para la Prohibición de las Armas Químicas utiliza este enfoque para sus listas de productos químicos programados, que pueden modificarse a través de la Conferencia de los Estados Partes sin reabrir el tratado subyacente. Esto es más rápido que una renegociación completa del tratado, pero requiere que las partes confíen en el órgano de gobierno con autoridad definitoria.
Definiciones neutrales respecto a la tecnología: el tratado define la IA peligrosa por el carácter de sus efectos y no por parámetros técnicos específicos. Una definición que abarque cualquier sistema de IA capaz de causar bajas masivas por encima de un umbral definido, o cualquier sistema capaz de actuar de forma autónoma con consecuencias suficientes para amenazar infraestructuras nacionales críticas, seguiría siendo relevante a medida que cambie la tecnología subyacente, porque describe resultados y no insumos. La limitación es que las definiciones basadas en resultados son más difíciles de verificar, porque la prueba relevante es lo que un sistema podría hacer, no lo que hace de manera demostrable.
Disposiciones de caducidad y renovación: las definiciones del tratado se redactan con un ciclo de revisión definido en el que se reevalúan y actualizan. El tratado entra en vigor con definiciones iniciales, sigue operando durante el período de revisión y se actualiza en cada conferencia de revisión. Este es el enfoque que usa el NPT para sus conferencias de revisión periódicas, aunque las definiciones del NPT sobre los estados con armas nucleares han resultado imposibles de actualizar por este mecanismo debido a los intereses de los P5 por mantener su estatus privilegiado.
La dimensión del interés estratégico
Las negociaciones definitorias no son ejercicios puramente técnicos. Cada elección de definición tiene implicaciones estratégicas sobre qué Estados asumen el mayor costo de cumplimiento y cuáles conservan mayor libertad de acción. Esas implicaciones son visibles para los gobiernos negociadores y moldean sus posiciones sobre las cuestiones definitorias.
Los Estados con programas de IA más capaces prefieren definiciones amplias que impongan restricciones iguales a competidores en niveles más bajos de desarrollo. Un umbral de cómputo establecido por encima de la frontera actual de los programas más avanzados no impone restricciones a los Estados líderes mientras requiere que todos los demás se mantengan por debajo del umbral indefinidamente. Los Estados con programas menos avanzados prefieren definiciones estrechas que les permitan alcanzar los niveles actuales de frontera antes de que se apliquen las obligaciones de gobernanza, y se oponen a definiciones que los desventajen permanentemente en relación con los Estados que desarrollaron IA de frontera primero.
«La negociación definitoria es donde ocurre la mayor parte del trabajo real de un tratado de gobernanza del ASI. Una definición que sea políticamente alcanzable pero técnicamente inadecuada produce un tratado que regula algo distinto del riesgo real. Una definición que sea técnicamente adecuada pero políticamente inalcanzable no produce tratado alguno. El único camino a través de este problema pasa por evidencia técnica compartida, por eso los Institutos de Seguridad de la IA importan más de lo que la mayoría de la gente cree.»
Esta dimensión estratégica es la razón por la que el trabajo empírico que realizan el Instituto de Seguridad de la IA de UK y el Centro de Estándares e Innovación de la IA de US (ambos establecidos como Institutos de Seguridad de la IA) es fundamental para las negociaciones de tratados, aunque esos organismos no fueron diseñados con la preparación de tratados en mente. Al producir evidencia compartida sobre lo que los sistemas de IA en distintos niveles de capacidad pueden y no pueden hacer, y sobre qué capacidades se correlacionan con qué riesgos, crean una base fáctica para las negociaciones definitorias que es más difícil de anular simplemente por intereses estratégicos. El acuerdo sobre los hechos no produce automáticamente acuerdo sobre las definiciones, pero cambia el carácter del desacuerdo de puramente estratégico a en parte técnico, donde la evidencia compartida disciplina las posiciones negociadoras de todas las partes.
El trabajo de definiciones debe comenzar antes de las negociaciones. Cuando las negociaciones de control de armas empiezan sin un consenso técnico previo sobre las definiciones, los negociadores suelen producir definiciones que reflejan el mínimo común denominador del acuerdo político en lugar de los requisitos técnicos del objetivo de gobernanza. Cuanto más trabajo técnico se haga de antemano, más sólida será la base sobre la que los negociadores podrán construir definiciones que realmente regulen lo que deben regular.
La mayor resistencia
La objeción más justa es que las definiciones se manipularán el día que se escriban. Sí. Por eso las definiciones necesitan autoridad de actualización, pruebas de capacidad y disparadores de cómputo, no un glosario estático. La manipulación es un insumo de diseño. No es razón para dejar la frontera sin etiquetar.