Cuando la Cumbre de Seguridad de la IA de Bletchley de 2023 concluyó con una declaración conjunta sobre los riesgos de la IA de frontera, 28 países la firmaron. Ausentes entre los firmantes estaban India, Brasil, Indonesia, México, Arabia Saudita, Nigeria y la mayor parte del continente africano. Estos países representan una parte sustancial de la población mundial, su producción económica y su peso político en las instituciones internacionales. Cualquier marco de gobernanza de ASI que logre la participación de los países occidentales y China mientras excluye a este grupo tiene un mandato incompleto y un problema de legitimidad que se agravará con el tiempo.
Los marcos que se están diseñando, las instituciones que se proponen y el lenguaje del tratado que se redacta reflejan las prioridades de los países que al mismo tiempo son los principales desarrolladores de IA y los principales defensores de la gobernanza. El resto del mundo es en gran medida una idea de último momento. La historia muestra que este enfoque produce marcos que no se sostienen.
Este no es un problema nuevo. Todos los grandes tratados de gobernanza tecnológica lo han enfrentado, y los que lograron una participación realmente amplia lo resolvieron mediante ajustes explícitos para las preocupaciones de los países que no fueron los principales arquitectos del marco.
Lo que los países en desarrollo han dicho consistentemente sobre la gobernanza tecnológica
Las preocupaciones que han planteado los países en desarrollo sobre los marcos internacionales de gobernanza tecnológica han sido consistentes en varios ámbitos, desde la energía nuclear hasta el agotamiento del ozono y la propiedad intelectual. No son preocupaciones irracionales, y no hace falta estar de acuerdo con todas sus versiones para reconocer su importancia política.
La preocupación por la equidad es que los problemas que abordan los marcos de gobernanza tecnológica los generan principalmente los países ricos y tecnológicamente avanzados. Las restricciones que imponen estos marcos se aplican a todos los países. El resultado es que los países en desarrollo cargan con costos por problemas que no causaron y renuncian a opciones de desarrollo que los países ricos ya ejercieron antes de que se impusieran las restricciones. El NPT congeló el statu quo nuclear de 1968; los Estados no nucleares aceptaron no desarrollar lo que los Estados nucleares ya tenían. El Protocolo de Montreal obligó a todos los países a eliminar los CFC mientras los países ricos ya habían construido sus economías sobre refrigeración y aire acondicionado dependientes de CFC. Los marcos de gobernanza de ASI corren el mismo riesgo: los países ricos que construyeron sus economías con aplicaciones de IA desarrolladas sin restricciones de gobernanza piden a los países en desarrollo que acepten restricciones que habrían aplicado a esas aplicaciones.
Lo acompaña la preocupación por el acceso. Los países en desarrollo suelen pedir, en las negociaciones de gobernanza tecnológica, acceso garantizado a las aplicaciones beneficiosas de la tecnología que se está regulando. Las partes no nucleares de NPT recibieron acceso garantizado a la tecnología nuclear pacífica. Las partes del Protocolo de Montreal recibieron acceso a alternativas a los CFC a precios subsidiados. Los países en desarrollo que consideren participar en la gobernanza de ASI preguntarán qué beneficios positivos les aporta la membresía.
La preocupación por la representación es estructural. Las instituciones internacionales las diseñan los países que las convocan. Los marcos de gobernanza que producen reflejan las prioridades y los modelos de amenaza de esos países. Los países en desarrollo han argumentado consistentemente que sus prioridades (acceso a la tecnología, vías de desarrollo, soberanía regulatoria nacional) están subrepresentadas en marcos diseñados sin ellos en la mesa.
Cómo el Protocolo de Montreal resolvió el problema de equidad
El enfoque del Protocolo de Montreal sobre la participación de los países en desarrollo es el precedente más directamente instructivo para la gobernanza del ASI, porque la tecnología involucrada era genuinamente de doble uso y los costos de transición recaían sobre países que menos habían contribuido al problema.
El protocolo estableció obligaciones diferenciadas mediante el Artículo 5, que concedía a los países en desarrollo que consumían menos de un umbral per cápita definido de sustancias que agotan la capa de ozono un retraso de diez años para cumplir los calendarios de eliminación gradual exigidos a los países desarrollados. Esto reconocía que los países que habían contribuido poco al stock existente de CFC atmosféricos no debían soportar los mismos costos inmediatos que los países que habían contribuido sustancialmente.
El Fondo Multilateral, creado en 1990, proporcionó recursos financieros a los países del Artículo 5 para cubrir los costos incrementales del cumplimiento del protocolo. También financió la transferencia de tecnología, dando a los países en desarrollo acceso a alternativas a los CFC y la capacidad técnica para usarlas. El fondo ha desembolsado más de cuatro mil millones de dólares desde su creación. Es la razón por la que el Protocolo de Montreal logró una ratificación casi universal: los países que de otro modo habrían argumentado que el cumplimiento estaba fuera de su capacidad financiera recibieron los recursos para cumplir.
El Protocolo de Montreal dio a los países en desarrollo dos cosas: tiempo y dinero. Un calendario de cumplimiento diferido reconoció que no eran la causa principal del agotamiento del ozono. La asistencia financiera y técnica reconoció que los costos de transición no debían recaer enteramente en quienes menos responsabilidad tenían. Ambas disposiciones fueron políticamente necesarias para una participación universal. Ambas son directamente aplicables al diseño de gobernanza de ASI.
El resultado fue un protocolo que finalmente logró la ratificación de 197 partes, todos los Estados miembros de UN. Los países que al principio se resistieron se unieron una vez que se establecieron los mecanismos de acomodación y quedó claro que el consenso científico sobre la destrucción del ozono hacía políticamente insostenible la no participación indefinida.
El gran acuerdo de NPT y su relevancia
La arquitectura de participación del Tratado de No Proliferación Nuclear ofrece un modelo diferente. El trato de NPT era explícito y recíproco: los Estados no nucleares aceptaron no desarrollar armas a cambio de acceso garantizado a tecnología nuclear pacífica bajo las salvaguardias de IAEA, garantías de seguridad de los Estados nucleares y un compromiso de los Estados nucleares de perseguir el desarme. Los Estados no nucleares renunciaron a una capacidad y recibieron beneficios positivos a cambio, no solo un compromiso de no ser amenazados.
Esta estructura recíproca fue esencial para el alcance del tratado. Países técnicamente capaces de desarrollar armas nucleares (Alemania Occidental, Japón, Suecia, Egipto, Brasil) aceptaron no hacerlo en parte porque las disposiciones de uso pacífico del tratado les dieron acceso a tecnología de energía nuclear que de otro modo habrían tenido que desarrollar de forma independiente o prescindir. El marco de gobernanza también fue un acuerdo de intercambio tecnológico.
Un marco de gobernanza ASI construido sobre este modelo ofrecería a los países en desarrollo acceso garantizado a la tecnología de IA, recursos de capacitación y asistencia para el desarrollo a cambio de aceptar obligaciones de monitoreo de seguridad en cualquier programa de IA de frontera que desarrollen. Los países que aceptaran esas obligaciones tendrían derecho a los beneficios del régimen de gobernanza compartida, incluido el acceso a sistemas e infraestructura de IA que las naciones parte del tratado proporcionan de forma preferente a las demás partes.
India y el problema de la participación
India es el país más importante para la participación global en la gobernanza del ASI: es el país más poblado del mundo, tiene un sector tecnológico sustancial y en crecimiento, cuenta con capacidad significativa de investigación en IA en instituciones como los Institutos Indios de Tecnología, y no firmó la Declaración de Bletchley en 2023 ni participa actualmente en los principales marcos de gobernanza. India tiene una historia consistente de no alineación en los marcos de gobernanza internacional que percibe como diseñados por y para las grandes potencias, desde su no participación en el NPT.
La posición de India sobre la gobernanza ASI refleja varias preocupaciones. Ha argumentado en diversos foros internacionales que la gobernanza ASI debe centrarse en los daños presentes más que en riesgos futuros especulativos, lo que refleja una evaluación de riesgos distinta a la que anima la defensa de la seguridad de la IA de frontera. Ha expresado inquietudes sobre marcos de gobernanza ASI que podrían limitar su propio desarrollo tecnológico. Y mantiene un compromiso de principio con la soberanía regulatoria nacional que hace políticamente difíciles los marcos internacionales vinculantes en el ámbito interno.
Involucrar a India de forma significativa exige abordar estas preocupaciones directamente, no limitarse a invitarla a ratificar un marco diseñado sin su participación. Eso significa incluir a representantes indios en el proceso de diseño desde las primeras etapas, tomar en serio su distinta priorización de los daños actuales junto con los riesgos futuros, y garantizar que cualquier marco de gobernanza ofrezca a India beneficios tangibles (acceso a tecnología, desarrollo de capacidades, representación en las instituciones de gobernanza) que hagan que participar sea mejor que quedarse fuera.
Qué ofrecería un marco de gobernanza ASI inclusivo de participación
Basado en el Protocolo de Montreal y en los modelos de NPT, un marco de gobernanza de ASI en la frontera diseñado para lograr una participación amplia incluiría varios elementos que las propuestas actuales omiten en gran medida.
Calendarios de cumplimiento diferenciados. Los países con programas incipientes de desarrollo de IA recibirían plazos más largos antes de que las obligaciones de monitoreo se apliquen a sus programas, reconociendo que no son actualmente la fuente del riesgo de IA de frontera para el que está diseñado el tratado.
Un fondo de acceso a la tecnología. Análogo al Fondo Multilateral del Protocolo de Montreal, un mecanismo de financiamiento dedicado proporcionaría a los países en desarrollo acceso a sistemas de IA, computación en la nube y la capacidad técnica para participar en el desarrollo de IA con fines beneficiosos. El acceso estaría condicionado a la participación en el tratado, creando un incentivo positivo para unirse.
Representación significativa en las instituciones de gobernanza. La estructura de gobierno de una Agencia Global de Monitoreo de IA debe otorgar a los países en desarrollo votos y puestos de liderazgo proporcionales a su población y peso económico, no solo a su capacidad actual de desarrollo de IA. Una institución cuyo directorio esté controlado por las cinco o seis principales naciones desarrolladoras de IA no será percibida como legítima por el resto del mundo.
"Un marco de gobernanza que las naciones ricas diseñan para sí mismas y luego piden al resto del mundo que se una en esos términos tiene un nombre en la historia de las relaciones internacionales. Se llama imperialismo, y no produce acuerdos duraderos."
El riesgo existencial de la IA de frontera, si se materializa, no será selectivo respecto a qué países daña. Un marco de gobernanza que no logre una participación amplia porque ignoró las preocupaciones de la mayor parte de la población mundial no es un marco que se mantenga el tiempo suficiente para importar. El diseño técnico de la gobernanza de ASI es realmente difícil. El diseño político (garantizar que el marco ofrezca suficiente a suficientes países para construir la participación que necesita) es igual de difícil y recibe mucha menos atención. Los diseñadores del Protocolo de Montreal entendieron ambos problemas. La conversación sobre gobernanza de ASI de frontera aún no ha abordado seriamente el segundo.
La mayor resistencia
La objeción más justa es que la IA de frontera es un problema de US-China y el resto del mundo solo mira. Aun así, los espectadores albergan computación, talento y votos en organismos internacionales. Un régimen que excluya al resto del mundo de la IA estrecha beneficiosa fracasará políticamente. Un régimen que comparta herramientas mientras bloquea las rutas hacia ASI puede avanzar.