La Cumbre de Seguridad de la IA de Bletchley de noviembre de 2023, la Cumbre de Seguridad de la IA de Seúl de mayo de 2024 y la Cumbre de Acción de la IA de París de febrero de 2025 forman un patrón emergente: reuniones internacionales periódicas de alto nivel sobre gobernanza del ASI, con la asistencia de gobiernos y empresas de IA, que producen declaraciones y compromisos. Esto se parece estructuralmente al proceso de la Conferencia de las Partes sobre el clima, y la comparación es instructiva en aspectos que tanto sus defensores como sus críticos tienden a subestimar.
Que ese patrón produzca gobernanza vinculante depende por completo de las decisiones sobre aplicación que el modelo climático ha postergado sistemáticamente.
La gobernanza climática a través del proceso de la COP no es el fracaso que describen sus críticos ni el éxito que pretendían sus arquitectos. Entender qué ha logrado y qué no, y por qué, es el punto de partida para decidir si un proceso análogo podría funcionar con la superinteligencia.
Cómo funciona realmente la estructura de la COP
Una Conferencia de las Partes es el órgano rector de un tratado. Está compuesta por todos los Estados que han ratificado el tratado y se reúne periódicamente para revisar la implementación, evaluar el progreso y negociar nuevos compromisos. La COP climática tiene su origen en la Convención Marco de UN sobre el Cambio Climático, adoptada en 1992, que estableció la estructura básica de revisión periódica y compromiso progresivo. El Protocolo de Kioto (1997) y el Acuerdo de París (2015) son ambos productos del proceso de la COP.
La innovación central del Acuerdo de París fue sustituir los objetivos de emisiones determinados internacionalmente de arriba abajo, que utilizaba Kioto y que produjeron un incumplimiento y retiradas significativos, por contribuciones determinadas a nivel nacional. Cada país establece su propio objetivo de reducción de emisiones, lo presenta a la secretaría de la UNFCCC y luego se evalúa según su propia ambición declarada y no según un estándar impuesto internacionalmente. Las COP de París revisan el progreso agregado respecto al objetivo global de temperatura de limitar el calentamiento a 1,5 grados Celsius por encima de los niveles preindustriales, y cada ciclo de revisión pretende producir mayor ambición nacional.
El atractivo estructural de este diseño es que es alcanzable. Un proceso que permite a los países fijar sus propios objetivos, evaluados según sus propias ambiciones, con mecanismos de transparencia en lugar de penalizaciones por incumplimientos, puede asegurar una amplia participación. Todas las principales economías del mundo son partes del Acuerdo de París. Kioto, que establecía objetivos nacionales vinculantes con consecuencias definidas por el incumplimiento, perdió a Estados Unidos y, finalmente, a Canadá, Japón y Rusia.
El problema estructural de este diseño es que la participación y la efectividad no son lo mismo. Las contribuciones determinadas a nivel nacional presentadas bajo el Acuerdo de París han sido, en conjunto, significativamente inferiores a lo que el IPCC evalúa como necesario para alcanzar el objetivo de 1,5 grados. El mecanismo de cumplimiento es la transparencia y la presión política, no las sanciones formales. Los países que no cumplen sus propios objetivos enfrentan escrutinio público en el siguiente ciclo de revisión, pero no consecuencias legales.
Tres debilidades estructurales en el modelo climático
Tres características de la COP climática que han limitado su eficacia se trasladarían directamente a una COP de gobernanza ASI que adoptara el mismo diseño.
Requisitos de consenso. La mayoría de las decisiones de la COP exigen el acuerdo de todas las partes, lo que otorga a cualquier país un veto efectivo sobre el resultado. Esto produce un lenguaje negociado hasta el nivel de ambición que acepte la parte más resistente, lo que en las COP climáticas sucesivas ha significado lenguaje sobre «reducir gradualmente» en lugar de «eliminar gradualmente» los combustibles fósiles, sobre «vías» hacia el cero neto en lugar de calendarios vinculantes, y sobre «tomar nota» de los hallazgos científicos en lugar de adoptar formalmente sus implicaciones. Las negociaciones internacionales basadas en el consenso producen sistemáticamente resultados en el mínimo común denominador de viabilidad política entre las partes presentes.
Autodeterminación de los compromisos. El modelo de contribuciones determinadas a nivel nacional resolvió el problema de participación que había creado Kioto, pero generó un problema de ambición. Cuando los países fijan sus propias metas sin un piso vinculante, los objetivos que establecen reflejan tanto las restricciones políticas internas como los requisitos técnicos del objetivo real. Los países con industrias de combustibles fósiles poderosas fijan metas que su industria puede cumplir. Los países que enfrentan elecciones cercanas fijan metas políticamente defendibles a corto plazo. El resultado agregado es una brecha entre las ambiciones declaradas y la reducción total necesaria, que las revisiones de la COP documentan pero no pueden cerrar sin un mecanismo que obligue a aumentar la ambición.
El Acuerdo de París resolvió el problema de participación del Protocolo de Kioto al permitir que los países fijaran sus propias metas. Las metas nacionales vinculantes de Kioto provocaron la retirada de Estados Unidos, Canadá, Japón y Rusia. París logró una participación casi universal. Pero una participación casi universal con compromisos determinados a nivel nacional y no vinculantes genera un vacío de gobernanza justo donde más se necesita: cuando la brecha entre la ambición declarada y la acción requerida es mayor. La gobernanza de ASI enfrenta el mismo dilema.
La brecha de cumplimiento. El mecanismo de cumplimiento del Acuerdo de París, establecido en el Artículo 15, es explícitamente no adversarial y no punitivo. Funciona mediante la transparencia: los países informan sobre sus avances, la COP revisa los informes y la presión política y reputacional de la evaluación pública es la principal consecuencia de los incumplimientos. Para el clima, esto ha producido décadas de incumplimientos documentados con respuesta limitada. Para la IA, donde un solo año de desarrollo de frontera sin supervisión podría generar capacidades que superen cualquier respuesta de gobernanza, un mecanismo de cumplimiento basado solo en la transparencia sería estructuralmente insuficiente.
Dónde funciona la estructura de la COP
Las debilidades de la COP climática están bien documentadas. Sus fortalezas se reconocen con menos frecuencia y son genuinamente relevantes para el diseño de gobernanza de ASI.
La convocatoria regular es en sí misma un mecanismo de gobernanza. Las reuniones anuales de la COP crean un calendario político que concentra la atención cada año en el problema de gobernanza subyacente. La sociedad civil, los periodistas y los responsables de políticas tratan las reuniones de la COP como momentos de rendición de cuentas independientemente de que exista o no una aplicación formal. El costo político del incumplimiento visible, documentado en la prensa mundial durante la revisión anual de la COP, ha motivado a algunos gobiernos a fortalecer sus compromisos nacionales. La convocatoria regular también proporciona un espacio para acuerdos paralelos, grupos de trabajo técnicos y negociaciones bilaterales que resultan más difíciles de organizar sin un encuentro global recurrente.
Las estructuras de compromiso progresivo pueden funcionar en plazos largos. El mecanismo de trinquete incorporado en el Acuerdo de París, que exige que cada contribución determinada a nivel nacional sucesiva no sea menos ambiciosa que la anterior, crea una obligación legal de mejora direccional incluso sin un suelo vinculante. A lo largo de décadas, esto puede producir un movimiento agregado significativo, a medida que la línea base política de la «política actual» se vuelve progresivamente más ambiciosa. Para un problema de gobernanza como el clima, donde las consecuencias del fracaso de las políticas se acumulan durante décadas, este trinquete lento puede ser suficiente. Para la gobernanza de ASI, donde los resultados catastróficos podrían llegar en una escala de años en lugar de décadas, es demasiado lento.
El proceso de la COP ha sido más efectivo en establecer el marco normativo dentro del cual opera la política climática doméstica a nivel global. El objetivo de 1.5 grados del Acuerdo de París es ahora el punto de referencia contra el cual se evalúan públicamente las políticas climáticas nacionales en prácticamente todos los países. Esta función normativa, crear un estándar compartido contra el cual la política doméstica debe justificarse, es algo que el proceso de la cumbre de seguridad de la IA ha comenzado a lograr y debería continuar.
Qué necesitaría una COP de gobernanza de ASI más fuerte
Un proceso de gobernanza de ASI inspirado en la estructura de la COP, pero diseñado para evitar la brecha de cumplimiento de la COP climática, necesitaría tres características que el Acuerdo de París omite deliberadamente.
Compromisos mínimos obligatorios. En lugar de contribuciones determinadas a nivel nacional sin un piso vinculante, un tratado de gobernanza del ASI podría establecer obligaciones mínimas obligatorias que todas las partes deben cumplir, combinadas con una estructura de contribuciones determinadas a nivel nacional para medidas por encima de ese piso. El mínimo obligatorio abarcaría las actividades de mayor riesgo: el entrenamiento de modelos de frontera por encima de un umbral de cómputo definido, el despliegue de sistemas de IA en dominios de alto riesgo especificados y las evaluaciones de seguridad obligatorias antes del despliegue. Los países podrían ir más lejos, pero no menos.
Un organismo de verificación independiente. La COP climática depende de inventarios nacionales autoinformados, con revisiones independientes realizadas por equipos de expertos técnicos bajo la UNFCCC. Un organismo de verificación de gobernanza de ASI con acceso directo a la información relevante, análogo a la inspección de OPCW, produciría una evaluación de cumplimiento más confiable que el autoinforme. Esta es la única diferencia estructural entre la CWC y la Convención sobre Armas Biológicas que explica con mayor claridad sus distintos registros de efectividad.
Consecuencias con dientes. Las consecuencias por incumplimiento que vayan más allá de la transparencia exigirían vincular los beneficios de acceso al mercado del tratado al cumplimiento de sus obligaciones de seguridad. Los Estados que no cumplan los requisitos mínimos obligatorios perderían el acceso preferencial al mercado y los acuerdos de intercambio tecnológico que ofrece la membresía. Esto crea una estructura de consecuencias que no requiere autorización del Consejo de Seguridad y que está directamente relacionada con los intereses competitivos que impulsan el desarrollo de la IA.
"La COP climática muestra que las reuniones internacionales regulares pueden construir un marco normativo y un calendario político en torno a un problema de gobernanza. También muestra que eso no basta si los compromisos subyacentes carecen de pisos vinculantes y el mecanismo de aplicación carece de consecuencias formales. La gobernanza de ASI puede usar la estructura de la COP y aprender de estas brechas de diseño específicas."
El proceso de cumbres de seguridad de la IA que comenzó en Bletchley vale la pena continuarlo, no abandonarlo. Las cumbres anuales o bianuales crean exactamente el tipo de atención internacional regular que requiere la gobernanza. La cuestión es si las cumbres siguen siendo un lugar para ceremonias de compromiso voluntario o se convierten en el órgano rector de un tratado con obligaciones vinculantes y una arquitectura funcional de verificación y aplicación. Esa cuestión no la responderán las cumbres mismas, sino lo que los gobiernos decidan negociar entre ellas.