El órgano asesor reunió a expertos de gobiernos, la industria, la academia y la sociedad civil de todas las regiones, precisamente para otorgar a una propuesta de gobernanza global la legitimidad que un club occidental o un solo gobierno no puede. Su informe final, entregado antes de la Cumbre del Futuro de UN de 2024, diagnosticó una brecha de gobernanza y propuso un conjunto de funciones e instituciones para llenarla. Cualesquiera que sean sus límites, representa lo más cercano a un punto de partida oficial y universal para el debate.
Su informe de 2024, «Governing AI for Humanity», es el intento más autorizado hasta ahora de esbozar una arquitectura universal, y un estudio revelador de lo lejos que sigue la conversación mainstream del riesgo de frontera.
Lo que recomendó el informe
En lugar de proponer una sola agencia poderosa, el informe recomendó un conjunto en capas de funciones ligeras diseñadas para ser políticamente alcanzables. Las recomendaciones principales incluían un panel científico internacional sobre IA para construir un entendimiento compartido y relevante para las políticas; un diálogo político regular entre gobiernos; un intercambio para ayudar a desarrollar normas interoperables; una red de desarrollo de capacidades para ayudar al Sur Global a participar; y una pequeña oficina de coordinación dentro de la Secretaría del UN para unir las piezas. También se mencionó un fondo global y un marco de gobernanza de datos.
La lógica detrás de la modestia
La cautela del informe es deliberada y vale la pena entenderla. Refleja el juicio de que, dada la división entre los Estados, el primer paso viable no es un regulador vinculante, sino la infraestructura de conexión (ciencia compartida, diálogo y normas) sobre la que después podría construirse una gobernanza más sólida. El panel científico en particular se inspira en la experiencia del ozono y el clima, donde una evaluación compartida y autorizada (el IPCC como modelo) creó la base fáctica común que hizo posible el acuerdo. En esta lectura, el informe está sentando cimientos, no levantando muros.
- Un panel científico " para dar al mundo una imagen compartida y creíble de las capacidades y riesgos de la IA, la base fáctica de la que depende cualquier gobernanza.".
- Un diálogo de políticas para mantener a los gobiernos hablando y para prevenir la fragmentación de enfoques regionales rivales.
- Un intercambio de estándares a trabajar hacia la interoperabilidad en lugar de un patchwork de reglas nacionales incompatibles.
- Fortalecimiento de capacidades para incorporar al Sur Global en la gobernanza como participante, no como una idea tardía, una condición previa para la legitimidad.
La brecha sobre el riesgo catastrófico
A pesar de toda su autoridad, el informe tiene una limitación evidente desde la perspectiva de la seguridad: trata la gobernanza ASI en gran medida como una cuestión de gestionar un amplio espectro de daños sociales (sesgos, desinformación, desigualdad, disrupción laboral) y otorga comparativamente poco peso al peligro específico de perder el control de un sistema superinteligente. No propone ninguna línea roja, ningún umbral de computación, ningún régimen de verificación, ninguna prohibición. Los instrumentos que recomienda son para coordinación y comprensión, no para restricción.
Esta brecha importa porque la infraestructura de conexión que propone el informe, por valiosa que sea, no está diseñada para hacer lo único que más requiere la seguridad de frontera: impedir el desarrollo de sistemas demasiado peligrosos para controlarlos. Un panel científico y un diálogo de políticas pueden construir el entendimiento compartido que hace posible un acuerdo vinculante, pero no pueden sustituirlo. El proceso de UN es un trabajo preparatorio necesario e insuficiente por sí mismo, una descripción que encaja con gran parte del panorama de gobernanza actual.
El plan de UN construye la mesa en la que todos pueden sentarse, y eso es genuinamente valioso. Pero una mesa no es un acuerdo. La pregunta más difícil (cómo detener el desarrollo de sistemas que nadie puede controlar) es la que el proceso convencional aún no ha querido poner sobre ella.
Por qué sigue importando
El trabajo del órgano asesor es importante precisamente por su legitimidad y alcance. Establece, al más alto nivel del sistema internacional, que la gobernanza de la ASI es una preocupación global que requiere instituciones globales, y propone los mecanismos de ciencia compartida y diálogo que podrían, con el tiempo, construir la comprensión común que exige un tratado vinculante. El camino realista es tratar el marco de la UN como la base inclusiva sobre la que se superpone una gobernanza más exigente y centrada en la seguridad: usar el panel científico y el diálogo de políticas que propone para llevar la conversación principal hacia los riesgos catastróficos que actualmente subestima, y hacia las líneas rojas y la verificación que solo un acuerdo vinculante puede suministrar. La UN construyó el foro. La tarea es elevar la ambición de lo que ocurre dentro de él.