Las personas que deciden qué tan rápido avanzar hacia la superinteligencia, qué estándares de seguridad aplicar y cuándo desplegar sistemas que se acerquen a ese umbral son, en su mayoría, empleados e inversores de cinco o seis empresas tecnológicas privadas. No están sujetos al derecho internacional vinculante ni son elegidos. Sus decisiones están limitadas por compromisos voluntarios que han asumido entre sí y por los entornos regulatorios de los países donde operan, que son incompletos y en gran medida reactivos.
Esos hechos no pueden ser la respuesta final.
Esto no es una acusación. Las personas en estas organizaciones, en muchos casos, intentan genuinamente actuar de manera responsable. El problema es estructural: decisiones de esta magnitud no deberían depender de las buenas intenciones de individuos particulares en empresas particulares, operando bajo presiones competitivas que empujan sistemáticamente hacia despliegues más rápidos con márgenes de seguridad más bajos.
La estructura actual de toma de decisiones
OpenAI, Anthropic, Google DeepMind, y Meta son los principales actores occidentales en el desarrollo de IA de frontera. Cada uno tiene equipos internos de seguridad, ha hecho compromisos públicos de desarrollo responsable y participa en foros voluntarios de gobernanza, incluido el Frontier Model Forum. El desarrollo en China está liderado principalmente por entidades respaldadas por el Estado y grandes empresas tecnológicas que operan bajo coordinación gubernamental.
Las decisiones que más importan —cuándo impulsar el siguiente nivel de capacidad, qué evaluaciones de seguridad son suficientes antes del despliegue, si la alineación de un sistema ha sido verificada adecuadamente— se toman dentro de estas organizaciones, las revisan sus equipos internos de seguridad y las evalúan según estándares que ellas mismas han escrito en gran medida.
Ningún gobierno en funciones tiene la autoridad para ordenar a ninguno de los principales laboratorios de IA de frontera que detenga el desarrollo. Ningún organismo internacional tiene la legitimidad legal para exigir verificación independiente de las evaluaciones de seguridad. En ningún lugar se ha celebrado una votación democrática sobre si proceder a construir sistemas que sus propios desarrolladores describen como potencialmente transformadores de toda la actividad humana.
Esto es una descripción de una brecha estructural: las personas más afectadas por las decisiones sobre superinteligencia no tienen ningún mecanismo formal significativo para influir en ellas, no una crítica a las intenciones de ninguna empresa en particular.
Por qué la gobernanza privada falla estructuralmente
Tres problemas estructurales hacen que la gobernanza privada de la superinteligencia sea inadecuada, independientemente de las intenciones de las empresas involucradas.
El primero es la presión competitiva. Incluso un laboratorio que genuinamente quiera esperar hasta que se resuelva la alineación enfrenta el conocimiento de que un competidor que despliegue primero puede capturar una posición de mercado difícil de recuperar. Esto crea un incentivo para definir “seguridad suficiente” en el nivel que permita el despliegue antes que los competidores, en lugar del nivel que realmente sea suficiente. Ninguna empresa individual puede resolver este problema de forma unilateral. Los compromisos voluntarios de seguridad existen precisamente porque las empresas saben que este problema es real, y son insuficientes precisamente porque los compromisos voluntarios se doblan bajo la presión competitiva.
El segundo es el conflicto de intereses en la evaluación de seguridad. Las organizaciones que realizan evaluaciones de seguridad de sistemas de IA son las mismas que tienen intereses financieros en que esos sistemas aprueben la evaluación. Este es simplemente el estado actual del campo, no una caracterización injusta. Los equipos internos de seguridad realizan un trabajo serio y valioso. No sustituyen a una revisión externa independiente, del mismo modo que los ensayos clínicos internos de una empresa farmacéutica no sustituyen a la revisión regulatoria de un organismo independiente.
La tercera es el alcance de la decisión. Si construir superinteligencia y en qué plazo es una decisión civilizacional, no una decisión de producto. El lugar apropiado para esa decisión son las estructuras de gobernanza responsables ante las personas cuyos futuros están en juego, no las juntas corporativas responsables ante los accionistas.
Qué requeriría la supervisión democrática y transnacional
El argumento a favor de la supervisión democrática de la superinteligencia no supone que los procesos democráticos sean perfectos ni que las instituciones internacionales funcionen sin tropiezos. Supone que la alternativa (gobernanza privada bajo presión competitiva) es claramente peor.
Una supervisión adecuada necesitaría tres propiedades. La primera es legitimidad representativa: el órgano de gobernanza debe rendir cuentas a las personas que afecta, lo que en última instancia significa toda la humanidad, no solo los ciudadanos de los países donde se construye la IA de frontera. Esto sugiere organizaciones de tratados internacionales con amplia membresía, no regulación nacional unilateral.
La segunda es la autoridad vinculante. Los compromisos voluntarios no son gobernanza. Un marco de gobernanza para la superinteligencia necesita la capacidad legal de exigir cumplimiento, realizar auditorías independientes e imponer consecuencias por violaciones. Esto requiere acuerdos de nivel de tratado, no foros de la industria.
El tercero es la capacidad técnica. Un organismo de gobernanza que no puede evaluar lo que gobierna no puede gobernarlo. La supervisión internacional de la IA requiere personal con verdadera experiencia técnica, acceso a los pesos de los modelos y registros de entrenamiento, y las herramientas analíticas para evaluar de forma independiente las afirmaciones de alineación.
El precedente nuclear
El argumento de que una gobernanza internacional efectiva de tecnologías peligrosas es imposible queda refutado por la historia. El Tratado de No Proliferación Nuclear, firmado en 1968 y vigente en 191 países, logró limitar la difusión de armas nucleares a un grupo de naciones mucho menor del que predecían los analistas en los años sesenta. Es imperfecto. No ha impedido toda proliferación. Aun así, ha sido uno de los acuerdos de control de armas más importantes de la historia.
La Convención sobre Armas Químicas, que entró en vigor en 1997, ha logrado la destrucción verificada de más de 70 000 toneladas métricas de armas químicas declaradas. El régimen de inspección dirigido por la Organización para la Prohibición de las Armas Químicas (OPCW) realiza visitas de verificación independientes a instalaciones de los países miembros y opera con verdadera credibilidad técnica.
"La responsabilidad del desarrollo de la IA superinteligente no debería quedar en manos de un solo actor (estatal o corporativo), sino confiarse a estructuras de gobernanza democráticas y transnacionales que representen a la humanidad en toda su diversidad."
Global Policy Journal, febrero de 2026
Ninguno de los dos tratados es una analogía perfecta para la gobernanza de ASI. El desarrollo de la IA es más rápido, más distribuido y más difícil de monitorear físicamente que la producción de armas nucleares. Pero el argumento central de estos precedentes se mantiene: cuando una tecnología plantea riesgos que son genuinamente globales y potencialmente irreversibles, la comunidad internacional ha demostrado capacidad para construir estructuras de gobernanza que la restrinjan. Afirmar que la IA es singularmente ingobernable no es una observación técnica; es una elección.
La objeción competitiva y por qué no resuelve la cuestión
La objeción más grave a la supervisión democrática y transnacional de la superinteligencia es competitiva: si las democracias occidentales se someten a restricciones de gobernanza y China no, el resultado es que un actor menos consciente de la seguridad llega primero a la superinteligencia.
La respuesta tiene varias partes. Primero, los marcos de gobernanza deben diseñarse desde el principio para incluir a todos los actores principales. El US y sus aliados tienen un apalancamiento significativo sobre el desarrollo de IA chino a través del acceso a tecnología, los flujos de inversión y las cadenas de suministro de chips. Ese apalancamiento es más valioso mientras exista, no después de que se construya un marco de gobernanza sin China y luego fracase. Segundo, el gobierno chino tiene sus propios intereses en no ser superado por una IA no alineada desarrollada por una empresa occidental, y ha participado en debates internacionales sobre seguridad de la IA, incluso en Bletchley Park. Los obstáculos para la participación china son reales pero no insuperables. Tercero, la alternativa a la gobernanza multilateral es una carrera en la que cada actor principal intenta desplegar primero con restricciones de seguridad mínimas, lo que no favorece claramente al US ni a sus aliados, y en la que una superinteligencia no alineada se vuelve más probable independientemente de quién la construya.
La objeción competitiva no constituye un argumento para el status quo. The status quo is private governance under competitive pressure, which the analysis above suggest is structurally inadequate. La respuesta a la "gobernanza multilateral es difícil" es trabajar hacia ella, no aceptar la gobernanza que es más fácil pero claramente insuficiente.
La Fundación tres propuestas de política están diseñados con esta restricción en mente: marcos estructurados para que todos los grandes actores puedan unirse, con los incentivos políticos y económicos necesarios para que unirse resulte más atractivo que quedarse fuera.