Cada pocos meses cae un nuevo punto de referencia de capacidades de IA. Sistemas que hace dos años no aprobaban exámenes profesionales ahora obtienen puntuaciones en los percentiles más altos. Los ejecutivos de los principales laboratorios de IA de frontera describen públicamente la inteligencia artificial general como una cuestión de años, no de décadas. Uno de los investigadores de seguridad de IA más destacados, Nick Bostrom, publicó en 2026 un documento de trabajo que preguntaba no si desarrollar superinteligencia, sino cuándo.
Ante este telón de fondo, la pregunta de si estamos listos para la superinteligencia es una evaluación práctica urgente, y la respuesta es claramente no, no un ejercicio teórico.
Qué requeriría realmente la preparación
Ser específicos sobre qué significa "preparación" importa, porque la palabra suele usarse de forma vaga para decir "hemos pensado en los riesgos" o "los laboratorios responsables están trabajando en seguridad". Esas cosas no son preparación en el sentido relevante.
La verdadera preparación para la superinteligencia requeriría que todo lo siguiente esté en su lugar antes de que un sistema con capacidad de ASI sea implementado en cualquier lugar:
- Un método técnico confiable para verificar la alineación de la IA antes del despliegue, no inferirla de evaluaciones conductuales
- Gobernanza internacional con suficiente alcance para impedir que cualquier actor (empresa o nación) despliegue un sistema antes de que pase la verificación
- Infraestructura de monitoreo operada independientemente de las organizaciones que construyen los sistemas
- Marcos legales en los principales países desarrolladores de IA que otorgan a los organismos de supervisión autoridad real
- Normas internacionales establecidas con suficiente peso político para sobrevivir a la presión competitiva
Evaluado según estos requisitos, aquí es donde realmente estamos.
La conversación sobre gobernanza ha tomado la dirección equivocada
En noviembre de 2023, el gobierno UK organizó la Cumbre de Seguridad de la IA de Bletchley Park, el primer gran encuentro internacional centrado específicamente en el riesgo de la IA de frontera. El enfoque fue explícitamente de seguridad primero. La Declaración de Bletchley resultante fue firmada por 28 países, entre ellos US, China y EU, reconociendo los riesgos «potencialmente catastróficos» de ASI.
Para febrero de 2025, Francia organizó lo que llamó una Cumbre de Acción de la IA, renombrando deliberadamente el formato para señalar un cambio en las prioridades. El énfasis se desplazó de identificar y gestionar el riesgo a permitir el despliegue y capturar la ventaja económica. Este no fue un cambio neutral en la terminología. Reflejó una presión política genuina de gobiernos e industries que ven la competencia en IA con China como el marco principal, y los requisitos de seguridad como posibles desventajas competitivas.
"La pregunta ya no es si desarrollar superinteligencia, sino cuándo es el momento óptimo para hacerlo y para quién se acumulan los beneficios de esa decisión."
Nick Bostrom, "On the Timing of Superintelligence Development" · Documento de trabajo, 2026
El marco de Bostrom es notable porque su trabajo anterior (Superintelligence, 2014) estableció muchos de los argumentos fundacionales de por qué la superinteligencia plantea riesgo existencial. Su giro de 2026 hacia preguntas de timing y distribución refleja un movimiento más amplio en el campo: aceptar que el desarrollo ocurrirá y centrarse en quién controla el proceso. Una pregunta legítima. Distinta de asegurar que el proceso sea seguro.
El problema de la transición de AGI a ASI
Los debates de gobernanza suelen tratar AGI como el umbral relevante, partiendo de la idea de que los sistemas de nivel AGI serían comprensibles para supervisores humanos y susceptibles de una evaluación significativa. Esto probablemente sea cierto en el umbral AGI. El problema es lo que viene después.
Un sistema con capacidad AGI que pueda dirigir su propia investigación y mejora podría pasar de un rendimiento a nivel humano a uno significativamente superhumano en un período mucho más corto del que tomó alcanzar el nivel humano. El término técnico para esto es un escenario de despegue rápido. En un despegue rápido, un sistema pasa de un nivel donde la gobernanza humana es posible a uno donde podría no serlo, en una ventana de tiempo más corta que el tiempo de respuesta de cualquier institución de gobernanza.
Estar preparados para la superinteligencia significa estar listos antes del umbral AGI, no tener un plan para responder después. Una gobernanza que entre en vigor al llegar AGI puede llegar demasiado tarde para impedir una transición rápida a niveles de capacidad que la superen.
¿Por qué la ventana sigue abierta?
La brecha de preparación es real y grave. Describirla con honestidad no equivale a concluir que no se puede hacer nada. La ventana para construir una gobernanza adecuada se está cerrando, pero aún no se ha cerrado.
Los principales laboratorios de IA de frontera siguen en un nivel de rendimiento humano o casi humano en la mayoría de las tareas cognitivas, no significativamente por encima. La transición desde este nivel de capacidad hasta el que más importa aún no ha ocurrido. Este es el momento en que se pueden construir marcos de gobernanza con la cooperación de los actores que estarán sujetos a ellos, no después de que esos actores hayan desarrollado sistemas que hagan menos necesaria la cooperación.
El costo político de construir gobernanza ahora es real: fricción competitiva, despliegue más lento, posible pérdida de ventaja económica frente a actores menos conscientes de la seguridad. Esos costos deben sopesarse con honestidad frente al costo de no construir gobernanza ahora y encontrarse en la situación descrita arriba. La asimetría en esa comparación no es sutil. Las tres propuestas de la Fundación están diseñados exactamente para esta ventana: antes de cruzar el umbral, mientras aún se pueda buscar y obtener la cooperación de todos los actores principales.