"Superintelligence Strategy" llegó en marzo de 2025 con una lista de autores pensada para ser tomada en serio en Washington: Dan Hendrycks, director del Center for AI Safety; Eric Schmidt, ex CEO de Google; y Alexandr Wang, fundador de Scale AI. Su propósito era sacar la superinteligencia de la literatura de investigación y llevarla al lenguaje de la seguridad nacional, y en eso logró su objetivo. En pocas semanas se debatía entre estudiosos del control de armas, se simulaba en think tanks y se citaba en testimonios ante el Congreso.
La analogía es lo más interesante de esto, y también el problema.
En su centro hay un solo acrónimo, elegido con cuidado. MAIM, por Mutual Assured AI Malfunction, es un eco deliberado de MAD, y lleva la afirmación central del documento: que el tenso enfrentamiento que impidió a las potencias nucleares aniquilarse tiene un equivalente en la IA, uno que ya existe tanto si alguien lo reconoce como si no.
Creemos que el artículo acierta en algo realmente importante y creemos que su mecanismo central no puede soportar el peso que se le asigna. Ambas mitades importan.
El estancamiento que el artículo dice que ya existe
El argumento dice así. Supongamos que un Estado parece estar a punto de un avance decisivo, un sistema que concedería, en el marco del artículo, un superarma y el mando del futuro. Ningún rival puede permitirse que eso ocurra. Un mundo en el que una sola capital controle la superinteligencia es, para todas las demás capitales, intolerable del mismo modo que una ventaja de primer golpe era intolerable durante la Guerra Fría.
Pero a diferencia de un arsenal nuclear desplegado, un proyecto de IA en curso es vulnerable. Vive en centros de datos con coordenadas conocidas, funciona con redes eléctricas y depende de entrenamientos que duran meses y que una intrusión bien colocada puede corromper en silencio. Así que un rival amenazado tiene opciones cortas de la guerra, y una escalera de ellas: espionaje, ciberataques encubiertos que degraden un entrenamiento o envenenen sus datos, sabotaje de la infraestructura circundante y, en el extremo, ataques físicos contra las propias instalaciones.
La afirmación del documento es que se trata de una descripción, una que los autores sostienen que ya captura la realidad estratégica a la que se enfrentan las superpotencias de la IA. Cualquier Estado que haga una apuesta agresiva y visible por el dominio de la IA debe esperar que su proyecto fracase, cortesía de sus rivales. De ahí el nombre y, por tanto, la esperanza paradójica: si todos los jugadores saben que una carrera por el dominio será saboteada, nadie corre y se disuade el movimiento más desestabilizador del juego. Como en la MAD, los autores sostienen que el estancamiento puede estabilizarse mediante una práctica deliberada: ubicar los centros de datos lejos de las ciudades para que los peldaños extremos sean menos catastróficos, mantener los peldaños cibernéticos de la escalera de escalada claramente separados de los cinéticos y ampliar la transparencia entre rivales para que nadie confunda un proyecto comercial con una apuesta por el dominio.
Los otros dos pilares
MAIM obtuvo los titulares, pero la estrategia tiene tres partes, y la segunda es la que encontramos más útil. No proliferación toma la maquinaria creada para mantener el material fisible lejos de los terroristas y la aplica a la IA: rastrear chips avanzados como se rastrea el uranio enriquecido, proteger los pesos de los modelos contra robos y construir salvaguardas en los sistemas para que se nieguen a ayudar en el diseño de armas biológicas o ataques a infraestructuras críticas. Este pilar supone que los Estados cooperan en gobernanza del cómputo incluso mientras compiten en todo lo demás, exactamente como Washington y Moscú gestionaron la no proliferación juntos en los peores años de la Guerra Fría.
Competitividad es el diezmo realista: los Estados deben fortalecer sus economías y fuerzas militares con IA y, sobre todo, reparar las frágiles cadenas de suministro de chips mediante fabricación nacional, una preocupación que desde entonces se ha endurecido en la política de control de exportaciones ahora moldeando la industria.
El artículo contrapone esta tríada a dos estrategias que rechaza: la carrera sin control para construir superinteligencia primero y esperar lo mejor, y lo que califica de moratoria global inviable. La disuasión, en este planteamiento, es la opción adulta entre la imprudencia y la ingenuidad.
Qué acierta el artículo
Empecemos por el logro. Durante años, el argumento estándar a favor de la carrera ha sido que una superinteligencia rival sería catastrófica, así que debemos llegar primero. «Superintelligence Strategy» invierte esto en silencio. Si una apuesta unilateral por el dominio es intolerable para los rivales, entonces la apuesta de todos es intolerable para alguien, y la propia carrera se convierte en la amenaza a la seguridad nacional en lugar de la respuesta a ella. Proveniente de autores de este perfil, esa inversión hizo un trabajo real. Puso la pérdida de control y la inestabilidad estratégica sobre los escritorios de personas que nunca leerían un artículo de alineación, y estableció, en un lenguaje respetable, que la contención puede imponerse en lugar de simplemente solicitarse.
El pilar de no proliferación, mientras tanto, es simplemente una pieza de la arquitectura de tratados que defendemos, llegada desde una dirección distinta. Seguimiento de chips, seguridad de los pesos y gobernanza habilitada por hardware son de doble uso: sirven por igual a un régimen de disuasión y a un régimen de verificación. Cada dólar que se gaste en construirlos es un dólar que se invierte en hacer verificable un acuerdo futuro.
Dónde falla la analogía nuclear
El problema comienza cuando preguntas qué hizo estable a la MAD y comparas cada elemento con su contraparte en IA.
Un lanzamiento nuclear es inequívoco. Es atribuible en minutos, su origen se conoce al metro y la respuesta que desencadena es cierta y comprendida por todos de antemano. Ahora compara. Un entrenamiento "desestabilizador" parece, desde fuera, uno comercial; los mismos clústeres, el mismo consumo de energía, la misma firma satelital. El umbral no está definido, y no por falta de esfuerzo en redactarlo, sino porque la capacidad no se anuncia como una estela de misil. Este es el problema que hemos llamado definir la IA peligrosa, ", y MAIM lo hereda por completo: un régimen de disuasión necesita una línea roja, y el documento no puede precisar exactamente dónde está esa línea.".
La atribución falla también en la otra dirección. Cuando un entrenamiento colapsa, ¿fue sabotaje, un error o datos defectuosos? Un Estado puede ser atacado sin saberlo, lo que significa que el ataque no disuade nada, o creer que fue atacado cuando no lo fue, lo que es peor. La disuasión funciona mediante amenazas visibles, creíbles y atribuibles. Las operaciones cibernéticas encubiertas no cumplen ninguna de las tres. Analistas de MIRI, RAND y otros lugares señalaron exactamente estos puntos semanas después de la publicación, y la crítica de observabilidad en particular nunca ha sido respondida satisfactoriamente: varios investigadores concluyeron que las condiciones para una disuasión estable simplemente no existen aún y podrían requerir una transparencia profunda y mutua en los centros de datos de los rivales antes de que pudieran darse.
También está la propia escalera de escalada. Normalizar los ataques a la infraestructura crítica de Estados con armas nucleares, como una práctica rutinaria de Estado, no es obviamente una receta para la estabilidad. La respuesta del artículo, mantener los peldaños cibernéticos muy por debajo de los cinéticos, supone que el objetivo de una campaña de sabotaje comparte tu lectura de en qué peldaño estás. La historia de la Guerra Fría es un catálogo de momentos en que esas lecturas divergieron, y ofrece otra advertencia en la que el artículo no se detiene: la MAD casi falló varias veces, por accidente, falsa alarma y error de juicio, y se salvó tanto por la suerte como por la doctrina. Adoptar su lógica significa adoptar sus modos de fallo.
La disuasión necesita un mecanismo de activación inequívoco y una respuesta inconfundible. MAIM, hasta ahora, no tiene ninguno de los dos.
Lo que MAIM no puede hacer aunque funcione
Concede al marco todo lo que quiera, y sigue existiendo un límite más profundo. MAIM disuade un fallo específico: la carrera deliberada y visible de un Estado por la dominación unilateral. No hace nada contra el modo de fallo que más nos preocupa, porque ese no tiene agresor que disuadir.
La desalineación no le importa qué bandera ondee sobre el centro de datos. Un mundo de programas rivales, cada uno cuidando de no cruzar el umbral del sabotaje, sigue siendo un mundo corriendo hacia sistemas que nadie puede controlar, con la presión habitual de la carrera para recortar esquinas en seguridad totalmente intacta. Peor aún, MAIM añade una presión propia: los proyectos bajo amenaza de sabotaje tienen todas las razones para ocultarse, endurecerse y dispersarse, y el secreto es el enemigo de toda práctica de seguridad que valga la pena. La disuasión vigila a los competidores mientras la problema de control en sí mismo queda sin control, y las rutas más lentas y silenciosas hacia la catástrofe, incluyendo la desempoderamiento gradual que no requiere ninguna puja por el dominio, pasan completamente por debajo de su radar.
Un punto muerto tampoco es un estado de reposo. La MAD era tolerable porque disuadir el uso de un arma existente es una tarea acotada. La MAIM debe disuadir el desarrollo de una capacidad en movimiento, para siempre, con umbrales que cambian cada año a medida que los algoritmos se vuelven más eficientes y la frontera del cómputo se descentraliza. La gestión perpetua de crisis es una cuenta regresiva con buena marca, no una estrategia.
La disuasión y los tratados no son rivales
La disuasión nuclear nunca estuvo sola. Se hizo viable gracias a la maquinaria poco glamurosa que se le añadió durante décadas: líneas directas, inspecciones, el NPT, SALT, START, el protocolos de verificación que permiten a cada lado contar las ojivas del otro. La MAD aportó el miedo; el control de armas convirtió ese miedo en reglas antes de que el miedo pudiera convertirse en guerra. Invocar solo la primera mitad de esa historia mientras se descarta la segunda, como hace el artículo al desechar la contención coordinada como utópica, es citar la Guerra Fría de forma selectiva.
Y las dos mitades comparten un motor. Para amenazar con sabotaje de forma creíble, un Estado debe ver dentro de los programas de IA de sus rivales lo suficiente como para saber cuándo se está gestando una apuesta por la dominancia. Esa vigilancia, los satélites, el rastreo de chips, la inteligencia sobre ejecuciones de entrenamiento, es la mayor parte de lo que una tratado sobre superinteligencia necesidades de verificación. El artículo, leído en contra de sus propias intenciones, es un argumento de que la parte difícil de un tratado ya se está construyendo.
Así que nuestro veredicto es más estrecho de lo que escribirían tanto los fans del artículo como sus críticos más duros. MAIM es valioso como descripción: nombra correctamente el estancamiento, establece que las carreras unilaterales serán resistidas e informa a los estamentos de defensa que la carrera es una amenaza más que una solución. Fracasa como destino, porque un estancamiento permanente, indefinido y encubierto entre potencias nucleares no es estabilidad, y porque deja sin gobernar la fuente real del riesgo existencial: los propios sistemas. La disuasión compra tiempo. Un acuerdo internacional verificado es para lo que sirve el tiempo.