El 22 de octubre de 2025, el Future of Life Institute publicó una carta pública titulada la Declaración sobre la superinteligencia. A diferencia de los manifiestos extensos que suelen acompañar momentos como este, es una sola oración:
Pedimos una prohibición al desarrollo de la superinteligencia, que no se levante hasta que exista un amplio consenso científico de que se hará de forma segura y controlable, y un fuerte apoyo público.
Declaración sobre Superinteligencia, Future of Life Institute · Octubre 2025
No dice que nunca se deba construir superinteligencia. No condena la IA como tal. Plantea una condición (en realidad dos) y pide que se detenga el desarrollo hasta que se cumplan. Para entender por qué esta petición, que suena modesta, representa un cambio real en el debate, hay que comprender tanto lo que exige como quiénes estuvieron dispuestos a firmarla.
Qué pide realmente la declaración
La redacción es precisa. Tres características la distinguen de cartas abiertas anteriores, incluida la conocida carta de 2023 que pedía una pausa de seis meses en los mayores entrenamientos.
- Apunta específicamente a la superinteligencia. No es IA estrecha, no chatbots, no las herramientas de IA ya integradas en la vida diaria. La prohibición se aplica a sistemas que excederían la capacidad humana en esencialmente todos los dominios cognitivos, la categoría que describimos en nuestro explicador sobre superinteligencia artificial. Esta precisión desarma la objeción habitual de que los defensores de la seguridad quieren detener la tecnología beneficiosa. No es eso. Quieren detener un tipo concreto y específicamente peligroso de frontera.
- Es una prohibición condicional, no una prohibición permanente. La prohibición se levanta en el momento en que se cruzan dos umbrales. Esto replantea toda la cuestión. La postura actual es: construir superinteligencia y establecer seguridad después, si podemos. La declaración invierte eso: establecer seguridad primero, luego construir. La carga de la prueba pasa a los desarrolladores, donde (para una tecnología de esta consecuencia) probablemente pertenece.
- Requiere el apoyo del público, no solo la aprobación de expertos. La segunda condición es democrática, no técnica. Incluso si algún día los científicos coinciden en que la superinteligencia puede controlarse, la declaración insiste en que el público debe dar su consentimiento para construirla. Eso supone un desafío directo al arreglo actual, en el que un puñado de laboratorios privados toma una decisión que altera la civilización en nombre de todos, la preocupación que examinamos en quién controla la superinteligencia.
Por qué los firmantes importan más que la frase
Las cartas abiertas son baratas. Lo que hizo que esta funcionara fue la coalición. Más de 850 personas firmaron, y la lista es notable no por su longitud sino por su rango.
En la cima estaban los científicos que construyeron el campo. Yoshua Bengio y Geoffrey Hinton (ambos laureados con el Premio Turing, ambos llamados habitualmente padrinos de la IA moderna) firmaron, al igual que Stuart Russell, autor del libro de texto estándar de IA. Cuando las personas más responsables por la existencia de una tecnología piden al mundo que se detenga antes de construir su forma más poderosa, eso es testimonio, no activismo.
Luego llegaron los constructores y las figuras públicas. El cofundador de Apple Steve Wozniak y el fundador de Virgin Richard Branson. Historiador Yuval Noah Harari, actor Stephen Fry, y músico will.i.am. Líderes retirados de seguridad nacional, incluyendo al expresidente de los Joint Chiefs Almirante Mike Mullen y ex asesor de Seguridad Nacional Susan Rice. Y, lo más revelador, figuras que coinciden en casi nada más: El príncipe Harry y Meghan junto a Steve Bannon y Glenn Beck.
Ese último detalle es todo el argumento en miniatura. Cuando una pareja real británica y un estratega mediático de MAGA firman la misma frase, el tema ha escapado de la habitual clasificación ideológica. La preocupación por la superinteligencia es una de las escasísimas posiciones en 2025-2026 con verdadero alcance transversal, que es exactamente el tipo de coalición que hace posible una política vinculante, ni de izquierda ni de derecha, ni establishment ni populista.
Qué es la declaración, y qué no es
Es importante ser realistas respecto a los límites. Una declaración pública no prohíbe nada. No ordena a ningún regulador, no obliga a ninguna empresa y no restringe a ningún gobierno. Quien la lea como si fuera una ley se equivoca.
Lo que hace es mover el Ventana de Overton, el rango de posiciones consideradas mainstream y decibles. Hace dos años, pedir una prohibición sobre una clase de IA habría sido descartado como marginal. Después de octubre de 2025, es una posición sostenida públicamente por científicos de nivel Nobel, emprendedores icónicos y figuras políticas de todo el espectro. Ese cambio en lo que es respetable decir es el prerrequisito para todo lo que sigue. Los políticos adoptan posiciones que ya son populares; rara vez lideran. La función de la declaración es hacer que la prohibición sea lo suficientemente popular para que los líderes puedan actuar en consecuencia.
Así es exactamente como comenzaron los movimientos anteriores de gobernanza tecnológica. El Conferencias Pugwash dedicó dos décadas a construir el consenso intelectual y moral que finalmente sustentó el control de armas nucleares. Las declaraciones y manifiestos son la forma en que se construye la pista de aterrizaje, no la meta.
De una frase a un tratado
La brecha entre la declaración y la realidad es la brecha que Nakada Foundation existe para cerrar. Una declaración establece que la prohibición es deseable y legítima. No establece la maquinaria para hacerla cumplir. Eso requiere tres cosas que el texto deja deliberadamente sin especificar:
- Una definición con dientes. «Superinteligencia» debe traducirse en criterios sobre los que un tratado pueda actuar: umbrales de cómputo, evaluaciones de capacidad o ambos. Examinamos esto en el desafío diplomático de definir la IA peligrosa.
- Verificación. Una prohibición que nadie puede verificar es la Convención sobre Armas Biológicas, una prohibición noble violada durante décadas sin detección. Una gobernanza creíble necesita monitoreo, modelado en el régimen de verificación nuclear.
- Compromiso vinculante. Los compromisos voluntarios tienen un historial, y no es alentador, el tema de nuestro artículo sobre por qué los compromisos voluntarios se quedan cortos. El principio de la declaración tiene que convertirse en ley exigible.
La Declaración sobre Superinteligencia demostró algo valioso: la voluntad existe, y cruza cada línea que suele dividir a las personas. Nuestra plan consiste en convertir esa voluntad en controles de cómputo, una agencia de monitoreo y un tratado internacional que le dé a la frase única de la declaración la fuerza que necesita. Si estás de acuerdo con esa frase, lo más útil que puedes hacer ahora es ayudar a construir la coalición que la convierta en política.