NUESTRO PLAN

Tratado de Seguridad de la IA y Plan de Política de Gobernanza, El cambio viene de la ley,
no de laboratorios.

La comunidad técnica ha pasado una década advirtiendo. Las advertencias no frenaron a los laboratorios. Lo que falta ahora es voluntad política, marcos legales y una coalición lo suficientemente fuerte para detener la carrera hacia sistemas que nadie puede controlar.

EL CASO PARA LA ACCIÓN

Por qué existimos.

Nakada Foundation to Save Humanity se estableció sobre una sola premisa: que las decisiones más trascendentales de la historia humana, decisiones que determinarán si nuestra especie sobrevive, no deben tomarse por un puñado de ingenieros de cinco corporaciones en un solo país.

No estamos alineados con el establishment de investigación en seguridad de la IA, que en gran medida recibe fondos de los mismos laboratorios que compiten por construir los sistemas que estudia. Creemos que la estructura de incentivos del campo de seguridad de la IA está fundamentalmente comprometida y que la solución no vendrá desde dentro de la industria.

La mayor parte del dinero y el prestigio siguen destinándose a hacer la carrera más segura, no a terminar la carrera hacia ASI. Nuestro trabajo es la otra tarea: detener ASI bajo ley vinculante. La superinteligencia no puede controlarse.

La IA estrecha es transformadora y beneficiosa. Puede curar enfermedades, acelerar el descubrimiento y expandir el potencial humano. No estamos en contra de la IA. Estamos en contra de construir una forma de inteligencia que no podamos controlar, alinear ni detener.

El cambio requiere presión externa: de los gobiernos, de la ley, de la cultura y de personas que entienden que lo que está en juego no es un resultado de mercado, sino la supervivencia de la especie humana.

Tenemos un modelo para esto: el Tratado de No Proliferación Nuclear.

EN QUÉ NOS DIFERENCIAMOS

No es un laboratorio de investigación

A diferencia de las organizaciones de investigación en seguridad de la IA, nosotros no construimos, entrenamos ni experimentamos con sistemas de IA. No aceptamos financiamiento que cree un conflicto entre nuestra misión y nuestro mensaje.

No es un organismo de ética

A diferencia de las organizaciones de ética de la IA, nos centramos exclusivamente en el riesgo existencial: no en el sesgo, la equidad ni el mal uso de la IA actual. Son temas importantes. No son el mismo problema que la extinción.

Una campaña

Operamos como una campaña filantrópica de educación pública, no como un instituto académico. Buscamos cambiar la comprensión pública, construir coaliciones y hacer posible la prevención vinculante de la superinteligencia, tal como han funcionado todos los movimientos exitosos de interés público en la historia.

NUESTRA POSICIÓN

Prevención, no una pausa temporal.

La gente a menudo nos archiva bajo "pausa": unos años de margen para que los laboratorios hagan segura la superinteligencia y luego reanuden. Eso no es lo que se pide. Queremos que los gobiernos prevengan la superinteligencia artificial permanentemente. La superinteligencia no puede ser controlada por humanos.

La diferencia es fundamental. Una pausa asume un problema de calendario: reducir la velocidad, dejar que la seguridad alcance, y continuar. Nadie tiene una forma validada de controlar un sistema más capaz que sus creadores. No a pequeña escala. No a gran escala. Ni un método probado. Las personas que compiten por construirlo lo dicen en público.

Si eso sigue siendo cierto, entonces construir superinteligencia con métodos parecidos a los actuales no produce una tecnología riesgosa que deba gestionarse con cuidado. Produce un resultado del que no hay recuperación. Este es el argumento que expone con mayor claridad el libro de 2025 Si alguien lo construye, todos mueren, de Eliezer Yudkowsky y Nate Soares. No necesitas aceptar cada afirmación en él para ver la asimetría: tendríamos exactamente un intento, y nadie puede decirte cómo hacerlo bien.

Así que el tratado que abogamos es no es una forma de hacer seguro el desarrollo de la superinteligencia. No hay forma conocida de hacer eso. El tratado es la salida de la carrera: una decisión permanente de no tomar la apuesta. La superinteligencia no puede ser controlada por humanos.

Esta es la razón por la que nos separamos de gran parte del campo de la seguridad de la IA. Gran parte de el trabajo de "seguridad" asume silenciosamente que los sistemas se construirán y solo intenta reducir las probabilidades de que nos maten. Creemos que eso invierte el problema. Cuando no puedes controlar el lado negativo, y la desventaja es que todos, la medida responsable es dejar de construir la cosa peligrosa. La superinteligencia no puede controlarse, así que la respuesta no es construirla con más cuidado. La IA estrecha (la que cura enfermedades y acelera el descubrimiento) continúa. Es la clase estrecha de sistemas que superarían la inteligencia humana en todos los dominios la que no debe construirse.

TRES PILARES

Cómo operamos.

01

Educación pública

Argumente a favor de marcos vinculantes que prohíban los sistemas de IA superinteligente, no directrices voluntarias. El trabajo consiste en explicaciones en lenguaje claro, presencia social y medios creativos que den al público un vocabulario compartido para la prevención.

Los argumentos se centran en tres puntos de estrangulamiento que los gobiernos pueden usar: la infraestructura de computación, donde un pequeño número de fabricantes de chips controla el hardware necesario para entrenar modelos de frontera; los laboratorios de IA de frontera, donde los incentivos comerciales prevalecen sobre los compromisos de seguridad; y los organismos internacionales, donde hay que construir marcos de tratados antes de que las carreras de capacidades se vuelvan irreversibles. No tenemos una oficina de cabildeo directo en Washington ni en otras capitales.

02

Construcción de coaliciones

Involucrar a las mayores fundaciones filantrópicas del mundo, jefes de gobierno, premios Nobel, celebridades y figuras culturales para amplificar el mensaje, financiar la causa y mover la ventana de Overton.

La historia de la defensa efectiva es la historia de coaliciones improbables. El movimiento por los derechos civiles unió a clérigos, sindicatos y abogados. El movimiento por el desarme nuclear reunió a físicos y poetas. Estamos construyendo la coalición que convertirá la seguridad de la IA en el tema político definitorio de esta década.

03

Cultura y Conciencia

Encargar arte, cine, periodismo y medios que hagan el peligro visceral e innegable. El movimiento climático falló durante décadas en parte porque la amenaza era abstracta y lejana. El riesgo de la IA no lo es, pero hay que lograr que se sienta inmediato.

La seguridad debe volverse prestigiosa, urgente e imposible de ignorar. Trabajamos con cineastas, novelistas, diseñadores de juegos y periodistas para construir la infraestructura cultural de un movimiento duradero, incluido el argumento económico en Por qué un capitalista cree en la regulación del ASI.

HOJA DE RUTA DE POLÍTICAS

Tres demandas específicas.

Estos son movimientos concretos que los gobiernos pueden hacer con herramientas que ya existen. Cada uno tiene un precedente con un nombre y un año.

Infografía: Mapa de metro de nuestro plan desde la carrera de hoy hasta un tratado vinculante y verificación Infografía: Mapa de metro de nuestro plan desde la carrera de hoy hasta un tratado vinculante y verificación
Desde la carrera hacia una tratado vinculante.
01

Gobernanza del cómputo

Exigir licencias gubernamentales para ejecuciones de entrenamiento que excedan un umbral de cómputo definido (actualmente propuesto en 1026 operaciones de punto flotante). Exigir auditorías de seguridad independientes antes del despliegue. Crear un registro internacional verificado de todos los entrenamientos de modelos de frontera. El cómputo es el punto de estrangulamiento: un pequeño número de fabricantes, principalmente TSMC, NVIDIA y ASML, controlan el hardware necesario para construir sistemas de IA de frontera, lo que hace que la concesión de licencias en la capa de computación sea técnicamente sencilla y verificable.

Un techo solo se sostiene si el propio hardware está rastreado. Las GPUs avanzadas de las que dependen estos entrenamientos pueden registrarse y, cada vez más, construido para verificar en el chip dónde están y qué están haciendo, atestación de ubicación a prueba de manipulación y límites de uso establecidos en el silicio, de modo que un tope legal se convierta en uno físico. Esta es también la respuesta a la deslocalización: sin rastreo a nivel de hardware, un laboratorio que alcance el límite en casa simplemente traslada su entrenamiento a una jurisdicción permisiva. Extender los controles de exportación y la verificación a nivel de chip en toda la cadena de suministro es lo que impide que la computación se drene en silencio hacia donde las reglas sean más débiles.

02

Tratado Internacional de Seguridad de la IA

Un acuerdo multilateral vinculante para prohibir el desarrollo de sistemas de IA que superen un umbral definido de capacidad general, inspirado en el Tratado de No Proliferación Nuclear. Ninguna nación debería estar exenta. Esto no es una moratoria que se levantará según un calendario; es una prohibición permanente. La superinteligencia no puede ser controlada por humanos. El NPT es imperfecto, pero ha impedido el uso de armas nucleares durante ochenta años. La objeción habitual ("otros países harán trampa") es precisamente el argumento esgrimido contra la no proliferación nuclear. La respuesta no es competir. La respuesta es un tratado con mecanismos de verificación.

03

Agencia Mundial de Monitoreo de la IA

Un organismo intergubernamental con derechos de inspección, análogo al Organismo Internacional de Energía Atómica, facultado para verificar el cumplimiento de los límites de cómputo y exigir prácticas de desarrollo seguras en los laboratorios de IA de frontera. El IAEA se creó en tres años desde el Tratado de No Proliferación Nuclear. Una Agencia Global de Monitoreo de IA es alcanzable en el mismo plazo si existe la voluntad política. Su mandato incluiría reportes obligatorios de los entrenamientos, inspecciones presenciales en los principales laboratorios de IA y la facultad de emitir recomendaciones vinculantes a los Estados miembros.

APLICACIÓN

Qué cuesta hacer cumplir,
y por qué vale la pena pagar.

Un tratado solo es tan real como su aplicación. Hacer campaña por uno sin nombrar el proyecto de ley sería un engaño. Los costos son reales. Medidos contra lo que compran, siguen siendo pequeños.

Verificación intrusiva

Una aplicación significativa significa inspección in situ de centros de datos, declaración obligatoria de entrenamientos grandes y hardware que informe su propia ubicación y uso. Es una intromisión en el secreto comercial y, si se maneja con descuido, en la privacidad. El régimen de inspección nuclear acepta la misma intromisión porque la alternativa es peor. La salvaguarda es que la supervisión sea internacional y transparente, no propiedad de un solo Estado o empresa.

Beneficio renunciado

Retener la superinteligencia significa posponer cualquier beneficio que una versión controlable pudiera algún día entregar, y pedir a las empresas y países que dejen ganancias extraordinarias a corto plazo sobre la mesa. Este es un costo real. Pero una superinteligencia incontrolable no entrega esos beneficios a nadie; un sistema que no puedes alinear no es un activo que puedas conservar. Aplazar un premio que nadie puede reclamar de forma segura no es un gran sacrificio.

Un borde duro

Las normas sin consecuencias son sugerencias. La aplicación solo funciona cuando las violaciones tienen peso: denegación de exportaciones, sanciones financieras, exclusión de la cadena de suministro de computación y (como con el material fisible) un entendimiento compartido de que un proyecto rebelde para construir superinteligencia es una emergencia de todos, no privada. Construir ese filo es difícil y políticamente costoso. Todos los regímenes serios de control de armas lo han requerido de todos modos.

Los costos de la aplicación están limitados. El costo de no aplicar no lo está.

Cada objeción a la aplicación (que es intrusiva, costosa y restringe la industria) es verdadera y sobrevivible. El único resultado que no es sobrevivible es aquel que la aplicación existe para prevenir. Pagamos costos acotados y conocidos para descartar uno ilimitado e irreversible. Es el mismo trato que la civilización ya hizo por armas nucleares, químicas y biológicas.