Un tratado internacional vinculante puede salvar a la humanidad mientras continúa el progreso tecnológico.
Somos una campaña filantrópica contra sistemas que superan la inteligencia humana y no pueden corregirse ni detenerse. La humanidad nunca debe construir una superinteligencia.
Un sistema singular creado intencionalmente para superar y reemplazar las capacidades humanas en todos los dominios es peligroso. La superinteligencia artificial es el riesgo número uno para la humanidad, mayor que una guerra termonuclear global. Una guerra nuclear puede acabar con la civilización y dejar sobrevivientes. Una superinteligencia extinguirá nuestra especie.
Modelamos nuestro trabajo en conceptos probados que movieron al mundo, como las campañas de presión pública y los tratados internacionales sobre armas químicas, la no proliferación nuclear y la capa de ozono.
Somos completamente independientes y no aceptamos dinero de laboratorios de IA, sus inversores o empresas cuyos beneficios dependen de competir en la frontera.
Los medios son una herramienta poderosa para moldear la opinión y crear una cultura que haga imposible ignorar la crisis. Influyen en el público votante y en la mente de los líderes que elegimos. Cuando Ronald Reagan vio la película de 1983 El día después, el concepto abstracto de una guerra nuclear se volvió concreto, y el presidente firmó después un tratado vinculante con la Unión Soviética para reducir el arsenal nuclear.
Hay muchas organizaciones que trabajan en una «carrera más segura» o una «transición segura». Somos una de las pocas que trabaja con urgencia para detener el ASI bajo una ley vinculante. La «transición» nunca debe ocurrir.
No somos una organización «anti-IA», ya que apoyamos la IA estrecha controlada y beneficiosa, como la que diagnostica cáncer o acelera el descubrimiento de fármacos. Estos sistemas superan la capacidad humana solo en un dominio, lo que nos permite gestionar su trabajo de forma segura para beneficiar a la humanidad.
Nuestra fundación se centra exclusivamente en la prevención de ASI. Hacemos el trabajo público que hace posible un tratado internacional vinculante: encargamos películas, videos, ensayos, imágenes y relaciones con líderes culturales. También buscamos desviar talento y financiamiento de la investigación de alineación hacia la prevención de ASI.
No hacemos investigación técnica, análisis de políticas ni cabildeo.
Tampoco tomamos posiciones sobre temas generales de IA como chatbots, automatización de empleos, drones militares o centros de datos.
Somos una asociación filantrópica basada en US. A partir de agosto de 2026, estamos actualmente en proceso de patrocinio fiscal para ser elegibles como 501(c)(3). Todas las donaciones serán entonces deducibles de impuestos.
Estamos formando un pequeño consejo asesor. Buscamos especialmente personas con experiencia en comunicación de interés público, recaudación de fondos y producción cultural.
Lograr un impacto significativo es uno de nuestros objetivos principales. Nuestros resultados son públicos y medibles, como impresiones en X y reproducciones de videos en YouTube, y los contrastamos con el sentir del público votante.
Naoto Nakada habría financiado el trabajo de tratados nucleares durante la Guerra Fría. Nuestro fundador ve la superinteligencia como la crisis existencial de hoy.
Después de décadas de investigación en seguridad de la IA, la conclusión es que no podemos controlar algo más inteligente que nosotros, mientras que la mayor parte del dinero en el campo todavía se destina a sistemas de frontera «más seguros» mientras estos se sigan construyendo. Detener la superinteligencia artificial antes de que exista sigue estando críticamente subfinanciado y subdiscutido, con solo siete organizaciones en el mundo enfocadas exclusivamente en prevenir ASI.
Lanzamos la fundación en respuesta a esa brecha, con un nombre impactante que hace inconfundible la urgencia y la gravedad de la amenaza.
La historia humana apenas ha comenzado. Debemos asegurar que perdure por eones.
Naoto Nakada
No. Apoyamos la IA estrecha útil: sistemas que hacen un trabajo y pueden corregirse. Trabajamos para prevenir la superinteligencia artificial, sistemas cuya capacidad abierta los coloca en una categoría distinta. Un smartphone, internet, incluso una planta nuclear pueden regularse y apagarse. Una superinteligencia no.
Somos singulares. Trabajamos en la superinteligencia artificial y en el trabajo cultural que hace posible un tratado contra ella. El sesgo de los chatbots, la pérdida de empleos por automatización, los deepfakes, los drones militares, la ubicación de centros de datos: todo eso puede importar en otro lugar. No es el trabajo de esta fundación. Si una pregunta no trata de prevenir ASI, queda fuera de esta fundación.
La objeción más común tiene la misma forma que el argumento usado contra la no proliferación nuclear. El NPT es imperfecto y aun así funcionó: ningún uso nuclear en guerra desde 1945, nueve Estados nucleares cuando cientos podrían haberse unido. El riesgo de deserción es una razón para la verificación, no una razón para correr. El entrenamiento de frontera aún pasa por una lista corta de fabricantes de chips. Monitorear un umbral de cómputo es más un problema político que un problema de física.
Sí. También tienen equipos de ventas, departamentos de relaciones con inversionistas, miembros de junta que representan a los accionistas y presión competitiva para lanzar productos más rápido que sus rivales. Los equipos de seguridad dentro de los laboratorios comerciales de IA responden a los mismos incentivos que el resto de la empresa, y esos incentivos premian el envío de capacidades por encima de la reducción de riesgos. Cuando el equipo de seguridad de OpenAI publicó preocupaciones por ir demasiado rápido, la empresa aceleró de todos modos. En el mejor de los casos, un equipo interno complementa la regulación externa. No puede sustituirla.
El ganador del Premio Turing Geoffrey Hinton, quien dedicó su carrera a construir los fundamentos de la IA moderna, estima una 10 a 20 por ciento de probabilidad de que la IA cause la extinción humana dentro de este siglo. El premio Nobel Yoshua Bengio ha declarado públicamente que el riesgo es real y está subestimado. La declaración de 2023 del Center for AI Safety, firmada por más de 500 científicos de IA, incluidos Sam Altman, equiparó el riesgo de extinción por IA con la guerra nuclear y las pandemias como prioridad global.
Únete a la Fundación. Comparte nuestro mensaje con quienes aún no lo han escuchado. Contacta a tu representante electo y pregúntale cuál es su postura sobre el riesgo de la IA y qué legislación apoya. Si cuentas con recursos financieros, considera donar a la Fundación o a alguna de las otras seis organizaciones que trabajan en la prevención de ASI. Si tienes influencia cultural o mediática, úsala. Si trabajas en un laboratorio de IA y tienes inquietudes, considera hablar en público. La voluntad política decide esto, y surge de personas como tú.
Recibe actualizaciones y ayuda a construir la presión que esta causa necesita.