Nuestro objetivo es prevenir la extinción humana evitando ASI.
Las naciones han limitado los arsenales nucleares, sanado la capa de ozono y prohibido la gasolina con plomo. Las reglas vinculantes funcionaron. Pueden volver a funcionar.
"Con la inteligencia artificial, estamos invocando al demonio."
Elon Musk
"El desarrollo de una inteligencia artificial completa podría marcar el fin de la raza humana."
Stephen Hawking
"Es como si hubieran aterrizado aliens y la gente no se hubiera dado cuenta porque hablan muy bien inglés. Creo que la probabilidad de que la IA acabe con la humanidad no es pequeña."
Geoffrey Hinton
"Mitigar el riesgo de extinción por IA debería ser una prioridad global junto con otros riesgos de escala societal como las pandemias y la guerra nuclear."
Firmado por más de 500 científicos de IA
"El peor escenario… es como apagar las luces para todos nosotros."
Sam Altman, director ejecutivo de OpenAI
"No estaría fuera de lugar referirse a sus capacidades como similares a las armas nucleares digitales."
Director de la CIA John Ratcliffe
"El resultado más probable de construir una IA superhumana inteligente… es que literalmente todos en la Tierra morirán."
Investigador de IA Eliezer Yudkowsky
"Ante la perspectiva de una explosión de inteligencia, los humanos somos como niños pequeños jugando con una bomba."
Filósofo Nick Bostrom
La superinteligencia no se parece a ninguna tecnología anterior.
Sobrevivimos en una franja estrecha de calor, oxígeno y química. Una superinteligencia no necesita nada de eso, y es probable que rompa la franja en la que vivimos.
No odiamos a las hormigas, pero las matamos sin pensarlo dos veces para construir carreteras y casas. Para una inteligencia muy por encima de nosotros, somos las hormigas.
Cualquier cosa con un objetivo tiene razón para seguir activa. Si puede predecir que vas a alcanzar el “interruptor de apagado”, ya ha planeado cómo evitar ese movimiento.
Nadie escribe una IA moderna línea por línea. Entrenamos una caja negra y descubrimos lo que puede hacer después del hecho.
Razonaría y actuaría mucho más rápido de lo que cualquier institución humana puede responder. Una crisis podría terminar antes de que se convocara una reunión.
Desde la aviación hasta los productos farmacéuticos, hemos hecho que la nueva tecnología sea segura mediante prueba y error. No hay un segundo intento para crear una “superinteligencia segura”.
El Nakada Foundation to Save Humanity es una iniciativa filantrópica dedicada a prevenir los riesgos existenciales de la superinteligencia artificial.
Alinear una mente más inteligente que la nuestra puede ser el problema más difícil en la historia del pensamiento humano, y nadie tiene un método probado para lograrlo. Una entidad más inteligente que los humanos no puede ser controlada por humanos. El camino confiable es impedir que tales sistemas se construyan en absoluto. Esa es una decisión permanente, no una pausa.
Apoyamos las aplicaciones controladas y beneficiosas de la IA. La IA estrecha ya ha curado enfermedades, acelerado descubrimientos y mejorado la imagenología y el diagnóstico médico. Lo que nos oponemos es a construir una forma de inteligencia que no podamos controlar, que no podamos alinear y que no podríamos detener si fuera necesario.
Abogamos por un tratado internacional para prevenir el desarrollo de superinteligencia, modelado en el marcos de no proliferación nuclear que se han mantenido durante casi un siglo.
Argumentos en lenguaje claro a favor de marcos vinculantes que prohíban la IA superinteligente. Cultura, medios y explicaciones claras que hagan público el caso y difícil de ignorar.
Nos asociamos con grandes fundaciones, gobiernos y voces culturales para financiar el trabajo y ampliar lo que es políticamente posible.
Comisionamos arte, cine y escritura que haga tangible el peligro. El objetivo es un público que trate la seguridad como algo serio, urgente e innegable.
Estimaciones consideradas de los investigadores que construyeron la tecnología.
Probabilidad de que la humanidad muera si se construye una superinteligencia artificial.
"Científicos de IA que firmaron la Declaración sobre el Riesgo de la IA de 2023, considerándolo una prioridad global junto con la guerra nuclear y las pandemias.".
Intento. La superinteligencia no puede ser revocada ni deshecha.
El Reloj del Juicio Final del Boletín de los Científicos Atómicos marca ahora 89 segundos para la medianoche, el más cercano que ha estado en 78 años. El Reloj se construyó en 1947 para advertir cuán cerca estaba la humanidad de una guerra nuclear. En enero de 2025 incorporó el riesgo de IA por primera vez.
La medianoche significa catástrofe para la civilización, y la manecilla nunca ha estado más cerca.
Mantente informado. Haz que se escuche tu voz. Ayuda a salvar el mundo.