Documento de referencia · 2026
El consenso científico
sobre el riesgo de la IA
Las personas que construyeron la inteligencia artificial nos están advirtiendo. Esto es lo que dijeron, y quiénes son.
"Creo que es bastante concebible que la humanidad sea solo una fase pasajera en la evolución de la inteligencia."Geoffrey Hinton Premio Nobel de Física 2024 · Premio Turing 2018
Ex VP y Fellow de Ingeniería, Google · 2023
"Me siento perdido respecto a qué deberíamos hacer para que las cosas salgan bien, dadas las poderosas fuerzas que nos empujan hacia un despliegue acelerado de la IA sin salvaguardas adecuadas."Yoshua Bengio Premio Nobel de Física 2024 · Premio Turing 2018
Director Científico, Mila · 2023
"El modelo estándar de IA, donde defines un objetivo y la IA lo optimiza, probablemente será nuestro fin."Stuart Russell Profesor de Ciencias de la Computación, UC Berkeley
Coautor del libro de texto estándar de IA
"Cada vez estoy más convencido de que este problema puede ser el más importante de nuestro siglo, tanto si la seguridad de la IA es solucionable como si no, y en qué plazo."Ilya Sutskever Cofundador, OpenAI · Científico jefe 2015-2024
Uno de los arquitectos del aprendizaje profundo moderno
"Estamos construyendo una de las tecnologías más transformadoras y potencialmente peligrosas de la historia humana, y aun así parecemos incapaces de pulsar el botón de pausa."Yoshua Bengio Nobel Laureate · Mila · 2023
"La seguridad de la IA es más importante que el cambio climático."Geoffrey Hinton Nobel Laureate · Former Google
Declaración de plataforma global, 2024
Cronología de advertencias expertas crecientes
2014
Nick Bostrom publica Superinteligencia, el primer análisis académico riguroso del riesgo existencial de la superinteligencia artificial. Filósofo de Oxford. Citado por Elon Musk y Bill Gates como lectura esencial.
2018
Hinton, Bengio y LeCun ganan el Premio Turing por fundar el aprendizaje profundo moderno. Los tres posteriormente expresan preocupaciones de seguridad sobre la tecnología que crearon.
2023
El Center for AI Safety publica su declaración sobre el riesgo de extinción. Más de 500 científicos la firman. Por separado, la carta abierta del Future of Life Institute que pide una pausa en el desarrollo reúne más de 33 000 firmas, incluidos ganadores del Turing Award.
2024
Hinton y Bengio reciben el Premio Nobel de Física. Ambos utilizan la plataforma global para amplificar explícitamente las advertencias sobre la seguridad de la IA. Hinton afirma que la seguridad es ahora “más importante que el cambio climático”.