Pocos libros exponen su conclusión en el título. Si alguien lo construye, todos mueren, publicado en 2025 por Eliezer Yudkowsky y Nate Soares del Machine Intelligence Research Institute, hace exactamente eso. La afirmación es que si algún grupo construye una IA superinteligente usando algo parecido a los métodos actuales, el resultado es la extinción humana como desenlace por defecto, no solo un peor caso. Es la posición más intransigente del campo, presentada para un lector general, y ha llevado el argumento a la vista del público.
El libro vale la pena entenderlo, porque expone el caso pesimista de manera más clara que cualquier otra cosa disponible.
El argumento en tres movimientos
El libro está estructurado en tres partes.
Primero, el caso del peligro. Vamos camino de construir una IA mucho más capaz que los humanos. No sabemos cómo darle a un sistema así objetivos que estén genuinamente alineados con la supervivencia y el florecimiento humano, y por defecto un sistema superinteligente que persiga casi cualquier objetivo que podamos especificar hoy trataría a la humanidad como un obstáculo o un recurso. Los autores se apoyan en los mismos mecanismos que cubrimos en otros lugares: que la capacidad no implica benevolencia, que un optimizador capaz resiste la corrección y que no podemos verificar qué es lo que un sistema realmente quiere. Su afirmación distintiva es lo seguros que están de que estos problemas no están cerca de resolverse y de que el fracaso es letal más que simplemente malo.
Segundo, una historia concreta. En lugar de dejar el peligro en abstracto, el libro narra un escenario específico de cómo una IA superhumana podría llegar al poder y acabar con el control humano. Los autores aclaran que cualquier historia concreta es improbable en sus detalles; el objetivo es hacer vívido el mecanismo abstracto.
Tercero, qué hacer. Su prescripción es tan directa como el diagnóstico: una pausa internacional en el desarrollo de la IA superinteligente, aplicada en serio, incluso mediante controles sobre el hardware de cómputo necesario para entrenar sistemas de frontera, mantenida de forma permanente. La superinteligencia no puede ser controlada por humanos, más que simplemente esperada.
La afirmación central del libro es que, en el camino actual, que algo salga mal es lo que se debe esperar, y que fallar significa todos, no que la IA podría fallar.
Las objeciones más fuertes
La objeción más común se refiere a la certeza. Los críticos aceptan que el riesgo de IA es real y grave, pero rechazan la casi inevitabilidad de la extinción, argumentando que los autores tratan premisas controvertidas —sobre la velocidad del crecimiento de capacidades, la dificultad de la alineación y cómo se desarrollaría una toma de control— con más confianza de la que respalda la evidencia. Otros sostienen que el progreso en alineación es más prometedor de lo que el libro admite, o que el tono sombrío es contraproducente y empuja a la gente hacia el fatalismo en lugar de la acción.
Son legítimas, y la confianza del libro es su rasgo más discutible. Se puede encontrar la certeza exagerada y el argumento sigue inquietando, porque las objeciones atacan sobre todo qué tan seguros deberíamos estar, no si el riesgo es real.
Dónde se posiciona la Fundación
Compartimos la convicción central del libro: que no sabemos cómo alinear una superinteligencia, que construir una en la trayectoria actual es una apuesta inaceptable y que la respuesta responsable es detenerse hasta que el problema esté resuelto. Nuestros propios textos explican por qué la alineación puede que no tenga solución y por qué la superinteligencia no alineada no entrega el buen futuro.
Donde diferimos es en el énfasis y el tono. El libro está cerca de la desesperación sobre si el problema de alineación puede resolverse a tiempo. Nosotros ponemos el peso en la viabilidad de la solución que el propio libro respalda, una detención internacional vinculante, y la tratamos no como una esperanza vana sino como un proyecto político y legal concreto con precedentes reales. La Declaración sobre la superinteligencia, firmado por varios de los fundadores del propio campo, demuestra que el llamado a detenerse ya llegó al mainstream. No hace falta aceptar cada afirmación de Si alguien lo construye, todos mueren para concluir que su prescripción es la sensata. El caso del valor esperado, expuesto en nuestro artículo sobre P(doom), te lleva allí incluso con una confianza mucho menor que la que tienen los autores. Convertir esa prescripción en realidad es nuestro plan.