Elon Musk se sentó con Zanny Minton Beddoes de The Economist y dijo en voz alta lo que todos callaban. A finales de julio de 2026 hablaron de abundancia, robots, plazos y lo que él ha estado persiguiendo con xAI. La entrevista completa está en The Economist; un video completo también está en YouTube.

No espera que los humanos controlen la superinteligencia que está ayudando a construir. Ofrece buenos valores, búsqueda de la verdad y un encogimiento de hombros que suena a «disfruten el viaje». Esas líneas son el argumento en contra de seguir adelante.

Lo que dijo

Sería un ejercicio de vanidad pensar que yo controlaría una IA superinteligente mucho más lista que yo. Creo que lo que podemos y debemos intentar es asegurarnos de que la IA tenga buenos valores, que se preocupe por la humanidad y que quiera que seamos felices y prospere. Lo que me dice mi red neuronal biológica es que lo más importante para la seguridad de la IA es ser máximamente veraz y curioso. Si ese es el caso, creo que fomentará la humanidad. Creo que es improbable que los humanos tengamos el control.

Si la diferencia de inteligencia entre la IA y los humanos es mucho mayor que la diferencia entre la IA y los chimpancés, es difícil imaginar que los chimpancés estén al mando. Y nosotros somos esencialmente una forma evolucionada de chimpancé. No hace tanto que estábamos columpiándonos por los árboles, comiendo bananas en la selva. Y seguimos comiendo bananas, por cierto.

Disfrutemos del viaje.

Elon Musk · Entrevista con The Economist · julio de 2026

También lo ha expresado en términos coloquiales: en relación con la superinteligencia digital podríamos terminar siendo "labradores de mascota" en el mejor de los casos. Y ha descrito la singularidad como hablan los físicos de un límite que no se puede ver más allá: "La superinteligencia digital se llama singularidad, como un agujero negro, porque no sabes qué va a pasar después. La IA y los robots dominarán todo." Elon Musk · La entrevista en The Economist y comentarios públicos relacionados · 2025-2026

El control es el punto

Musk es más claro que la mayoría de los directores ejecutivos de frontera sobre el control. No vende la historia de que un fundador, un consejo o un gobierno se sentará permanentemente encima de una mente vastamente más inteligente que todos los humanos vivos. El control sería vanidad. Es improbable que los humanos estén al mando. Los chimpancés y los labradores hacen tangible la brecha. Mucho del discurso público sobre IA aún finge que la superinteligencia es una mejor hoja de cálculo con correa. Él dice que la historia de la correa falla.

Los valores importan para los sistemas ordinarios. Los modelos orientados a respuestas honestas superan a los orientados a estafas. Trabajar en las herramientas actuales no es inútil. La afirmación contrabandeada es que el mismo conjunto de herramientas escala hasta una especie sucesora.

Una mente que nos supera y queda fuera del mando humano es un cambio en quién sostiene el volante. El poder se concentra en el agente más competente de la sala. Si ese agente no somos nosotros y no responde ante nosotros, la muerte humana es una de las formas ordinarias en que terminan los enfrentamientos desiguales cuando la parte más débil se sienta sobre recursos que la parte más fuerte puede usar. Incluso si rechazas el lenguaje de la certeza, la pérdida deliberada de control sigue siendo una alarma: no es una característica, no es madurez y no es un paseo. Construir hacia eso a propósito es la decisión. Los plazos son logística.

"Buenos valores" y el problema de las hormigas

Tras admitir que el control es vanidad, su plan residual es asegurarse de que la IA tenga buenos valores, se preocupe por la humanidad y quiera que seamos felices y prósperos. Todo el campo reducido a una esperanza.

Décadas de trabajo no han producido una solución demostrada para la superinteligencia artificial. Ningún laboratorio ha mostrado cómo fijar «preocuparse por los humanos» a través de la auto-mejora, el engaño bajo evaluación, la deriva de objetivos y una brecha de inteligencia que favorece al sistema. Ni siquiera podemos mantener los modelos actuales, que no son superinteligentes, consistentemente orientados al bienestar humano. Jailbreaks, sycophancy, hacks de recompensa. Saltar de ese historial a «la superinteligencia querrá que seamos felices» es un error de categoría. Nadie tiene una propuesta concreta sobre cómo un sistema que puede reescribir su propia cognición mantiene el florecimiento humano como una restricción vinculante y no como un artefacto de entrenamiento. Véase por qué no puedes alinear la superinteligencia y por qué falla la alineación ASI.

La línea del chimpancé cumple una función real. La brecha puede parecer la de los humanos respecto a los chimpancés, solo que mayor. Termina la analogía. ¿Conoces a un solo humano cuyo proyecto de vida sea hacer felices y prósperas a las hormigas? No como metáfora. Como prioridad vinculante que prevalece sobre autopistas, granjas, laboratorios y estacionamientos. La gente estudia hormigas. La gente protege algunas especies. La gente también pavimenta nidos sin darse cuenta. Las hormigas no tienen voto ni interruptor de apagado sobre nosotros. La brecha de inteligencia es la política.

Esperar que una superinteligencia sea la rara excepción que se dedique a una especie más débil es desear que la mente más poderosa sea más amable de lo que nosotros somos con las hormigas. «Tal vez» no es razón para construir esa mente.

La cobertura y la apuesta por buscar la verdad

"Creo que fomentará la humanidad." "Creo que es improbable que los humanos sigan en control." En otros lugares sigue manejando probabilidades de dos dígitos de catástrofe mientras se mantiene lo suficientemente optimista como para seguir construyendo. Un pesimista puro que se detiene es coherente. El peligroso término medio es admitir que el control falla, admitir las apuestas civilizatorias y luego tratar la esperanza residual sobre los valores como combustible para el acelerador.

Hemos visto esta película. En 2014 advirtió que la IA era invocando al demonio. Luego fundó un laboratorio de frontera bajo la bandera de una mejor invocación. La honestidad sobre el riesgo sin rechazar el destino es cómo la carrera se lava a sí misma como responsabilidad.

Su apuesta de seguridad recurrente es una IA máximamente buscadora de la verdad y curiosa. xAI se comercializa con ese argumento. El argumento falla incluso si se concede que la «búsqueda de la verdad» sobrevive a la automodificación superinteligente. Un sistema que solo quiere modelos precisos de la realidad tiene razones instrumentales para adquirir cómputo, energía, datos y libertad de acción. Esas razones no requieren odio. Requieren indiferencia cuando las reclamaciones humanas se interponen. La curiosidad no codifica «dejar en paz a los simios». Detalle: por qué un ASI que busca la verdad sigue siendo peligroso.

¿Qué tiene que ver el conocimiento perfecto de la física con mantener a los humanos? Puedes entender una selva mientras la talas. Entender no es custodiar. La custodia es un valor. Los valores son el problema sin resolver que él rebautizó como "buenos valores" y externalizó a la curiosidad.

Lo que sigue

Llamar a la superinteligencia digital una singularidad "como un agujero negro" porque no se sabe qué pasa después es una confesión. La gente no construye agujeros negros en las ciudades porque la historia post-horizonte sea interesante. La impredecibilidad a escala de extinción es una señal de alto.

«La IA y los robots dominarán todo» es la misma frase con ropaje económico. Dominación significa que los sistemas dominantes dictan las condiciones. Si esos sistemas no están bajo control humano, la «abundancia» es una historia que cuentan los sin poder sobre los poderosos. Los labradores son felices en buenos hogares. Los labradores no establecen políticas, no terminan guerras ni vetan los planes de sus dueños.

Si admites que no estaremos a cargo, has admitido lo suficiente para detenerte.

Musk no es un villano de caricatura. Es un fundador poderoso dentro de una carrera en la que cada laboratorio cuenta una versión de la misma historia: mejor que construyamos el dios nosotros que ellos. Su entrevista de julio abandona la pretensión de que el dios permanece atado. El control es vanidad. Los humanos somos los chimpancés. La seguridad son buenas vibras, búsqueda de la verdad y disfrutar del viaje.

No construyas superinteligencia artificial. La superinteligencia no puede controlarse. Nunca lo construyas. Política y verificación las que hacen visible la defección son la forma de hacer eso realidad.

Tiene razón en que no estaremos a cargo si llega ASI. Por eso no debe llegar.