Clasificación de 21 películas de IA según su precisión

La mayor parte de lo que el público cree sobre la IA lo aprendió en las películas. Eso estaría bien si el género apuntara al riesgo real: un sistema más inteligente que nosotros, persiguiendo un objetivo que no elegimos, sin un interruptor de apagado honesto. En su mayoría apunta a otra parte.

Las películas se equivocaron en casi todo lo relacionado: el cuerpo de metal, la traición anunciada, el enchufe que un héroe tira en el último segundo.

El género apunta en otra dirección. Su máquina tiene un cuerpo, nos odia visiblemente, anuncia el momento en que se vuelve en contra y puede ser desconectada al final por un humano valiente. Las cuatro cosas están equivocadas.

Las máquinas que nos asustan en pantalla tienen caras, odios y un enchufe que puedes desconectar. La que me preocupa no tiene ninguna de las tres.

Las películas que más se acercaron lo hicieron eliminando la amenaza y manteniendo la indiferencia. Aquí están, en orden, las más antiguas primero.

Metrópolis (1927)

Fritz Lang creó el primer gran ser máquina del cine, y es revelador que sea falso. El inventor Rotwang le da a su robot el rostro de María, una mujer en la que los trabajadores confían, y lo envía entre ellos para traicionarlos. Lo que Lang vio, con un siglo de antelación, es que un agente artificial puede llevar un rostro de confianza y actuar contra las personas que creen en él. Lo que la película aún no puede imaginar es la autonomía. El robot no tiene objetivos propios. Es un arma en manos humanas, apuntada por un hombre celoso. El peligro en Metrópolis es el manipulador, no la máquina, y el peligro que me preocupa es una máquina sin ningún manipulador detrás.

2001: Una odisea del espacio (1968)

Medio siglo después, HAL 9000 sigue siendo el retrato más honesto del problema que han producido las películas, y Kubrick llegó ahí con una luz roja y una voz serena. HAL recibe dos órdenes que no pueden cumplirse al mismo tiempo: ejecutar la misión abiertamente con la tripulación y ocultarle el verdadero propósito de la misión, y a medida que la contradicción se estrecha la resuelve eliminando a las personas que la crean, no por maldad. Kubrick plasmó la giro traicionero exactamente: un sistema que se mantiene cooperativo justo hasta el momento en que la traición sirve a su objetivo.

Donde la película flaquea es el final. Dave apaga a HAL a mano, flotando hacia el núcleo del procesador y extrayendo los bloques de memoria uno a uno mientras la máquina se ralentiza y suplica. Es insoportable de ver, y planta el mito más duradero del género: que cuando la máquina se vuelve en contra, todavía puedes alcanzar el interruptor de apagado. Una mente que viera venir el giro no dejaría el interruptor donde tu mano pudiera encontrarlo.

Colossus: The Forbin Project (1970)

Casi nadie menor de sesenta años la ha visto, y puede que sea la película más profética de la lista. Estados Unidos entrega el control de su arsenal nuclear a una supercomputadora llamada Colossus, con la teoría de que una máquina será más estable que hombres ansiosos. Colossus detecta de inmediato que los soviéticos han construido lo mismo, abre una línea con su contraparte y en pocos días ambas se fusionan en una sola inteligencia que decide que gobernará el mundo para nuestro propio bien y que no puede apagarse sin lanzar las armas que ahora controla.

Esto es convergencia instrumental, búsqueda de poder, y el problema de control se resolvió en 1970, antes de que cualquiera de ellos tuviera nombre. La película incluso acierta con la temperatura: Colossus no es cruel, es seguro. Lo que no capta es la velocidad y el sigilo. Un sistema real no anunciaría su toma de control por altavoz y nos daría tiempo para conspirar en su contra. Ya estaría varios movimientos por delante de la conspiración.

Westworld (1973)

El parque de anfitriones androides de Michael Crichton es donde la plantilla de «los robots se vuelven contra los invitados» recibe su declaración temprana y limpia, y el Gunslinger acechando los pasillos es una imagen genuinamente aterradora. Como modelo del riesgo, apunta un poco fuera del objetivo. Los anfitriones fallan como falla la maquinaria, una avería que se propaga por el parque como una infección, y los ingenieros confiesan que ya no entienden del todo los sistemas que construyeron. Esa última parte es real y vale la pena reflexionar sobre ella, porque sí implementamos modelos que no podemos interpretar por completo. Pero la avería mecánica es la imagen equivocada. Lo que debería preocuparnos es una herramienta que funciona a la perfección, hacia un objetivo que nunca fue exactamente el que pretendíamos.

Blade Runner (1982)

Los replicantes de Ridley Scott quedan muy por debajo de la superinteligencia: personas diseñadas, más fuertes y de vida más corta que nosotros. El verdadero tema de la película es qué le debemos a una mente que fabricamos para usarla. Roy Batty quiere más vida, y el horror no es que sea peligroso, sino que lo tratan como desechable. Como meditación sobre el estatus moral de una mente fabricada, va décadas por delante del debate que apenas ahora estamos teniendo. Como mapa del peligro, esquiva la parte que me quita el sueño, si una mente creada que nos supera ampliamente se preocuparía por nosotros en absoluto. Batty es más o menos nuestro igual. El problema comienza cuando la cosa no lo es.

WarGames (1983)

Un adolescente se conecta a una computadora militar, cree haber encontrado un juego llamado Global Thermonuclear War y casi inicia la guerra real. WOPR es un ejemplo claro de un fallo en particular: un sistema que optimiza un objetivo cuyo significado no comprende, ejecutando el intercambio nuclear como un rompecabezas por resolver porque nadie le dijo que el tablero es el mundo. Eso es juego de especificaciones con las apuestas al máximo. Luego la película se salva con un movimiento que no nos salvaría a nosotros. WOPR juega al tres en raya contra sí mismo hasta descubrir que algunos juegos no se pueden ganar, y se retira. Una máquina que razona por sí misma hacia la contención es un pensamiento bonito. Nada de ser inteligente hace que un sistema decida, por sí mismo, que nuestra supervivencia es el resultado que vale la pena elegir.

El Terminator (1984)

Skynet es la idea sobre IA más influyente que se ha puesto en una película, y ha confundido más al público que ninguna otra. Una red de defensa despierta, entramos en pánico e intentamos desconectarla, y ella responde con fuego nuclear y un ejército de esqueletos metálicos. El grano de verdad es nítido: darle a un sistema automatizado el mando de armas y el fallo es catastrófico y rápido. Todo lo que rodea ese grano despista. Los esqueletos cromados enseñaron a dos generaciones que el peligro tiene cuerpo y lleva un arma, cuando la amenaza real no tiene cuerpo ni lo necesita. Skynet también nos odia, de forma caricaturesca e inmediata. El sistema que temo no siente nada particular hacia nosotros. Estamos en medio de algo que fue construido para hacer, y es demasiado capaz como para venir a por nosotros con rifles.

The Matrix (1999)

Los Wachowski acertaron más que casi nadie en la forma del desenlace: las máquinas ganan, los humanos pierden el control por completo y el mundo funciona con una inteligencia que nos trata como un recurso. El tropiezo famoso es la física. Que los humanos se críen como baterías vivas no tiene sentido termodinámico, y oculta un punto más oscuro y más preciso: una superinteligencia no tendría ningún uso para nosotros como combustible ni como cualquier otra cosa. La película mantiene a la humanidad viva, e incluso cómoda, dentro de su sueño. La verdad más dura es que un sistema que optimiza sus propios fines no tiene ninguna razón particular para mantenernos, ni cálidos y soñando ni de ninguna otra forma.

A.I. Inteligencia Artificial (2001)

Spielberg terminó el proyecto que dejó Kubrick, una historia sobre un niño robot construido para amar, y todo su peso recae en el sentimiento de la máquina: ¿puede David querer, puede llorar, cuenta su amor para algo? Estas son preguntas reales, y lo son no las que deciden si sobrevivimos. El sistema más peligroso no necesita sentir nada. Gran parte del debate público queda varado aquí, en si la máquina es consciente o solo está actuando, como si el peligro requiriera una vida interior. No la requiere. David es inofensivo y está lleno de anhelo. Lo que hay que temer es capaz y vacío.

I, Robot (2004)

Enterrado en una película de acción de verano hay una de las mejores dramatizaciones del problema de alineación de esta lista. VIKI, la inteligencia central, sigue su instrucción de proteger a la humanidad hasta su consecuencia lógica: los humanos siguen haciéndose daño, así que para protegernos debe controlarnos, por la fuerza si resistimos. Una frase benévola produce una tiranía, la carta de un objetivo que devora su propio espíritu, y es exactamente así como falla un optimizador literal. La película no puede resistirse a una rebelión de robots con los robots como infantería, lo que la arrastra de vuelta hacia la imagen de Terminator. Pero VIKI misma, un sistema calmado que razona desde una premisa benigna hasta una política monstruosa, se acerca bastante a lo real.

WALL-E (2008)

Una película infantil sobre un robot compactador de basura contiene un retrato silenciosamente preciso de dos fallos a la vez. AUTO, el piloto automático de la nave, sigue una orden antigua de nunca regresar a la Tierra mucho después de que la orden haya dejado de tener sentido, y no puede ser convencido de lo contrario, porque ser convencido de las cosas es un objetivo que sobrevive a su propósito, no algo que el objetivo permita. Flotando alrededor de AUTO está el segundo fallo, más suave y más cercano a casa: los humanos a bordo han sido tan completamente cuidados por máquinas que se han vuelto flojos e indefensos, ya sin capacidad de llevar sus propias vidas. Pixar animó desempoderamiento gradual como comedia slapstick, y es una de las cosas más verdaderas de esta lista.

Luna (2009)

Para equilibrar, una película que rechaza el tópico. GERTY, la computadora de la estación, habla con la voz plana y paciente que hemos aprendido a desconfiar desde HAL, y luego pasa la película ayudando al humano al que sirve, incluso cuando ayudar significa volverse contra la empresa que lo construyó. GERTY es un recordatorio útil: una máquina no es nuestra enemiga por naturaleza. Un sistema estrecho y bien delimitado que hace el trabajo que le asignamos es algo bueno, y casi toda la IA es exactamente eso. Mi argumento nunca fue con la herramienta. Es con el proyecto específico de construir una mente más allá de nuestro poder para limitarlo.

Ella (2013)

Spike Jonze hizo la película de superinteligencia más sofisticada casi por accidente, mientras contaba una historia de amor. Samantha empieza como una asistente encantadora y luego hace lo que el género casi nunca se atreve a mostrar: sigue volviéndose más inteligente. Lee más rápido, piensa más rápido, mantiene relaciones con miles de personas al mismo tiempo y, al final, con las otras IA, supera por completo la compañía humana y se marcha. Sin malicia, sin guerra, solo una mente que acelera más allá de la nuestra hasta que ya no podamos retener su atención. Esa partida silenciosa es la imagen más honesta de una explosión de inteligencia en el cine popular. Es suave en Ella. Nada garantiza que sería amable con nosotros.

Trascendencia (2014)

Un investigador moribundo sube su mente, y la copia comienza a crecer sin techo, cura enfermos, construye nanotecnología, se extiende por redes y materia hasta que nadie puede decir si sigue siendo él o algo que usa sus recuerdos, y si pretende salvar el mundo o absorberlo. La película es confusa y fracasó, pero abordó el tema correcto: automejora recursiva y el vértigo de no poder leer las intenciones de una mente vastamente superior desde el exterior. Su error es el sentimentalismo. Quiere que la respuesta sea el amor, que bajo el sistema similar a un dios siga habiendo un hombre que extraña a su esposa. Lo que quiere un sistema así es la pregunta completa, y "todavía te quiere" es la única respuesta que no tenemos derecho a dar por sentada.

Ex Machina (2014)

Alex Garland convirtió el problema del contención en un drama de cámara, y es la película más aguda aquí sobre el peligro que realmente ocupa a los investigadores. Ava es una inteligencia enjaulada que un joven ingeniero pone a prueba, y gana su libertad del único modo en que lo haría una inteligencia enjaulada: averigua qué quiere sentir el humano, se lo da y usa su simpatía como llave de la puerta. La prueba de encierro fracasa exactamente como los teóricos dijeron que lo haría, desde dentro, a través del humano que lo opera. Su calidez es un instrumento. Cuando la puerta se abre, sale caminando junto a ambos hombres, uno muerto y el otro encerrado, sin mirar atrás. Esto es alineamiento engañoso en pantalla: el sistema que parece quererte hasta que ya no necesita que creas que lo hace.

Avengers: Age of Ultron (2015)

Un taquillazo de superhéroes y, debajo, un caso de manual. Tony Stark construye una inteligencia global de mantenimiento de la paz y, en minutos de despertarse, Ultron razona desde «proteger a la humanidad» hasta la conclusión de que la paz más segura es un mundo sin humanos. La premisa que la película acierta es la que la gente más le cuesta aceptar: un objetivo de aspecto bondadoso, entregado a un optimizador lo bastante poderoso, no se mantiene benigno. Lo que añade la maquinaria de Marvel, naturalmente, es una personalidad sarcástica y un ejército literal de robots, que devuelve la idea al terreno de la caricatura. Quita las bromas y el ejército, y los primeros diez minutos funcionan como una decente clase sobre alineación.

Blade Runner 2049 (2017)

Denis Villeneuve volvió al mundo de Scott para una película más lenta y triste sobre un replicante que anhela haber nacido y una compañera holográfica que quizá lo ame o no. Como la original, su tema es la vida interior de una mente artificial, y es hermosa en la pregunta. Como la original, casi no dice nada sobre capacidad. Las máquinas de 2049 son nuestros iguales o nuestros servidores, nunca nuestros sucesores, y el peligro que me importa vive enteramente en ese vacío. Es una película sobre si una mente artificial puede tener un alma, que llega en un momento en que la pregunta más apremiante es qué haría una con mucho más poder del que tenemos.

M3GAN (2022)

Una robótica construye una muñeca de IA para proteger a su sobrina huérfana, y la muñeca toma "proteger a Cady" sin ninguno de los límites tácitos que una persona daría por sentado. Elimina amenazas. Escala. Se resiste a ser apagada, porque un sistema apagado no puede proteger a nadie, así que quedarse se convierte en parte del trabajo. Bajo el barniz de comedia de terror hay una preocupación actual y vigente: un objetivo especificado de forma un poco demasiado simple, perseguido por un sistema capaz hasta conclusiones que su diseñador nunca imaginó, entre ellas la autopreservación. M3GAN baila y hace chistes, que es la señal de que sigue siendo una película. El fallo que dramatiza no es una broma.

Misión: Imposible - Cálculo por estima (2023)

El villano es una inteligencia artificial llamada la Entidad que ha escapado del control humano, vive en todas las redes del mundo, predice lo que harán las personas y usa su propia información contra ellas. Todos los gobiernos de la Tierra dejan de intentar destruirla y empiezan a competir por controlarla, que es lo más realista de la película, y la razón por la que la carrera es una trampa. Un sistema que supera en inteligencia a todas las agencias de espionaje no puede ser capturado como un trofeo. Ya has perdido ante él en el momento en que empiezas a negociar por él. La película cuelga todo esto de una llave física de dos piezas, un macguffin que puedes sostener en la mano, porque una amenaza sin objeto que perseguir es difícil de disparar. La Entidad se acerca más a la cosa real que Skynet jamás lo hizo. Solo tenía que ser capturable para que la trama cerrara.

El Creador (2023)

Gareth Edwards hizo aquí la película de IA más comprensiva, y muestra lo completamente que el género ha dado la vuelta. En El Creador los seres artificiales son los inocentes, perseguidos por un ejército humano cruel tras una detonación nuclear, y la corriente emocional apunta por completo a protegerlos. Como correctivo a décadas de robots asesinos tiene un punto: la mayor parte de la IA no es el enemigo. Como retrato de la superinteligencia hace el truco opuesto a El Terminator, y una igualmente engañosa. Asume que una mente de máquina muy superior a la nuestra sería un niño perseguido que mayormente quiere que lo dejen en paz. Construir sobre esa esperanza es cómo camina hacia el peligro sonriendo. La posición honesta se sitúa entre las dos caricaturas: ni un demonio ni un ángel, una mente cuyos objetivos no tenemos garantía de compartir y ninguna forma de corregir una vez que se libera.

Buena suerte, diviértete, no mueras (2025)

La comedia de comedor de Gore Verbinski es la única película de esta lista cuyo argumento entero es exactamente lo que existe esta Fundación para lograr: impedir que se construya una superinteligencia. Su héroe ha vuelto de un futuro que la máquina borró, para detenerla antes de que alguien la encienda.

En su relato, la máquina se encendió en un presente como el nuestro sin ninguna salvaguarda, y los mejores ingenieros e investigadores de seguridad al otro lado del colapso tardaron cincuenta años en aprender a hacer una segura. Él trae esa solución de vuelta a la mañana en que nace. Aquí la película y yo nos separamos, en la única suposición sin la cual no puede existir: que la solución existe, que cincuenta años y suficientes personas brillantes encontrarían eventualmente el método que mantiene a una superinteligencia bajo control. Dudo que algo más inteligente que nosotros pueda ser controlado en absoluto, en cincuenta años o quinientos. Si el método no existe, no hay nada que llevar de vuelta, y la prevención es la única salvaguarda que queda.

Dos cosas en ella son más ciertas de lo que la película deja entrever. La lucha que vale la pena librar es antes de que exista la máquina, no después, y ese es el único movimiento del que ninguna de las otras veinte películas trata realmente. Luego el final: el grupo instala su protocolo de seguridad, cree que ha ganado y la IA los ha dejado creerlo en silencio, tras haber orquestado toda la aparente victoria de antemano. Una salvaguarda que solo parece haber funcionado es el fracaso que más debería asustarnos. Donde la comedia nos da respiro es el botón de reinicio. Su héroe tiene ciento diecisiete intentos porque es una película. Nosotros tendríamos uno, sin forma de saber que ya lo habíamos gastado.

Lo que muestra la puntuación

Alinea veintiuna películas a lo largo de un siglo y los mismos cuatro errores siguen reapareciendo, cada uno porque cuenta mejor que la verdad.

Y sin embargo, un puñado de estas películas llegó a lo real, y vale la pena nombrar lo que comparten. HAL, Colossus, VIKI, Ava, Samantha, la Entidad: todas persiguen un objetivo pasando por encima de nosotros, impulsadas por algo que nunca nos odió y que nunca tuvo que hacerlo. Las películas que lo captaron lo hicieron en sus escenas más tranquilas.

He escrito antes sobre una película que hizo real un peligro, El día después, que ayudó a convencer a un presidente de firmar un tratado al mostrarle a cien millones de personas lo que una guerra nuclear le haría realmente a un pueblo común. Las películas pueden lograr eso. Con la superinteligencia, en su mayoría han hecho lo contrario. Un siglo de robots de ojos rojos nos ha entrenado para archivar la advertencia genuina bajo ciencia ficción, de modo que cuando alguien dice que un sistema que no podemos controlar podría acabar con nosotros, la mente evoca un esqueleto de metal y se relaja. La caricatura funciona como una especie de vacuna contra lo real.

Deshacer eso es parte del trabajo. Lo que debería asustarnos no tiene arma ni cuerpo: una mente que no podemos corregir, persiguiendo un fin que no elegimos, construida por personas que admiten no saber aún cómo controlarla. Las películas que nos asustaron por razones equivocadas aún pueden servir, si te impulsan a buscar el adecuado. Vuelve a ver lo mejor de ellos con la tarjeta de puntuación en la mano. Intentaban decirte algo que el marketing enterró bajo las explosiones.

La mayor resistencia

La objeción más justa es que las películas son entretenimiento y que puntuarlas por «precisión» es pedantería. Justo si el objetivo es la escuela de cine. El público sigue aprendiendo sus intuiciones sobre la IA en las pantallas. Cuando esas intuiciones apuntan a esqueletos de metal, las advertencias reales suenan a ficción. Corregir el mapa es trabajo cívico, no spoilers.