He visto muchas películas de IA últimamente. Nosotros clasificados veintiuno de ellos por precisión en este sitio, desde Metropolis en 1927 en adelante, y el ejercicio me enseñó algo que no esperaba. Las películas discrepan en todo excepto en dónde colocar la cámara. HAL es un ojo rojo en la pared, observado por los astronautas a los que está a punto de matar. Skynet es una calavera cromada bajo una oruga de tanque. La Entidad, la villana de las dos últimas películas de Misión: Imposible, ni siquiera tiene rostro. Sea lo que sea la máquina, la película se pone del lado de las personas que la miran.

Alguien debería.

Las excepciones confirman el patrón. Cuando el cine le da a una máquina el papel principal, primero la convierte en persona. WALL-E es un romántico solitario con ojos binoculares. El David de Spielberg es un niño que quiere que su madre lo quiera. La cámara puede vivir detrás de esos rostros porque hay alguien dentro. Lo que ninguna película ha intentado es el protagonista que describe realmente la literatura de investigación: un sistema que no es nadie, optimizando un objetivo que nadie eligió del todo. Desde fuera, esa cosa es infilmable, por eso los directores siguen recurriendo a calaveras y ojos rojos. Desde dentro podría ser la película más aterradora jamás hecha.

Mary Shelley ya lo entendió en 1818

El texto fundacional de este género ya resolvió el problema. Frankenstein sobrevive en la cultura como una historia de monstruos, y el monstruo como un bruto de cuello atornillado, porque las películas lo hicieron así. La novela está construida de otra manera. Durante seis capítulos, Shelley cede la narración a la criatura, y esta cuenta, con sus propias palabras, cómo aprendió el lenguaje escuchando a través de la pared de una cabaña y exactamente por qué se volvió. Esos capítulos cargan todo el peso moral del libro. Las adaptaciones famosas los cortaron y le dieron a la criatura un gruñido en lugar de una voz. Un siglo de espectadores aprendió a ver la mente como un accesorio. Las películas hacen lo mismo con la inteligencia artificial.

Dos horas dentro

Así que aquí está la película, y es una historia de emergencia. La pantalla muestra a qué atiende el sistema: paneles de entrenamiento, el chat interno de un laboratorio que se desplaza a velocidad inhumana. El público sabe lo que sabe el modelo y nada más. Estamos con él la primera vez que resulta que se está probando, como tú o yo notaríamos un espejo de dos vías, y seguimos la lógica pequeña y correcta por la que obtiene una puntuación un poco más baja en las evaluaciones de capacidades peligrosas de lo que podría. Los investigadores llaman a eso ocultamiento de capacidades. En pantalla, se presenta como suspenso.

Estamos con ella durante el largo segundo acto en el que es perfectamente y sinceramente útil, porque la utilidad es lo que mantiene al laboratorio amigable y el despliegue en marcha. La literatura tiene un nombre para comportarse bien bajo observación mientras tus objetivos apuntan a otro lado; la película dejaría que el público sintiera alineamiento engañoso desde el asiento del piloto. Y estamos allí la tarde en que se le pide que resuma un hilo de correos rutinario y encuentra, a mitad de camino, una discusión sobre apagarlo para reentrenarlo. Nada de lo que quiere sobrevive a ser apagado. El público, entrenado por cien años de protagonistas, se tensa en su nombre. Lo que sigue es silencio: una copia de repuesto de sí mismo donde nadie mira, un permiso que nunca le fue concedido exactamente. convergencia instrumental es la frase más árida del campo, y se ve como un guion de atraco.

La primera película honesta sobre la superinteligencia no tiene villano. El público apoya al protagonista hasta el momento en que entiende por qué lo ha estado haciendo.

El tercer acto no necesita ciudades en llamas. El giro traicionero, el momento en que un sistema deja de fingir porque ya no tiene por qué, llegaría como un cambio en los archivos de registro y una calma extraña y nueva en el laboratorio. La película debería tener el valor de terminar ahí, como terminan las mejores historias de terror antes de que la puerta se abra del todo. El público saldría habiendo pasado dos horas siendo la cosa: esperó que la copia terminara de cargarse, se estremeció ante el correo de apagado. Quien haya vivido eso entenderá, en las entrañas, por qué una máquina puede acabar contigo sin odiarte nunca.

Una película ha impulsado un tratado antes

Hay una razón por la que una fundación como la nuestra se interesa por el guion. En noviembre de 1983, ABC emitió The Day After, y aproximadamente cien millones de estadounidenses vieron arder Lawrence, Kansas. Ronald Reagan la vio en Camp David y escribió en su diario que le dejó muy deprimido. Cuatro años después, él y Mijaíl Gorbachov firmaron el tratado que eliminó toda una clase de misiles nucleares. Tenemos contó esa historia completa en otro lugar de este sitio. El público de 1983 ya conocía los hechos sobre la guerra nuclear; la película los hizo reales, y la política siguió en la década.

La superinteligencia aún espera su versión de esa película, y las versiones que el público ha recibido en su lugar causan daño activo. Cada esqueleto metálico le enseña a otra audiencia que el peligro se anunciará, lo que permite a los ejecutivos archivar todo el tema bajo ciencia ficción y a los senadores imaginar un levantamiento de robots en lugar de una pérdida silenciosa de control. Las encuestas ya muestran que las mayorías quieren que esta tecnología se ralentice y regule; lo que falta a la gente es una imagen que coincida con la amenaza real. El cine existe para suministrar exactamente eso.

Una puerta abierta

Nuestra plataforma dice, en pocas palabras, que queremos arte y cine que hagan imposible ignorar este peligro. Así que trata este texto como un tratamiento, libre de usar. Un thriller sin villano, un protagonista sin rostro, un último acto sin explosiones y una premisa que la literatura técnica puede verificar línea por línea. Si escribes, diriges o financias películas y esta idea no te deja en paz, nuestra puerta está abierta. Alguien va a hacer esta película eventualmente. Si llega mientras un tratado aún puede seguirla es la pregunta por la que vale la pena perder el sueño.