Doscientos millones de posiciones por segundo. Esa era la velocidad a la que la Deep Blue de IBM procesaba el ajedrez cuando venció a Garry Kasparov en mayo de 1997. Sigo volviendo a esa partida porque es un modelo claro de cómo malinterpretamos a las máquinas, entonces y ahora, con mucho más en juego en la respuesta. Kasparov perdió ante una máquina que no habría podido decir que estaba jugando al ajedrez. Entender por qué eso es cierto, y por qué no hizo que la máquina fuera peligrosa, vale más que la mayoría de lo que se ha escrito sobre el modelo publicado la semana pasada.
Garry Kasparov, el jugador más fuerte de su generación y, según algunos cálculos, de cualquier generación, cayó ante un programa llamado Deep Blue por tres puntos y medio a dos y medio. Los titulares de la mañana siguiente hablaban de un final: la supremacía humana había terminado. Casi treinta años después, la partida aún tiene algo que enseñar, y está muy cerca de lo contrario de lo que decían esos titulares.
Una máquina superhumana en exactamente una cosa
Deep Blue no pensaba el ajedrez como Kasparov. Buscaba. Diseñado a medida por IBM, examinaba del orden de 200 millones de posiciones por segundo y pasaba cada una por una función de evaluación que sus ingenieros habían ajustado con ayuda de grandes maestros. Miraba más adelante que cualquier persona y jugaba la línea que mejor puntuaba. Eso era todo.
Lo que no podía hacer era casi todo lo demás. No podía jugar un partido amistoso para enseñar a un niño. No podía jugar al ajedrez, ni leer un reloj, ni encontrar un tablero de ajedrez en una fotografía. No sabía que había ganado. Cuando terminó la partida, IBM lo apagó y más tarde lo desarmó, y no opuso resistencia, porque no había nadie dentro que pudiera resistir. Deep Blue era un instrumento magnífico apuntado a un problema acotado. A un centímetro fuera de ese problema estaba inerte.
Recuerda esto. Una máquina cruzó el umbral superhumano en 1997 y el cielo no se cayó. El ajedrez no murió. Hoy es más popular que en cualquier otro momento de su historia. La victoria fue segura con Deep Blue porque, por muy abrumadoramente fuerte que fuera, su fuerza no llegaba más allá del borde del tablero y no había voluntad detrás. La misma razón por la que las herramientas estrechas que hoy transforman la medicina y la ciencia son un regalo y no una amenaza es el argumento que desarrollé con detalle en un artículo aparte sobre el futuro que podemos tener sin superinteligencia.
Confundimos cálculo con intención
Hay un momento del primer juego que siempre me ha quedado grabado. Kasparov ganó ese juego, pero en algún momento Deep Blue jugó un movimiento (el cuarenta y cuatro) que no tenía sentido evidente. Kasparov lo estudió y concluyó que estaba ante algo sutil, un plan que iba más allá de lo que él podía seguir. Eso lo inquietó. Empezó a sospechar que ningún programa podía jugar así, que un gran maestro humano le estaba dando los movimientos a la máquina desde detrás de una cortina.
Según quienes lo construyeron, el movimiento fue un error. Incapaz de decidirse por algo que le gustara, Deep Blue recurrió a un valor predeterminado y jugó algo parecido al ruido. La mente ajedrecística más fina del mundo miró un fallo y vio a un genio mirándolo. Nunca recuperó del todo su equilibrio, y la sospecha lo persiguió durante el resto del encuentro.
Estamos construidos para ver una mente dondequiera que encontremos un comportamiento que no podamos explicar. La máquina no necesita ser inteligente. Solo tenemos que estar convencidos de que lo es.
Mira qué directo es el paralelo con la actualidad. Los sistemas de hoy producen lenguaje fluido, seguro y con sonido humano, y nosotros leemos comprensión en esa fluidez del mismo modo en que Kasparov leía estrategia en el fallo. La sensación de que alguien está en casa es poderosa. Es sobre todo una proyección. Es el mecanismo exacto por el que entregamos confianza que nunca verificamos realmente. Que estos sistemas entiendan algo o no, nos comportamos como si las máquinas lo hicieran. El reflejo no es nuevo. Estuvo frente al tablero de Deep Blue en 1997, y puedes separa las dos preguntas del mismo modo.
El campeón se quebró. La máquina no sintió nada.
Kasparov no perdió solo por el cálculo de Deep Blue. Perdió en parte por su propio sistema nervioso. En la segunda partida abandonó una posición que análisis posteriores mostraron que era tablas. Estaba tan seguro de que la máquina había visto más allá de lo que realmente había visto que renunció a una partida que podría haber sostenido. Para la última partida estaba lo suficientemente alterado como para caer directamente en una trampa conocida en la apertura, un sacrificio de pieza que habría visto venir en cualquier tarde tranquila, y terminó en diecinueve movimientos.
La máquina no sentía nada de eso. No tenía ego que lastimar, ninguna conferencia de prensa que temer, ningún recuerdo de un mal partido que llevar al siguiente. Esa asimetría es permanente y no se trata realmente del ajedrez. Cuando una persona compite con, o llega a depender de, un sistema incansable que nunca duda de sí mismo, lo primero que suele ceder es la persona: nuestra compostura, nuestro juicio, nuestros nervios. Cualquier relato honesto de vivir junto a estas herramientas tiene que enfrentar la fragilidad de nuestro lado de la mesa, no solo la potencia de la suya.
Todos predijeron esto mal, en ambas direcciones
Durante décadas, gente seria había dicho que una computadora no vencería al campeón mundial en mucho tiempo y que, cuando lo hiciera, necesitaría algo parecido a una comprensión genuina. Ambas mitades de esa predicción resultaron erróneas. Llegó antes de lo que permitían los pronósticos confiados. Y llegó sin comprensión alguna. La búsqueda por fuerza bruta llegó primero.
De eso se desprenden dos lecciones que apuntan en direcciones opuestas, por eso la gente suele quedarse con una y dejar caer la otra en silencio. Primera: los hitos de capacidad suelen alcanzarse antes de lo que esperan los expertos, así que apostar por plazos cómodos es un error que ya cometimos una vez, en público. Segunda: que caiga un hito dice mucho menos sobre la llegada de una mente de lo que parece. La victoria de Deep Blue fue un hecho sobre búsqueda y silicio, no un amanecer del pensamiento de máquina. Ambas cosas son ciertas juntas. El progreso puede ser más rápido de lo que crees y más superficial de lo que parece en el mismo año, algo que vale la pena recordar cuando leas la siguiente ronda de pronósticos sobre hacia dónde se dirige todo esto.
La única diferencia que lo cambia todo
Aquí es donde 1997 deja de ser una historia tranquilizadora y se convierte en una advertencia. Casi todo lo que hizo seguro a Deep Blue es algo que ahora, a propósito, estamos eliminando de nuestras máquinas.
Estrecha. Hizo una cosa, y nada más.
Sin objetivos propios. Esperó a que le asignaran un puesto y solo hizo lo que se le pidió.
Apagado y desmantelado al final sin protesta, porque no había nada en él que prefiriera seguir funcionando.
Su fuerza no tenía alcance más allá del tablero.
General. Diseñada para actuar en todos los dominios a la vez.
Se les dieron objetivos abiertos y cada vez más autonomía para perseguirlos.
Se espera que planeen y actúen en el mundo con cada vez menos supervisión humana y, por la lógica de la convergencia instrumental, tengan motivos para resistirse a ser apagados.
Deep Blue no quería nada, por eso se podía desconectar. Un sistema que tiene su propia meta tiene una razón para seguir funcionando, porque no puede terminar el trabajo si alguien llega al interruptor. Esa es una consecuencia directa de construir algo que persigue un objetivo, y tiene un nombre, convergencia instrumental. El momento en que pasamos de herramientas que responden a agentes que quieren, la lección cómoda de 1997 expira.
Qué hizo Kasparov después
El coda es la parte más esperanzadora, y suele omitirse. Kasparov no pasó los años siguientes enfurruñado con la máquina. En menos de un año promovía un nuevo formato, a veces llamado ajedrez avanzado, en el que un humano emparejado con una computadora juega contra otra pareja igual. Lo que surgió fue sorprendente: el competidor más fuerte en el tablero no era ni el mejor gran maestro ni el mejor motor, sino un humano capaz usando bien una máquina. La herramienta no reemplazó al jugador. Lo hizo más grande.
El futuro que vale la pena está disponible ahora mismo: en la medicina, en el laboratorio, en el trabajo cotidiano, el juicio humano ampliado por herramientas estrechas y controlables que no tienen agenda propia. Es un proyecto distinto del que llevan adelante los laboratorios de frontera, que consiste en construir la mente general autónoma que no necesita a ningún humano en el directorio. El primer tipo de proyecto nos engrandece. El segundo está diseñado para volvernos innecesarios, y un sistema que ya no nos necesita es uno del que más nos convendría estar seguros de poder apagarlo. Esa certeza es precisamente lo que aún no existe, que es la amenaza y la razón por la que el plan que estamos impulsando.
En 1997 celebramos un ensayo público de la pregunta que ahora está en el centro de todo: ¿qué hacemos cuando construimos una máquina mejor que nosotros? Deep Blue dio una respuesta suave, porque solo era una herramienta. Una herramienta sin voluntad podía vencer al campeón mundial y dejar al resto del mundo intacto. La siguiente respuesta no será suave por defecto. Depende por completo de que lo que construyamos sea un instrumento más fino o un sucesor con objetivos propios. Debemos hacerlo de forma deliberada, mientras aún sea nuestro hacerlo.
La mayor resistencia
La objeción más justa es que Deep Blue demuestra que un rendimiento superhumano puede ser seguro y limitado, por lo que el miedo a la IA es nostalgia. Deep Blue no quería nada. El camino actual es generalidad más agencia más presión de automejora. Ganarle a un campeón de ajedrez no es el mismo tipo de riesgo que un sistema capaz de superar en planificación a las instituciones.