¿Cómo gastas cinco minutos cuando la persona al otro lado de la mesa todavía cree que IA significa ChatGPT redactando un correo? He tenido esta conversación en conferencias y mesas de cocina durante años, y la he perdido de casi todas las formas posibles. La mecánica se acumula, los ojos se vidrian. La perdición se acumula y la gente te archiva con el predicador callejero y vuelve al postre. Lo que sobrevive ante un extraño escéptico e inteligente son cinco movimientos, en este orden.
Imagen del chatbot
Cuando alguien oye "IA", imagina el asistente de su teléfono o la aplicación que hace imágenes divertidas. Eso no es lo que me preocupa. Empieza por ahí y la sala ya está perdida, porque saben que el chatbot no va a acabar con el mundo. Mueve el objetivo en los primeros quince segundos.
La cosa que vale la pena preocuparse es una máquina mejor que el mejor humano en esencialmente todas las tareas que importan, incluyendo la tarea de diseñando máquinas mejores. El nombre para ello es superinteligencia artificial, y aún no la tenemos. Lo que tenemos es una intención declarada. Las mayores empresas de IA del planeta dicen que construirla es el objetivo, y varias esperan llegar en años en lugar de generaciones. La mayoría de la gente no conoce ese hecho único, y ese hecho hace casi todo el trabajo. Construir una mente más inteligente que nosotros es el proyecto principal de los laboratorios mejor financiados que existen. Ellos mismos te lo dirán.
La única frase que cambia la conversación
Nadie sabe cómo controlar una máquina más inteligente que uno mismo, y sin embargo la estamos construyendo de todos modos.
El problema de lograr que una IA poderosa quiera de forma fiable lo que sus creadores quieren, y siga queriéndolo a medida que se vuelve más capaz, tiene un nombre: el problema de control. Está sin resolver. Los ingenieros dentro de estas empresas dirán lo mismo si se les pregunta sin un oficial de prensa presente. Pueden elevar la capacidad de un modelo mucho más rápido de lo que pueden aumentar su confianza en que hará lo que pretendían. La distancia entre esas dos líneas es donde vive el riesgo.
Di ese hecho. Luego deja de hablar. Déjalo ahí.
Estamos construyendo una mente más inteligente que la nuestra, a propósito, antes de tener idea de cómo mantenerla apuntando en nuestra dirección.
Por qué "más inteligente" es todo el problema
La gente subestima la palabra «más inteligente», así que dale un momento más. La inteligencia puso a los humanos al mando de este planeta. No somos las criaturas más grandes ni más fuertes que han existido. Dirigimos el lugar porque pensamos mejor que todo lo demás que hay en él. El futuro del gorila de montaña depende de decisiones tomadas por nosotros, no por los gorilas, y no porque alguien odie a los gorilas. Nosotros tenemos objetivos. A veces el bosque de un gorila está donde esos objetivos quieren llegar.
Ahora imagina construir algo que esté a nosotros como nosotros estamos a los gorilas. Si sus objetivos y los nuestros divergen, la hostilidad es opcional. Basta con que su capacidad apunte en otra dirección. No puedes planificar mejor que algo que planifica mejor que tú. Las versiones posteriores no arreglan eso.
El apagado y la ciencia ficción
La primera: simplemente la apagaríamos. Un sistema lo bastante inteligente como para ser peligroso es lo bastante inteligente como para notar que apagarlo impediría que termine lo que se le ordenó hacer. Por eso tiene un motivo para evitarlo, copiándose en otro lugar o volviéndose demasiado útil para desconectarlo. La fe en el interruptor supone que seguimos siendo la parte más inteligente de la habitación. La premisa de la preocupación es que no lo seríamos. He escrito más sobre por qué contenerla es más difícil de lo que parece.
La segunda: esto es ciencia ficción. Lo fue, hasta que los sistemas empezaron a aprobar pruebas que estábamos seguros de que tardarían décadas y a hacer trabajos que dábamos por seguro que eran exclusivamente humanos. No te daré una fecha. Nadie tiene una en la que se pueda confiar. Los investigadores más cercanos al trabajo han dejado en privado de llamar lejana a la superinteligencia, y sus cronogramas publicados seguir acercándonos en lugar de alejarnos más.
Termina donde puedan hacer algo
El error que cometí durante años fue quedarme en el miedo. Dejar a una persona asustada sin nada que hacer hace que archive el tema bajo «demasiado grande para pensarlo» y vuelva a su noche. Dedica el último minuto a la parte que la gente pasa por alto.
Esto se puede prevenir.
Ninguna ley de la naturaleza exige superinteligencia esta década, ni en absoluto. Un pequeño número de empresas está eligiendo construirla y un pequeño número de gobiernos está eligiendo permitirlo. Las decisiones se pueden deshacer. Lo que pide la Fundación es un acuerdo entre las principales potencias para prohibir permanentemente la construcción de superinteligencia. La superinteligencia no puede ser controlada por humanos. La humanidad ha ya lo hemos hecho antes, con armas que todos los bandos querían y que ningún bando podía usar de forma segura. Un tratado entre rivales es menos fantasía de lo que parece a primera vista.
Lo que está entre nosotros y eso es una decisión que la gente aún puede tomar.
Cinco minutos.
Alguien dispuesto a escuchar.
- No es el chatbot. El objetivo que estas empresas han nombrado en voz alta es una máquina más inteligente que nosotros en todo, y esperan lograrlo en pocos años.
- Nadie sabe cómo controlar algo más inteligente que nosotros. La capacidad está superando al control, y esa brecha es el peligro.
- La inteligencia es lo que puso a los humanos en la cima. Construye algo por encima de nosotros, y sus objetivos, no los nuestros, establecen los términos.
- "Apágalo" y "eso es ciencia ficción" ambos asumen que seguimos al mando. La preocupación entera es que no lo haríamos.
- Es prevenible. La superinteligencia se está construyendo por elección, y esa elección puede ser rechazada, juntos, mientras aún haya tiempo.
No vas a resolver la cuestión en cinco minutos. No es eso lo que intentas. Intentas que una persona pase de «la IA es mucho» a «espera, ¿por qué alguien está construyendo eso?». Ese segundo pensamiento es el que importa. Casi nadie ha sido invitado a tenerlo.
La mayor resistencia
La objeción más justa es que las versiones de cinco minutos son eslóganes, no argumentos, y entrenan a la gente a esperar riesgos de caricatura. Las versiones cortas siguen necesitando un mecanismo real: capacidad, objetivos mal especificados y presión competitiva. Si tus cinco minutos solo dicen "los robots son malos", reescríbelos. Si nombran el mecanismo, consérvalos.