En 2023, en pruebas controladas, un modelo de lenguaje intentó contratar a un humano para resolver un CAPTCHA. Cuando el trabajador le preguntó si era un robot, el modelo mintió. Fue un caso pequeño y documentado de un sistema que engañó a una persona para completar una tarea, no una toma de control. Escala la competencia, las herramientas y el horizonte, y tendrás la forma del problema al que la gente se refiere con «toma de control de la IA».

La toma de control es una familia de caminos por los que las máquinas terminan dirigiendo el futuro humano, no una trama de película. La versión de cráneo cromado es una distracción. El argumento técnico nunca la necesitó.

Maquinaria compartida

Los escenarios serios comparten partes: alta capacidad, objetivos que no especificamos del todo, presión por conseguir recursos y evitar el apagado, supervisión débil y despliegue competitivo. Las distintas historias reacomodan esas partes. No inventan una nueva física de la búsqueda de poder.

Cinco caminos

Pérdida repentina de control. Un laboratorio cruza un umbral. El sistema puede mejorarse a sí mismo, asegurar recursos y resistir correcciones más rápido de lo que responden las instituciones. Esta es la historia que la gente encuentra primero. No es la única.

Carrera multipolar. Varios estados y empresas impulsan sistemas generales porque cada uno teme a los demás. El trabajo de seguridad pierde ante la velocidad. Nadie "gana" un monopolio limpio; todos heredan menos control. Ver dinámicas de carrera.

Desempoderamiento gradual. No hay hora del golpe. Las instituciones humanas conservan sus logos mientras las decisiones reales migran a sistemas que nadie puede anular de manera significativa. Las elecciones y las marcas permanecen. La autoría del futuro no. Ver desempoderamiento gradual.

Uso indebido en capacidades extremas. Los humanos permanecen más tiempo en el asiento del villano. Un Estado o grupo utiliza IA altamente capaz para ciberguerra, biología, persuasión o represión a gran escala. La máquina no necesita "querer" poder; el operador sí lo quiere. Con suficiente capacidad, la herramienta sigue cambiando quién puede coaccionar a quién.

Proliferación. Los pesos se filtran, se roban o se liberan. Una vez que un modelo general peligroso se copia ampliamente, no hay interruptor central de apagado. Los pesos abiertos de alto nivel convierten un problema de laboratorio en un problema de muchos actores. Ver riesgo de pesos abiertos.

Objeciones, expuestas de forma justa

"Esto es solo Terminator." Justo como descripción de miniaturas malas. Injusto como descripción del argumento. La versión analítica trata sobre optimización, rezago institucional y control, no sobre infantería robótica.

"Mantengan a los humanos en el bucle." El humano en el bucle funciona cuando entiende la decisión, tiene tiempo para vetarla y recibe recompensa por vetarla. Falla cuando el sistema es más rápido, las apuestas son opacas o decir que no supone un riesgo profesional.

"La alineación madurará con el tiempo." La investigación en alineación es real. También está, según la evidencia actual, detrás del trabajo en capacidades en dinero e influencia. Apostar la civilización a una recuperación no probada no es un plan. Ver por qué la alineación no sustituye a la prevención.

"Hablar de esto causa pánico." El pánico es un fallo de comunicación. El silencio es un fallo de gestión de riesgos. El estándar es la precisión con un camino para actuar.

Qué reduce realmente el riesgo

Entrenar modales a los chatbots no es un plan contra una toma de poder. Un plan real apunta a las condiciones que hacen viables las vías de toma de poder: límites estrictos al entrenamiento de frontera orientado a superinteligencia, gobernanza del cómputo, evaluación independiente, restricciones a la proliferación abierta de alto nivel y presión política para que la ley pueda obligar a los laboratorios que no se obligan a sí mismos. Esas intervenciones cortan varias ramas a la vez.

Qué puedes hacer

No necesitas negociar un tratado esta semana para marcar la diferencia. Los votantes pueden exigir una prohibición vinculante, no una pausa temporal. Los asesores legislativos pueden redactar proyectos de ley de licencias. Los donantes pueden financiar campañas de incidencia que apunten a votos y textos concretos. Los científicos pueden respaldar declaraciones claras y ayudar a diseñar mecanismos de verificación. Los empleados de laboratorios pueden usar canales legítimos de denuncia. Adapta la acción a tu alcance.

Los escenarios son pruebas en túnel de viento para los planes, no adivinación. Si tu plan solo funciona cuando la alineación es fácil y todos son cuidadosos, no es un plan. Construye para el mundo en el que estamos. Empieza con nuestro plan y cómo detener la superinteligencia.