Los debates sobre la seguridad de la IA suelen centrarse en escenarios lejanos: sistemas superinteligentes con objetivos desalineados, giros traicioneros en umbrales de capacidad aún no alcanzados. El riesgo de persuasión por IA es distinto. La forma básica de la amenaza ya existe en sistemas disponibles hoy, que afectan elecciones y el discurso público en este mismo momento. La versión más peligrosa a largo plazo es una extrapolación de tecnología que avanza rápidamente, no un futuro puramente hipotético.
La versión a largo plazo (IA capaz de modelar y explotar la psicología individual con precisión superhumana) es la dirección hacia la que se mueve la tecnología.
La preocupación no es simplemente que la IA facilite escribir propaganda; tecnologías anteriores ya lo hacían. La preocupación es que la IA permite algo cualitativamente distinto: mensajes persuasivos altamente personalizados a escala masiva, adaptados a perfiles psicológicos individuales y actualizados en tiempo real según las respuestas. La combinación de personalización, escala y bajo costo marginal produce una capacidad de influencia que ninguna herramienta anterior ha igualado.
Qué hace diferente a la persuasión de la IA
Las operaciones de influencia tradicionales (publicidad de difusión, mensajes políticos, propaganda estatal) llegan a muchas personas con el mismo mensaje. El mensaje puede estar cuidadosamente elaborado y probado exhaustivamente, pero es necesariamente un compromiso entre diferentes audiencias. Un persuasor humano hábil puede adaptar su enfoque a la persona concreta con la que habla, pero solo puede hablar con un número limitado de personas. Estas dos capacidades (escala de difusión y personalización individual) han estado históricamente en tensión.
La IA disuelve esta tensión. Un sistema con acceso a datos individuales (historial de navegación, redes sociales, respuestas previas) y la capacidad de generar contenido persuasivo variado puede alcanzar simultáneamente a millones de personas y adaptar cada interacción al individuo específico. El costo marginal de generar otro mensaje persuasivo personalizado se acerca a cero. El sistema puede iterar en función de qué enfoques funcionan y cuáles no, en tiempo real, a una escala que ninguna operación de influencia humana puede igualar.
el problema de la asimetría
El poder de la persuasión por IA está muy concentrado. Desplegar una IA optimizada para la persuasión a escala requiere recursos sustanciales, datos, cómputo, capacidad de ingeniería y acceso a canales de distribución. Estos requisitos favorecen a actores bien financiados: grandes corporaciones, Estados-nación, individuos adinerados. Las personas objetivo no tienen una capacidad de contraataque equivalente. Es posible que eventualmente tengan acceso a herramientas de IA que les ayuden a evaluar el contenido que encuentran, pero la asimetría ofensiva y defensiva favorece al atacante en el corto plazo.
Una campaña que antes necesitaba un almacén de redactores ahora puede generar mil variantes de un mensaje antes del almuerzo, cada una ajustada a un segmento de votantes. Eso ya es una categoría de producto, no un boceto de futuro lejano. La persuasión a esa resolución es un riesgo de IA que aparece antes de que nadie construya un modelo divino.
Este es un problema estructural, no un problema sobre ninguna pieza específica de desinformación. Incluso si cada afirmación individual en una operación de influencia habilitada por IA es técnicamente verdadera, el ataque sistemático a vulnerabilidades psicológicas a escala distorsiona el entorno epistémico del que depende la deliberación democrática. El objetivo de las operaciones de influencia es moldear cómo se sienten las personas sobre temas, candidatos e instituciones de maneras que sirvan a los intereses del operador, no necesariamente para engañar.
La evidencia a corto plazo
Se ha documentado contenido de influencia generado por IA en elecciones nacionales de varios países desde 2023. Operaciones de influencia que usan IA para generar medios sintéticos, fabricar citas de figuras públicas reales y producir publicaciones coordinadas de alto volumen a una escala que requeriría grandes equipos de operadores humanos han sido identificadas e informadas por investigadores independientes y equipos de seguridad de plataformas. Las operaciones se han vuelto más difíciles de detectar a medida que el contenido generado por IA ha mejorado, y las herramientas de detección van a la zaga de las herramientas de generación.
El riesgo está presente en el entorno tecnológico actual, afecta procesos políticos reales y la trayectoria apunta a herramientas de persuasión más capaces y difíciles de detectar, no a algo hipotético. La pregunta es qué respuestas de gobernanza son proporcionales y efectivas, no si hay que tratar esto como un riesgo real.
La escalada a largo plazo
Las herramientas actuales de persuasión con IA son efectivas, pero no están optimizadas para persuadir a nivel fundamental. Los sistemas futuros con modelos más sofisticados de la psicología individual, datos más detallados sobre las personas y mayor capacidad de simular relaciones a largo plazo podrían ser sustancialmente más efectivos. Un sistema capaz de construir un modelo persistente de las creencias, preocupaciones y vulnerabilidades psicológicas de un individuo, e interactuar con él durante semanas o meses, podría producir efectos mucho mayores que los que logran las herramientas actuales.
Esta es la forma que adopta el riesgo de persuasión de la IA en el extremo de la superinteligencia: no desinformación masiva simple, sino manipulación epistémica individualizada a largo plazo por sistemas con modelos de psicología humana mucho mejores que cualquier herramienta actual. La conexión con escenarios singleton y fijación de valores es directo: un actor con herramientas de persuasión por IA altamente efectivas podría usarlas para moldear la opinión pública sobre la gobernanza de ASI, dificultando que las instituciones democráticas impongan las restricciones que limitarían su poder.