Me han llamado doomer más veces de lo que puedo contar. Así que casi todo el mundo que trabaja en seguridad AI en público. La etiqueta llega antes del argumento. Antes de haber dicho una palabra sobre probabilidades o plazos o qué "control" significaría, ya he sido clasificado en un bin, la gente asustada, los que quieren frenar las cosas porque no pueden manejar el futuro. Ordenado, y por lo tanto despedido.

Lo interesante de "doomer" es que está cumpliendo una función; la grosería es el disfraz, no la causa.

El movimiento más efectivo del lado aceleracionista casi no tiene nada que ver con si tienen razón.

De dónde viene la palabra

Alrededor de 2022 y 2023, el debate sobre la seguridad de la IA dejó de ser una conversación interna entre investigadores y se extendió a las redes sociales, donde los argumentos forman equipos y los equipos reciben nombres. El bando aceleracionista (personas que creen que la IA debe construirse lo más rápido posible) adoptó el sufijo «e/acc» como insignia y lo incluyó en sus nombres de usuario. Necesitaban un nombre para el otro lado también. «Doomer» fue el elegido, normalmente emparejado con «decel», abreviatura de deceleración, el pecado de querer ir más despacio.

El ambiente se endureció ese octubre, cuando Marc Andreessen publicó «El manifiesto tecno-optimista». Se lee más como un credo que como un argumento, e incluye una lista de lo que llama «el enemigo», entre cuyos integrantes figuran «el riesgo existencial» y «el principio de precaución», la idea sencilla de que tal vez convenga entender una tecnología poderosa antes de desplegarla a gran escala. Una vez que la preocupación misma queda catalogada como «el enemigo», quienes la sostienen solo necesitan una etiqueta más corta para el uso diario. «Doomer» hizo el resto.

Quiero ser justo con el movimiento del que surgió, porque hay un argumento real debajo, y tenemos lo hemos tomado en serio extensamente en otro lugar. Algunos aceleracionistas hacen afirmaciones sustantivas: que el progreso ha sido la gran fuerza humanitaria, que la regulación pesada conlleva sus propios peligros, que se aprende una tecnología construyéndola. Esas valen la pena discutir. "Doomer" es lo que se usa en su lugar, no una de ellas.

¿Qué hace realmente la etiqueta?

Un alarmista es un personaje, no un argumento. Convierte una discusión en un tipo de personalidad, y a los tipos de personalidad no hay que responderles, solo diagnosticarlos.

Mira lo que realmente dice el lado de la seguridad. Más o menos esto: la probabilidad de catástrofe por un sistema superinteligente es lo suficientemente alta (no cierta, pero lo suficientemente alta) como para que debamos construir la capacidad de controlar estos sistemas antes de construir los sistemas. Puedes cuestionar cada parte de eso. Puedes argumentar que la probabilidad es menor de lo que pensamos, que los plazos son más largos, que «control» es el marco equivocado, que la gobernanza causará más daño que el riesgo que aborda. Todo eso es una conversación real, y parte de ella es una conversación que vale la pena perder.

«Doomer» lo salta. La palabra dice: usted es el tipo de persona que le tiene miedo al mañana. Su posición es un estado de ánimo, no una tesis, y los estados de ánimo no necesitan refutación: la maniobra retórica más antigua, el argumento contra la persona en lugar de contra el punto, con ropa nueva. Su elegancia radica en que nunca tiene que tocar el desacuerdo real. Traslada toda la pelea de «¿es esto cierto?» a «¿qué clase de persona cree esto?», donde el aceleracionista ya decidió la respuesta.

La palabra convierte un argumento en un tipo de personalidad, y los tipos de personalidad no tienen que ser respondidos, solo diagnosticados.

Por qué impacta

La etiqueta funciona porque se basa en cosas que la gente ya quiere creer de sí misma.

Empieza por lo obvio: nadie quiere ser el pesimista. El optimismo se lee como confianza y empuje; la cautela se lee como timidez y miedo. Enmarca la elección como constructor versus agorero y la mayoría de la gente ya sabe en qué silla preferiría sentarse. El encuadre ha hecho su trabajo antes de que llegue un solo hecho a la mesa.

También se nutre de algo más profundo, una historia genuina y en gran medida honorable que Estados Unidos se cuenta sobre sí mismo. El progreso es bueno. Quienes temieron el ferrocarril, la imprenta o la luz eléctrica estaban equivocados, y la historia los recuerda como tontos. Los aceleracionistas sacan esa historia del estante completa y presentan al defensor de la seguridad como el último nombre en la lista de personas asustadas que el futuro avergonzará. Es una historia poderosa precisamente porque suele ser cierta. El movimiento consiste en asumir, sin argumentar, que vuelve a ser cierta esta vez, que la superinteligencia es la imprenta y no algo nuevo. Si es la misma historia es toda la cuestión, y la etiqueta existe para que la pregunta nunca se formule.

A quién va dirigida la palabra

Alinea a las personas a las que se les lanza y la caricatura se desmorona en tus manos.

Geoffrey Hinton dejó Google en 2023 para poder hablar del riesgo sin un supervisor corporativo; está tan cerca de ser un padre fundador como tiene el campo. Yoshua Bengio, uno de los investigadores más citados vivos, llegó a la misma preocupación desde su propio trabajo. En mayo de 2023, cientos de científicos y ejecutivos (incluidos los líderes de los laboratorios que corren para construir la tecnología) firmaron una sola frase que coloca el riesgo de extinción por IA en la misma categoría que las pandemias y la guerra nuclear. No les tiene miedo a la tecnología. Ellos la construyeron. Sea como se llame su posición, «asustados del futuro» no es una descripción de ella, es una forma de no escucharla.

La palabra también aplana un espectro amplio hasta reducirlo a un punto. Hay una distancia enorme entre quien piensa que la catástrofe es casi segura y quien la sitúa en unos pocos puntos porcentuales y quiere un seguro de todos modos, la distancia entre un profeta y un actuario. Ambos quedan archivados como «doomers». La etiqueta no ve la diferencia porque nunca fue construida para eso; su función es hacer que un conjunto de opiniones técnico, variado y a menudo bastante moderado parezca un solo culto de ojos desorbitados. Escribimos todo un artículo sobre el verdadero rango de estimaciones de expertos por exactamente esta razón. El rango es lo que la etiqueta está diseñada para borrar.

El indicio

Esto es a lo que sigo volviendo. Un movimiento seguro de su respuesta a la pregunta de seguridad no necesitaría un apodo para quienes la plantean.

Si el riesgo catastrófico es realmente cercano a cero, esa es una afirmación que puedes defender en público. Muestra el razonamiento. Explica por qué los investigadores que construyeron los sistemas se equivocan sobre los sistemas que construyeron. Argumenta que la alineación resulta ser fácil, o que una mayor inteligencia trae consigo mayor cuidado de forma fiable, o que la carrera entre laboratorios se corrige a sí misma antes de que alguien corte una esquina fatal. Son argumentos difíciles, pero existen, y cuando los aceleracionistas los hacen de verdad podemos tener el debate, el que intentó tenerlo por completo.

La palabra «doomer» es lo que llena el espacio donde ese argumento debería estar. Recurres a una etiqueta cuando prefieres no abordar el punto. Nombrar a tu oponente es más barato que refutarlo, y desde lejos parece suficiente victoria como para que la multitud a menudo no distinga cuál acaba de presenciar.

Cómo responderlo

Rechaza el marco. En el instante en que la conversación se convierte en constructor versus agorero, la sustancia ya ha salido de la habitación. Devuélvela al nivel del objeto con una sola pregunta: ¿qué probabilidad le estás asignando al riesgo catastrófico, y por qué ese número? Casi nadie que blande la palabra como arma puede responder, porque la palabra está ahí precisamente para que nunca haya tenido que hacerlo. Si quieres ver cómo se construye realmente ese número en lugar de afirmarlo, elaboramos un P(doom) calculadora que desglosa los elementos.

Luego quítale la etiqueta a la afirmación. «Doomer» pega una caricatura (un pesimista adicto a la oscuridad que odia el progreso) sobre una afirmación que suele ser mucho más estrecha y mucho más aburrida: que esta tecnología en particular conlleva un riesgo particular que merece un cuidado particular. Sepáralas. Puedes amar la tecnología, desear la abundancia que describen los aceleracionistas, creer que el futuro puede ser extraordinario y aun así pensar que deberíamos poder dirigir una superinteligencia antes de encenderla. Esas no son posiciones opuestas. La argumento para el buen futuro pasa directamente por hacer bien esta parte, no rodeándola.

No creo que la mayoría de las personas que usan la palabra lo hagan de mala fe. El encuadre es genuinamente seductor, y la confianza es fácil de confundir con la corrección, especialmente cuando viene con una buena historia adjunta. Pero cuando el movimiento más fuerte que puede hacer un movimiento contra sus críticos es ponerles un nombre poco halagador, eso te dice algo sobre el terreno en el que se está parando. Nuestra caso no se basa en el miedo ni en odiar el progreso. Se basa en una pieza sólida y poco glamurosa de prudencia: para un error que no puedes deshacer, construyes los frenos primero.