"Soy optimista. Seguramente la raza humana no se extinguirá. Eso nunca ha pasado antes." Lo oyes después de paneles de seguridad, en camerinos y hilos de comentarios, casi siempre con una sonrisa que pretende cerrar el tema. La sonrisa hace un trabajo social real. Pinta la cautela como un defecto de personalidad y el impulso como salud emocional. También introduce de contrabando una afirmación de riesgo dentro de un estado de ánimo.

El optimismo está permitido. Lo que no está permitido, si aún estamos haciendo un trabajo serio, es tratar un temperamento como evidencia.

Qué dice realmente "nunca antes había pasado"

La extinción humana, por definición, no tiene testigos humanos después. Toda persona viva está muestreando las líneas temporales en las que la especie continuó. Llámalo selección, no filosofía: un ganador de lotería es una mala fuente sobre las probabilidades de ganar, y «nunca he muerto en un accidente de coche» es un argumento pobre contra los cinturones de seguridad.

El registro fósil es menos sentimental. La gran mayoría de las especies que alguna vez vivieron han desaparecido. Varias extinciones masivas despejaron el tablero para lo que vino después. Homo sapiens es joven en tiempo geológico y ya ha pasado por cuellos de botella, plagas y guerras que podrían habernos terminado en un lanzamiento más frío de los dados. "Nunca había pasado antes" es una declaración sobre la delgada porción de historia que aún podemos discutir.

Las primeras veces son las que causan las catástrofes

Antes de 1945, ninguna ciudad había sido destruida por una sola bomba. Antes de 1918, ninguna pandemia había viajado por las redes globales de ferrocarril y barco a esa velocidad. Antes del trabajo sobre el ozono en los años ochenta, nadie había realizado el experimento humano de adelgazar la capa que impide que la luz ultravioleta esterilice la superficie. Cada uno de esos casos era, de antemano, algo que nunca había ocurrido. Quienes actuaron no esperaron a que hubiera un caso completado disponible como estudio.

La superinteligencia artificial entra en esa categoría. No existe una serie histórica de superinteligencias desalineadas sobre la que promediar. Existe un mecanismo: sistemas que persiguen objetivos, mejoran sus propias capacidades y terminan superando a las instituciones destinadas a corregirlos. El mecanismo es lo que se usa cuando las tasas base callan. Exigir una extinción humana previa por IA antes de tomar el mecanismo en serio es pedir el cadáver antes del diagnóstico.

Cada primera catástrofe parece, de antemano, algo que nunca ha sucedido antes.

Optimismo, bien enfocado

Hay una versión del optimismo que respeto. Dice: la gente ya ha coordinado bajo presión antes. Los tratados han funcionado. Las industrias han tenido que cambiar de rumbo cuando la ciencia era clara y la política se organizó. La historial de contención es real, desde el control de armas nucleares hasta los químicos que estaban destruyendo la capa de ozono. Ese optimismo apunta a la agencia. Asume que el futuro sigue siendo una decisión.

La versión de camerino hace lo contrario. Trata la supervivencia como la configuración predeterminada del universo y la preocupación como malos modales. Confunde "Prefiero buenos resultados" con "los buenos resultados son por lo tanto probables."

Cuando Geoffrey Hinton, Yoshua Bengio y cientos de investigadores colocaron el riesgo de extinción por IA al mismo nivel que las pandemias y la guerra nuclear, estaban haciendo lo que suelen hacer los expertos cuando un mecanismo parece sólido y la desventaja es total, no postulándose como villanos en una keynote tecnológica. Puedes discrepar de sus números. No puedes descartar la categoría anunciando tu tipo de personalidad.

El costo del encogimiento de hombros

El encogimiento de hombros ayuda a quienes necesitan que la construcción continúe sin pelea. Si se reformula el discurso de la extinción como un problema de «vibe», el único movimiento educado es volver al tema de la productividad y las aplicaciones. Mientras tanto, los laboratorios escalan, las evaluaciones se quedan atrás y la problema de control sigue sin resolverse. El ánimo se ha confundido con la gobernanza.

Quiero que el proyecto humano continúe. Quererlo es la mitad fácil. La mitad difícil es rechazar un camino de desarrollo que concentra un poder incorregible en sistemas que nadie puede apagar de forma fiable, y hacer el trabajo político que parada vinculante requiere. Si el optimismo solo significa "deja de hablar de lo negativo", se ha convertido en una nana.

La extinción nunca nos ha ocurrido antes.