Drop me into 1958 and I do not think I would have hesitated. I would have spent my life trying to keep the world from ending. My foundation would have worked on keeping the United States and the Soviet Union from a thermonuclear war, not out of any special courage, but because that was the fight that decided whether there would be a future to argue about at all. Every other cause sat downstream of it.
Yo no tuve esa pelea. La bomba se construyó, se apuntó y, hasta ahora, nunca se volvió a usar contra una ciudad después de 1945. Las personas que lograron ese «hasta ahora», las que durante la Guerra Fría construyeron las prohibiciones de pruebas, las líneas directas y los regímenes de verificación que impidieron que un tenso enfrentamiento se convirtiera en uno final, hicieron parte del trabajo más importante del siglo pasado. La mayoría nunca será famosa por ello. La prevención es silenciosa por naturaleza. Cuando funciona, no pasa nada, y nada es algo difícil de poner en un monumento.
La misma forma, una nueva arma
When I say we are living through a new Cold War, I mean the same shape: the United States and China racing toward a technology neither can let the other reach first, that could end the human story if it goes wrong, and that no one racing can honestly claim to control. Swap the hydrogen bomb for artificial superintelligence and you have 1958 and 2026 in one sentence.
No soy el único que escucha el eco. En junio, el director de la CIA le dijo a una audiencia en Washington que no estaría fuera de lugar llamar a las capacidades de la IA de frontera actual "armas nucleares digitales."
Las diferencias van en la dirección equivocada
Hay diferencias reales entre entonces y ahora, y esta es la parte que me mantiene despierto. Casi todas ellas hacen nuestra situación más difícil, no más fácil. Un arma nuclear permanece en manos humanas; una superinteligencia no. El material nuclear es físico, por lo que puede extraerse y contarse. Las entradas a la IA son chips y código, más difíciles de ver y más fáciles de ocultar, aunque no es imposible de gobernar. Y la Guerra Fría les entregó a sus participantes algo que quizá no tengamos: tiempo. El mundo tuvo años para asimilar Hiroshima, para sentir el miedo en el estómago y para construir instituciones en respuesta. La capacidad de la IA avanza más rápido que cualquier institución que tengamos.
Lo que la Guerra Fría realmente demostró
Pero la misma era demolió la afirmación en la que más se apoyan los aceleracionistas: que rivales que no se fían entre sí nunca pueden acordar contenerse. Washington y Moscú no confiaban en absoluto el uno en el otro, y aun así firmaron acuerdos de control de armas vinculantes y verificables, porque ambos veían que una carrera sin límites los dejaba peor que una regla que los atara por igual. La desconfianza era la razón de los tratados, no el obstáculo para ellos. Si dos gobiernos pudieron encontrar esa lógica con decenas de miles de ojivas apuntando a las ciudades del otro, la afirmación confiada de que Estados Unidos y China nunca pueden hacer lo mismo con la IA es una coartada para continuar, disfrazada de realismo duro.
Por qué existe la Fundación
El equivalente de esa lucha le tocó a mi generación, y esta vez estoy aquí para enfrentarla. Me niego a formar parte de la generación que construyó el arma capaz de apuntarse a sí misma y que se dijo a sí misma, todo el camino, que no tenía otra opción.
Las personas que evitaron lo peor de la Guerra Fría lo lograron insistiendo, pese a las objeciones de quienes los llamaban ingenuos, en que ciertas tecnologías son demasiado peligrosas para dejarlas en manos de una carrera. Tenían razón entonces. La única tarea que importa ahora es volver a tener razón, y a tiempo.