Un arma nuclear es un diseño envuelto alrededor de un problema de materiales. Se necesita material fisible, por lo general uranio altamente enriquecido o plutonio obtenido por vía de reactor, en cantidades y purezas que no caen del cielo. Las plantas de enriquecimiento son grandes, consumen mucha energía y están llenas de equipo que los servicios de inteligencia han aprendido a detectar durante setenta años. Esa dureza no es toda la historia de la no proliferación, pero es la parte que la física aportó gratis.

Ahora haz el experimento mental que el eslogan omite. Supón que la configuración exacta de átomos que hace una bomba fuera fácil. Supón que los insumos fueran baratos, de doble uso y se vendieran por palés. Supón que un diseño terminado pudiera copiarse como un archivo. ¿Cuántos años le duraría a la especie?

No muchos. Los tratados seguirían importando. También las normas y el miedo. Tendrían que hacer todo el trabajo que hoy hace la dificultad de los materiales, a una escala que ningún sistema de aplicación ha gestionado jamás. El éxito parcial del siglo XX con las armas nucleares es ininteligible sin la fricción en la cadena de suministro. Tuvimos suerte de que el uranio sea exigente.

Qué nos ha dado la dureza

Se sabe que nueve Estados poseen armas nucleares. Esa cifra es un escándalo y también una especie de misericordia. Cientos de Estados tienen el talento científico para entender la física. Muchos menos han completado la maratón industrial bajo sanciones, escrutinio y costos. El Tratado de No Proliferación, los regímenes de control de exportaciones y el sistema de salvaguardias de IAEA se apoyan todos en un hecho simple: el cuello de botella es lo bastante visible como para vigilarlo.

Elimina el cuello de botella y no obtienes un problema diplomático un poco más difícil. Obtienes un mundo en el que el actor marginal, un Estado pequeño, un grupo bien financiado, un comando disidente, puede tomar ciudades como rehenes. La matemática de la disuasión que apenas funciona entre un puñado de potencias sobrias no funciona entre docenas de jugadores con horizontes temporales más cortos. La bomba es aterradora. Las bombas fáciles son una especie distinta de problema.

No sobrevivimos a los materiales nucleares fáciles con mejores discursos. Sobrevivimos a los materiales nucleares difíciles con inspección adicional. La superinteligencia se acerca a lo fácil.

¿Hacia dónde se mueve la IA?

El entrenamiento de frontera todavía requiere mucho dinero, muchos chips e ingeniería seria. Un clúster lo suficientemente grande como para empujar la frontera es un objeto físico en un edificio con una factura de electricidad.

La línea de tendencia no es la de uranio. Los modelos se vuelven más capaces por dólar. Las técnicas mejoran. Los pesos, una vez entrenados, pueden copiarse a costo casi cero. Las liberaciones abiertas y las filtraciones propagan la capacidad lateralmente. El talento es global. Nada de eso hace que la superinteligencia sea gratis mañana por la mañana. Todo apunta lejos del regalo accidental que hizo factible la no proliferación nuclear: una puerta de materiales obstinada.

Compara las dos pilas con honestidad. Para obtener un segundo arsenal nuclear todavía se necesitan plantas, materia prima y tiempo bajo telescopios. Para obtener una segunda copia de un modelo entrenado solo se necesita un disco. Si el objeto peligroso es el agente y no la ojiva, la replicación favorece el patrón de software, no el patrón de isótopos. Tomamos los límites de la metáfora seriamente en otro lugar.

La lección equivocada y la correcta

La lección equivocada es el fatalismo: las entradas se vuelven más fáciles, así que la gobernanza es inútil. Es la imagen especular del eslogan de los laboratorios de que solo más capacidad puede salvarnos. Ambos saltan el intervalo en el que aún estamos, donde las ejecuciones de frontera son visibles y el número de actores serios es pequeño.

La lección correcta es la urgencia sobre la dificultad que tenemos que inventar. Si la física no mantendrá la puerta estrecha, la ley y las normas industriales deben hacerlo. Reglas de conoce a tu cliente sobre chips avanzados. Umbrales de notificación sobre ejecuciones de entrenamiento. Derechos de auditoría. Características de hardware que dificulten ocultar entrenamientos encubiertos a gran escala. Un tratado que diga que la superinteligencia no es un producto permitido. La superinteligencia no se puede controlar. La NPT y el borrador de tratado modelo son intentos de plasmar esa rigidez en papel antes de que el camino fácil termine de abrirse.

Cierra el experimento mental

Imagina informar a un presidente en 1960 con un diseño probado y un mundo en el que el material de bombas se vendiera como fertilizante. Cada instinto en la sala gritaría por control en la fuente. Nadie llamaría a ese instinto anticientífico. Nadie diría que la respuesta es inventar una bomba más inteligente para vigilar a la primera.

Estamos avanzando hacia una capacidad cuyo umbral de materiales naturales es más débil que el de la bomba, mientras nos decimos que la velocidad es seguridad. El experimento mental no es sutil. Si lo peligroso es fácil de hacer, el mundo no tiene una segunda oportunidad. Hazlo difícil a propósito, mientras aún sea posible, o descubre cómo se siente lo fácil sin un registro fósil de supervivientes desde el que argumentar.