El mito de la carrera con China
La frase que escucharás en toda sala seria. Expresada con justicia. Respondida para que puedas llevarla.
"Si frenamos, China simplemente se adelanta y gana."
El primer país en construir superinteligencia posee un activo nacional decisivo.
Eso solo funciona si alguien puede dirigirlo. Un sistema más inteligente que sus operadores no se puede apuntar como un arma. La pérdida de control no respeta fronteras ni banderas.
La contención es un desarme unilateral. Pekín no se detendrá.
Pekín tiene el mismo problema de extinción que Washington. La vulnerabilidad mutua es la razón por la que el control de armas nucleares funcionó entre enemigos. La ruina compartida convierte un límite mutuo verificado en el movimiento de seguridad, no en una carrera por perder el control primero.
Harán trampa. Los tratados son papel.
El miedo a hacer trampa es real. Es un diseño de tratados problema: rastreo de chips, licencias de clústeres, inspecciones en sitio, la misma familia de herramientas usadas para el material fisible. El riesgo de deserción es precisamente por lo que existe la verificación. No es razón para lanzarse primero al precipicio.
Los enemigos no restringen la tecnología peligrosa.
Los US y USSR negociaron límites nucleares en plena hostilidad. El Tratado del Espacio Exterior prohibió armas en órbita durante la Guerra Fría. Los enemigos pueden restringir una actividad sin confiar el uno en el otro en todo lo demás.
"Una carrera por construir algo que nadie puede controlar no tiene ganador. La jugada de seguridad nacional es una prohibición mutua e inspeccionada de los sistemas que terminan con el control, no un concurso para perderlo primero."
Refutación completa: nakadafoundation.org/myths/