Prevención, no una pausa
Una desaceleración temporal devuelve el botón de reinicio a la misma carrera. Queremos una prohibición permanente. La superinteligencia no puede controlarse.
Una pausa
Frenar los laboratorios unos años. Esperar a que la seguridad alcance a ponerse al día. Luego reanudar. La superinteligencia sigue siendo el destino. Lo único que cambia es el reloj.
Prevención
Prohibir sistemas que superen un umbral de capacidad general. Sin reinicio programado. La prohibición se mantiene mientras nadie pueda controlar una mente más inteligente que sus creadores.
No existe ningún método de control validado
No a pequeña escala. No a gran escala. Los laboratorios líderes lo dicen públicamente. Una pausa que asume que la alineación terminará a tiempo es una apuesta sin método detrás.
La IA estrecha sigue avanzando
Medicamentos, modelos meteorológicos, optimizadores industriales, herramientas de programación. Los sistemas sin agenda abierta siguen siendo legales y financiados. La línea está en la mente general autónoma, no en la IA en su conjunto.
Los tratados ya funcionan así
El Tratado de No Proliferación Nuclear no pausa las bombas durante cinco años. Limita quién puede construirlas, con inspecciones. Las armas químicas y los productos químicos que afectan la capa de ozono recibieron el mismo tratamiento. La superinteligencia necesita esa forma de ley.
Los gobiernos deben prohibir la superinteligencia artificial mediante un tratado internacional verificado. La superinteligencia no puede ser controlada por humanos, por lo que la prohibición es permanente.