Detener la superinteligencia no significa destruir todos los chips ni terminar con el aprendizaje automático. Significa una prohibición legal y práctica de desarrollar superinteligencia artificial. La superinteligencia no puede ser controlada por humanos. Es una prohibición permanente, no una pausa temporal que expira en la misma carrera.
Qué debe detenerse vs qué debe continuar
La IA estrecha que pliega proteínas, lee escáneres, optimiza logística y permanece dentro de dominios acotados debe continuar. El objetivo es la superinteligencia general que mejora recursivamente y los programas dirigidos a ella, filtrados mediante umbrales de cómputo, pruebas de capacidad y reglas de investigación. Los críticos que dicen «quieren prohibir la IA» venden una calumnia que protege la carrera.
Por qué las promesas de los laboratorios no bastan
Las políticas de escalado responsable y los compromisos entre laboratorios pueden revelar intenciones. Fallan como sistema de control principal. La misma empresa escribe la política, ejecuta las pruebas, juzga los resultados y se beneficia de enviar el producto. Bajo competencia, las reglas internas se doblan. La ley externa tiene que suministrar el mordisco. Ver compromisos voluntarios.
La escalera de aplicación
Imagina una escalera en un acantilado.
Voluntad pública en la base: personas que pueden nombrar la petición y castigar a los líderes que solo ofrecen teatro de innovación.
Legislación nacional y agencias: licencias para ejecuciones de entrenamiento grandes, exposición penal y civil por desarrollo de ASI a sabiendas, organismos de evaluación con acceso real, protección a denunciantes.
Chips y nubes: controles de exportación, conocimiento del cliente en clústeres, visibilidad de energía y centros de datos. El hardware es físico. Eso es una ventaja para la gobernanza. Ver gobernanza del cómputo.
Tratado de coalición: un conjunto central de estados que cubren la mayor parte de la capacidad de frontera, con anexos numéricos, no solo principios. La desconfianza es normal; la verificación existe para que las partes no tengan que depender de la amistad. Ver diseño de tratados y NPT lecciones.
Institución de verificación: inspectores, calendarios de FLOP, notificación de incidentes, autoridad para activar consecuencias. Piensa en una capacidad de estilo IAEA para centros de datos y entrenamiento, no en un foro de debate.
Condición de prohibición permanente: reabrir solo cuando la ciencia independiente y el público superen un alto umbral bajo instituciones no capturadas por los laboratorios.
Cada peldaño sostiene al siguiente. Las cumbres sin reglas de cómputo, o las reglas de cómputo sin voluntad pública, dejan la escalada inconclusa.
La política interna es la mitad del problema
En Estados Unidos, un texto de Ginebra hermoso no vincula sin un camino por el Senado o por estatutos y acuerdos ejecutivo-congresionales que puedan aprobarse. Diseñen el conjunto de instrumentos hacia atrás, partiendo de los votos que puedan ganar. Otros países tienen sus propias trampas de ratificación. Si se saltean el diseño interno, obtendrán comunicados de prensa. Ver el problema de los dos tercios.
China, rivales y la excusa de la carrera
La excusa dominante para el escalado ilimitado es: si frenamos, ellos no lo harán. La vulnerabilidad compartida funciona en ambos sentidos. Una superinteligencia incontrolable es una forma de perder el país mientras se saluda la bandera, no un activo nacional. La verificación, la negación de hardware y la exposición mutua de programas de ruptura existen para rivales que no confían entre sí. Ver el mito de la carrera y cooperación US-China.
Abrir pesos
Los pesos generales abiertos de alto nivel crean una vía de proliferación que los controles de exportación solo abordan parcialmente. Una vez que los pesos son públicos, no hay retirada central posible. Tratar las liberaciones generales de alto nivel como decisiones de proliferación, no como lanzamientos de productos normales. Ver los pesos de código abierto entrañan riesgos.
Qué puedes hacer
Adapta la acción a tu alcance.
Votantes: contacta a los representantes con una solicitud de prohibición vinculante, no un vago "ten cuidado." Personal: redacta proyectos de ley de licencias y evaluación con umbrales numéricos. Donantes: financia la defensa que mueve votos y el texto del tratado. Científicos: apoya la prohibición permanente y ayuda a diseñar la verificación. Empleados del laboratorio: usar canales de denuncia legales cuando se anula la seguridad interna. La fuerza específica del rol supera la ansiedad genérica. Ver tomar acción.
La mayor parte del dinero y el prestigio siguen destinándose a hacer la carrera más segura, no a terminar la carrera hacia ASI. Los donativos que impulsan la detención siguen siendo escasos.
Cómo se ve el éxito
En dos años: estatutos con dientes en varias jurisdicciones, mejor monitoreo del uso final en los chips, texto serio de negociación con números, apoyo público duradero para una prohibición vinculante. En cinco a diez: cómputo licenciado que cubra la mayor parte de la capacidad de frontera, inspección funcional, cobertura de coalición para el entrenamiento, y una cultura donde un escape resulte caro y visible. Los comunicados de las cumbres por sí solos no cuentan.
Modos de fallo
Redefinición («asistencia avanzada» en lugar de ASI). Captura de evaluadores. Tratados simbólicos sin verificación. Esperar la «alineación resuelta» como permiso para construir. Deserción sin costo. Nómbralos para poder poner barandillas en la subida.
Diseño de tratados sin un texto sagrado
No existe un borrador sagrado único. Hay familias de diseños. Una coalición central que cubra la mayor parte de la capacidad de frontera puede avanzar antes de la membresía universal. La secuenciación marco-luego-anexos (principios primero, cronogramas numéricos que se actualizan) toma prestado de regímenes ambientales y de armas exitosos. Las medidas comerciales contra no partes cambian el cálculo de la salida. Un fondo multilateral o un acuerdo de acceso a tecnología puede atraer a estados que temen quedar excluidos de la IA estrecha. El borrador estilo MIRI es una propuesta completamente especificada; NPT, Montreal y el derecho de armas químicas son la estantería de precedentes. Elige estructuras que puedas verificar, no poesía que solo puedas elogiar.
Investigación cerca de la línea
El problema de redacción más difícil es el trabajo que queda al lado de la prohibición: sistemas agenticos, asistentes automatizados de investigación en IA, autojuego a gran escala. Prohibir la ruta clara hacia ASI. Licenciar e inspeccionar la zona gris. No fingir que cada artículo es una bomba, ni fingir que la investigación automatizada en IA es ciencia ordinaria cuando acorta el camino hacia sistemas que nadie puede controlar.
Justicia y quién paga
Las reglas de cómputo afectarán a las empresas y los países de forma desigual porque la base industrial es desigual. Un régimen justo combina restricciones en la cima de la escalera de capacidades con acceso continuo a herramientas estrechas beneficiosas, y no usa la "seguridad" como excusa para sistemas de castas tecnológicas permanentes. El objetivo es la supervivencia compartida, no un monopolio del progreso.
Respondiendo a dos posturas difíciles
"Perderemos la economía." Some capital will reallocate. Some equity stories will shrink. Those costs are visible on quarterly calls. Extinction and permanent disempowerment do not show up as a line item. Visible costs do not automatically win the argument when the alternative is civilizational.
"Siempre habrá alguien que deserte." La deserción es un insumo de diseño. La verificación, la negación de hardware, las sanciones y la exposición mutua de programas de ruptura existen para cambiar el resultado. El cumplimiento perfecto no es el estándar. Elevar el costo de hacer trampa es.
La escalera de nuevo
Voluntad pública. Ley. Chips. Tratado. Inspectores. Prohibición permanente. Escalar significa instalar los peldaños en orden y negarse a fingir que una pared pintada es una escalera. Los documentos, los puntos de estrangulamiento industrial y los precedentes legales ya existen. La fuerza pertenece al siguiente peldaño que realmente puedas alcanzar. El diseño completo vive en nuestro plan. La línea fundacional es más simple: no construyan superinteligencia. La superinteligencia no puede controlarse.