Informe de Un Minuto
Para el personal que no leerá un documento técnico. Entrega esto. Habla los números. Siéntate.
Los laboratorios privados están compitiendo hacia la superinteligencia artificial. No hay tratado, ni inspección, ni interruptor de apagado verificado. Las advertencias científicas no son marginales. La brecha de gobernanza es total.
500+
Expertos firmaron la declaración CAIS de 2023 que equipara el riesgo de extinción por IA con pandemias y guerra nuclear
$190M
Aprox. gasto anual en seguridad de IA, frente a más de $250B en hacer sistemas más poderosos
0
Tratados globales vinculantes sobre el desarrollo de superinteligencia hoy
La petición
Tres movimientos
- Ley doméstica: licenciar grandes ejecuciones de entrenamiento; requerir evaluación independiente previa al despliegue.
- Conversaciones multilaterales: negociaciones abiertas sobre una prohibición con verificación.
- Financiamiento: expandir la capacidad de evaluación independiente y diseño de tratados fuera de los muros de los laboratorios.
El marco
Prevención · IA estrecha segura
No pedimos congelar la medicina ni el software. Pedimos prohibir sistemas generales autónomos que superen una línea de capacidad. La superinteligencia no puede controlarse. Precedentes: el Tratado de No Proliferación Nuclear, la prohibición de armas químicas, el Protocolo de Montreal.
Objeción anticipada: "China no cooperará."
Luego construye verificación (seguimiento de chips, inspección de clústeres) y trata la deserción como un problema de aplicación. Una carrera unilateral hacia un sistema incontrolable no es una estrategia.
Informe del personal: nakadafoundation.org/contact/ · Plan: nakadafoundation.org/our-plan/ · PDF de la política: nakadafoundation.org/resources/pdf/policy-brief/