Gobernando la superinteligencia:
Un resumen para responsables de políticas
El argumento a favor de una gobernanza internacional de la seguridad de la IA: el problema, lo que se necesita y los precedentes que demuestran que es posible.
Una tecnología sin precedentes sin marco de gobernanza
La superinteligencia artificial (un sistema que supera la inteligencia humana en todo dominio) está siendo desarrollada activamente por corporaciones privadas que operan con mínima supervisión regulatoria. Los principales laboratorios de IA han declarado internamente que esperan alcanzar este umbral dentro de esta década.
A diferencia de riesgos tecnológicos anteriores, la superinteligencia no cuenta con ninguna arquitectura de gobernanza internacional existente. No hay tratado, ni organismo de verificación, ni norma de seguridad multilateral, ni mecanismo para detener el desarrollo si aparecen señales de alerta. La brecha de gobernanza es total.
La ventana para una gobernanza efectiva se está cerrando
Los marcos de gobernanza internacional requieren años de negociación para establecerse. El Tratado de No Proliferación Nuclear tardó una década de diplomacia tras las primeras pruebas nucleares. El Protocolo de Montreal necesitó un sostenido consenso científico antes de lograr su adopción multilateral.
El desarrollo de capacidades de IA se está acelerando. Mejoras que antes tomaban años ahora llegan en meses. Una vez que exista un sistema suficientemente capaz, puede ser demasiado tarde para imponer restricciones significativas. La gobernanza debe preceder a la capacidad, no seguirla.
Precedentes: Ya lo hemos hecho antes
Acciones de política recomendadas
- Evaluaciones de seguridad obligatorias previas al despliegue por organismos gubernamentales independientes antes de que se libere cualquier sistema de IA de frontera, equivalente a ensayos clínicos para productos farmacéuticos.
- Monitoreo y licenciamiento de computación para ejecuciones de entrenamiento por encima de umbrales de capacidad definidos. La computación es el proxy medible para la capacidad; puede rastrearse y regularse.
- Agencia Internacional de Seguridad de la IA con autoridad de inspección, modelada en el IAEA, para verificar el cumplimiento de los estándares de seguridad acordados en todas las jurisdicciones.
- Requisitos de notificación de incidentes para comportamientos peligrosos observados durante el entrenamiento o el despliegue, actualmente voluntario e inconsistente entre los laboratorios.
- Legislación nacional de seguridad de la IA establecer la responsabilidad legal por daños previsibles derivados de sistemas de IA insuficientemente probados, creando incentivos de mercado apropiados para la cautela.
- Negociaciones multilaterales para establecer estándares internacionales antes de que se alcancen los umbrales de capacidad, no después. Comienza ahora, mientras la ventana está abierta.
Este es el consenso científico, no una posición marginal
Más de 500 científicos de IA, incluidos los premios Nobel Geoffrey Hinton y Yoshua Bengio, y los directores ejecutivos de OpenAI y DeepMind, firmaron en 2023 una declaración que calificaba el riesgo de extinción por IA como «una prioridad global junto a las pandemias y la guerra nuclear».
El Gobierno de UK creó el primer Instituto de Seguridad de la IA del mundo (hoy Instituto de Seguridad de la IA) en 2023. La Ley de IA de EU introdujo la clasificación obligatoria de riesgos para los sistemas de IA. La Orden Ejecutiva de US sobre IA exigió evaluaciones de seguridad para los modelos de frontera. El marco internacional aún no existe, pero la voluntad política se está formando. El momento de actuar es ahora.
nakadafoundation.org
El Nakada Foundation to Save Humanity aboga por una gobernanza internacional de la seguridad de la IA. Ofrecemos experiencia en políticas, educación pública y apoyo en labores de incidencia. Contáctanos para programar una sesión informativa para tu oficina o equipo.