Puntos clave para defensores

La IA ha sido sobrevalorada durante décadas. Esto es solo otra historia de terror.

La preocupación no es el hype de los externos, son las advertencias de las personas que lo construyeron. Geoffrey Hinton y Yoshua Bengio, que ganaron el Premio Nobel por crear la IA moderna, se encuentran entre quienes están dando la alarma. Cuando los inventores de una tecnología dicen que plantea un riesgo existencial, no es un cuento de terror. Es una evaluación técnica de fuentes primarias.

Podemos simplemente apagarlo si algo sale mal.

Un sistema capaz de perseguir objetivos reconocerá que ser apagado le impide alcanzarlos. Por lo tanto, resistirá el apagado, no por malicia, sino porque la resistencia es racional para casi cualquier objetivo. Esto se llama convergencia instrumental, identificada de forma independiente por varios investigadores. Un sistema superinteligente podría actuar en milisegundos. “Apagarlo” supone que tendremos tiempo de reconocer el problema y capacidad de actuar. Ninguna de las dos cosas está garantizada.

Si reducimos la velocidad, China ganará la carrera de la IA.

Este marco asume que la carrera tiene un ganador. No es así. Ninguna nación o corporación puede poseer o controlar una inteligencia que supera el razonamiento colectivo de la humanidad. Una superinteligencia desalineada no serviría a los intereses chinos más que a los estadounidenses. El riesgo compartido es existencial, por eso la coordinación internacional, no la velocidad unilateral, es la estrategia correcta. Coordinamos con el USSR sobre armas nucleares durante la Guerra Fría. El precedente existe.

Resolveremos la alineación antes de que llegue la superinteligencia.

No podemos alinear de manera confiable los chatbots de hoy, que pueden ser manipulados en minutos. El problema de alineación no tiene solución validada a ninguna escala. Los métodos de seguridad actuales no siguen el ritmo de las mejoras de capacidad, que ahora llegan en meses, no en años. Afirmar que alinearemos un sistema miles de millones de veces más capaz es esperanza, no confianza. La gobernanza no requiere resolver la alineación; requiere ralentizar el despliegue hasta que se resuelva la alineación.

Los gobiernos no pueden regular la tecnología. Solo van a sofocar la innovación.

Los gobiernos regulan la aviación, los productos farmacéuticos, la energía nuclear y los sistemas financieros, todas tecnologías complejas. La pregunta no es si hay que regular, sino cómo y cuándo. La regulación farmacéutica no eliminó la medicina; la hizo segura. Los precedentes para regular tecnologías de alto riesgo son extensos y en gran medida exitosos. La regulación de seguridad de la IA apunta a los sistemas fronterizos más peligrosos, no al desarrollo general de IA. Innovación y seguridad no están en conflicto.