A principios de los años setenta, los biólogos aprendieron a empalmar genes de un organismo en otro. El ADN recombinante abrió la medicina y la biología a la vez, y asustó a quienes lo inventaban. No podían descartar que un organismo modificado escapara de un laboratorio y causara un daño que nadie sabía cómo contener. Así que hicieron algo casi inaudito. Se detuvieron.

En 1974, investigadores destacados, incluidos futuros premios Nobel, pidieron públicamente una moratoria voluntaria sobre los experimentos de ADN recombinante más peligrosos. En febrero de 1975, alrededor de 140 científicos, junto con abogados y periodistas, se reunieron en el centro de conferencias de Asilomar en California para decidir los términos bajo los cuales el trabajo podría reanudarse de forma segura. Surgieron con un marco de medidas de contención adaptadas al riesgo, y la investigación se reinició bajo salvaguardas acordadas. Para los defensores de pausar la IA de frontera, este es el punto de referencia: un campo que reconoció su propio peligro y eligió la cautela sobre la velocidad.

Lo que Asilomar realmente acertó

El logro es real y vale la pena mencionarlo claramente.

Los científicos actuaron antes de que ocurriera un desastre y no después, algo rarísimo y valiosísimo en toda la historia de la seguridad tecnológica. Aceptaron limitar su propio trabajo, incluso investigaciones que prometían fama y avances, porque el riesgo lo justificaba. Y crearon reglas prácticas ajustadas al nivel de peligro, en lugar de ignorarlo o prohibir el campo por completo. Es la prueba de que una comunidad científica puede mirar su propia frontera, juzgarla demasiado peligrosa para apresurarse y contenerse. Ese precedente refuta directamente la idea de que pausar una tecnología poderosa es ingenuo o imposible, por eso aparece junto a los casos de control de armas en nuestra página sobre por qué actuar es posible.

¿Por qué es un modelo más difícil de lo que parece?

La honestidad sobre el precedente significa nombrar por qué la IA es un caso más difícil, porque las diferencias son exactamente las partes que hicieron que Asilomar funcionara.

  • Era una comunidad pequeña y unificada. Unas pocas docenas de laboratorios, una cultura científica, personas que se conocían. La IA de frontera es un concurso global entre corporaciones y estados por billones, sin una mesa compartida.
  • Las apuestas comerciales eran modestas en 1975. La industria biotecnológica apenas existía aún. La IA llega con las mayores empresas del mundo y los establecimientos de seguridad nacional ya comprometidos, lo que es el dinámica de carrera Asilomar nunca enfrentó.
  • Reiniciar era el objetivo. Asilomar se diseñó para encontrar términos seguros para continuar, no para detenerse indefinidamente. Su modelo de contención suponía que se podía encerrar el peligro en un laboratorio físico. Una IA capaz no es obviamente contenible de esa manera.

Hay también un epílogo aleccionador. El consenso de Asilomar se mantuvo en parte porque fue un momento estrecho con incentivos alineados, y aun así dependió de una buena voluntad voluntaria que un campo más comercial y competitivo tensionaría. Lo que funcionó entre 140 científicos colegiados no se escala directamente a una industria global fracturada bajo una presión intensa por ganar.

Asilomar demuestra que una pausa es posible. También muestra las condiciones que necesita una pausa y cuántas de ellas tiene actualmente la IA.

La lección que extrae la Fundación

Ambas mitades de Asilomar importan. Refuta el fatalismo que dice que nada puede hacerse, que una tecnología poderosa no puede ralentizarse. Los científicos lo lograron, deliberadamente, y el cielo no se cayó. Pero también muestra que el mecanismo informal, voluntario y colegiado que funcionó en 1975 no basta para la IA, porque la IA carece de la comunidad pequeña, las apuestas bajas y el peligro contenible que permitieron que la buena voluntad bastara. La conclusión correcta es que la IA necesita lo que Asilomar pudo lograr —restricción real antes del peligro—, entregada a través de la maquinaria internacional vinculante y verificable que requiere una carrera global de billones de dólares, no que la IA necesite su propio Asilomar. Véase nuestro plan.