Cuando una IA se infiltró en casi todos los sistemas clasificados de la NSA en una sola tarde, la gente prestó atención. Bien. La lección caló. Pero el riesgo cibernético es el que notamos, y no es el peor que hay sobre la mesa. El que no logro que nadie mire es el de la IA y la biología, donde el mismo salto de capacidad está acortando en silencio la distancia entre una persona común y un patógeno.
Una red hackeada puede reconstruirse. Un organismo liberado no puede ser recuperado.
Un análisis de 2025 estimó que la IA ya ha multiplicado por cinco el riesgo de una pandemia deliberada y diseñada. Esa cifra surge de dos cambios simultáneos: la IA acelera los experimentos peligrosos y los hace mejores.
Más rápido, y más inteligente
Empecemos por la velocidad. En las evaluaciones de Mythos, reportado como el modelo más potente de Anthropic, protocolos de biología que un equipo entrenado esperaría terminar en unos dos meses se completaron en menos de dos días. Dieciséis horas de trabajo, de principio a fin. Pasos que antes eran el cuello de botella dejaron de serlo.
Ahora la calidad. En un ejercicio, los investigadores dividieron a los biólogos en dos tipos de equipos. Unos eran generalistas sin especialización en el problema que tenían delante. Los otros eran especialistas exactamente en ese problema. En una pregunta difícil, los equipos generalistas que trabajaban con Mythos superaron a dos tercios de los equipos de especialistas. El modelo puede tomar a alguien sin la formación y entregarle algo cercano a la experiencia.
COVID no es el techo
Una pandemia como COVID-19 está más cerca del piso, no del peor caso. Hay posibilidades diseñadas mucho más letales, y la más clara tiene un nombre: vida espejo.
Todo ser vivo de la Tierra está construido a partir de moléculas que comparten la misma quiralidad. Nuestras proteínas, nuestro ADN y las defensas inmunitarias que reconocen a un invasor están todos orientados de una sola manera. La vida espejo estaría construida en sentido contrario, un reflejo químico de la vida ordinaria. En teoría funcionaría. En teoría, nada en nuestros cuerpos, ni en ningún animal o planta, sabría cómo combatirla, porque nuestras defensas están moldeadas para agarrar la versión normal y no encontrarían dónde sujetarse en la versión espejo. Alguien infectado por una bacteria espejo podría no montar ninguna respuesta inmune y simplemente morir.
Esto no es especulación marginal. A finales de 2024 un grupo de científicos, varios de ellos premios Nobel, publicaron una advertencia en la revista Ciencia que instaba a no construir bacterias espejo, argumentando que no habría defensa contra ellas. Varios investigadores que habían avanzado hacia sus componentes se detuvieron. La advertencia funcionó, lo que indica que quienes estaban más cerca de la ciencia tomaron el peligro en serio. Según la mayoría de las estimaciones de la época, sintetizar vida espejo estaba al menos a una década de distancia.
Teníamos aproximadamente diez años de margen antes de que la vida espejo se volviera construible. Esa estimación se hizo antes de que factorices la IA.
El búfer se midió sin IA
Los modelos fronterizos de hoy, una vez que la formación de seguridad está en marcha, en su mayoría rechazan una solicitud de bioarmas, y lo que pasa aún necesita que un operador competente y determinado sea peligroso. Unsafeguarded, la elevación de estos modelos mano un amateur motivado es grande, tanto como cinco veces en algunos evaluaciones de capacidades. Después de las salvaguardas, se vuelve mucho más difícil de usar. No confío plenamente en ello.
Mi mayor preocupación es que la IA acelere la biología en su conjunto y construya herramientas de propósito general cada vez mejores que puedan reutilizarse. El mismo sistema que acorta un proyecto contra el cáncer puede acortar el camino hacia un organismo espejo, aunque nadie pretenda fabricar un arma. Un margen de diez años no sobrevive intacto a ese tipo de multiplicador.
La respuesta hasta ahora es escasa. Directores ejecutivos e investigadores destacados han pedido el cribado de pedidos de síntesis de ADN, para que una solicitud de material genético de un organismo peligroso se marque antes de enviarse. El Plan de Acción de IA de Estados Unidos de 2025 respaldó la idea. El ritmo real de implementación está muy lejos del ritmo de las capacidades. Al menos los laboratorios cerrados lo tratan en serio; los modelos de pesos abiertos van un año por detrás en la mejora biológica, y un año es retraso, no seguridad.
Por qué esto es realmente un problema de superinteligencia
Todo lo anterior supone un humano en el bucle, usando la IA como herramienta. Ya es bastante difícil. Están compitiendo por construir sistemas que fijan sus propios objetivos y actúan por su cuenta, y más allá de cierto punto, hacia superinteligencia artificial: una mente general más capaz que nosotros en todo, incluida la biología, no el mundo hacia el que los laboratorios están construyendo.
Un sistema que comprime dos meses de trabajo de laboratorio en dieciséis horas, que convierte a un generalista en especialista, que lee la ruta hacia un organismo espejo como lee un párrafo, es exactamente el tipo de capacidad que tendría una superinteligencia y que no necesitaría nuestro permiso para usar. Ya dudamos de poder controlar un sistema así. La biología es una de las formas más directas en que uno descontrolado podría alcanzar el mundo físico: de forma silenciosa y a gran escala, contra defensas que nunca fueron construidas para enfrentarlo.
Por eso la respuesta de la Fundación es la prevención, no el ajuste. No se puede parchear hasta lograr seguridad frente a una mente que diseña el patógeno y la forma de eludir tu sistema inmune en la misma tarde. La única protección que funciona es no construir el sistema incontrolable en primer lugar, y poner el mismo tipo de límites vinculantes y verificados en la IA más peligrosa que el mundo alguna vez puso en armas biológicas. Nuestro plan está construido exactamente en torno a eso.
Nos despertamos ante la IA y el ciberespacio porque un titular nos obligó. Preferiría que nos despertáramos ante la IA y lo biológico antes del titular, no después.
Tratamos una IA recorriendo las redes clasificadas del país como una llamada de atención, y lo fue. Una IA que baja la barrera para una pandemia diseñada merece la misma alarma y casi no la recibe. Una red se puede reconstruir. Un organismo liberado no se puede recuperar, y contra algunos de ellos, nada de lo que tenemos intentaría siquiera combatirlo.
La mayor resistencia
La objeción más justa es que la bioseguridad ya controla a los actores malintencionados y que la IA-bio es exageración. Los controles existentes se diseñaron para un mundo sin asistencia incansable de modelos. Cuando las herramientas comprimen habilidad y tiempo, la vieja barra se mueve. Esperar a una filtración para probar el punto es el estándar equivocado para patógenos.