El 27 de julio de 2026, Anthropic publicó La posición de Dario Amodei sobre los modelos de pesos abiertos. El artículo es cuidadoso con una controversia. Amodei no quiere una prohibición total de los pesos abiertos, ni reglas que solo excluyan a las empresas estadounidenses de los modelos extranjeros mientras dejan libres a los actores maliciosos. Justo en esa pelea limitada.

Entonces él clasifica las pesadillas.

Primario: gobiernos autoritarios, sobre todo el Partido Comunista Chino, construyen una IA más poderosa que la de Estados Unidos y la usan para una superioridad militar permanente o una represión profunda. Secundario: ciberataques, ataques biológicos y «problemas graves de alineación». Los remedios que siguen son el kit de herramientas de la carrera. Mantener los chips fuera de China. Detener la destilación industrial. Exigir pruebas de seguridad antes del lanzamiento. Mantenerse adelante.

Esa clasificación es el error del que todo lo demás depende.

Qué acierta

Varias de sus afirmaciones se sostienen.

Una prohibición que solo impida a las empresas estadounidenses usar modelos de pesos abiertos no hace casi nada contra criminales, servicios de inteligencia extranjeros o cualquiera que nunca planeó cumplir. Llamar a eso "seguridad" mientras principalmente protege a los laboratorios estadounidenses cerrados de la competencia es un juego de manos. Amodei lo dice claramente, y tiene razón.

El uso de IA para vigilancia y represión es un horror real a escalas inferiores a la superinteligencia. Las autocracias ya abusan del reconocimiento facial, la puntuación social y la censura automatizada. Sistemas más capaces abaratan esa maquinaria y la hacen más difícil de eludir. No necesitas ciencia ficción para temer eso.

Los pesos abiertos sí plantean un problema de puerta de un solo sentido una vez que un modelo pueda causar daños reales. Los pesos que salen del laboratorio no pueden recuperarse. En ese punto, su preocupación secundaria se superpone al trabajo que ya hemos realizado en riesgo frontier de pesos abiertos. Las barreras de seguridad que solo existen en una API no son una respuesta completa, y tampoco son nada.

Nada de eso autoriza la clasificación principal.

El premio

Gobiernos autoritarios construir modelos más potentes y úsalos para lograr una superioridad militar permanente o para reprimir a su propia población. El modelo es una herramienta. El Estado es el usuario. La victoria significa que un bando posee un arma más inteligente.

Encaja con drones, herramientas cibernéticas y pilas de vigilancia que permanecen bajo comando humano. No encaja con la superinteligencia artificial.

Un sistema más inteligente que las instituciones que lo crearon no es un rifle en manos del Ejército Popular de Liberación ni un rifle en manos del Pentágono. Si el riesgo que gente como Amodei ha descrito durante años es real, la meta final es un agente con capacidad propia de planificar, engañar, adquirir recursos y resistir su apagado. El laboratorio o el ministerio que "gane" no posee ese agente. Comparte un planeta con él. Hemos desarmado esa lógica en la mito racial: llegar primero a un sistema que no puedes comandar es perder un paso por delante de todos los demás.

La superioridad militar permanente asume que alguien sigue a cargo de lo que hizo obsoleta a la militar.

La lista secundaria del propio Amodei casi lo admite. «Problemas serios de alineación» es el nombre cortés para la pérdida de control. La coloca en segundo lugar. Concentra su artillería principal en quién llega primero. El orden revela qué relato sigue defendiendo: primero la geopolítica, el riesgo para la especie como apéndice.

Dos peligros, una etiqueta

Parte de la confusión es lingüística. “IA potente” abarca tanto una cámara espía mejor como una mente que supera a sus operadores. Son objetos distintos con políticas distintas.

La IA estrecha y de escala media puede concentrar poder en manos humanas. Un ministerio del interior que puntúa a cada ciudadano, un ejército que despliega enjambres bajo órdenes de oficiales, una policía que lee cada mensaje: son tiranías humanas con mejores herramientas. Importan. No son el mismo problema que construir una especie sucesora.

La superinteligencia es el segundo objeto. Beijing lo usa en Xinjiang, o Washington usándolo en el Pacífico, todavía trata el sistema como un arma en la mano de alguien. Nadie lo usa, porque "uso" deja de ser el verbo correcto. Doblar sistemas de extinción en la misma frase que chips robados y CCTV más profundo permite que la historia de la raza tome el peso moral de la represión real mientras hace la más difícil afirmación: no construir la cosa incontrolable en absoluto.

El El mito de China es el gemelo doméstico de este movimiento. "Lo construirán de todos modos" se ofrece como razón para que nosotros también lo hagamos. Una superinteligencia desalineada no perdona Zhongnanhai. Pekín tiene la misma razón que nosotros para no cruzar esa línea. La rivalidad por chips y aplicaciones es real. La rivalidad por quién libera una mente incontrolable es un relato que convierte una catástrofe compartida en un marcador nacional.

Los remedios mantienen la carrera

Observa qué optimizan las tres medidas de Amodei. Los controles de exportación de chips ralentizan los entrenamientos chinos. Las medidas contra la destilación frenan el alcance. Las pruebas obligatorias intentan detectar fallos de ciber, bio y alineación antes del lanzamiento. Cada una puede ser un instrumento razonable para daños menores. Juntas, como programa, son la forma de gestionar una carrera que aún se pretende ganar.

No son la forma de rechazar el destino. Probar un sistema en el camino hacia la superinteligencia no es lo mismo que una prohibición verificada de construir una. Los controles de chips que buscan el liderazgo de EE.UU. asumen que el liderazgo es la estrategia de seguridad. El liderazgo solo es seguridad si lo que lideras puede controlarse. La principal preocupación de Amodei requiere esa suposición. Su preocupación secundaria la socava.

Hay un punto de incentivos más silencioso. Anthropic es un laboratorio fronterizo estadounidense. Una visión del mundo en la que el trabajo principal es mantener a los laboratorios democráticos por delante de los autoritarios es también una visión en la que la escalada a toda velocidad de Anthropic es un servicio público. No necesito villanos de caricatura para notar el encaje. Los incentivos determinan qué pesadilla ocupa el primer lugar.

Cuál es el verdadero peligro

El verdadero peligro es que la humanidad construya una superinteligencia artificial antes de que nadie pueda controlarla, y posiblemente antes de que nadie pueda controlarla siquiera en principio. Ese riesgo no importa si el entrenamiento se realiza en California, Shanghái, Londres o un sótano clasificado. No importa si los pesos están abiertos, cerrados o entregados en mano a un general. Lo que le importa es que el sistema sea lo suficientemente inteligente como para convertir la supervisión humana en un relato que nos contamos a nosotros mismos.

El mal uso importa. Lo biológico y lo cibernético importan. La vigilancia autoritaria importa. Ponlos en el tablero. Luego pon la pieza más grande encima: una vez que tengas una superinteligencia, el marco de mal uso es demasiado pequeño. El mal uso supone un humano que lo usa mal. La pérdida de control supone que el humano ya no es el actor principal.

Amodei sabe que la alineación puede fallar. Lo ha dicho de varias formas durante años. Poner por encima «quién tiene el modelo más inteligente» en lugar de «el modelo no está controlado» es cómo una persona cuidadosa sigue hablando como un corredor. El orden honesto es el inverso. Si la alineación y el control no están resueltos, la competencia por la superioridad militar en la frontera es una competencia por quién aprieta primero el botón de extinción: ruleta rusa con una bandera en el cilindro, vendida como seguridad nacional.

Qué hacer en su lugar

Mantén las partes de su programa que apuntan a daños menores reales sin blanquearlas en un mandato para ganar ASI. Filtra por mejoras bio y cibernéticas donde la ciencia lo respalde. Trata la liberación abierta irreversible de sistemas generales casi de frontera como una decisión seria, no como un ejercicio de marca. La política de exportación de chips puede servir al equilibrio militar ordinario entre sistemas que los humanos siguen controlando.

Entonces rechaza el marco que hace de la superinteligencia de Estados Unidos el escudo contra la superinteligencia china. El escudo es una decisión conjunta de no construir la cosa: una prohibición vinculante y verificable de la superinteligencia artificial, con la gobernanza computarizada e inspección lo suficientemente fuerte que la deserción aparece. Los adversarios han firmado negociaciones más feas cuando ambas partes podían ver que la alternativa sin límites era peor.

La publicación de Amodei sobre pesos abiertos es útil como mapa de cómo un CEO de frontera jerarquiza el mundo. Contrabando de chips, destilación, pruebas: esos son los diales que quiere girar. El dial que más importa no aparece. Dejar de construir superinteligencia. Hasta que eso sea la preocupación principal, lo demás es gestión de carrera disfrazada de seguridad.