El documento es la Declaración de Bletchley. Surgió de la Cumbre de Seguridad de la IA del Reino Unido, la primera reunión de gobiernos convocada específicamente en torno a los riesgos de los sistemas de frontera más capaces. El texto es breve, no vinculante y cuidadosamente matizado. Leerlo por lo que registra y lo que omite sigue siendo la medida más clara de dónde se encontraba la gobernanza internacional de ASI a finales de 2023.

Por primera vez, gobiernos rivales registraron conjuntamente que la IA de frontera podría causar daños catastróficos.

Qué dice la declaración

El movimiento central es un reconocimiento. La declaración afirma que los modelos de IA de frontera conllevan potencial de daño grave, incluso catastrófico. Nombra riesgos que podrían ser deliberados o no intencionales, y señala el daño grave que podrían causar los sistemas de propósito general más capaces. Gobiernos que apenas coinciden en nada más, incluidos Washington y Pekín, aceptaron ese marco en público.

Más allá del reconocimiento, los firmantes se comprometen a dos direcciones: identificar riesgos de seguridad de la IA de interés compartido y construir un entendimiento científico compartido de ellos; y desarrollar políticas nacionales basadas en el riesgo, cooperando cuando corresponda. El texto respalda el diálogo internacional continuo y da la bienvenida a una serie de cumbres de seguimiento. No pretende que esas cumbres ya tengan las respuestas.

Qué no hace

  • Sin obligaciones vinculantes. Nada obliga a ningún país a actuar según un cronograma, reportar una métrica o prohibir una capacidad.
  • Sin institución. No hay agencia, secretariado ni organismo de monitoreo, solo un acuerdo para seguir hablando y reconvocarse.
  • Sin líneas rojas. La declaración no define qué capacidades son inaceptables ni qué desencadenaría una acción colectiva.
  • Sin verificación ni aplicación. El cumplimiento no se mide porque no hay nada concreto con lo que cumplir.

Por qué una declaración no vinculante sigue importando

Descartar una declaración sin dientes es fácil. También es una mala lectura de cómo las tecnologías peligrosas entran en el derecho internacional. El patrón de convención marco usado para el ozono y el clima comienza estableciendo principios compartidos y un deber de cooperar, porque nombrar el problema es el requisito previo para negociar qué hacer al respecto. Bletchley hizo el primer trabajo diplomático duro: consiguió que potencias rivales dejaran constancia de que el riesgo es real y compartido.

También abrió un proceso. La cumbre no fue algo único. Lanzó una serie recurrente, continuada en Seúl en mayo de 2024, que ofrece a los gobiernos un foro permanente para desarrollar ciencia, instituciones y, eventualmente, los compromisos que una sola declaración no puede sostener. El valor está menos en el texto que en el camino que ese texto hace posible.

La objeción popular es que las declaraciones blandas son puro teatro. Justo cuando son el final de la historia. Cuando son el primer paso de un régimen que luego añade umbrales, verificación y sanciones, son la forma en que los Estados empiezan a hablar de restricciones que aún no están listos para aceptar. Bletchley solo fracasa si el proceso se congela en la foto de oportunidad.

La prueba que sigue

La medida de Bletchley es si el reconocimiento se convierte en arquitectura. La preocupación compartida que nunca se endurece en reglas vinculantes, verificaciones independientes e instituciones es solo lenguaje. Cumbres posteriores, nacionales institutos de seguridad de la IA, y la evaluación científica son la maquinaria que hace madurar la declaración hacia una gobernanza o la deja desvanecerse. El texto compró un punto de partida. El trabajo consiste en convertirlo antes de que las capacidades que advierte superen el proceso que inició. Para la Fundación, esa conversión significa una camino vinculante para detener la superinteligencia, no un ciclo permanente de cumbres que nunca legislan.