Está bien documentado que los desarrolladores de IA saben más sobre los riesgos de sus sistemas de lo que dicen públicamente. Los equipos de seguridad internos de los principales laboratorios de IA han registrado preocupaciones significativas. Los investigadores que abandonan esos laboratorios describen debates internos sobre si los sistemas actuales se están desplegando demasiado rápido. Las preocupaciones de seguridad son conocidas y, en muchos casos, se actúa sobre ellas de forma parcial mientras el desarrollo continúa, no son desconocidas.
Ningún laboratorio ni nación puede resolver ese incentivo tomando mejores decisiones por sí solo. Requiere gobernanza multilateral.
Esta es una historia sobre un problema de coordinación en el que incluso los actores conscientes de la seguridad enfrentan incentivos estructurales que los empujan a desarrollar y desplegar más rápido de lo que recomendarían sus propias evaluaciones de riesgo, no principalmente una historia sobre actores malintencionados. Entender esos incentivos (la dinámica de la carrera de IA) es esencial para comprender por qué los compromisos de seguridad de las organizaciones individuales son insuficientes y qué tipos de estructuras de gobernanza se requieren realmente.
La estructura de la carrera
La estructura básica de la dinámica de la carrera de IA es sencilla. Varios actores (empresas dentro de un país, países en el mundo) compiten por desarrollar los sistemas de IA más capaces y desplegarlos primero. Invertir en seguridad requiere tiempo y recursos que podrían usarse para acelerar el desarrollo de capacidades. Cualquier actor que se detenga para invertir seriamente en seguridad queda atrás frente a quienes no lo hacen. El actor que gane la carrera será, por incentivo estructural, probablemente el que haya sacrificado más agresivamente la seguridad.
Esto crea una dinámica en la que los actores conscientes de la seguridad enfrentan una elección entre dos malas opciones. Pueden mantener sus estándares de seguridad y quedarse atrás, lo que hace que la frontera la definan actores menos conscientes de la seguridad. O pueden reducir su inversión en seguridad para seguir siendo competitivos, lo que degrada sus propios estándares. En cualquier caso, la presión competitiva produce sistemáticamente resultados peores que los que cualquier actor individual preferiría si pudiera coordinarse.
Si un laboratorio reduce la velocidad y su rival no, el laboratorio cuidadoso pierde cuota de mercado y la carrera mantiene su ritmo. Esa matriz de pagos tan simple es la razón por la que «seremos los responsables» fracasa como estrategia. La seguridad que depende de la contención unilateral es una donación al actor menos contenido, no una estrategia.
La dimensión nacional
Las dinámicas de carrera a nivel de laboratorio son, en principio, abordables mediante regulación nacional: un gobierno puede imponer requisitos de seguridad a todos los laboratorios de IA dentro de su jurisdicción al mismo tiempo, eliminando la desventaja competitiva de invertir en seguridad dentro de esa jurisdicción. Por eso importa la regulación nacional de la IA. Puede resolver el problema de coordinación dentro del país, aunque no aborde el problema entre países.
Las dinámicas de carrera a nivel nacional son estructuralmente más difíciles. La competencia entre US y China en IA se presenta con frecuencia como una carrera estratégica con importantes consecuencias geopolíticas, y ese marco genera la misma estructura de incentivos a nivel nacional: cualquier nación que reduzca la velocidad por seguridad queda atrás frente a las que no lo hacen. La preocupación de que la regulación de seguridad cree una desventaja estratégica frente a competidores con menos regulación es un problema real de coordinación, no una objeción de mala fe.
Por eso la regulación nacional pura de la IA (incluso la más estricta) resulta insuficiente como respuesta a la dinámica de la carrera de IA. La brecha de gobernanza internacional es un problema estructural de coordinación que requiere marcos multilaterales con mecanismos de cumplimiento, análogos a los tratados de control de armas que resolvieron parcialmente la carrera armamentista nuclear, no un problema técnico sobre qué país tiene mejor regulación.
Precedentes para resolver dinámicas de carrera
La preocupación de que la coordinación en carreras tecnológicas peligrosas es políticamente imposible no coincide con el registro histórico. Estados Unidos y la Unión Soviética, en el apogeo de la Guerra Fría, negociaron el SALT I y el SALT II, tratados de limitación de armas estratégicas que impusieron límites vinculantes a las armas más peligrosas de ambas partes, a pesar de la profunda desconfianza y la competencia estratégica en curso. La Convención sobre Armas Químicas prohibió toda una categoría de armas en la mayoría de las naciones del mundo. La Convención sobre Armas Biológicas hizo lo mismo con las armas biológicas. El Protocolo de Montreal coordinó la eliminación global de sustancias que agotan la capa de ozono.
Ninguno de estos logros se alcanzó sin dificultades, deserciones y retos de aplicación. Todos representaron mejoras reales frente a las carreras sin coordinación. El precedente histórico para la coordinación internacional sobre tecnologías peligrosas es más amplia de lo que el marco pesimista de las discusiones sobre gobernanza de ASI sugeriría.
Por qué «los laboratorios conscientes de la seguridad deberían ganar la carrera» está ocurriendo independientemente de las preferencias de los defensores de la seguridad; tener actores conscientes de la seguridad en la frontera es mejor que tener actores indiferentes, no es suficiente
Una respuesta común a las preocupaciones sobre la dinámica de la carrera de IA es que la solución es que los laboratorios enfocados en seguridad tengan éxito, para que la frontera sea moldeada por actores que se preocupan por la seguridad.
El argumento tiene límites que vale la pena señalar con claridad. Primero, estar en la frontera no elimina las dinámicas de carrera. Hace que el laboratorio consciente de la seguridad sea el que ahora enfrenta presión competitiva para recortar esquinas y mantenerse en la frontera. Segundo, el argumento de la presión competitiva puede usarse para justificar cualquier aceleración, porque siempre hay un competidor menos consciente de la seguridad al que invocar. Tercero, el argumento depende de que los laboratorios conscientes de la seguridad ganen, pero no proporciona ningún mecanismo para garantizarlo. Es una esperanza, no una estructura de gobernanza.
Resolver la dinámica de carrera de la IA requiere lo mismo que resolvió parcialmente la carrera armamentista nuclear: límites coordinados que se apliquen a todos los grandes actores al mismo tiempo, con mecanismos de verificación para detectar la deserción y mecanismos de aplicación para disuadirla. Es un problema de gobernanza multilateral. Marcos de disuasión como MAIM describen el estancamiento entre estados en carrera, pero no resuelven la carrera en sí. La de la Fundación propuestas de gobernanza están estructurados en torno a este requisito, no en torno a la esperanza de que los laboratorios correctos terminen primero.