El desarrollo de IA es, en la actualidad, intensivo en hardware. Entrenar los modelos que están en la frontera de la capacidad requiere clústeres de miles de chips especializados funcionando durante semanas o meses, consumiendo potencia en el rango de decenas de megavatios. Los chips son diseñados por un pequeño número de empresas, fabricados con equipos fabricados por un número aún menor y vendidos a través de cadenas de suministro que pasan por jurisdicciones nacionales específicas. Esta concentración de hardware es una de las pocas características del desarrollo de IA de frontera que hace práctica la regulación a corto plazo.
Esa concentración crea un punto de estrangulamiento en la gobernanza, uno de los pocos lugares donde la regulación del desarrollo de IA de frontera es prácticamente viable a corto plazo.
La gobernanza del cómputo es el enfoque de regulación de la IA que intenta aprovechar esta concentración como palanca. En lugar de regular directamente lo que los sistemas de IA pueden o no construirse (una pregunta que requiere juicios técnicos que la mayoría de los reguladores no pueden hacer), la gobernanza del cómputo regula el hardware necesario para construirlos. Controlar el cómputo te da cierto grado de control sobre quién puede desarrollar IA de frontera, a qué escala y con qué nivel de reporte y transparencia.
Los puntos de estrangulamiento de hardware
Estos puntos de estrangulamiento no son permanentes. China está invirtiendo activamente en producción nacional de semiconductores para reducir la dependencia de la cadena de suministro occidental. Los chips nacionales actuales siguen significativamente por detrás de la frontera, una brecha que impone costos reales al desarrollo de IA chino pero no hace imposible el desarrollo de IA de frontera con tiempo y recursos suficientes. La ventana de gobernanza creada por la actual concentración de hardware es real pero finita.
Qué medidas de gobernanza de cómputo ya existen
El gobierno de US ha implementado controles de exportación sobre chips avanzados de IA como la medida de gobernanza de computación más significativa hasta la fecha. Los controles anunciados en octubre de 2022 restringieron la venta de los chips A100 y H100 de Nvidia a China, Rusia y otros países especificados. Rondas posteriores de controles en 2023 y 2024 extendieron las restricciones a chips diseñados específicamente para quedar por debajo de los umbrales originales, cerrando la ruta de elusión más obvia. Los controles han impuesto costos reales a los laboratorios de IA chinos: esfuerzos documentados de contrabando de chips, precios de mercado negro y menor capacidad de los clústeres de entrenamiento chinos indican que las restricciones han surtido efecto.
La Orden Ejecutiva sobre IA de la administración Biden de octubre de 2023 incluía el requisito de que los desarrolladores informaran al gobierno sobre entrenamientos por encima de aproximadamente 10²⁶ operaciones de punto flotante, más o menos la computación necesaria para entrenar un modelo a escala GPT-4. Ese requisito de reporte fue un primer paso hacia una supervisión basada en computación: dar al gobierno visibilidad sobre quién ejecuta entrenamientos grandes antes de que los sistemas se desplieguen, no después.
Un entrenamiento de frontera todavía necesita un edificio lleno de chips especializados y una factura de electricidad visible desde el espacio. Esa pila física es el mejor punto de apoyo que tienen los gobiernos. La gobernanza del cómputo es el proyecto poco romántico de convertir esos edificios en infraestructura licenciada e inspeccionable.
Lo que la gobernanza del cómputo no puede hacer
Tres limitaciones importantes restringen la eficacia de la gobernanza del cómputo como herramienta de seguridad. Primero, la elusión: los chips pueden comprarse a través de terceros países antes de que las restricciones surtan efecto, almacenarse o sustituirse por chips un poco menos capaces que quedan por debajo de los umbrales regulatorios. Los controles de US han sido eludidos en algunos casos documentados y los patrones de contrabando y enrutamiento por terceros países han sido lo suficientemente extensos como para motivar varias rondas de endurecimiento.
En segundo lugar, la eficiencia algorítmica: a medida que el entrenamiento de IA se vuelve más eficiente, la computación necesaria para entrenar un nivel dado de capacidad disminuye. Un umbral de computación fijado en el nivel adecuado hoy puede resultar demasiado permisivo dentro de tres años a medida que mejore la eficiencia. Los marcos de gobernanza construidos en torno a umbrales fijos de computación necesitan mecanismos para ajustar esos umbrales a medida que evoluciona la relación entre computación y capacidad.
Tercero, y lo más importante, la gobernanza del cómputo no aborda el problema de la alineación. Un sistema entrenado con hardware debidamente licenciado, reportado a las autoridades correspondientes y dentro de un umbral de cómputo autorizado puede seguir estando desalineado. La gobernanza del cómputo puede controlar el ritmo y la escala del desarrollo de IA de frontera y ofrecer visibilidad sobre quién entrena qué. No puede garantizar que lo que se entrena esté alineado.
Por eso la gobernanza del cómputo se entiende mejor como un componente de un marco más amplio junto con los requisitos de verificación de alineación y las obligaciones de tratados internacionales, no como una solución aislada. La tres propuestas de política tratan la gobernanza de la computación como la palanca a corto plazo que compra tiempo y visibilidad mientras avanza el trabajo técnico y diplomático más difícil de verificación de alineación y negociación de tratados internacionales.