Las normas de exportación pueden decir quién puede comprar un chip. Un chip que haga cumplir los términos de la licencia en silicio va un paso más allá. La gobernanza habilitada por hardware es la apuesta de que algunas reglas deben vivir en el metal, no solo en PDFs que un laboratorio decidido puede ignorar.
La idea se basa en un hecho que hace que la IA sea inusualmente gobernable. Entrenar un modelo de frontera requiere enormes cantidades de chips especializados, concentrados en grandes centros de datos, producidos por un número mínimo de empresas a través de una cadena de suministro con cuellos de botella graves. El software se copia de forma invisible e instantánea. Decenas de miles de procesadores avanzados que consumen megavatios de energía no. Esa huella física es el punto que la gobernanza puede agarrar, la misma idea detrás de gobernanza del cómputo, llevado al nivel del chip.
Qué se podría incorporar al hardware
Las propuestas van desde modestas hasta ambiciosas.
- Verificación del uso. Los chips podrían certificar, de forma resistente a manipulaciones y preservando la privacidad, propiedades de lo que están haciendo, por ejemplo cuánta computación consumió un entrenamiento, permitiendo que un inspector confirme el cumplimiento sin leer el modelo ni los datos.
- Límites de uso. El hardware podría imponer techos, negándose a participar en una ejecución de entrenamiento por encima de una escala establecida a menos que esté autorizado, convirtiendo un límite legal en uno físico.
- Ubicación e integridad. Los mecanismos podrían confirmar que un chip está donde se declara y que no ha sido manipulado, respaldando los controles de exportación y evitando su desvío a instalaciones no supervisadas.
Algunos de estos se basan en funciones de hardware seguro que ya existen en los procesadores modernos por otras razones. La ingeniería es difícil y en parte sin resolver, pero no es ciencia ficción, y hay trabajo serio en marcha para hacerlo realidad.
Por qué esto es una palanca tan atractiva
El atractivo es que aborda el problema que socava la mayoría de las gobernanzas del ASI: la verificación. Un tratado que no puedes verificar es el Convención sobre Armas Biológicas, una prohibición real violada durante décadas sin ser detectada. Gobernanza que pueda confirmar realmente el cumplimiento, del mismo modo que régimen de inspecciones nucleares confirma que, para el material fisible, la gobernanza que puede sostenerse existe. Los mecanismos habilitados por hardware ofrecen un camino hacia ese tipo de verificación para la IA, anclado en la física y no en la confianza. Podrían permitir que los Estados acuerden límites y confirmen que los demás los cumplen, el ingrediente que falta en casi todas las propuestas internacionales.
La parte difícil de cualquier acuerdo de IA es demostrar que se sigue la regla, no redactarla. El hardware es donde podría residir la prueba.
El doble filo
La honestidad exige nombrar el riesgo. Un mecanismo que permite a una autoridad legítima verificar y limitar la computación es también un mecanismo de control, y el control puede abusarse. La infraestructura construida para hacer cumplir límites de seguridad podría, en manos equivocadas, imponer un monopolio, atrincherar a quien tenga las llaves o convertirse en una herramienta de vigilancia y coerción. La misma palanca que podría sustentar una pausa internacional justa podría sustentar la concentración de poder contra lo que la Fundación advierte en otros lugares.
Esto no es un argumento en contra de la tecnología. Es un argumento a favor de construirla con gobernanza de la gobernanza: transparencia sobre lo que hacen los mecanismos, límites sobre quién los controla y autoridad internacional en lugar de unilateral. Manejarla así convierte a la gobernanza habilitada por hardware en una de las herramientas más prometedoras disponibles, porque ataca el problema de la verificación en su raíz. Es una de las razones más concretas por las que la Fundación cree que un marco internacional creíble y verificable es alcanzable y no utópico, y atraviesa nuestro plan.