El relato habitual de la historia del control de armamentos se centra en los gobiernos: los negociadores, los jefes de Estado que firmaron tratados, los senadores que los ratificaron o se negaron a hacerlo. Ese relato está incompleto. Detrás de todo acuerdo internacional importante sobre tecnología peligrosa hubo un esfuerzo sostenido de la sociedad civil que preparó el terreno político, que construyó la comprensión pública del riesgo, desarrolló las propuestas de gobernanza que adoptaron los negociadores, mantuvo el diálogo a través de divisiones cuando los canales oficiales estaban cerrados y mantuvo el tema políticamente vivo en periodos en que los gobiernos preferían mirar hacia otro lado.
Las ONG ambientales mantuvieron vivo políticamente el Protocolo de Montreal cuando los gobiernos vacilaban. Esto es lo que hace la sociedad civil en la gobernanza tecnológica, y lo que la defensa de la seguridad de la IA aún no ha construido.
Comprender qué hizo realmente la sociedad civil en la gobernanza del control de armas es un requisito previo para evaluar qué necesita construir la sociedad civil de seguridad de IA.
Lo que Pugwash hizo por el control de armas nucleares
Las Conferencias Pugwash sobre Ciencia y Asuntos Mundiales se fundaron en 1957, tras el Manifiesto Russell-Einstein de 1955, en el que Bertrand Russell y Albert Einstein, junto con otros nueve destacados científicos, instaron a los gobiernos a reconocer que las armas nucleares amenazaban la civilización y a buscar la resolución pacífica de los conflictos en lugar de la guerra. El manifiesto fue firmado por científicos de ambos bloques, el occidental y el soviético, incluyendo varios premios Nobel.
El modelo Pugwash fue un diálogo de vía 2: científicos de países adversarios que se reunían como individuos, no como representantes gubernamentales, para discutir propuestas de control de armas y construir las relaciones personales y los marcos técnicos compartidos que eventualmente informarían las negociaciones oficiales. Las primeras reuniones de Pugwash a finales de los años cincuenta y sesenta examinaron propuestas de verificación para los límites de las pruebas nucleares que más tarde aparecieron, en forma modificada, en el Tratado de Prohibición Parcial de Pruebas de 1963. El concepto de medios técnicos nacionales para la verificación del control de armas (utilizar reconocimiento por satélite para monitorear el cumplimiento sin requerir inspectores en el terreno) se desarrolló y debatió en las reuniones de Pugwash antes de incorporarse a los acuerdos SALT.
Pugwash no redactó tratados. Desarrolló ideas, construyó relaciones y creó un espacio en el que científicos de ambos lados de la Guerra Fría podían abordar problemas técnicos que los canales diplomáticos oficiales no podían resolver. Cuando las condiciones políticas cambiaron y las negociaciones oficiales fueron posibles, la infraestructura intelectual para lo que esas negociaciones podían acordar ya existía, porque Pugwash la había estado construyendo durante años. Pugwash y su fundador Joseph Rotblat compartieron el Premio Nobel de la Paz en 1995.
Lo que hizo la campaña contra las minas terrestres
La Campaña Internacional para la Prohibición de las Minas Terrestres fue fundada en 1992 por una coalición de ONG que concluyó que las consecuencias humanitarias de las minas antipersonal —miles de bajas civiles anuales en países en posconflicto, la contaminación generalizada de tierras agrícolas, niños mutilados décadas después de los conflictos que las desplegaron— requerían una prohibición total en lugar de restricciones graduales. La estrategia central de la campaña consistió en documentar esas consecuencias de forma específica, visual y atribuible a una tecnología concreta, y vincular esa documentación a una demanda política clara.
El esfuerzo de documentación lo llevaron a cabo ONG que operan en los países afectados: Handicap International, Human Rights Watch, Physicians for Human Rights y otras. Produjeron informes, recopilaron testimonios de víctimas y generaron cobertura mediática sostenida que hizo que el tema fuera políticamente relevante en los países donantes. La campaña trabajó de forma sistemática para conseguir aliados gubernamentales (Canadá fue el más importante) e identificar la vía diplomática que eludiera la Conferencia de Desarme, donde las principales potencias militares habían bloqueado el avance.
Las prohibiciones de minas terrestres no comenzaron en los ministerios de exteriores. Comenzaron con sobrevivientes, médicos y organizadores que hicieron que el arma resultara políticamente costosa. La seguridad de la IA tiene artículos y cumbres. Todavía necesita ese tipo de presión externa para que la ley vincule a los laboratorios que prefieren autorregularse para siempre.
El éxito de la campaña descansó en una combinación de factores que la distinguieron de esfuerzos de advocacy menos exitosos. El daño era presente y documentable. La demanda era específica y comprensible para no especialistas. La campaña tenía relaciones con gobiernos simpatizantes que podían actuar como campeones institucionales. Y estaba dispuesta a avanzar sin la participación de las grandes potencias, aceptando que un tratado sin US, China y Rusia establecería de todos modos una norma que moldearía el comportamiento con el tiempo.
Lo que las ONG ambientales hicieron por el Protocolo de Montreal
La campaña para restringir las sustancias que agotan el ozono se construyó sobre una base de comunicación científica que tradujo hallazgos técnicos en preocupación pública. Cuando F. Sherwood Rowland y Mario Molina publicaron sus hallazgos sobre la química de los clorofluorocarbonos en 1974, demostrando que los CFC destruirían catalíticamente el ozono estratosférico, el hallazgo científico requirió interpretación y amplificación para convertirse en un tema político. Las ONG ambientales, en particular Amigos de la Tierra y el Consejo de Defensa de los Recursos Naturales, realizaron este trabajo de traducción a lo largo de finales de los años setenta y los ochenta.
La campaña de las ONG combinó educación pública, alcance mediático y defensa política directa. En Estados Unidos, las ONG respaldaron campañas exitosas para restringir el uso de CFC en aerosoles antes de que existiera cualquier acuerdo internacional, creando un precedente regulatorio interno al que el gobierno de US pudo referirse en las negociaciones internacionales como prueba de viabilidad política. Cuando el descubrimiento del agujero de ozono antártico en 1985 proporcionó una confirmación visual y científica dramática del daño causado por los CFC, la infraestructura de comunicación de las ONG estuvo lista para amplificar de inmediato su importancia.
Tras la firma del Protocolo de Montreal, las ONG monitorearon su implementación, identificaron problemas de cumplimiento y abogaron por las enmiendas sucesivas que fortalecieron la cobertura del protocolo en las décadas siguientes. El papel de la sociedad civil no terminó con la firma del tratado; continuó durante la fase de implementación, proporcionando el escrutinio permanente que mantuvo a los gobiernos responsables de sus compromisos.
Lo que la sociedad civil de seguridad de la IA ha construido y lo que no
El campo de la seguridad de IA ha producido un trabajo técnico e intelectual sustancial sobre los riesgos de los sistemas de IA de frontera. Ese trabajo se ha acumulado en artículos académicos, actas de conferencias y comunicaciones públicas de investigadores de universidades y grandes laboratorios de IA. Varios investigadores, entre ellos Geoffrey Hinton y Yoshua Bengio, han hablado públicamente del riesgo existencial de la IA en términos que han atraído una atención mediática considerable. Ahora hay un número modesto de organizaciones financiadas por filantropía que trabajan en gobernanza y políticas de ASI.
Sin embargo, comparado con la infraestructura de la sociedad civil que apoyó el control de armas nucleares y la prohibición de minas terrestres, el esfuerzo actual de la sociedad civil por la seguridad de la IA es débil en aspectos específicos.
No existe un equivalente de Pugwash: ningún foro sostenido y estructurado en el que investigadores de IA de US, China, EU y otros países importantes que desarrollan IA se reúnan regularmente como individuos, fuera de los canales oficiales del gobierno, para elaborar marcos técnicos compartidos de gobernanza. Los procesos bilaterales y multilaterales que existen son oficiales, no de vía 2, y por tanto están sujetos a todas las limitaciones del compromiso diplomático oficial.
No existe un equivalente al ICBL: ninguna campaña masiva de miembros con una demanda clara y específica y un historial documentado de daño que conecte la demanda con la experiencia presente de personas reales. El riesgo existencial de la IA es anticipado más que experimentado, lo que hace considerablemente más difícil replicar la movilización emocional y política que logró la campaña contra las minas terrestres. El daño de ASI aún no está en presente de la forma en que lo estaban las víctimas de minas.
No existe una función de monitoreo sostenido: ninguna organización de la sociedad civil que rastree los compromisos gubernamentales sobre gobernanza de ASI, mida el cumplimiento de los compromisos voluntarios y publique hallazgos de formas que generen rendición de cuentas. Las ONG que monitorean la implementación de tratados de control de armas, los grupos que evalúan si los Estados cumplen sus obligaciones de desarme, que investigan supuestas violaciones, que documentan las brechas entre compromiso y acción, no tienen un equivalente claro en el espacio de gobernanza de ASI.
"Cada logro importante en control de armas fue precedido por años de trabajo de la sociedad civil que construyó comprensión pública, desarrolló propuestas de gobernanza y mantuvo presión política. Ese trabajo tiene que empezar ya para la IA."
Lo que la sociedad civil de seguridad de la IA ha construido es una comunidad de investigación y política de notable calidad intelectual. Lo que aún no ha construido es la capacidad de movilización pública, la infraestructura de diálogo científico transfronterizo y la función de monitoreo continuo que han distinguido a las campañas de gobernanza eficaces en otros ámbitos tecnológicos. Construir estas capacidades es el requisito político e institucional previo para un tratado que pueda negociarse, ratificarse y mantenerse, no algo separado del trabajo de abogar por un tratado.
La mayor resistencia
La objeción más justa es que las ONG y los académicos no pueden mover a las grandes potencias, así que la sociedad civil es solo comentario. Los movimientos no firman tratados. Cambian el costo de no firmar. La presión pública, la redacción experta y la promoción financiada por donantes son cómo se arrastra a los estados rezagados a salas que preferirían saltarse.