Las personas que primero ven un entrenamiento peligroso suelen estar dentro del laboratorio, bajo acuerdos de confidencialidad, mirando un calendario de lanzamiento. La protección de denunciantes es lo que convierte a esas personas en un sistema de alerta en lugar de un sistema de silencio. Hasta que existan inspectores externos, los insiders son los detectores de humo.
Los investigadores de IA de frontera tienen un punto de vista que ningún regulador o inspector iguala actualmente, y con frecuencia están sujetos a contratos y cláusulas de no desprestigio que hacen que hablar resulte costoso o termine con su carrera. Proteger su capacidad de advertir es uno de los palancas más manejables y subestimadas en la gobernanza de ASI.
Por qué los insiders importan tanto para la IA
La IA de frontera tiene un problema de transparencia inusual. Las decisiones más trascendentales —cómo se entrena un modelo, qué pruebas de seguridad recibió, qué comportamientos preocupantes surgieron, si se ignoraron advertencias— ocurren dentro de organizaciones privadas, invisibles para los demás. Los reguladores carecen de acceso y, a menudo, de la experiencia para verlas de forma independiente. En este entorno, los investigadores e ingenieros con conocimiento directo son las únicas personas en posición de detectar e informar que algo salió mal antes de que se haga público de la peor manera.
Esta preocupación no es hipotética. En 2024 un grupo de empleados actuales y antiguos de las principales empresas de IA publicó una carta abierta, «El derecho a advertir sobre la inteligencia artificial avanzada», argumentando que los acuerdos de confidencialidad les impedían plantear preocupaciones de seguridad y pidiendo protecciones para permitirlo. Que tal carta fuera necesaria es en sí misma evidencia del problema: las personas más cercanas al riesgo se sentían legal y profesionalmente incapaces de hablar de él.
¿Qué los está bloqueando?
- Acuerdos restrictivos. Las cláusulas amplias de confidencialidad y no desprestigio (a veces vinculadas a acciones adquiridas por valor de millones) pueden hacer que hablar resulte financieramente ruinoso.
- Exposición legal. Sin un canal protegido claro, un empleado que divulga preocupaciones corre el riesgo de ser demandado por incumplimiento de contrato o violación de secreto comercial.
- Lagunas en la ley existente. Las leyes tradicionales de protección a denunciantes resguardan reportes de actividades ilegales, pero gran parte de lo peligroso en la IA de frontera aún no es ilegal, por lo que las revelaciones sobre desarrollos lícitos pero imprudentes quedan desprotegidas.
- Riesgo profesional. " En un campo pequeño, el costo informal de ser visto como desleal puede terminar una carrera incluso donde está prohibida la represalia formal.".
Cómo se vería una protección efectiva
Canales de divulgación protegidos
Rutas legalmente garantizadas para que los trabajadores de IA reporten preocupaciones de seguridad a un regulador o organismo de supervisión, protegidos de responsabilidad, incluso cuando la conducta revelada no sea ilegal en sí misma.
Límites a los contratos de silencio
Restricciones al uso de cláusulas de confidencialidad y de no menosprecio para suprimir preocupaciones de seguridad de buena fe, de modo que denunciar un peligro no le cueste al empleado su compensación adquirida.
Garantías contra represalias
Protección fuerte y exigible contra el despido, la lista negra u otras represalias por divulgaciones protegidas, con remedios reales.
Un organismo para recibir advertencias
Una autoridad de supervisión (un regulador o instituto de seguridad) con el mandato y la experiencia para actuar sobre las divulgaciones en lugar de dejar que desaparezcan.
Hasta que podamos inspeccionar los laboratorios desde afuera, las personas dentro de ellos son nuestros detectores de humo. Una ley que permite a una empresa silenciar a sus propios investigadores sobre un riesgo catastrófico es una ley que desactiva la alarma.
Manejable, y un puente hacia más
La protección de los denunciantes tiene una cualidad rara en la gobernanza de ASI: se puede lograr mediante legislación nacional ordinaria, sin tratado, sin consenso internacional y sin resolver las difíciles cuestiones de umbrales y verificación. Cualquier jurisdicción que albergue laboratorios de frontera puede promulgarla de forma unilateral, y hacerlo fortalecería de inmediato la capacidad del mundo para detectar desarrollos peligrosos. También es un puente hacia una gobernanza más difícil: las revelaciones protegidas que permite generan exactamente el tipo de información interna en la que los reguladores y, eventualmente, un régimen internacional de verificación confiarían. Construir una verificación externa llevará años. Proteger a los insiders que pueden advertirnos mientras tanto es algo que las legislaturas pueden hacer ahora, y está entre las medidas de seguridad de mayor impacto disponibles antes de que exista un tratado.