Anthropic a publié sa première Responsible Scaling Policy en septembre 2023. Ouvrez le document et la structure apparaît dans les titres avant la rhétorique. Les niveaux de capacité sont nommés à l'avance. Chaque niveau est associé à des sauvegardes qui sont censées s'activer lorsque les évaluations indiquent que le modèle a franchi la ligne : une sécurité des poids plus stricte, des règles de déploiement plus serrées, un red-teaming plus approfondi, et aux niveaux supérieurs un engagement écrit à ne pas entraîner ni publier tant que les protections spécifiées ne sont pas en place. Le nom abrégé dans l'industrie est RSP. La logique sous-jacente est souvent appelée engagements conditionnels.
Les principaux laboratoires de pointe ont publié les versions les plus connues et le format s’est répandu. Les niveaux vont généralement des systèmes proches de ceux d’aujourd’hui jusqu’aux modèles capables d’apporter une aide significative à une arme biologique, une cyberattaque grave ou une autonomie dangereuse. Le document vise à répondre à une question simple avant l’urgence : quand les capacités augmentent, que fait exactement l’entreprise?
Pourquoi ce format constitue une réelle amélioration
Comparé à une promesse générale de prendre la sûreté au sérieux, un RSP est plus concret. Il nomme à l'avance les capacités, les seuils et les réponses, transformant une ambiance en quelque chose que des observateurs extérieurs peuvent pointer du doigt. Il est anticipatoire. Le laboratoire doit décider ce qu'une capacité dangereuse lui coûtera avant que la ruée de la découverte et le cycle médiatique n'arrivent ensemble.
Le format lie également les mots aux tests par évaluations des capacités dangereuses, donc les seuils ont un sens opérationnel plutôt qu'un slogan. Certaines politiques vont plus loin et s'engagent à arrêter le développement si les mesures de sauvegarde ne peuvent pas suivre les capacités. Inclure cette phrase dans un document public constitue un véritable progrès.
L'objection populaire, nommée
L’argument le plus fort en faveur des RSP dit : des règles publiques, spécifiques et pré-engagées sont la façon dont les industries mûrissent ; exiger une loi externe avant toute politique interne est un cynisme qui fige le progrès. Selon cette vue, les RSP sont le projet de constitution de la sécurité de pointe, et la bonne démarche est d’en encourager davantage plutôt que de rejeter les auteurs.
C'est vrai, et la faiblesse reste structurelle. Le même laboratoire rédige la politique, définit les seuils, réalise les évaluations, juge si une ligne a été franchie, décide si ses mesures de protection suffisent et conserve le pouvoir de réviser le texte. Quand la pression commerciale d'expédier le produit entre en collision avec un engagement que le laboratoire a lui-même rédigé et administre, aucune partie indépendante ne tient le sifflet.
L’histoire ne favorise pas la lecture optimiste. Le bilan des engagements volontaires de sécurité des entreprises sous pression concurrentielle, retracé dans notre article sur engagements volontaires, est un historique de normes qui s’assouplissent quand elles commencent à mordre. Une règle conditionnelle n’est aussi solide que son « alors », et ce « alors » est appliqué par la partie qui a intérêt à l’affaiblir. Une règle que l’on fixe, mesure et peut modifier soi-même est une déclaration d’intention. Ce n’est pas une contrainte.
Deux lacunes supplémentaires se cachent sous le document. Les RSP dépendent d’évaluations pour détecter un seuil franchi, donc tout ce qui limite les évaluations (y compris sous-performance intentionnelle, des capacités inconnues et la difficulté de prouver la sûreté) limitent la politique qui en découle. De plus, un RSP ne lie que le laboratoire qui l’adopte. Un concurrent qui le refuse, ou un programme étatique en dehors de cette culture, n’est pas concerné. Aucune entreprise seule ne peut résoudre ce problème de coordination.
Comment la Fondation les interprète
Gardez la bonne mécanique. Réutilisez la logique des seuils, la structure si-alors et le lien avec les évaluations. Changez qui tient le stylo et qui applique l'arrêt. Faites passer ces déclencheurs d'une politique volontaire à une loi contraignante, soutenue par un organisme indépendant et par gouvernance du calcul, de sorte qu'un laboratoire ne peut pas réviser discrètement son propre plafond lorsque celui-ci devient gênant.
Traitez les politiques comme des ébauches de règles applicables, puis terminez le travail en dehors du labo : loi contraignante, application indépendante, contrôles de calcul. Cette transition est ce que notre plan est pour.