Les premiers à voir un run d'entraînement dangereux sont généralement à l'intérieur du labo, sous NDA, en train de regarder un calendrier de lancement. La protection des lanceurs d'alerte permet à ces personnes de devenir un système d'alerte plutôt qu'un système de silence. Tant qu'il n'existe pas d'inspecteurs extérieurs, les insiders sont les détecteurs de fumée.

Les chercheurs en IA de pointe disposent d'un point de vue qu'aucun régulateur ni inspecteur ne peut actuellement égaler, et ils sont souvent liés par des contrats et des clauses de non-dénigrement qui rendent la prise de parole coûteuse, voire destructrice pour leur carrière. Protéger leur capacité à alerter constitue l'un des leviers les plus concrets et les plus sous-estimés de la gouvernance ASI.

Pourquoi les initiés comptent tant pour l'IA

L'IA de pointe souffre d'un problème de transparence inhabituel. Les décisions les plus décisives — comment un modèle est entraîné, quels tests de sécurité il a subis, quels comportements inquiétants sont apparus, si des alertes ont été écartées — se prennent au sein d'organisations privées, hors de vue des observateurs extérieurs. Les régulateurs manquent souvent d'accès et d'expertise pour les examiner de manière indépendante. Dans ce contexte, les chercheurs et ingénieurs qui possèdent une connaissance directe sont les seuls en position de détecter et de signaler qu'un problème est survenu avant qu'il ne devienne public de la pire façon.

Cette préoccupation n'est pas hypothétique. En 2024, un groupe d'employés actuels et anciens des principales entreprises d'IA a publié une lettre ouverte, « A Right to Warn about Advanced Artificial Intelligence », affirmant que les accords de confidentialité les empêchaient de soulever des préoccupations de sécurité et appelant à des protections pour le permettre. Qu'une telle lettre ait été nécessaire constitue déjà une preuve du problème : les personnes les plus proches du risque se sentaient légalement et professionnellement incapables d'en parler.

Ce qui les bloque

  • Accords restrictifs. Les clauses de confidentialité et de non-dénigrement étendues (parfois liées à des actions acquises valant des millions) peuvent rendre la prise de parole financièrement ruineuse.
  • Exposition légale. Sans canal protégé clair, un employé qui divulgue des préoccupations risque d'être poursuivi pour violation de contrat ou de secret commercial.
  • Lacunes dans le droit existant. Les lois traditionnelles sur les lanceurs d’alerte protègent les signalements d’activités illégales, mais une grande partie de ce qui est dangereux dans l’IA de pointe n’est pas encore illégal, laissant sans protection les divulgations sur un développement licite mais imprudent.
  • Risque professionnel. Dans un petit domaine, le coût informel d’être perçu comme déloyal peut mettre fin à une carrière, même quand toute représaille formelle est interdite.

À quoi ressemblerait une protection efficace

1

Canaux de divulgation protégés

Voies juridiquement garanties permettant aux travailleurs de l'IA de signaler des préoccupations de sûreté à un régulateur ou à un organe de surveillance, à l'abri de toute responsabilité, même lorsque le comportement signalé n'est pas illégal en soi.

2

Limites aux contrats de silence

Restrictions sur l’usage des clauses de confidentialité et de non-dénigrement pour étouffer des préoccupations de sécurité formulées de bonne foi, afin que signaler un danger ne puisse pas coûter à un employé sa rémunération acquise.

3

Garanties anti-représailles

Une protection forte et applicable contre le licenciement, le blacklisting ou d'autres représailles pour les divulgations protégées, avec de vrais recours.

4

Un organisme pour recevoir les avertissements

Une autorité de surveillance (un régulateur ou un institut de sécurité) dotée du mandat et de l’expertise nécessaires pour agir sur les divulgations plutôt que de les laisser disparaître.

Tant que nous ne pourrons pas inspecter les laboratoires de l’extérieur, les personnes à l’intérieur sont nos détecteurs de fumée. Une loi qui permet à une entreprise de faire taire ses propres chercheurs sur un risque catastrophique est une loi qui désactive l’alarme.

Gérable, et un pont vers plus

La protection des lanceurs d’alerte possède une qualité rare dans la gouvernance de ASI : elle est réalisable par une législation nationale ordinaire, sans traité, sans consensus international et sans résoudre les questions difficiles des seuils et de la vérification. Toute juridiction qui héberge des laboratoires de pointe peut l’adopter unilatéralement, et cela renforcerait immédiatement la capacité mondiale à détecter les développements dangereux. C’est aussi un pont vers une gouvernance plus exigeante : les divulgations protégées qu’elle permet génèrent précisément le type d’informations internes dont les régulateurs, et finalement un régime international de vérification, auront besoin. Construire une vérification externe prendra des années. Protéger les insiders qui peuvent nous alerter entre-temps est quelque chose que les législateurs peuvent faire dès maintenant, et c’est l’une des mesures de sécurité les plus efficaces disponibles avant l’existence d’un traité.