Les discussions sur la sécurité de l’IA portent souvent sur des scénarios lointains : systèmes superintelligents aux objectifs mal alignés, tournants traîtres à des seuils de capacités encore hors d’atteinte. Le risque de persuasion par l’IA est d’une autre nature. La forme élémentaire de la menace existe déjà dans les systèmes d’aujourd’hui et touche les élections ainsi que le débat public en ce moment même. Sa version à long terme, plus dangereuse, n’est que l’extrapolation d’une technologie qui avance vite, pas un futur purement hypothétique.

La version à long terme (une IA capable de modéliser et d’exploiter la psychologie individuelle avec une précision surhumaine) est la direction vers laquelle la technologie se dirige.

Le problème n'est pas simplement que l'IA facilite l'écriture de propagande, les technologies précédentes le faisaient déjà. Le problème est que l'IA permet quelque chose de qualitativement différent : des messages persuasifs hautement personnalisés à grande échelle, adaptés aux profils psychologiques individuels, mis à jour en temps réel selon les réponses. La combinaison de la personnalisation, de l'échelle et du faible coût marginal produit une capacité d'influence qu'aucun outil précédent n'a égalée.

Ce qui rend la persuasion par l'IA différente

Les opérations d'influence traditionnelles (publicité diffusée, messages politiques, propagande d'État) touchent de nombreuses personnes avec le même message. Le message peut être soigneusement élaboré et largement testé, mais il est nécessairement un compromis entre différents publics. Un persuadeur humain compétent peut adapter son approche à la personne spécifique à qui il parle, mais il ne peut parler qu'à un nombre limité de personnes. Ces deux capacités (échelle de diffusion et personnalisation individuelle) ont historiquement été en tension.

L'IA dissout cette tension. Un système ayant accès à des données individuelles (historique de navigation, réseaux sociaux, réponses antérieures) et capable de générer du contenu persuasif varié peut atteindre simultanément des millions de personnes et adapter chaque interaction à l'individu spécifique. Le coût marginal de générer un autre message persuasif personnalisé tend vers zéro. Le système peut itérer en fonction de ce qui fonctionne et de ce qui ne fonctionne pas, en temps réel, à une échelle qu'aucune opération d'influence humaine ne peut égaler.

Le problème de l'asymétrie

Le pouvoir de persuasion de l’IA est hautement concentré. Déployer une IA optimisée pour la persuasion à grande échelle nécessite des ressources substantielles, des données, du calcul, des capacités d’ingénierie, un accès aux canaux de distribution. Ces exigences favorisent les acteurs bien dotés en ressources : grandes entreprises, États-nations, individus fortunés. Les personnes ciblées n’ont pas de contre-capacité équivalente. Elles finiront peut-être par avoir accès à des outils d’IA qui les aideront à évaluer le contenu qu’elles rencontrent, mais l’asymétrie offensive et défensive favorise l’attaquant à court terme.

L'implication démocratique

Une campagne qui nécessitait autrefois un entrepôt de rédacteurs peut désormais produire mille variantes d'un message avant le déjeuner, chacune adaptée à un segment d'électeurs. C'est déjà une catégorie de produit, pas un croquis lointain. La persuasion à cette échelle est un risque lié à l'IA qui apparaît bien avant quiconque ne construise un modèle divin.

C'est un problème structurel, pas un problème lié à un élément précis de désinformation. Même si chaque affirmation individuelle dans une opération d'influence rendue possible par l'IA est techniquement vraie, le ciblage systématique des vulnérabilités psychologiques à grande échelle déforme l'environnement épistémique dont dépend la délibération démocratique. L'objectif des opérations d'influence est de façonner la façon dont les gens perçoivent les enjeux, les candidats et les institutions de manière à servir les intérêts de l'opérateur, pas nécessairement de tromper.

Les preuves à court terme

Des contenus d'influence générés par l'IA ont été documentés lors d'élections nationales dans plusieurs pays depuis 2023. Des opérations d'influence utilisant l'IA pour générer des médias synthétiques, fabriquer des citations de figures publiques réelles et produire un volume élevé de publications coordonnées à une échelle qui nécessiterait de grandes équipes d'opérateurs humains ont été identifiées et signalées par des chercheurs indépendants et des équipes de sécurité des plateformes. Ces opérations sont devenues plus difficiles à détecter à mesure que le contenu généré par l'IA s'est amélioré, et les outils de détection accusent un retard par rapport aux outils de génération.

Le risque est présent dans l'environnement technologique actuel, affectant les processus politiques réels, et la trajectoire va vers des outils de persuasion plus capables et plus difficiles à détecter, pas hypothétiques. La question est quelles réponses de gouvernance sont proportionnées et efficaces, pas s'il faut traiter cela comme un risque réel.

L'escalade à long terme

Les outils actuels de persuasion par l’IA sont efficaces mais pas optimisés pour la persuasion à un niveau fondamental. Les futurs systèmes dotés de modèles plus sophistiqués de la psychologie individuelle, de données plus détaillées sur les individus et d’une plus grande capacité de simulation de relations à long terme pourraient être nettement plus efficaces. Un système capable de construire un modèle persistant des croyances, des préoccupations et des vulnérabilités psychologiques d’un individu, et d’interagir avec lui pendant des semaines ou des mois, pourrait produire des effets bien supérieurs à ceux des outils actuels.

C'est la forme que prend le risque de persuasion par l'IA à l'extrémité superintelligente du spectre : pas une simple désinformation de masse, mais une manipulation épistémique ciblée à long terme par des systèmes dotés de modèles de la psychologie humaine bien meilleurs que n'importe quel outil actuel. Le lien avec scénarios singleton et verrouillage des valeurs est directe : un acteur disposant d'outils de persuasion par IA hautement efficaces pourrait les utiliser pour façonner l'opinion publique sur la gouvernance même de ASI, rendant plus difficile pour les institutions démocratiques d'imposer les contraintes qui limiteraient son pouvoir.