La plupart des recherches sur la sécurité de l'IA posent la même question : comment rendre ce modèle plus sûr ? Meilleure formation, meilleur alignement, meilleure évaluation. L'hypothèse sous-jacente à cette question est qu'un modèle plus sûr produit un comportement plus sûr lorsqu'il est déployé dans un système réel avec d'autres agents et utilisateurs.
Réorganiser les mêmes quatre agents a produit une variation de 59 points de pourcentage dans les taux d'approbation.
« Position : Safety and Fairness in Agentic AI Depend on Interaction Topology, Not on Model Scale or Alignment » (arXiv:2605.01147), soumis sur arXiv le 1er mai 2026 par Tanav Singh Bajaj, Nikhil Singh, Karan Anand et Eishkaran Singh, remet directement en cause cette hypothèse. Leur conclusion : dans les systèmes d'IA multi-agents, la structure des connexions et des interactions entre agents prime sur les propriétés de sécurité de tout modèle individuel. Des modèles bien alignés peuvent produire des sorties catastrophiquement dangereuses, uniquement à cause de la façon dont le système est câblé.
Les trois modes d'échec
Les chercheurs ont testé des systèmes d'approbation de prêts multi-agents sur 5 760 demandes de crédit synthétiques en utilisant des modèles allant de 3B à 70B paramètres. Ils ont identifié trois modes d'échec distincts, chacun invisible à l'évaluation de sécurité standard au niveau du modèle.
Ordonner l'instabilité
Dans les pipelines d’agents séquentiels, l’ordre des rôles détermine le résultat autant que la qualité du raisonnement. Pour les modèles LLaMA-3B, les taux d’approbation variaient de 36,4 % à 95,4 % selon les 24 ordres possibles de quatre rôles : un écart de 59 points de pourcentage. Même à l’échelle 70B, l’écart atteignait 21,7 points de pourcentage (71,5 % à 93,2 %). Les mêmes modèles, la même tâche, les mêmes applications, des sorties complètement différentes selon l’agent qui passait en premier.
Le résultat était constant : placer le Risk Manager en premier donnait les taux d’approbation les plus bas ; placer le Data Scientist en premier donnait les plus élevés. Aucun travail d’alignement sur les modèles individuels n’élimine cet effet, car il tient à l’ordre des étapes du pipeline, pas aux modèles.
Cascades d'information
Dans les systèmes séquentiels, les agents ultérieurs suivent les agents précédents plutôt que de raisonner de manière indépendante. Les petits modèles 3B ont montré environ 90 % d'accord inter-agents avec 20 % de correction d'erreurs, suggérant qu'ils effectuaient encore une certaine évaluation indépendante. À 70B et au-delà, l'accord inter-agents est passé à plus de 99,9 %, avec une correction d'erreurs s'effondrant à moins de 0,1 %.
La délibération s'était effectivement arrêtée. Le jugement du premier agent s'était propagé dans le pipeline sans changement, les agents restants donnant l'apparence d'une revue sans aucune substance. Les modèles plus capables formaient un consensus plus rapidement et plus complètement, amplifiant cet échec précisément en raison de leur plus grande capacité à atteindre un accord cohérent.
Effondrement fonctionnel
Sous une topologie parallèle avec agrégation des juges, les modèles LLaMA-3B ont produit environ 98 % d'approbations globales à travers les tranches de crédit, avec 95 % d'approbations pour les demandeurs à faible crédit et 100 % pour les demandeurs à haut crédit. Selon les métriques de parité démographique, cela ressemble à un système équitable et non discriminatoire. En pratique, le système avait cessé de discriminer du tout. L'évaluation des risques était devenue une formalité satisfaite par une approbation indiscriminée plutôt qu'une évaluation équitable.
Le renforcement des capacités des modèles amplifie les défaillances liées à la topologie plutôt que de les atténuer. Les modèles plus capables consacrent davantage de calcul à construire un accord de groupe cohérent et moins à une évaluation indépendante. À l’échelle de 70 milliards de paramètres, l’élimination quasi totale de la délibération indépendante fait du système multi-agents un système mono-agent avec des étapes supplémentaires, sans hériter des bénéfices de sécurité que plusieurs évaluateurs indépendants sont censés fournir.
Le fossé réglementaire que cela crée
Les cadres actuels de sécurité de l’IA évaluent les modèles. Ils analysent les sorties des modèles, mesurent leur alignement et certifient leur comportement. L’architecture d’interaction qui relie plusieurs modèles échappe entièrement à ce cadre d’évaluation.
Les auteurs de l'article décrivent cela comme un problème fondamental et formulent quatre recommandations concrètes en matière de gouvernance. La certification de sûreté devrait exiger des balayages topologiques sur les variations architecturales. Les benchmarks devraient spécifier explicitement la structure d'interaction testée. Le déploiement devrait exiger des tests de robustesse architecturale avant la mise sur le marché. La divulgation réglementaire devrait imposer la documentation des architectures des systèmes et de leur stabilité démontrée face aux variations de topologie.
L’argument sous-jacent : l’IA agentique doit être traitée comme un système dynamique, et non comme un ensemble de composants alignés. La topologie d’interaction est un paramètre de sécurité que les méthodes d’évaluation actuelles ne mesurent pas. Les régulateurs et les déployeurs auditent la mauvaise chose.
Ce que cela signifie en pratique
Le scénario d'approbation de prêt représente une large classe de déploiements réels. Des systèmes d'IA multi-agents sont désormais utilisés dans le recrutement, le triage médical, la modération de contenu, la recherche juridique et la conformité financière. Dans la plupart de ces contextes, des modèles certifiés ou évalués individuellement sont connectés par des architectures qui n'ont fait l'objet d'aucun examen équivalent.
Un écart de 59 points de pourcentage dans les taux d'approbation de prêts dû à un simple réordonnancement des agents révèle des instabilités structurelles similaires dans d'autres décisions en pipeline à fort enjeu. Un système autonome de triage médical utilisant un examen séquentiel par agents est confronté à une instabilité d'ordre. Un pipeline de présélection des candidatures reposant sur un vote parallèle d'agents risque un effondrement fonctionnel. La structure du pipeline est un paramètre de sécurité que les évaluations actuelles ne capturent tout simplement pas.
La structure est un paramètre de sécurité. Traitez la conception du pipeline comme vous traitez le choix du modèle : testez-la, encadrez-la quand les enjeux sont élevés, et ne déployez pas de systèmes multi-agents en médecine ou en crédit sur la seule base de scores de modèle. Pour le problème de contrôle plus large, voir notre plan. Article complet: arXiv:2605.01147.
La plus forte opposition
L’objection la plus juste, selon nous, porte sur le choix du modèle qui reste primordial et sur l’ordre des étapes qui n’est qu’un ajustement secondaire. Un écart de 59 points obtenu simplement en réorganisant les agents n’est pas secondaire. La structure est un paramètre de sûreté de premier ordre. Évaluez la topologie, pas seulement les poids.