En juillet 2025, Mark Zuckerberg a publié une lettre sur la « personal superintelligence » qui mettait aussi en garde contre le choix de ce que Meta décide d’ouvrir. L’association des deux constitue tout le problème de politique publique en une page : une course vers des systèmes généraux et une décision de diffusion qui ne pourra plus être annulée une fois les poids rendus publics.

Ce que "open" signifie ici

Les gens disent « open source AI » quand ils veulent dire des choses différentes : code ouvert, données ouvertes, poids ouverts, article ouvert. Le combat à enjeux élevés porte principalement sur poids: les paramètres entraînés que vous pouvez télécharger et exécuter. Une fois qu’ils sont diffusés à une généralité de pointe, quiconque dispose de suffisamment de matériel peut fine-tuner, supprimer les filtres et conserver une fourche privée pour toujours.

La mise en circulation est une porte à sens unique. Vous pouvez patcher une API hébergée. Vous ne pouvez pas rappeler un torrent.

Ce que l'ouverture protège réellement

L'argument le plus solide en faveur de l'ouverture n'est pas la naïveté. La concentration fermée est un risque de pouvoir. Les chercheurs indépendants ont besoin d'accès pour détecter les défaillances que les laboratoires ne prioriseront pas. La sécurité par l'obscurité échoue souvent. Les chercheurs hors des entreprises des pays riches ne devraient pas être des locataires API permanents. Les outils ouverts, les évaluations ouvertes et la science ouverte sur les systèmes que nous pouvons encore contenir sont des biens qu'il vaut la peine de défendre.

Le cas du risque sans mélodrame

À haut niveau de capacité, des poids généraux ouverts constituent une prolifération. Ils multiplient les acteurs susceptibles de détourner l'assistance biologique, l'offensive cyber, la persuasion et les agents autonomes. Ils multiplient aussi les expériences indépendantes d'autonomie de longue durée. La plupart échoueront. Certaines généreront de nouvelles techniques d'évasion. Les licences et les mentions d'« usage responsable » ne contiennent pas un fine-tuner déterminé. Le red-teaming avant publication aide, mais ne permet toujours pas de certifier un modèle face à tous les échafaudages et outils futurs.

La plus forte opposition

L’objection la plus juste est que les poids ouverts démocratisent l’examen critique et que les laboratoires fermés constituent le vrai danger de concentration. L’examen critique aide sur des systèmes que l’on peut encore corriger et rappeler. La démocratie d’accès n’équivaut pas à la sûreté des capacités. Un monde où seules trois entreprises hébergent des modèles de pointe pose des problèmes de gouvernance. Un monde où des poids hautement généraux se trouvent sur chaque GPU d’amateur en pose d’autres, plus difficiles.

"Les mauvais acteurs l'ont déjà" est généralement prématuré. Sauts de capacités. Qu'un modèle plus faible ait fuité l'année dernière n'est pas une autorisation d'expédier le suivant. Le timing compte.

Des voies intermédiaires qui sont réelles

Publication graduelle: ouvrir le petit et l'étroit ; verrouiller le grand et le général. Accès structuré: environnements de recherche de confiance, requêtes journalisées et fine-tunes accrédités au lieu d'un dump brut. Outils ouverts: garder les compilateurs, les harnais d’évaluation et les piles de recherche de sécurité ouverts même lorsque les poids de pointe restent fermés. Ce sont des choix politiques, pas des impressions.

Un arbre de décision pour les laboratoires

Ce téléchargement restera-t-il utile après les six prochains sauts de capacités ? Si oui, traitez-le comme une décision de prolifération. Si non, traitez-le plutôt comme un lancement de produit classique. Des équipes indépendantes de sécurité et de biosécurité peuvent-elles obtenir l’accès dont elles ont besoin sans torrent public ? Si oui, privilégiez l’accès structuré. Si le seul argument en faveur de l’ouverture est la parité marketing avec un concurrent, ce n’est pas un argument de sécurité.

Que faire

Builders : par défaut fermé au haut de gamme ; publier les évals et les interfaces qui permettent un examen extérieur. Hosts et plateformes : journaliser et limiter le débit des usages à haut risque ; ne pas blanchir la prolifération sous le label « communauté ». Décideurs : rédiger des déclencheurs sur la capacité et le compute, pas sur le mot « open » ; exiger un examen par étapes avant tout largage général des poids. Individus : préférer les outils ouverts sur des systèmes étroits ; traiter les releases de poids de pointe comme des événements civiques, pas comme des cadeaux gratuits.

La ligne de la Fondation est simple. L'IA étroite qui reste un outil peut rester ouverte et le devrait. Les programmes visant l'intelligence artificielle surhumaine ne doivent pas être diffusés en poids ouverts tant que le contrôle n'est pas résolu. La science ouverte n'est pas un pacte de suicide. Voir notre plan.