Les gens demandent sans cesse à quoi ressemble un « cerveau » d'IA. Une feuille de calcul grande comme une ville, remplie de chiffres que personne ne peut lire. Cette image est moins romantique qu'un dessin animé neuronal luminescent, et elle est plus utile. Si vous voulez savoir ce que nous construisons et pourquoi le contrôle est difficile, commencez par le matériel et les mathématiques, pas par la métaphore.

Un fichier de poids

Un modèle de pointe moderne est un fichier. À l'intérieur se trouvent des dizaines ou des centaines de milliards de paramètres, chacun un nombre fixé pendant l'entraînement. Ces nombres sont les « connexions ». Les chercheurs ont emprunté le mot neurone à la biologie il y a des décennies parce que les premiers schémas ressemblaient un peu à des cellules nerveuses reliées entre elles. La ressemblance s'arrête là.

Un neurone biologique est une cellule vivante dotée de chimie, de rythmes et d’un passé au sein d’un corps qui mange et dort. Un poids de modèle est un coefficient dans une multiplication matricielle. Empilez assez de multiplications, entraînez-les sur suffisamment de texte et d’images, et la pile prédit le token suivant assez bien pour passer pour une conversation. Rien dans cette pile ne pense à vous. Rien en elle n’a envie de déjeuner.

Quand les laboratoires publient une model card, ils décrivent un artefact entraîné : architecture, mélange de données, calcul utilisé, scores d’évaluation. Ils ne décrivent pas un esprit. Le langage public dit encore « cerveau », parce que le cerveau est la seule intelligence que la plupart d’entre nous ayons jamais rencontrée.

Ce que vous verriez si vous l'ouvriez

Ouvrez le fichier et vous obtenez des couches. Les premières couches ont tendance à capter des motifs simples (contours dans les images, paires de mots courantes dans le texte). Les couches suivantes combinent ces motifs pour former ce qui ressemble, de l'extérieur, à des concepts. Sondez le milieu d'un grand modèle de langage et vous pouvez trouver des directions dans l'espace d'activation qui s'allument pour « français » ou « à l'intérieur d'une citation » ou « cette affirmation est fausse ». C'est une structure réelle. Ce n'est pas non plus une carte des croyances qu'une personne reconnaîtrait.

Il n'existe pas de module étiqueté « objectifs ». Il n'existe pas d'organe pour le « soi ». Il y a un chemin des tokens d'entrée aux tokens de sortie, façonné par tout ce qui a réduit la perte d'entraînement. Si le modèle agit ensuite comme s'il avait un objectif, ce comportement est un effet secondaire de la bonne prédiction sous contrainte.

La recherche en interprétabilité consiste à essayer de lire cette chose quand même. Les progrès sont réels et lents. Lire entièrement un modèle de pointe comme un mécanicien lit un moteur n'est pas à l'ordre du jour. Cet écart compte pour la sécurité : on ne peut pas certifier ce qu'on ne peut pas inspecter.

Pourquoi la métaphore du cerveau induit en erreur

Les cerveaux se développent à l'intérieur d'animaux qui meurent s'ils sont imprudents. L'évolution a longtemps puni les agents qui ignoraient la douleur, les liens sociaux et le futur proche. Aucun de ces signaux d'entraînement ne se trouve par défaut dans un fichier de poids. Un modèle peut parler avec fluidité d'empathie tout en optimisant un score qui n'a rien à voir avec le soin.

Les cerveaux sont également lents et coûteux à copier. Un modèle entraîné est de l'information. Copiez le fichier et vous obtenez une autre instance. Déplacez-le vers un nouveau centre de données et il fonctionne. C'est plus proche du logiciel que d'une personne, et cela brise toutes les habitudes de sécurité que nous avons construites autour de corps uniques dans des pièces uniques.

Appelez-le un cerveau et vous empruntez le réconfort de quelque chose de fragile, social et mortel. L'artefact n'est rien de tout cela.

Ce que cela a à voir avec la superintelligence

Les systèmes d'aujourd'hui surprennent déjà leurs concepteurs par des compétences que personne n'a délibérément installées. C'est ce que signifie « émergent » dans ce domaine : une capacité qui apparaît à l'échelle sans ligne dédiée dans le cahier des charges. Pousser encore l'échelle, connecter outils, mémoire et réseau ouvert, et l'on obtient des agents qui poursuivent des objectifs sur de nombreuses étapes. Que le « cerveau » ressemble ou non à un humain importe peu. Ce qui compte, c'est qu'un système plus capable que nous, que nous ne pouvons pas lire entièrement, puisse être maintenu orienté vers les intérêts humains.

Nous n'avons pas résolu cela. Les recherches sur l’alignement sont honnêtes quant à la difficulté du problème. Tant que ce problème reste non résolu, avancer vers l’intelligence artificielle superintelligente n’est pas une simple curiosité. Cela chargera un fichier de poids qui pourrait un jour surpasser en intelligence les personnes qui détiennent la touche de suppression.

Alors, quand quelqu’un demande à quoi ressemble un cerveau d’IA, répondez simplement. Cela ressemble à des mathématiques à l’échelle industrielle, installées sur des puces dans un bâtiment sécurisé, qui s’améliorent chaque année. Imaginez une machine que nous nous empressons de rendre plus intelligente que ses opérateurs, sans preuve que nous pourrons la diriger, et non un crâne rempli de pensées. Notre plan est d'arrêter cette course à la superintelligence jusqu'à ce que la preuve existe.