Comment un traité peut être vérifié
« Ce n’est que du logiciel sur un serveur quelque part. » L’objection la plus courante en matière d’application. Mauvaise cible.
On ne surveille pas les poids. Vous contrôlez le matériel. Entraîner un modèle de pointe nécessite des puces spécialisées provenant d'une courte liste de fabricants, regroupées dans de grands clusters qui consomment une puissance industrielle et laissent une trace papier.
Suivi des puces
Les accélérateurs avancés sont des biens de grande valeur et produits en faible volume. Les registres d’exportation, le suivi par numéro de série et les contrôles d’utilisation finale existent déjà dans des régimes connexes. Étendez-les aux grands entraînements.
Licences de cluster
Les installations au-dessus d'un seuil de calcul nécessitent une licence, des rapports et des droits d'inspection. Les petits laboratoires et les utilisateurs ordinaires du cloud restent hors de portée.
Inspection sur site
Modélisé sur les visites IAEA : inspections de routine et inopinées des grands centres de données, de la consommation électrique et des inventaires matériels. Les logiciels peuvent se cacher. Les entrepôts pleins de GPU ne le peuvent pas.
Règles du cloud et de la fonderie
Les principaux fournisseurs de cloud et fondeurs de puces deviennent des nœuds de signalement. Un programme secret de rattrapage a encore besoin de fabs, d’électricité et de refroidissement. Ceux-ci laissent des empreintes.
La détection parfaite n'est pas la norme
La vérification nucléaire n'a jamais prétendu à l'omniscience. Elle a élevé le coût et le risque de tricher suffisamment haut pour que les grandes puissances restent dans l'accord. Un interdit sur la superintelligence a besoin de la même barre pratique : assez de visibilité pour qu'un grand entraînement illicite soit difficile à cacher et coûteux à tenter.
Approfondissement: nakadafoundation.org/blog/compute-governance-ai/