Prévention, pas une pause
Un ralentissement temporaire rend le bouton de redémarrage aux mêmes coureurs. Nous voulons une interdiction permanente. La superintelligence ne peut pas être contrôlée.
Une pause
Ralentir les laboratoires pendant quelques années. Espérer que la sécurité rattrape son retard selon un calendrier. Puis reprendre. La superintelligence reste la destination. Seule l’horloge change.
Prévention
Interdire les systèmes dépassant un seuil de capacités générales. Pas de redémarrage programmé. L'interdiction tient tant que personne ne peut contrôler un esprit plus intelligent que ses créateurs.
Aucune méthode de contrôle validée n'existe
Pas à petite échelle. Pas à grande. Les laboratoires leaders le disent publiquement. Une pause qui suppose que l'alignement sera terminé à temps est un pari sans méthode derrière.
L'IA étroite continue d'avancer
Médicaments, modèles météo, optimiseurs industriels, outils de codage. Les systèmes sans agenda ouvert restent légaux et financés. La ligne se trace autour de l'esprit général autonome, pas autour de l'IA dans son ensemble.
Les traités fonctionnent déjà ainsi
Le Traité de non-prolifération nucléaire ne suspend pas les bombes pendant cinq ans. Il limite qui peut les construire, avec inspections. Les armes chimiques et les substances appauvrissant la couche d'ozone ont reçu le même traitement. La superintelligence a besoin de cette forme de droit.
Les gouvernements doivent interdire la superintelligence artificielle par un traité international vérifié. La superintelligence ne peut pas être contrôlée par des humains, donc l’interdiction est définitive.