Gouverner la superintelligence:
Un Mémoire pour les Décideurs
L’argument en faveur d’une gouvernance internationale de la sécurité de l’IA : le problème, ce qui est nécessaire et les précédents qui montrent que c’est possible.
Une technologie sans précédent sans cadre de gouvernance
La superintelligence artificielle (un système dépassant l'intelligence humaine dans tous les domaines) est activement développée par des entreprises privées soumises à une régulation minimale. Les principaux laboratoires d'IA ont déclaré en interne qu'ils s'attendent à atteindre ce seuil au cours de cette décennie.
Contrairement aux risques technologiques précédents, la superintelligence ne dispose d'aucune architecture de gouvernance internationale existante. Il n'y a ni traité, ni organe de vérification, ni norme de sécurité multilatérale, ni mécanisme pour arrêter le développement si des signaux d'alerte apparaissent. Le fossé de gouvernance est total.
La fenêtre pour une gouvernance efficace se referme
Les cadres de gouvernance internationale exigent des années de négociation pour être mis en place. Le Traité de non-prolifération nucléaire a nécessité une décennie de diplomatie après les premiers essais nucléaires. Le Protocole de Montréal a exigé un consensus scientifique durable avant d’aboutir à une adoption multilatérale.
Le développement des capacités de l'IA s'accélère. Des améliorations qui prenaient autrefois des années arrivent désormais en quelques mois. Une fois qu'un système suffisamment capable existe, il peut être trop tard pour imposer des contraintes significatives. La gouvernance doit précéder la capacité, pas la suivre.
Précédents : nous l'avons déjà fait
Actions politiques recommandées
- Évaluations obligatoires de sécurité avant déploiement par des organismes gouvernementaux indépendants avant la sortie de tout système d'IA de pointe, équivalent aux essais cliniques pour les produits pharmaceutiques.
- Surveillance et octroi de licences du calcul pour les entraînements au-dessus de seuils de capacité définis. La puissance de calcul est le proxy mesurable de la capacité ; elle peut être suivie et réglementée.
- Agence internationale pour la sécurité de l'IA avec un pouvoir d’inspection, inspiré du IAEA, afin de vérifier le respect des normes de sécurité convenues dans toutes les juridictions.
- Exigences de signalement des incidents pour les comportements dangereux observés pendant l'entraînement ou le déploiement, actuellement volontaires et incohérents entre les laboratoires.
- Législation nationale sur la sécurité de l'IA établissant une responsabilité juridique pour les dommages prévisibles causés par des systèmes d’IA insuffisamment testés, créant ainsi des incitations de marché appropriées à la prudence.
- Négociations multilatérales pour établir des normes internationales avant d'atteindre les seuils de capacité, pas après. Commencez maintenant, tant que la fenêtre est ouverte.
C'est le consensus scientifique, pas une position marginale
Plus de 500 scientifiques de l’IA, dont les lauréats du prix Nobel Geoffrey Hinton et Yoshua Bengio, ainsi que les PDG de OpenAI et DeepMind, ont signé en 2023 une déclaration qualifiant le risque d’extinction lié à l’IA de « priorité mondiale au même titre que les pandémies et la guerre nucléaire ».
Le gouvernement UK a créé le premier institut de sécurité de l’IA au monde (aujourd’hui l’AI Security Institute) en 2023. L’AI Act de EU a introduit une classification obligatoire des risques pour les systèmes d’IA. L’Executive Order sur l’IA de US a exigé des évaluations de sécurité pour les modèles de pointe. Le cadre international n’existe pas encore, mais la volonté politique se forme. Le moment d’agir est maintenant.
nakadafoundation.org
Le Nakada Foundation to Save Humanity plaide en faveur d'une gouvernance internationale de la sécurité de l'IA. Nous fournissons une expertise en matière de politiques publiques, une éducation du public et un soutien à la défense des intérêts. Contactez-nous pour organiser une séance d'information pour votre bureau ou votre personnel.