Gardons l'IA. Arrêtons la superintelligence.
Arrêter un esprit successeur n'est pas la même chose qu'arrêter l'intelligence artificielle. La plupart des avantages que les gens veulent ne nécessitent pas ASI.
Continuez à construire
Des systèmes entraînés pour une tâche limitée. Aucun agenda ouvert. Aucune pulsion de se copier dans chaque réseau.
- Imagerie médicale et découverte de médicaments
- Modèles météo, réseau et industriels
- Assistants de codage et logiciels de productivité
- Robotique pour des tâches fixes et supervisées
Ne pas construire
Un système qui surpasse les compétences humaines en science, stratégie, persuasion et ingénierie simultanément, capable de s'améliorer et de poursuivre des objectifs que nous n'avons peut-être pas voulus.
- Agence autonome à finalité ouverte
- Auto-amélioration récursive vers la généralité
- Entraînements dépassant un seuil de capacité vérifié
- Des systèmes que personne ne peut arrêter de manière fiable
Les avantages que les gens citent sont surtout limités
De nouveaux médicaments, une énergie propre moins chère, de meilleures prévisions, des centrales plus sûres. Ce sont des problèmes d'outillage. Ils n'exigent pas un agent général capable de se fixer ses propres sous-objectifs et de négocier mieux que ses superviseurs.
Pro-IA pour les outils. Anti-ASI pour les esprits que nous ne pouvons pas contrôler.