En 2016, les estimations d'experts typiques plaçaient l'IA de niveau humain à plusieurs décennies. Au milieu des années 2020, de grandes enquêtes et les dirigeants de laboratoires avaient avancé ces dates, parfois jusqu'à la vie active des personnes qui lisent ceci. Le calendrier reste incertain. La direction des révisions ne l'est pas.
Ce que les enquêtes de prédiction montrent réellement
Les données les plus systématiques sur les calendriers du AGI proviennent d'AI Impacts, qui a interrogé des chercheurs en IA sur le moment où ils s'attendent à voir une « intelligence artificielle de niveau humain » (à peu près équivalente au AGI) au fil des années. Les résultats sont instructifs.
En 2016, les chercheurs interrogés plaçaient la probabilité médiane de HLMI à environ 50 % d'ici 2061. En 2022, avant la sortie publique de GPT-4, cette médiane s'était déjà nettement avancée. Les chercheurs qui font ces prédictions sont ceux qui construisent les systèmes qu'ils prédisent, pas des prophètes de malheur ou des publicitaires.
Le schéma dans les données n'est pas une date cible consensuelle, mais une fenêtre qui converge avec peu d'accord sur l'année précise. Le schéma est que chaque nouvelle enquête (calibrée sur les développements réels des capacités) produit des délais plus courts que la précédente.
Quatre ans. Du texte à peine cohérent à des performances dans le décile supérieur des experts humains sur des mesures standardisées de compétence professionnelle. C’est le bilan empirique auquel les prédictions de calendrier doivent être confrontées.
Ce que disent les personnes qui construisent l'IA
Les déclarations publiques des dirigeants des laboratoires d'IA de pointe ne sont pas les mêmes que leurs hypothèses de travail internes. Elles restent néanmoins notables, car les déclarations publiques de personnes occupant ces fonctions sont généralement conservatrices, contraintes par les relations avec les investisseurs, l'examen réglementaire et la norme professionnelle de prudence face aux affirmations extraordinaires.
« Nous sommes désormais convaincus de savoir comment construire AGI tel que nous l'avons traditionnellement compris. »
Sam Altman, PDG de OpenAI · Janvier 2025
« Je pense que nous pourrions être à seulement quelques années (voire moins) d’une IA qui surpasse l’intelligence humaine dans tous les domaines. »
Dario Amodei, PDG de Anthropic · Essai « Machines of Loving Grace » · Octobre 2024
Ce sont les communications publiques réfléchies des personnes qui prennent des décisions d'allocation de capitaux sur la base de projections internes presque certainement plus courtes que ce qu'elles publient, et non les propos de gens qui considèrent le AGI comme une perspective lointaine.
Quand une entreprise dépense des dizaines de milliards de dollars en infrastructure IA sur la base d'une hypothèse interne selon laquelle l'IA transformatrice est imminente, le calendrier est opérationnellement réel, indépendamment de ce que l'équipe RP dit sur l'incertitude.
Pourquoi la date est moins importante que la distribution
La réaction naturelle aux discussions sur les délais de AGI est de se focaliser sur une date précise : sera-ce 2027 ? 2030 ? 2040 ? Ce cadrage est compréhensible mais trompeur. La question qui compte pour la gouvernance n'est pas « quand exactement ? » mais « quelle est la probabilité que AGI arrive dans l'horizon de planification de nos institutions actuelles ? »
Considérez ce que la construction d'une gouvernance ASI adéquate exige réellement:
- Les négociations de traités internationaux prennent généralement plusieurs années de l'initiation à la signature
- La ratification et la mise en œuvre des accords internationaux prennent des années supplémentaires
- L'infrastructure technique pour la vérification et la surveillance doit être conçue, financée et déployée
- Une législation nationale dans les principaux pays développant l'IA doit être adoptée
- Les cadres de gouvernance du calcul nécessitent des mécanismes de conformité industrielle construits au fil du temps
Même avec une volonté politique extraordinaire, un cadre international significatif de gouvernance de ASI construit à partir de zéro exige un minimum de cinq à dix ans. Si la probabilité que AGI arrive dans la décennie est non négligeable (et les éléments disponibles le suggèrent), alors une gouvernance qui commence après que AGI est devenu « clairement imminent » n’aura pas le temps d’aboutir.
C’est déjà un problème actuel. La fenêtre de gouvernance n’est ni illimitée ni statique. Elle se réduit.
L'asymétrie qui rend cette décision facile
Il existe une asymétrie entre les deux types d'erreur possibles ici. Si nous construisons des cadres de gouvernance ASI robustes et que AGI s'avère plus lointain que prévu, le coût se limite à des efforts gaspillés, quelques frictions réglementaires pour le développement de l'IA et un ensemble d'institutions internationales prêtes lorsque le moment viendra. Si nous attendons la certitude sur les calendriers avant de bâtir la gouvernance, et que AGI arrive avant que celle-ci ne soit en place, le coût risque d'être irrécupérable.
Cette asymétrie est la même qui a motivé la gouvernance nucléaire avant que les armes ne se propagent, la protection de l'ozone avant que la couche d'ozone ne s'effondre, et la préparation aux pandémies avant la prochaine épidémie. Dans chaque cas, les institutions construites dans l'incertitude ont prouvé leur valeur quand le scénario prévu s'est matérialisé.
"L'humanité a un mauvais bilan dans la construction d'institutions après coup qui auraient nécessité une anticipation pour les construire avant."
Yoshua Bengio, lauréat du prix Turing et prix Nobel · 2024
L’argument pour agir maintenant ne dépend pas de la croyance aux calendriers les plus agressifs de AGI. Il dépend seulement de prendre au sérieux l’ensemble des estimations crédibles (y compris les plus courtes) et de répondre à cette incertitude par une action de gouvernance appropriée.
Ce qui vient après AGI
AGI est le seuil d’alerte, pas le terminus. Un système au niveau de performance cognitive humaine dans tous les domaines a la capacité d’améliorer sa propre conception, de s’auto-améliorer de manière récursive de façons qui pourraient compresser le calendrier de AGI à superintelligence artificielle en mois, et non en décennies.
C'est le scénario qui a motivé les avertissements les plus sérieux des chercheurs les plus proches de la technologie. Pas le AGI lui-même, mais les dynamiques qui peuvent suivre le AGI, y compris la possibilité de passer d'un système contrôlable à un système incontrôlable plus vite que les institutions humaines ne peuvent réagir.
L’implication pour la gouvernance est directe : les cadres doivent être en place avant que le seuil AGI soit franchi, pas après. Le moment de négocier, c’est maintenant, pendant que toutes les parties construisent encore vers ce seuil et qu’aucune ne l’a franchi. Les trois propositions de politique du Nakada Foundation sont conçus précisément pour cette fenêtre.
La plus forte opposition
L'objection la plus juste est que les prévisions de calendrier se sont déjà trompées, donc gouverner sur elles relève de la panique. Juste sur les prédictions ponctuelles. Le fait portable est la direction des révisions et l'asymétrie du retard : les institutions ont besoin d'années ; la capacité peut bondir en trimestres. Construisez les cadres pendant que le seuil est encore devant.