L'argent est une carte des priorités. Les capacités reçoivent le capital. La sécurité obtient le reste.
Investissement annuel mondial pour rendre l'IA plus puissante (échelle industrielle, estimations milieu des années 2020)
Flux annuel combiné vers la sécurité technique, les évaluations, les politiques et le plaidoyer
Plus de 1 000×
Moins d'un dixième de un pour cent des sommes consacrées à cette technologie servent à s'assurer qu'elle ne nous détruise pas. Dans l'enveloppe de la sûreté, le plaidoyer qui crée une volonté politique ne représente qu'une part infime.
Répartition approximative : la recherche technique est la plus importante ; viennent ensuite les évaluations ; la gouvernance et les politiques sont plus réduites ; le développement du domaine et le plaidoyer sont les plus petits. Le travail qui produit des traités est sous-financé par rapport aux enjeux.
Évaluations indépendantes hors des murs des laboratoires. Conception de traités et capacité diplomatique. Plaidoyer public qui crée la permission pour un droit contraignant. Outils de gouvernance du calcul. Les équipes internes aux labs ne peuvent pas seules rédiger des règles internationales.
Moyennes arrondies compilées à partir de sources publiques (synthèses de financements de la sécurité de l'IA, 80,000 Hours, analyses de subventions d'Open Philanthropy, Inside Philanthropy). Les totaux publiés varient selon les définitions. Détails : nakadafoundation.org/blog/why-is-there-so-little-ai-safety-funding/
Comblez l'écart là où il influence la politique.
nakadafoundation.org/donate/