Деньги — это карта приоритетов. Возможности получают капитал. Безопасность — остаток.
Годовые мировые инвестиции в усиление ИИ (масштаб отрасли, оценки середины 2020-х)
Годовой приток средств в техническую безопасность, оценку, политику и advocacy вместе
Более чем в 1 000 раз
На обеспечение безопасности этой технологии уходит меньше одной десятой процента от всех вложений. Внутри этого скромного бюджета на создание политической воли уходит лишь тонкая доля.
Грубое распределение: технические исследования — наибольшая доля; оценки — следующие; управление и политика — меньше; развитие направления и advocacy — наименьшая. Работа, приводящая к договорам, недофинансирована относительно масштаба ставок.
Независимые оценки за пределами лабораторий. Проектирование договоров и дипломатический потенциал. Общественная advocacy, создающая разрешение на жёсткое право. Инструменты управления вычислительными мощностями. Внутренние команды лабораторий сами не смогут написать международные правила.
Округлённые средние значения, собранные из открытых источников (обзоры финансирования безопасности ИИ, 80,000 Hours, анализ грантов Open Philanthropy, Inside Philanthropy). Опубликованные итоги зависят от определений. Подробности: nakadafoundation.org/blog/why-is-there-so-little-ai-safety-funding/
Закройте разрыв там, где он влияет на политику.
nakadafoundation.org/donate/