Это продолжение Часть 1. Почему в безопасности ИИ так мало денег?, и именно поэтому в этой области так мало средств. Вопрос в том, как довести бюджет до миллиарда долларов в год.
Start with where things actually stand. Часть 1 сложил все филантропические гранты, все государственные программы безопасности и все доллары, которые лаборатории переднего края тратят на собственные команды безопасности, и получил в сумме примерно 190 миллионов долларов в год. В противовес этому мир вкладывает более 250 миллиардов долларов в год в повышение возможностей ИИ, и эта цифра продолжает расти. На каждую тысячу долларов, потраченных на усиление этих систем, на их безопасность уходит меньше доллара.
Миллиард долларов в год начал бы менять эту арифметику, и сумма меньше, чем кажется. Это меньше двух дней того, что отрасль уже тратит на развитие возможностей. Это около одной десятой процента оборонных расходов США. Это десятая часть того, что ежегодно перемещает климатическая филантропия, а климатическую филантропию не считают чрезмерно финансируемой. Что бы ни значил миллиард долларов, это не крупная сумма для проблемы, которую сами создатели технологии сравнивали — письменно и под своими именами — с пандемиями и ядерной войной.
Таким образом, причина голода в этой сфере не в том, что миллиард долларов трудно найти. Мир уже тратит во много раз больше в нескольких шагах, по другую сторону тех же офисных зданий. Деньги есть. Не хватает решения переместить часть из них.
Деньги уже существуют. Мир тратит столько на усиление ИИ примерно раз в полтора дня. Не хватает лишь воли направить хотя бы часть этих средств в другую сторону.
Миллиард — это минимум
Почему миллиард, а не триста миллионов? Потому что ниже примерно этой черты сфера может позволить себе делать только одно дело за раз. При 190 миллионах долларов цифры вынуждают к жёсткому отбору. Технические исследования и оценка моделей поглощают около двух третей всех средств. На advocacy (работу по побуждению правительств и компаний действовать на основе полученных результатов) приходится около пяти процентов — порядка 10 миллионов долларов в год, меньше, чем одна крупная технологическая компания тратит на лоббирование в одной столице. Миллиард долларов положил бы конец этому отбору. Он позволил бы сфере безопасности платить конкурентоспособные зарплаты специалистам, которых сейчас поглощают лаборатории, диверсифицировать область, зависящую от одного доминирующего фонда, и финансировать политическую работу, меняющую результаты, а не просто документирующую их.
А миллиард в год — скромная сумма по любым историческим меркам, которые подходят. Проект «Геном человека» обошёлся примерно в 3 миллиарда долларов и считается одним из лучших государственных вложений Соединённых Штатов за всю историю. По сравнению с риском, который сами создатели ставят в один ряд с ядерной войной, миллиард долларов в год — не щедрая цифра. То, что мы вообще спорим о её приемлемости, и есть странная часть.
Ликвидация оспы обошлась примерно в 300 миллионов долларов за всю тринадцатилетнюю кампанию — меньше трети одного года от обсуждаемой здесь цели. С 1980 года эта единовременная трата ежегодно экономит миру более миллиарда долларов, а одна только Соединённые Штаты возвращают свою долю первоначальных затрат примерно каждые двадцать шесть дней.
Снижение риска цивилизационного масштаба почти всегда оказывалось одним из самых дешёвых действий в истории, если мерить по возвращаемым результатам.
Откуда на самом деле берётся миллиард
Ничего из этого не требует нового изобретения или необычайной щедрости. Нужно лишь одновременно задействовать четыре обычных источника. Любые два из них, применённые всерьёз, позволяют достичь цели.
| Источник | Правдоподобно в год |
|---|---|
| Диверсифицированная филантропияСегодня один фонд даёт больше половины всех филантропических денег на безопасность. Для сравнения: климатическая филантропия ежегодно распределяет более 10 миллиардов долларов среди многих доноров. Один эндаумент в 20 миллиардов приносит миллиард в год только на процентах; чтобы набрать десятую часть климатического объёма, нужно, вероятно, пять–десять серьёзных спонсоров. | $300M |
| Бюджеты правительства на безопасностьИнституты безопасности уже существуют в UK, US и других странах. US тратит около 47 миллиардов долларов в год на Национальные институты здравоохранения; одного процента от этой суммы хватит почти на полмиллиарда на усилия по безопасности ИИ. | $300M |
| Отраслевой сбор на вычисленияФармацевтические компании финансируют примерно три четверти проверок лекарств FDA через пользовательские сборы; ядерная отрасль финансирует почти весь свой регулятор. Четыре десятых процента от уже приобретаемых вычислительных мощностей и инфраструктуры передового ИИ (более 250 млрд долларов в год) сами по себе покрывают весь миллиард. | $300M+ |
| Перенаправленный благотворительный капиталФонды, рекомендованные донорами, уже держат более 200 миллиардов долларов, выделенных на благотворительность, но ещё не потраченных. Университетские эндаументы и растущая инфраструктура эффективного альтруизма добавляют ещё больше. Здесь речь идёт о перераспределении, а не о создании нового богатства. | $100M |
| Всего | ~$1B+ |
Третья строка — самая важная, потому что это единственный источник, который не зависит от чьей-либо доброй воли. Филантропия может исчезнуть, когда донор передумает, как показала отрасль, когда её главный спонсор сократил гранты на техническую безопасность более чем вдвое за два года. Государственные бюджеты меняются с выборами. Законодательный сбор с отрасли, которая получает прибыль от создания риска, устойчив, соразмерен и имеет полные прецеденты. Именно так мы оплачиваем надзорные органы в медицине, авиации и атомной энергетике. Привязать небольшую долю финансирования безопасности к вычислительным мощностям, создающим опасность, — естественное продолжение аргумента в пользу управление вычислениями.
Деньги начинают быстро двигаться, как только риск становится понятным
История здесь однозначна. Когда опасность становится очевидной для общества и правительств, деньги появляются с такой скоростью, что нынешняя trickle выглядит выбором, а не ограничением. Вещества, разрушающие озоновый слой, были выведены из оборота по Монреальский протокол, чей фонд впоследствии направил миллиарды долларов, чтобы сделать переход возможным в бедных странах. Когда пришла COVID, мир за месяцы запустил разработку вакцин на десятки миллиардов долларов. Оспа, озон, полиомиелит: в каждом случае ограничением никогда не были деньги. Ограничением было признание.
Безопасность ИИ ещё не получила своего момента признания, и причина этому структурная, а не финансовая. Вред, о котором она предупреждает, ещё не произошёл. Нет пациентов, нет затопленных городов, нет скорбящих семей, которые могли бы придать этому лицо, и если работа увенчается успехом, их никогда не будет. Риск без сторонников не имеет никого, кто мог бы надавить на тех, кто подписывает чеки. Лучшая таблица не решит эту проблему.
Это проблема мобилизации
Это значит, что путь к миллиарду долларов — это не столько план по сбору средств, сколько план сделать риск достаточно понятным, а серьёзное отношение к нему — достаточно престижным, чтобы деньги пришли сами, как всегда бывало. Эта работа идёт по трём направлениям.
Сделайте это видимым. Угроза, которую люди могут представить, — это угроза, на которую они дадут деньги: журналистика, кино, данные и публичная аргументация, превращающие абстрактную вероятность в нечто, что законодатель или донор сможет почувствовать, — та же культурная основа, что предшествовала серьёзным средствам на климат и контроль над ядерным оружием.
Сделайте это престижным. Когда нобелевские лауреаты, бывшие главы государств и уважаемые общественные деятели называют проблему серьёзной, за ней начинают двигаться и нормы, и деньги. Научный консенсус по рискам ИИ уже существует. Не хватает лишь общественного разрешения людям с влиянием и ресурсами действовать открыто.
Сделайте это обязательным. Добровольные пожертвования, даже при сильном давлении, могут довести отрасль до трёхсот-четырёхсот миллионов в год. Чтобы дойти до миллиарда (и, что важнее, сохранить этот уровень независимо от настроения одного донора), нужен закон: сбор, бюджетная строка, обязательство по договору. Поэтому Фонд направляет усилия на обязательные правила и не только в убеждении. Щедрость приветствуется, но на ней нельзя строить стратегию.
Так что оставьте мысль, будто миллиард долларов в год — это амбициозный вариант серьёзного отношения к проблеме. Это минимальный вариант. Это меньше двух дней того, что мы уже тратим, чтобы проблему усугублять, и малая доля того, что однажды стоило искоренить болезнь, убивавшую людей три тысячи лет. Сумма не пугает. По-настоящему не хватает решения относиться к риску такого масштаба так, будто мы верим собственным предупреждениям.
Это решение принимается под давлением общества, в том, что слышат правительства от людей, которым они подотчётны, и в том, считаем ли мы это приоритетом, о котором говорит наука. Аргументы в пользу правил, которые сделают деньги устойчивыми, изложены в наш план, и самый быстрый способ добавить к нему свой вес занимает пять минут на принять меры страница.
Но сопоставьте эту цифру с тем, что мир уже тратит на создание технологии, или с тем, что человечество раньше тратило на опасности, которые решило воспринимать всерьёз, — и миллиард перестаёт выглядеть амбициозно. Он начинает выглядеть как минимум, на который мы способны, и этот минимум вполне достижим.