Стандартное описание истории контроля над вооружениями сосредоточено на правительствах: переговорщиках, главах государств, подписавших договоры, сенаторах, ратифицировавших или отказавшихся ратифицировать. Это описание неполно. За каждым крупным международным соглашением по опасным технологиям стояло sustained усилие гражданского общества, которое подготовило политическую почву, сформировало общественное понимание риска, разработало предложения по управлению, которые затем приняли переговорщики, поддерживало диалог через разделительные линии, когда официальные каналы были закрыты, и сохраняло вопрос политически живым в периоды, когда правительства предпочитали отвести взгляд.
Экологические НПО поддерживали Монреальский протокол политически живым, когда правительства колебались. Вот что делает гражданское общество в управлении технологиями и чего пока не построило движение за безопасность ИИ.
Понимание реальной роли гражданского общества в контроле над вооружениями — необходимое условие для оценки того, что нужно строить гражданскому обществу в сфере ИИ-безопасности.
Что Пагуош сделал для контроля над ядерным оружием
Пагуошские конференции по науке и мировым делам были основаны в 1957 году после Манифеста Рассела — Эйнштейна 1955 года, в котором Бертран Рассел и Альберт Эйнштейн вместе с девятью другими видными учёными призвали правительства признать, что ядерное оружие угрожает цивилизации, и искать мирного разрешения конфликтов, а не войны. Манифест подписали учёные как западного, так и советского блока, в том числе несколько нобелевских лауреатов.
Модель Пагуош представляла собой диалог по второй дорожке: учёные из противостоящих стран встречались как частные лица, а не как представители правительств, чтобы обсуждать предложения по контролю над вооружениями и выстраивать личные отношения и общие технические рамки, которые впоследствии могли бы лечь в основу официальных переговоров. Ранние встречи Пагуош в конце 1950-х и 1960-х годах рассматривали предложения по верификации ограничений на ядерные испытания, которые позже в изменённом виде вошли в Договор о запрещении ядерных испытаний в атмосфере, космическом пространстве и под водой 1963 года. Концепция национальных технических средств верификации контроля над вооружениями (использование спутниковой разведки для мониторинга соблюдения без необходимости наземных инспекторов) была разработана и обсуждена на встречах Пагуош до того, как была включена в соглашения ОСВ.
Pugwash не писал договоры. Он разрабатывал идеи, выстраивал отношения и создавал пространство, в котором учёные с обеих сторон холодной войны могли обсуждать технические проблемы, недоступные официальным дипломатическим каналам. Когда политические условия изменились и официальные переговоры стали возможны, интеллектуальная инфраструктура для того, о чём можно было договориться, уже существовала — потому что Pugwash строил её годами. Pugwash и его основатель Joseph Rotblat разделили Нобелевскую премию мира в 1995 году.
Что сделала кампания по запрету наземных мин
Международная кампания за запрещение противопехотных мин была основана в 1992 году коалицией НПО, пришедших к выводу, что гуманитарные последствия противопехотных мин — тысячи жертв среди гражданского населения ежегодно в постконфликтных странах, повсеместное загрязнение сельскохозяйственных земель, дети, искалеченные десятилетия спустя после конфликтов, в которых мины были применены, — требуют полного запрета, а не постепенных ограничений. Основная стратегия кампании заключалась в документировании гуманитарных последствий в конкретных, наглядных и привязанных к конкретной технологии терминах и в связывании этой документации с ясным политическим требованием.
Документирование вели неправительственные организации, работавшие в пострадавших странах: Handicap International, Human Rights Watch, Physicians for Human Rights и другие. Они выпускали отчёты, собирали свидетельства жертв и обеспечивали устойчивое освещение в СМИ, сделав проблему политически значимой в странах-донорах. Кампания планомерно выстраивала союзников среди правительств (Канада была важнейшим) и находила дипломатический путь в обход Конференции по разоружению, где крупные военные державы блокировали прогресс.
Запрет на противопехотные мины начинался не в министерствах иностранных дел. Его инициировали выжившие, врачи и активисты, сделавшие это оружие политически невыгодным. В сфере безопасности ИИ есть статьи и саммиты. Но нужен ещё и такой внешний нажим, чтобы закон смог связать лаборатории, предпочитающие бесконечное саморегулирование.
Успех кампании опирался на сочетание факторов, отличавших её от менее удачных усилий. Вред был текущим и документируемым. Требование было конкретным и понятным неспециалистам. У кампании были отношения с сочувствующими правительствами, способными выступить институциональными чемпионами. И она была готова действовать без участия великих держав, принимая, что договор без US, Китая и России всё равно создаст норму, которая будет влиять на поведение со временем.
Что сделали экологические НПО для Монреальского протокола
Кампания по ограничению веществ, разрушающих озоновый слой, опиралась на научную коммуникацию, переводившую технические выводы в общественную озабоченность. Когда Ф. Шервуд Роуленд и Марио Молинa опубликовали в 1974 году результаты исследований химии хлорфторуглеродов, показав, что ХФУ каталитически разрушают стратосферный озон, научный вывод требовал интерпретации и усиления, чтобы стать политическим вопросом. Экологические НПО, прежде всего «Друзья Земли» и Совет по защите природных ресурсов, вели эту работу перевода на протяжении конца 1970-х и 1980-х годов.
Кампания НПО сочетала просвещение общественности, работу со СМИ и прямое политическое лоббирование. В Соединённых Штатах НПО поддерживали успешные кампании по ограничению использования ХФУ в аэрозольных баллончиках ещё до заключения международного соглашения, создавая внутренний регуляторный прецедент, на который правительство US могло ссылаться в международных переговорах как на доказательство политической осуществимости. Когда в 1985 году было обнаружено озоновая дыра над Антарктидой, давшее драматическое визуальное и научное подтверждение ущерба от ХФУ, инфраструктура коммуникаций НПО была готова немедленно усилить его значимость.
После заключения Монреальского протокола НПО отслеживали выполнение, выявляли проблемы с соблюдением и выступали за последовательные поправки, которые десятилетиями расширяли охват протокола. Роль гражданского общества не закончилась подписанием договора; она продолжалась на этапе реализации, обеспечивая постоянный контроль, который заставлял правительства выполнять обязательства.
Что построило и не построило гражданское общество по безопасности ИИ
Область безопасности ИИ накопила значительный технический и интеллектуальный материал о рисках передовых систем. Эти работы собраны в академических статьях, материалах конференций и публичных заявлениях исследователей из университетов и крупных лабораторий ИИ. Несколько исследователей, включая Джеффри Хинтона и Йошуа Бенджио, публично высказывались об экзистенциальном риске ИИ, привлекая серьёзное внимание СМИ. Сейчас существует modestное число финансируемых филантропами организаций, работающих над управлением и политикой в области ASI.
По сравнению с инфраструктурой гражданского общества, поддерживавшей контроль над ядерными вооружениями и запрет наземных мин, нынешние усилия гражданского общества в области безопасности ИИ заметно слабее в конкретных аспектах.
Нет эквивалента Пагуошу: нет устойчивого структурированного форума, где исследователи ИИ из US, Китая, EU и других крупных стран-разработчиков ИИ регулярно встречались бы как частные лица вне официальных правительственных каналов, чтобы вырабатывать общие технические рамки управления. Существующие двусторонние и многосторонние правительственные процессы официальны, а не track-2, и потому подчиняются всем ограничениям официальной дипломатии.
Нет эквивалента ICBL: никакой массовой кампании членства с чётким конкретным требованием и задокументированной историей вреда, которая связывала бы требование с нынешним опытом реальных людей. Экзистенциальный риск ИИ предвосхищается, а не переживается, поэтому эмоциональную и политическую мобилизацию, которой добилась кампания по наземным минам, воспроизвести значительно сложнее. Вред от ASI ещё не ощущается в настоящем времени так, как ощущались жертвы от мин.
Постоянной функции мониторинга нет: ни одна организация гражданского общества не отслеживает обязательства государств по управлению ASI, не измеряет соблюдение добровольных обещаний и не публикует результаты так, чтобы возникала подотчётность. НПО, которые следят за выполнением договоров по контролю над вооружениями, оценивают, выполняют ли государства обязательства по разоружению, расследуют предполагаемые нарушения и документируют разрыв между обещаниями и действиями, не имеют прямого аналога в сфере управления ASI.
«Каждое крупное соглашение по контролю над вооружениями предварялось годами работы гражданского общества, которая формировала общественное понимание, разрабатывала предложения по управлению и поддерживала политическое давление. Такую работу нужно начинать для ИИ уже сейчас.»
Что удалось создать гражданскому обществу в сфере безопасности ИИ — это исследовательское и политическое сообщество высокого интеллектуального уровня. Чего пока не удалось — это способности к массовой мобилизации, инфраструктуры трансграничного научного диалога и функции постоянного мониторинга, которые отличали эффективные кампании по управлению в других технологических областях. Создание этих возможностей — политическая и институциональная предпосылка для договора, который можно будет согласовать, ратифицировать и поддерживать, а не отдельная от работы по продвижению договора задача.
Самое жёсткое возражение
Самое справедливое возражение: НПО и академики не могут сдвинуть великие державы, поэтому гражданское общество — это лишь комментарий. Движения не подписывают договоры. Они меняют цену отказа от подписи. Общественное давление, экспертная проработка и финансируемая донорами advocacy — вот как отстающие государства оказываются в комнатах, куда они предпочли бы не заходить.