Литература по управлению безопасностью ИИ в значительной степени сосредоточена на проблеме международных переговоров: как заставить US, Китай, EU и других крупных игроков согласиться на обязывающие договорённости? Это реальная и сложная проблема. Ей уделяют меньше внимания, чем она заслуживает, но это не единственная проблема. Проблема внутренней ратификации почти не обсуждается. В истории контроля над вооружениями именно стадия внутренней ратификации погубила больше договоров, чем провал международных переговоров.

Договор о всеобъемлющем запрещении ядерных испытаний США подписали в 1996 году, и вот уже тридцать лет он остаётся нератифицированным. Международные переговоры — это более лёгкая половина дела. Ратификация внутри страны — вот где договоры умирают.

Любой, кто разрабатывает стратегию управления ASI, должен учитывать внутриполитическую борьбу, а не только международную.

Как работает ратификация и почему это сложно

Международные договоры становятся обязательным внутренним правом через ратификацию, которая требует одобрения по конституционной процедуре каждой страны. В США это означает две трети голосов в Сенате — 67 голосов в нынешнем составе. Порог, установленный статьёй II Конституции, задумывался, чтобы договоры отражали широкий двухпартийный консенсус, прежде чем стать обязательным законом. На практике он даёт меньшинству возможность блокировать любой договор, не имеющий сильной межпартийной поддержки, и позволяет организованным отраслям убедить небольшое число сенаторов, чтобы предотвратить ратификацию.

У других демократий иные требования к ратификации, но все сталкиваются с вариантами одной проблемы. Парламентское большинство может измениться между моментом, когда правительство ведёт переговоры по договору, и моментом, когда оно добивается ратификации. Внутренние группы, затронутые обязательствами договора, имеют сильные стимулы организоваться против него. Отрасли, которые считают себя ущемлёнными, потратят значительные средства, чтобы предотвратить ратификацию.

История ратификации договоров US в значительной степени состоит из подписанных, но не ратифицированных соглашений. SALT II, ДВЗЯИ, Конвенция ООН по морскому праву (которую US подписал, но так и не ратифицировал, несмотря на статус крупной морской державы) и Конвенция о правах ребёнка (ратифицирована всеми членами UN, кроме США) — все эти договоры были успешно согласованы на международном уровне, но не прошли внутреннюю ратификацию.

Дело ОСВ-2

СНВ-2 показывает, как соглашение, на переговоры по которому ушло семь лет, подкреплённое личным участием двух глав государств и имевшее реальную стратегическую ценность для обеих сторон, всё равно могло провалиться на этапе ратификации из-за внутриполитических условий, изменившихся после его заключения.

Картер передал SALT II в Сенат в июне 1979 года. Сенатские дебаты выявили значительную республиканскую оппозицию, сосредоточенную на трёх аргументах: что положения договора о верификации недостаточны; что договор даёт Советскому Союзу преимущества в тяжёлых ракетах; и что сам контроль над вооружениями отражает наивный взгляд на советские намерения. Эти аргументы были доступны на протяжении всего периода переговоров и в разной степени учтены в тексте договора. Они стали политически решающими, когда советское вторжение в Афганистан в декабре 1979 года изменило политическую обстановку. Картер отозвал договор из рассмотрения Сената в январе 1980 года, и он так и не дошёл до голосования.

Впоследствии обе стороны добровольно соблюдали большинство ограничений ОСВ-2 в течение нескольких лет, но договор так и не вступил в юридическую силу. Политическое окно для ратификации закрылось до голосования в Сенате и не открылось вновь.

Дело CTBT

Договор о всеобъемлющем запрещении ядерных испытаний был открыт для подписания в 1996 году после многолетних переговоров. Президент Клинтон подписал его в сентябре 1996 года. В октябре 1999 года Сенат проголосовал 51–48 против ратификации — впервые с 1920 года, когда Сенат отверг крупный международный договор о безопасности после Версальского договора.

Аргументы оппозиции сосредоточились на проверяемости и военной необходимости: сенаторы, проголосовавшие против ратификации, утверждали, что система мониторинга не может надёжно обнаружить все ядерные испытания выше определённого порога и что US нуждается в возможности испытывать ядерное оружие для поддержания безопасности и надёжности арсенала. Администрация Клинтона не создала достаточной политической инфраструктуры для кампании ратификации, была застигнута врасплох решением лидера большинства в Сенате назначить голосование без обычных процедур обсуждения на палате и проиграла голосование убедительно.

С тех пор договор находится в правовом лимбе. Соединённые Штаты остаются подписантом, но не участником, связанным лишь добросовестным обязательством Венской конвенции не действовать вопреки объекту и цели договора. Тридцать лет спустя после открытия для подписания ДВЗЯИ так и не вступил в силу, поскольку требует ратификации восемью конкретными странами (включая США, Китай, Индию и Пакистан), которые её не провели.

Как выглядела бы оппозиция ИИ-индустрии

Договор по безопасности ИИ, который потребовал бы от Соединённых Штатов принять жёсткие ограничения на разработку передовых систем, столкнётся с организованным сопротивлением индустрии и кругов национальной безопасности, которые будут утверждать, что такие ограничения поставят США в невыгодное положение по сравнению с Китаем.

Аргумент о конкурентном невыгодном положении будет самым политически сильным. Аргумент будет таким: договор, который обязывает компании US ИИ соблюдать требования оценки безопасности и ограничения разработки, а китайские компании — нет, действует как одностороннее ограничение возможностей US. Этот аргумент будут выдвигать независимо от того, связывает ли договор Китай на самом деле, потому что политическая сила аргумента не зависит от его точности. Голоса в Сенате против ОСВ-2 были отданы, хотя договор связывал обе стороны симметрично.

К этому добавится аргумент об экономическом ущербе. Компании ИИ, генерирующие значительную выручку и дающие работу десяткам тысяч высокооплачиваемых сотрудников, представят данные о последствиях ограничений разработки для экономики. Законодатели в штатах с развитой индустрией ИИ столкнутся с прямым давлением избирателей против ратификации.

Аргумент о верифицируемости, который оказался решающим для Договора о всеобъемлющем запрещении ядерных испытаний, снова появится и в контексте ASI-управления. Любой механизм верификации, требующий раскрытия данных обучения ИИ, информации об архитектуре модели или конфигурациях оборудования, столкнётся с сопротивлением компаний, опасающихся утечки конкурентных преимуществ, и органов национальной безопасности, опасающихся за секретные ИИ-программы. Аргумент, что система верификации недостаточна для обнаружения сложных нарушений, но при этом создаёт нагрузку на добросовестных участников, структурно применим к любому проекту верификации.

Что делали успешные кампании по ратификации

Договоры, успешно прошедшие ратификацию в Сенате по US, обладают несколькими общими чертами, отличающими их от договоров, не прошедших.

Они заручились двухпартийной поддержкой в Сенате ещё до голосования. Конвенция о химическом оружии, ратифицированная в 1997 году большинством 74–26, получила устойчивую поддержку республиканцев, потому что сенаторы-республиканцы убедились: альтернатива — US вне почти всеобщего договора о запрете химического оружия — хуже, чем несовершенства самого договора. Администрация месяцами работала с отдельными сенаторами до голосования и уже знала их позиции, прежде чем выносить вопрос на дебаты.

Они мобилизовали силы вне правительства. Кампания за ратификацию КХО включала активную поддержку Американского химического общества, крупных химических компаний US, которые сочли участие в договоре выгодным для бизнеса, и ветеранских организаций, поддержавших запрет химического оружия по гуманитарным соображениям. Против договора выступали в основном идеологические противники договоров, не обладавшие сопоставимым институциональным весом.

Президентское внимание сохранялось вплоть до ратификации, а не только до подписания. Отстранение Картера от ратификации ОСВ-2, когда его президентство поглотили Иран и Афганистан, стало одним из факторов провала договора. Ратификация КХО получила постоянное внимание Белого дома, включая личное лоббирование президента Клинтона и высокопоставленных сотрудников по национальной безопасности.

Договор по безопасности ИИ, попавший в Сенат без многолетней предварительной работы внутри страны, постигнет та же участь, что и ОСВ-2. Политическая подготовка должна начинаться задолго до подписания договора.

Для ASI внутренние задачи ратификации и международные переговоры — это один и тот же вызов, рассматриваемый с разных сторон, а не нечто отдельное. Текст договора, подготовленный с учётом ратификации в US Сенате, отвечающий на возражения по поводу проверяемости, включающий положения, затрудняющие аргумент о конкурентном отставании, и рассчитанный на привлечение двухпартийной поддержки, имеет больше шансов на успех на международном уровне, поскольку учитывает ограничения самой требовательной среды ратификации. А кампания по формированию внутренней коалиции, начатая до заключения договора, придаёт администрации credibility в международных переговорах, которой у неё нет, если она ведёт переговоры о договоре, который не сможет ратифицировать.