В 1968 году Договор о нераспространении ядерного оружия прошёл путь от проекта до подписания после долгих рабочих групп, тупиков и внутриполитических схваток. Те, кто говорит «нам нужен договор по ИИ», редко представляют эту механику. А следовало бы. Разрыв между лозунгом и ратифицированным текстом — место, где погибает большинство планов.
Международные переговоры по договорам проходят как длительные, технические, многолетние процессы с участием дипломатических миссий, юристов и технических экспертов.
Как работают международные переговоры по договорам
Большинство современных многосторонних договоров начинаются с политического разрешения: как правило, это резолюция Генеральной ассамблеи UN или решение многостороннего органа, дающее мандат на начало переговоров. Это создаёт формальную основу для созыва переговорной конференции или постоянного комитета в уже существующем форуме, например в Конференции по разоружению в Женеве. Без такого политического разрешения обсуждения договора остаются подготовительными и неформальными. С ним они превращаются в официальный переговорный процесс с мандатом на выработку текста.
Переговорный орган собирается сессиями, обычно по несколько недель в год, а межсессионная работа ведётся техническими рабочими группами между формальными сессиями. Рабочие группы параллельно решают конкретные вопросы: определения, механизмы верификации, институциональные договорённости, обязательства по реализации, финансовые положения. Каждая рабочая группа готовит проект текста, который затем объединяется в постоянно обновляемый проект полного договора по итогам последовательных сессий.
Проект договора согласовывается консенсусом, то есть ни одно положение не считается окончательным, пока все участники с ним не согласятся. Это более высокий порог, чем голосование большинством, но он приводит к договорам с более устойчивой легитимностью и более широким участием, поскольку ни одна страна не была переголсована по неприемлемым для неё положениям. Цена в том, что консенсус требует больше времени, и темп задаёт делегация, у которой больше всего возражений, которые нужно преодолеть.
После финализации текст открывают для подписания. Подпись — политический акт поддержки, а не юридическое обязательство. Юридическое обязательство возникает, когда страна ратифицирует договор через внутренний конституционный процесс. Большинство договоров указывают минимальное число ратификаций для вступления в силу.
Какие рабочие группы потребуются для договора о передовом ИИ
Договор, призванный регулировать разработку передовых ИИ, потребует рабочих групп по вопросам, у которых нет устоявшихся ответов в международном праве. Главные из них:
Определения. Договор должен чётко указать, какие системы ИИ он регулирует. Это сложнее, чем определять ядерное оружие или химические вещества, потому что ИИ представляет собой непрерывный спектр возможностей без резкой границы между опасными и безопасными версиями. Предложения сводятся к использованию порогов вычислений как прокси: тренировочный запуск выше заданного вычислительного масштаба будет запускать обязательства по договору. Порог потребует технического обоснования, регулярного пересмотра по мере падения стоимости вычислений и механизма разрешения споров для пограничных случаев.
Обязательства разработчиков охваченных систем. Once a system crosses the defined threshold, what are the required actions? Most proposals include prior notification to a monitoring body before or during the training run; mandatory evaluation of the trained system against specified safety standards; reporting of evaluation results; and restrictions on deployment of systems that fail the standards. Each of these requires definitions of what constitutes adequate compliance, which is itself a technical and legal dispute before a single negotiating session begins.
Механизмы верификации. Как независимый орган подтвердит, что заявленная деятельность соответствует реальной? Это будет самая технически сложная рабочая группа. Предлагаемые решения сочетают мониторинг на уровне оборудования через сотрудничество с производителями чипов, отслеживающими продажи выше заданных характеристик, инспекции объектов с правом посещения крупных вычислительных кластеров и права аудита тренировочных логов и результатов оценок. Каждый элемент поднимает вопросы коммерческой конфиденциальности и государственной секретности, которые нелегко разрешить.
Институциональная структура. Какой орган будет администрировать договор? Новая организация, аналогичная OPCW, созданная самим договором, несёт наибольшую управленческую ценность, но требует наибольших политических усилий и ресурсов. Передача существующему органу снижает политические издержки, но может не иметь ни мандата, ни технической экспертизы, необходимых для задачи. IAEA имеет опыт мониторинга технологий двойного назначения; МСЭ предъявляет некоторые юрисдикционные претензии на вопросы, связанные с ИИ. Каждый вариант имеет разные ресурсные последствия и разную историю политической независимости от крупных держав.
Требования к вступлению в силу. Договор должен указать, какие страны обязаны ратифицировать его до вступления в юридическую силу. Договор, вступивший в силу без US, Китая или UK, не свяжет организации, ответственные за разработку frontier-ИИ. NPT требовал ратификации определённой группой государств. Договору об ИИ нужен аналогичный механизм, с очевидной сложностью: требование ратификации от US и Китая даёт обеим странам право вето на само существование договора.
Процесс переговоров по этапам
Подготовительные обсуждения
Неформальные экспертные встречи и диалоги второго трека, на которых прорабатываются технические и правовые концепции, которые потом лягут в основу формальных переговоров. Сейчас они идут разрозненно через саммиты по безопасности ИИ, академические конференции и двусторонние правительственные обсуждения.
Политическое разрешение
Высокий политический шаг (через UN, «Большую семёрку»/«двадцатку» или отдельный саммит), который запускает формальный переговорный процесс с чёткими рамками и сроками. Именно этот шаг превращает подготовительные обсуждения в переговоры о договоре.
Рамочная конвенция
Широкое соглашение о принципах и институциональной структуре до того, как будут решены более сложные технические детали. Такая модель (применялась в климатических конвенциях и других) позволяет достичь политически значимого соглашения раньше, пока технические рабочие группы продолжают прорабатывать детали.
Технические протоколы
Приложения, имеющие обязательную силу, которые определяют механизмы верификации, пороговые значения, стандарты оценки и обязательства по реализации. Они согласовываются после и отдельно от рамочного соглашения, что позволяет проработать наиболее технически сложные вопросы, пока политическое соглашение уже достигнуто.
Ратификация и вступление в силу
Внутренние процедуры ратификации в каждой стране-подписанте, после чего договор вступает в силу, когда указанное минимальное число ключевых стран его ратифицирует. В зависимости от требований к вступлению в силу этот этап может занять годы после финализации текста договора.
Предсказуемые узкие места
Опыт сравнимых переговоров указывает на несколько споров, которые почти наверняка возникнут и которые нужно учитывать с самого начала.
Напряжение между верификацией и конфиденциальностью. Страны и компании с программами передового ИИ будут сопротивляться механизмам верификации, требующим раскрытия коммерчески или военно чувствительной информации. Возможности ИИ представляют конкурентные преимущества. Права инспекции, которые делают систему верификации правдоподобной, будут отвергаться теми же сторонами, чьё соблюдение делает договор значимым. Ядерный режим решил эту проблему через тщательно ограниченные соглашения о гарантиях, которые проверяли недиверсию ядерных материалов без требования раскрытия информации о конструкции оружия. ASI-управление потребует аналогичной работы по ограничению объёма.
Спор об определении порога. Какой бы порог вычислений ни использовался для определения охватываемых систем, он будет оспариваться. Стороны чуть ниже порога будут утверждать, что его следует понизить; стороны чуть выше — что он установлен слишком низко. И любой фиксированный порог устареет по мере падения стоимости вычислений, требуя механизмов поправок, которые сами по себе политически спорны. Один из подходов, применяемых в других договорах, — передать установление порога техническому органу, а не фиксировать числа в тексте договора, позволяя пересмотр без поправок к договору.
Проблема участия Китая. Договор, вступающий в силу без Китая, не регулирует организации, ответственные за наиболее значимую разработку ИИ за пределами US. Чтобы Китай принял обязывающие ограничения на свою передовую разработку ИИ, нужно предложить нечто убедительное взамен (вероятно, сочетание гарантий доступа к технологиям и симметричных ограничений на разработку в US) в условиях глубокого взаимного недоверия. Это дипломатическая задача, которую дизайн договора не может решить полностью.
Проблема частных игроков. Передовые ИИ разрабатывают в основном частные компании. Договор будет обязывать государства, которые затем будут выполнять обязательства через национальное законодательство, применяемое к компаниям. Это создаёт регуляторную сложность, с которой не сталкивались договоры по ядерному и химическому оружию, поскольку те касались в основном государственных программ. Договор по передовым ИИ должен чётко прописать, как государственные обязательства превращаются в обязательства компаний и как нарушения компании приписываются государству-участнику, на территории которого она находится.
«Каждый крупный договор по контролю над вооружениями казался невозможным для переговоров, пока его не заключили. Вопрос всегда в том, достаточно ли созрели политические условия, чтобы цена бездействия превысила цену соглашения.»
Договор о безопасности передового ИИ — результат длительного политического процесса, который ещё официально не начался, а не единичное событие. Работа, которая идёт сейчас — саммиты по безопасности ИИ, двусторонние правительственные обсуждения, национальные институты безопасности, академические предложения рамок управления, — это подготовительная фаза. Превращение её в официальный мандат на переговоры, затем в текст договора, затем в ратификацию — дело многих лет. Срочность в том, что управляемые возможности могут появиться быстрее, чем успеет пройти процесс управления. Эта срочность и требует начать всерьёз уже сейчас.
Самое жёсткое возражение
Самое справедливое возражение: великие державы никогда не свяжут свои передовые лаборатории, поэтому описание переговоров — чистая теория. Каждый крупный договор по вооружениям выглядел невозможным, пока цена бездействия не выросла. Подготовительная работа уже есть. Не хватает политической воли, которую должно создать общественное требование и промышленные рычаги, а не новая лексика.