Когда люди утверждают, что международное управление ASI невозможно, одним из самых частых структурных аргументов становится Совет Безопасности UN. Китай и Россия, гласит аргумент, просто наложат вето на любое обязательное ограничение разработки ИИ. UN не может действовать. Следовательно, обязательное управление ASI невозможно.
Любая структура, которая направляет исполнение ASI-управления через Совет Безопасности, даёт любой из стран возможность полностью его заблокировать. Понимание этого ограничения определяет, как должна выглядеть эффективная архитектура ASI-управления и какой она быть не может.
Этот довод неверно понимает, как на самом деле работает международное управление. Право вето Совета Безопасности реально и имеет серьёзные последствия, но оно распространяется на гораздо более узкий круг решений, чем обычно думают. Точное понимание того, что именно покрывает вето и чего оно не покрывает, — необходимое условие для создания архитектуры управления ASI, которая сможет работать в мире, где Китай и Россия не станут добровольно ограничивать свою разработку ИИ.
Что на самом деле покрывает вето Совета Безопасности
Совет безопасности UN обладает полномочиями по главе VII Устава UN санкционировать принудительные меры, когда он определяет, что под угрозой находятся международный мир и безопасность. К таким мерам относятся экономические санкции, эмбарго на поставки оружия и санкционирование применения военной силы. Пять постоянных членов — Соединённые Штаты, Великобритания, Франция, Китай и Россия — обладают правом вето на эти резолюции главы VII.
Вето не распространяется на переговоры и ратификацию договоров. Государства ведут переговоры по договорам отдельными процессами. Они подписывают договоры двусторонне или многосторонне. Ратифицируют их через внутренние законодательные процедуры. Совет Безопасности здесь не участвует. Китай не может наложить вето на Конвенцию о химическом оружии. Россия не может наложить вето на Договор о нераспространении ядерного оружия. Ни одна из стран не способна помешать другим государствам вести переговоры и ратифицировать договор по безопасности ИИ.
Вето имеет значение на этапе исполнения, а не на этапе заключения договора. Если государство нарушает договор и пострадавшие стороны хотят, чтобы Совет Безопасности санкционировал меры принуждения, вето P5 может заблокировать это решение. Это реальная проблема при проектировании договоров. Она означает, что архитектура управления, зависящая от принудительных мер Совета Безопасности, уязвима к блокировке со стороны P5 именно в тот момент, когда принуждение необходимо.
Решение — не полагаться на принуждение со стороны Совета Безопасности.
Как успешные договоры обходят вето
Конвенция о запрещении химического оружия (1993) — наиболее поучительный прецедент. Организация по запрещению химического оружия со штаб-квартирой в Гааге проводит плановые инспекции химических объектов государств-участников и расследует предполагаемые нарушения. Её руководящий орган — Конференция государств-участников — может устанавливать ответственность за нарушения и принимать решения о последствиях, включая приостановку прав и привилегий нарушившего государства. Ни один из этих процессов не требует санкции Совета Безопасности.
Когда Сирия применила химическое оружие в 2013 году, а затем в 2017 и 2018 годах, OPCW провела расследование, установила ответственность и приостановила права Сирии в организации. Россия неоднократно накладывала вето на резолюции Совета Безопасности по поводу применения Сирией химического оружия. Но вето России не могло отменить фактические выводы OPCW или последствия, которые Конференция государств-участников наложила через собственные процедуры. Операционная независимость OPCW от Совета Безопасности и позволила организации действовать несмотря на obstruction со стороны P5.
Учредительный договор OPCW намеренно поместил полномочия по проверке, установлению авторства и последствиям в собственные руководящие органы организации, а не в Совет Безопасности. Когда Россия заблокировала действия Совета Безопасности по применению химического оружия в Сирии, расследование и процесс привлечения к ответственности OPCW продолжились по собственным процедурам. Это проектное решение сделало режим КХО работоспособным именно в тех политических условиях, где конструкция, зависящая от Совета Безопасности, рухнула бы.
Международное агентство по атомной энергии использует похожую двухуровневую структуру. Совет управляющих IAEA может установить факт несоблюдения государством обязательств по гарантиям и сообщить об этом Совету Безопасности. Но заключение Совета остаётся в силе независимо от того, что Совет Безопасности с ним сделает. Когда Иран был признан не соблюдающим обязательства в 2005 году, резолюция Совета IAEA была юридически и политически значимым фактом ещё до того, как Совет Безопасности предпринял какие-либо действия. IAEA также сообщает о несоблюдении Генеральной Ассамблее UN, которая, хотя и не может санкционировать принудительные меры, может усилить политическое давление через собственные резолюции.
Альтернатива Генеральной Ассамблеи
Генеральная ассамблея ООН насчитывает 193 члена, и её резолюции не могут быть заблокированы вето. Резолюции Генассамблеи не имеют такой же юридической силы, как резолюции Совета Безопасности, но они далеко не лишены значения. Они отражают консенсусные позиции международного сообщества. Они создают нормативные рамки, которые влияют на переговоры по договорам, внутреннее законодательство и судебные решения о обязательствах государств по обычному международному праву.
Генеральная Ассамблея уже начала работу над управлением ASI. В марте 2024 года она консенсусом приняла резолюцию о возможностях безопасного, надёжного и заслуживающего доверия искусственного интеллекта для устойчивого развития. Это не было обязательным инструментом управления, но стало первой резолюцией Генассамблеи, закрепившей международно согласованные формулировки о характере ответственного развития ИИ. Язык этих резолюций становится основой для переговоров по договорам.
Процедура «Единство ради мира» (1950) установила, что при блокировке Совета Безопасности вето Генеральная Ассамблея может созвать чрезвычайную специальную сессию для рассмотрения вопросов международного мира и безопасности. Эта процедура уже применялась неоднократно, в последний раз — в связи с вторжением России в Украину в 2022 году. Теоретически, если тупик в Совбезе помешает реагировать на катастрофу, связанную с ИИ, процедура «Единство ради мира» позволит перенести рассмотрение в Генассамблею. Это не даст обязательного полномочия на принуждение, но создаст политическую и нормативную реакцию, имеющую реальный вес.
Какая архитектура договора позволяет избежать проблемы вето
Договор об управлении ASI, рассчитанный на работу в мире, где UNSC может наложить вето, разделит несколько черт с наиболее эффективными существующими режимами контроля над вооружениями и разоружения.
Полномочия по верификации должны принадлежать договорному органу, а не Совету Безопасности. Договор учредит независимую организацию, аналогичную OPCW или IAEA, со своим руководящим советом, инспекторатом и процедурами принятия решений о нарушениях и последствиях. Последствия, доступные договорному органу, включают приостановку прав членства, публичное разоблачение через отчёты об атрибуции и исключение из программ технического сотрудничества. Эти меры не требуют разрешения Совета Безопасности.
Орган договора будет докладывать о своих выводах Совету Безопасности, но сам доклад будет иметь самостоятельное значение. Официальное заключение органа управления ASI о том, что государство нарушило свои обязательства, станет значимым политическим и юридическим фактом независимо от того, последует ли за этим санкционирование принудительных мер Советом Безопасности. Это модель IAEA: обращение Совета управляющих в Совет Безопасности — не просто процедурный шаг, а источник политического давления, действующего независимо от того, предпримет ли Совет какие-либо действия.
Государства, ратифицировавшие договор, примут юрисдикцию независимого механизма урегулирования споров. Здесь полезна модель торгового права. Система разрешения споров Всемирной торговой организации, которая может санкционировать ответные торговые меры, действует независимо от Совета Безопасности. Страны — члены ВТО принимают эту юрисдикцию как условие членства. Договор об управлении ASI мог бы включить аналогичные положения, создав механизм принуждения через торговые последствия, недоступный для вето Совета Безопасности.
Проблема вето реальна. Но она касается более узкого круга вопросов управления, чем обычно думают. Самые эффективные режимы контроля над вооружениями построили механизмы проверки, атрибуции и последствий, которые работают независимо от санкции Совета Безопасности. Управление ASI может следовать той же архитектурной логике."
Более сложная проблема: управление неучастниками
Обход вето Совета Безопасности решает проблему управления сторонами договора, которые потом нарушают обязательства. Он не решает более сложную задачу — управление государствами, которые вообще не присоединились к договору.
Если Китай или Россия откажутся ратифицировать договор об управлении ASI, их программы ИИ вообще не подпадают под его обязательства. Никакой режим инспекций, никакой договорный орган, никакой механизм урегулирования споров не применяется к стороне, не участвующей в договоре. Проблема вето в Совете Безопасности в этом случае становится неактуальной, потому что рассматриваемые государства находятся вне рамок договора целиком.
Это подлинная структурная проблема регулирования ASI, которую иногда путают с проблемой вето в Совете Безопасности. Она требует иного набора решений: условий доступа к рынку (требование соответствия стандартам безопасности как условия экспорта или импорта ИИ), коалиционного строительства, чтобы неучастие стало дорогостоящим, и процессов формирования норм через Генеральную ассамблею и другие многосторонние форумы, повышающие политическую цену пребывания вне рамок. Именно такие стратегии превратили Договор о запрете противопехотных мин и Международный уголовный суд в действенные инструменты даже без участия США, Китая и России.
Право вето в Совете Безопасности — реальное ограничение на то, каким может быть обязательное международное ASI-управление. Но это не ограничение на саму возможность такого управления. Институты, успешно управлявшие оружием массового уничтожения, обходили это ограничение через тщательную разработку договоров, независимые органы верификации и механизмы принуждения, не зависящие от разрешения Совета Безопасности. Архитекторам ASI-управления стоит изучать эти конструкции, а не принимать вето как вечный потолок достижимого.