Блетчлиская декларация (1 ноября 2023), Руководящие принципы и Кодекс поведения G7 из Хиросимы (2023), Сеульские обязательства по безопасности передовых ИИ (май 2024) и принципы ИИ ОЭСР — всё это soft law. В международном праве термины точны. Hard law — это юридически обязывающие нормы, прежде всего договоры, которые государства обязаны выполнять и за нарушение которых можно привлекать к ответственности. Soft law — это инструменты, выражающие обязательства или стандарты без создания таких обязательств: декларации, руководящие принципы, кодексы поведения, резолюции. Оба влияют на поведение. Только hard law можно принудительно исполнять.

Этот разрыв — это разница между мягким правом и жёстким правом.

Что каждый тип может и не может делать

1

Мягкое право: быстрое, гибкое, необязательное

Его можно быстро согласовать, легко скорректировать и присоединиться без полной политической цены связанного суверенитета. Оно устанавливает нормы, сигнализирует намерения и формирует общие ожидания. Оно не налагает юридических обязанностей, не предусматривает проверки и не обеспечивает enforcement. Соблюдение добровольно и обратимо.

2

Жёсткий закон: медленный, негибкий, обязывающий

Договор сложно и долго согласовывать и ратифицировать, а изменить его после принятия трудно. Он создаёт настоящие юридические обязательства, может сочетаться с органами верификации и механизмами принуждения и даёт государствам основание требовать друг от друга отчётности. Именно такая форма способна сдержать решительного участника.

Почему мягкое право идёт первым

Переход от мягкого права к жёсткому — нормальный жизненный цикл международных режимов, а не отклонение. Государства сопротивляются обязательным ограничениям на технологию, которую они не до конца понимают, где наука ещё не устоялась, а стратегические ставки остаются спорными. Мягкое право позволяет начать сотрудничество без полного обязательства, вырабатывая общие определения, понимание и доверие, которые позже делают возможным заключение обязательного соглашения.

История прямо указывает на последовательность. Протокол по озону с жёсткими обязательствами опирался на более раннее, необязательное сотрудничество в рамках Венской конвенции 1985 года. Климатическое управление начиналось с рамочной конвенции, прежде чем появились жёсткие цели. Мягкое право — это строительные леса. Леса нужны, чтобы возвести здание, но сами по себе они не являются готовым зданием.

Мягкое право и само по себе работает. Нормы формируют то, что компании и правительства считают приемлемым, влияют на внутреннее законодательство и дают судам, регуляторам и общественности точки опоры, на которые можно ссылаться. Принципы Хиросимы и сеульские обязательства уже меняют то, как разработчики документируют и описывают свои системы. Ничего из этого не пустое.

Почему мягкого права недостаточно для передового ИИ

  • Добровольное означает обратимое. Обязательство, от которого компания или государство может отказаться под давлением конкуренции, не даёт никакой защиты от гонки к опасной черте.
  • Отсутствие проверки означает отсутствие доверия. Непроверенные обязательства заставляют каждую сторону гадать, соблюдают ли другие. Это фатально в области, определяемой взаимным подозрением.
  • Нет принуждения — значит нет цены за отступничество. Когда нарушение обещания стоит лишь репутации, актор, считающий приз решающим, нарушит его.
  • Ставки могут быть необратимыми. В случае катастрофических, необратимых рисков фраза «мы постараемся изо всех сил» не даёт запаса прочности. Нужны обязывающие и проверяемые меры.

Народное возражение: жёсткое право слишком медленно для быстрой технологии, поэтому мягкое право должно остаться навсегда. Согласимся со скоростью. Но заметьте цену: постоянное мягкое право — это выбор надеяться, что репутация удержит, когда на кону стоит решающее преимущество. Надежда — не система контроля.

Переход — это задача

Мягкое право — необходимая первая стадия, и сейчас оно приносит пользу. Управление ASI не может на этом остановиться. Декларации и кодексы ценны как шаги к юридически обязывающим нормам. Их ценность исчезает, если переход так и не происходит.

Главная задача управления этим десятилетием — превратить каркас мягкого права в жёсткую правовую структуру: признанные риски — в чёткие пороги, добровольные обязательства — в юридические обязанности, совместный диалог — в проверку и принуждение. Каждое заявление — это аванс. Окупится ли оно, зависит от того, успеет ли мир заключить договор до того, как описанная в нём технология выйдет из-под контроля. См. материалы Фонда аргумент в пользу превентивного международного права о сверхинтеллекте. Связанное путь через рамочную конвенцию и почему первый договор по ИИ всё ещё не дотягивает фронтирного катастрофического риска.