Разбор гипотетического договора — не академическое упражнение. Он превращает смутное желание в набор конкретных, обсуждаемых проектных решений и показывает, что препятствия к управлению ASI носят политический, а не концептуальный характер. Юридический механизм уже существует; каждое положение ниже имеет прецедент в действующем договоре. Далее — структурный набросок, а не готовый текст того, что должен решить Договор о безопасности искусственного интеллекта.

Договор — это структурированный правовой инструмент с узнаваемой анатомией: сфера действия, определения, обязательства, верификация, институты и механизмы принуждения. Здесь подробно разбирается, какие положения должен содержать соглашение о предотвращении небезопасного сверхразума и какие выборы каждое из них заставляет делать.

Преамбула и предмет

Каждый договор начинается с изложения цели и руководящих принципов. Здесь целью было бы навсегда предотвратить создание искусственного сверхразума. Сверхразум невозможно контролировать, при этом сохраняя преимущества ИИ ниже этого порога и обеспечивая их общее распределение. Преамбула должна ссылаться на принцип предосторожности, подтверждать, что риски представляют общую заботу человечества, и вписывать договор в существующее международное право. Это задаёт рамку толкования для всего последующего текста.

Масштаб и пороги

Самая сложная проблема при drafting — определить, что именно охватывает договор. В отличие от ядерных материалов, возможности ИИ представляют собой непрерывный спектр без естественной границы. Рабочий подход — использовать измеримые прокси: порог вычислительных затрат на обучение, выше которого системы подпадают под обязательства договора, в сочетании с критериями по способностям для систем, демонстрирующих указанные опасные умения. Конкретные числа следует передать техническому органу, уполномоченному их пересматривать, потому что любая фиксированная цифра в тексте устареет через несколько лет.

Основные обязательства

1

Запрет на пересечение красной линии

Центральное обязательство: стороны соглашаются не разрабатывать и не развёртывать системы выше установленного порога опасности, пока не будут выполнены согласованные условия безопасности — это эквивалент запрета на запрещённое действие.

2

Декларация и уведомление

Стороны обязаны декларировать крупные вычислительные мощности и уведомлять договорный орган до начала подпадающих под договор тренировочных запусков — это создаёт базовую прозрачность, на которой строится верификация.

3

Обязательная оценка перед развёртыванием

Охваченные системы должны пройти независимую оценку безопасности по заданным стандартам до развёртывания, с передачей результатов договорному органу.

4

Внутренняя реализация

Каждая сторона обязана принять национальные законы, распространяющие эти обязательства на государственных и частных разработчиков на своей территории, поскольку договор связывает государства, а не компании напрямую.

Проверка

Запрет, который никто не может проверить, бесполезен, поэтому договору нужен режим верификации. Опираясь на опыт IAEA и химического оружия, он должен включать мониторинг задекларированных объектов — крупных кластеров вычислительных мощностей, отслеживание передовых чипов по цепочке поставок, право аудита записей обучения и оценки, инспекции на месте с определёнными правами доступа и (новейший элемент) аппаратные гарантии, встроенные в чипы, чтобы сделать скрытое крупномасштабное обучение обнаруживаемым. Цель конструкции, как и в ядерных гарантиях, — проверить то, что важно, не требуя раскрытия каждой коммерческой или секретной тайны.

Институты

Договор учредил бы международный орган (назовём его Организацией по безопасности ИИ) для его администрирования: технический секретариат и инспекторат, научную комиссию для установления и пересмотра порогов, конференцию сторон как орган принятия решений и механизм обновления приложений без полной повторной ратификации, по модели Монреаля. Это постоянный институт, превращающий статичный документ в действующий режим, способный идти в ногу с технологией.

Исполнение, вступление в силу и поправки

  • Принуждение. Постепенные меры реагирования на нарушения — от констатации несоответствия до лишения доступа к общим благам и вычислительным мощностям и вплоть до передачи вопроса в Совет Безопасности при серьёзных нарушениях, с пониманием, что верификация даёт доказательства, а последствия требуют политической поддержки.
  • Вступление в силу. Требование, чтобы государства, где расположены ведущие лаборатории и производство чипов, ратифицировали договор до его вступления в силу, чтобы он регулировал именно тех участников, которые имеют значение, и при этом не создавал ситуацию, когда любой из них может вечно блокировать его существование.
  • Поправка и корректировка. Механизм ускоренного ужесточения порогов и технических приложений квалифицированным большинством, чтобы договор мог развиваться вместе с технологией, а не застывать в момент подписания.

Барьер для договора по ИИ не в отсутствии правовых инструментов. Каждое нужное положение уже есть в каком-то договоре. Барьер — политическая воля, и именно её способен помочь сформировать ясный проект.

Почему важно это набросать

Конкретное изложение положений делает две вещи. Оно демистифицирует договор, показывая, что это сборка хорошо известных частей, каждая с прецедентом, а не прыжок в неизвестность. И оно проясняет, где лежит настоящая трудность: не в юридической архитектуре, которая решаема, а в политических выборах относительно порогов, навязчивости проверки и сделки великих держав, которая сделает договор обязательным. Черновик не создаёт волю подписать. Но он превращает «нам нужен договор» в «вот договор, и вот именно то, о чём нам придётся договориться», с чего начинается серьёзная дипломатия.