Международное агентство по атомной энергии было создано в 1957 году с мандатом, звучавшим просто: содействовать мирному использованию ядерной энергии и обеспечивать, чтобы она не направлялась на оружейные программы. Система верификации, которую оно выстроило в последующие десятилетия, не имела реальных прецедентов в международном праве — действующая система мониторинга самой опасной технологии на Земле, управляемая международным органом и принятая самыми мощными государствами мира.

Вот что на самом деле делает верификация IAEA, где она провалилась, и что переносится на проблему ИИ.

Каждое серьёзное предложение международного управления ASI сейчас изучает модель IAEA. Вопрос не в том, можно ли целиком скопировать ядерную систему проверок в контекст ИИ. Нельзя. Вопрос в том, какие элементы переносятся, какие нужно переработать и какие проблемы вообще не имеют ядерного аналога.

Что на самом деле означает верификация

Верификация — это система создания доверия, а не инспекции в обычном смысле. Цель не столько поймать нарушения, сколько сделать их достаточно затратными и заметными, чтобы их вообще не пытались совершать. Разница важна: она задаёт правильную меру успеха. Верификационная система, которая никогда не обнаруживает нарушений, может успешно работать, а не терпеть неудачу.

Подход IAEA опирается на четыре компонента, которые работают вместе. Первый — государственные декларации. Страны, присоединившиеся к Договору о нераспространении ядерного оружия, обязаны заявить IAEA обо всём ядерном материале и объектах. Эти декларации становятся базой, по которой измеряется всё последующее мониторинг. Страна, не заявившая объект, нарушила не просто инспекцию, а фундаментальное требование договора ещё до прибытия первого инспектора.

Второе — соглашения о гарантиях. Каждая сторона NPT подписывает двустороннее соглашение о гарантиях с IAEA, определяющее права агентства на инспекции, информацию, которую государство должно предоставлять, и последствия несоблюдения. Дополнительный протокол, введённый после обнаружения незадекларированной ядерной программы Ирака в начале 1990-х, существенно расширил эти права. Он позволяет IAEA инспектировать объекты, которые не были задекларированы, но в отношении которых у агентства есть основания для проверки на основе информации из любого источника.

Третий — это плановые инспекции. Инспекторы IAEA проводят запланированные визиты на заявленные ядерные объекты. Они используют пломбы с индикацией вскрытия, удалённые камеры и отбор проб материалов для мониторинга объектов между визитами. Расхождение между заявленным запасом и тем, что находит инспектор, — серьёзный факт, требующий объяснения.

Четвёртый компонент, наиболее релевантный для управления ASI, — отбор проб окружающей среды. С середины 1990-х IAEA использует мониторинг окружающей среды (пробы воздуха, воды и почвы) для обнаружения признаков незаявленной ядерной деятельности. Следовые количества определённых изотопов в пробах могут указывать на ядерную обработку, которая никогда не декларировалась, независимо от того, допускали ли инспекторов на объект. Это косвенное физическое доказательство деятельности, полученное из неизбежных физических следов.

Пределы ядерной модели

Режим ядерной верификации имеет реальные достижения. Ядерным оружием обладают намного меньше стран, чем предсказывали самые пессимистичные прогнозы 1960-х. NPT существенно ограничил распространение, пусть и неидеально. Но случаи неудач столь же поучительны, как и случаи успеха.

Ядерная программа Ирака развивалась в 1980-х и начале 1990-х, хотя Ирак был участником NPT и не декларировал наличие оружейной программы. Программа была раскрыта в ходе войны в Персидском заливе и последующих инспекций UNSCOM, а не в рамках обычного мониторинга IAEA. Инспекторы IAEA посещали заявленные объекты Ирака и не находили нарушений, поскольку оружейная программа была полностью отделена от заявленной гражданской. Северная Корея вышла из NPT в 2003 году после того, как режим верификации выявил необъяснимые расхождения; теперь у страны есть ядерное оружие. Неразрегистрированная программа обогащения Ирана была обнаружена благодаря национальной разведке и раскрыта IAEA диссидентской группой в 2002 году, а не в ходе планового мониторинга.

Общее в этих случаях не в том, что верификация технически не сработала, а в том, что решительные государственные акторы сознательно пошли на политическое решение, приняв издержки нарушения договора. Верификация меняет расчёт выгод и затрат, но не устраняет его. Страна, решившая, что оружейная программа стоит политических и экономических последствий обнаружения, будет её вести независимо от механизмов верификации. Задача IAEA — сделать обнаружение более вероятным, а политические последствия более тяжёлыми, а не сделать нарушение невозможным.

Что переносится на управление ASI

Несколько элементов модели ядерной верификации применимы к управлению ASI с существенной адаптацией.

Требование декларирования переносится напрямую. Режим управления передовым ИИ в ASI мог бы обязывать государства декларировать крупномасштабные программы разработки ИИ, превышающие заданные вычислительные пороги. Декларация создаёт правовую базу: последующие расхождения между заявленным и наблюдаемым становятся нарушениями договора, а не просто политическими разногласиями. Это перекладывает бремя доказывания. Без деклараций контролирующему органу нужно доказать, что незадекларированная деятельность имела место. С декларациями государство должно объяснить расхождения между своими заявлениями и наблюдаемыми данными.

Модель соглашения о гарантиях также переносится. Двустороннее соглашение по управлению между контролирующим органом и государством-подписантом будет определять права доступа контролирующего органа, информацию, которую государство обязано предоставить, и последствия несоблюдения. Такая архитектура хорошо известна в международном праве и не потребует значительных правовых инноваций.

Экологический отбор имеет аналог в мониторинге вычислений. Производство полупроводников географически сконцентрировано и требует специализированного оборудования. Передовые ИИ-чипы оставляют следы в цепочках поставок: их производят на небольшом числе предприятий, экспортируют по таможенным документам и устанавливают в идентифицируемых конфигурациях дата-центров с характерными энергопотреблением. Ни один из этих следов не столь однозначен, как изотопная сигнатура, но вместе они создают косвенные физические доказательства деятельности по разработке ИИ, не зависящие полностью от самоотчётности государств.

Нововведение Дополнительного протокола напрямую применимо. Расширение прав инспекций после иракской программы показало, что режимы верификации можно реформировать после неудач, не отказываясь от договорной основы. Договоры по управлению ASI столкнутся с ранними случаями несоблюдения. Заложить механизм расширения прав мониторинга в ответ на обнаруженные нарушения, а не рассматривать нарушения только как основание для санкций, — урок, который ядерный режим осваивал десятилетиями.

Что действительно отличает ИИ

Ядерные материалы физически отличны и относительно редки. Уран и плутоний оружейного качества можно обнаружить по изотопным сигнатурам способами, которые трудно подделать. Для обогащения урана требуется специфическое промышленное оборудование, оставляющее следы в окружающей среде. Разрыв между гражданскими ядерными применениями и деятельностью, релевантной для оружия, хотя и преодолим для решительного государства, измерим и поддаётся верификации способами, которые поддерживают мониторинг.

В разработке ИИ нет эквивалентного различия. Одно и то же оборудование, программная инфраструктура и инженерные кадры, которые создают потребительские ИИ-приложения, могут создавать передовые ИИ-системы с потенциалом цивилизационного воздействия. Большой вычислительный кластер, обслуживающий коммерческие ИИ-сервисы, и большой кластер, ведущий передовые ИИ-исследования, снаружи выглядят одинаково. Значимое различие — в том, чему их обучают и в каком масштабе, а не в каких-либо физических свойствах объекта или оборудования.

Это различие реально и важно. Оно означает, что проверка соблюдения ASI-управления потребует сочетания мониторинга оборудования на уровне производства чипов, отчётности вычислительных кластеров, данных о потреблении энергии и прав на программный аудит, а не изотопных подписей. Оно также делает ключевой пороговый вопрос (выше какого масштаба разработки ИИ возникает обязательство по мониторингу) значительно сложнее сформулировать, чем в ядерном случае, и потребует регулярного технического пересмотра по мере изменения стоимости вычислений.

Это проблемы проектирования, а не основания считать верификацию невозможной. IAEA 1957 года выглядел иначе, чем IAEA 1997 года после реформ Дополнительного протокола, последовавших за программой Ирака. Методы мониторинга 1960-х мало походили на возможности экологического отбора проб 1990-х. Режимы верификации строятся постепенно, через неудачи не меньше, чем через успехи, и они совершенствуются со временем, если сохраняется политическая воля их поддерживать и реформировать.

Цель контроля над вооружениями — поднять цену нарушения настолько высоко, чтобы большинство участников в большинстве случаев решило, что оно того не стоит, а не добиться абсолютной уверенности.

Вопрос для управления ASI не в том, можно ли перенести модель ядерной верификации. Перенести нельзя. Вопрос в том, можно ли создать систему верификации, достаточную для задачи управления ASI, опираясь на ту же логику: декларации, соглашения о гарантиях, права инспекций и технический мониторинг физических свидетельств. Семьдесят лет истории IAEA подсказывают, что ответ положительный — при наличии политической воли создать и поддерживать такую систему. Именно политическая воля, а не техническая проработка, остаётся ограничивающим фактором.

Самое жёсткое возражение

Самое справедливое возражение: софт — не уран, поэтому уроки ядерной верификации не применимы. Софт легко копировать; чипы и энергия — нет. Верификация, следящая за физическими узкими местами, всё равно работает. Убеждение, что ИИ — чистая абстракция, лишает нас единственных работающих рычагов.