Когда сторонники регулирования призывают создать Глобальное агентство по мониторингу ИИ, они описывают конечное состояние. Труднее вопрос о том, как к этому состоянию прийти, как именно создать международный орган, обладающий мандатом, штатом, бюджетом, юридическими полномочиями и техническими возможностями для мониторинга разработки передового ИИ. История институтов, выполняющих аналогичную работу с другими опасными технологиями, поучительна и неизменно сложнее, чем предполагает литература по управлению.
Институты строятся, а не декларируются. Вот что на самом деле требуется для создания Глобального агентства по мониторингу ИИ.
Что требуется IAEA, чтобы стать функциональным
IAEA была учреждена международным статутом в 1957 году, через два года после того, как президент Эйзенхауэр предложил программу «Атомы для мира» в своём обращении 1953 года к Генеральной ассамблее UN. Учредительный статут определил мандат (содействовать мирному использованию ядерной энергии при обеспечении того, чтобы она не была политическим достижением, не операционным, не была перенаправлена на оружие) и учредил Совет управляющих и Генеральную конференцию в качестве руководящих органов агентства.
IAEA провела первые инспекции по гарантиям в 1961 году, через четыре года после основания, охватив небольшое число исследовательских реакторов в Западной Европе. Применявшаяся система гарантий была примитивной по более поздним меркам: инспекторы проверяли документацию объектов и вели учёт ядерных материалов, но имели ограниченные права физического доступа и не обладали возможностями экологического мониторинга. Система подходила для мирных ядерных исследований в технологических условиях 1950–1960-х, но не годилась для обнаружения целенаправленной оружейной программы.
Решающее расширение возможностей IAEA произошло не благодаря уставу агентства, а после провала. Тайная ядерная программа Ирака, обнаруженная во время и после войны в Персидском заливе 1991 года, показала, что обычные инспекции IAEA полностью пропустили программу, приближавшуюся к созданию ядерного оружия. Ответом стал Дополнительный протокол, принятый в 1997 году, который расширил права инспекций на незадекларированные объекты и ввёл экологический отбор проб как стандартный инструмент. IAEA до 1997 года и IAEA после 1997 года — это существенно разные институты по своим возможностям обнаружения.
Урок в том, что международные институты мониторинга развивают реальные возможности в ответ на провалы, обнажающие пределы их первоначального замысла. Учредительная архитектура задаёт рамки; операционная эффективность накапливается десятилетиями через реформы, вызванные неудачами.
Что требуется OPCW, чтобы стать функциональным
OPCW была учреждена, когда Конвенция о химическом оружии вступила в силу в 1997 году. В отличие от IAEA, которая предшествовала своей основной договорной базе, OPCW изначально создавалась как орган верификации существующего договора с определёнными обязательствами. Это дало институту более чёткие начальные мандаты и более сфокусированный операционный охват.
OPCW потребовала серьёзной подготовительной работы до проведения первых инспекций. Приложение к договору о верификации, занимающее сотни страниц, подробно описывает процедуры разных типов инспекций, права инспекторов, обязанности инспектируемых государств и обращение с конфиденциальной информацией. Перевод этих процедур в операционные протоколы, обучение команд инспекторов, создание защищённых систем связи, строительство аналитических лабораторий, способных выявлять химические агенты в пробах окружающей среды, и заключение соглашений о доступе к объектам с первыми крупными обладателями запасов заняли годы работы уже после вступления договора в силу.
Первые миссии OPCW по верификации уничтожения, отслеживавшие ликвидацию запасов химического оружия US и России, начались в конце 1990-х и продолжались более двух десятилетий. Техническая сложность безопасного уничтожения химического оружия и связанные с этим задачи верификации требовали постоянной институциональной адаптации на протяжении всего периода. То, что OPCW делает сегодня, отражает двадцать пять лет операционного опыта, которого не было, когда его первый генеральный директор вступил в должность.
Самые важные проектные решения
Международное агентство по мониторингу ИИ столкнётся с целым рядом ключевых решений по институциональному устройству, от которых будет зависеть его долгосрочная эффективность. Эти решения не технические, а политические и организационные, и их необходимо принять правильно ещё до открытия учреждения.
Сначала нужно определить масштаб мандата. Мониторинговое агентство можно спроектировать узко — с фокусом на проверке деклараций о тренировках передовых ИИ выше заданных порогов вычислений — или широко, с полномочиями оценивать ИИ-системы на предмет свойств безопасности и публиковать выводы о глобальной картине безопасности ИИ. Узкий мандат проще согласовать политически и легче реализовать. Широкий мандат даёт институту больше влияния на управление, но требует большего бюджета, более разнообразного штата и более широкого политического консенсуса относительно того, что агентству разрешено говорить. Мандат IAEA изначально был узким и расширялся; мандат OPCW оставался сфокусированным. Обе модели добились успеха в своих контекстах.
Вторая ключевая задача — архитектура независимости. Международные организации сильно различаются по степени защищённости от политического давления крупных держав. Структура вето в Совете Безопасности UN означает, что пять постоянных членов могут заблокировать любое действие Совета. Совет управляющих IAEA имеет взвешенную структуру, дающую крупным государствам непропорциональное влияние. У OPCW более демократичная структура управления, где все государства-участники имеют равные голоса на Конференции государств-участников. Агентство по мониторингу ИИ, чьи ключевые решения могут блокироваться государствами с крупнейшими программами в области ИИ, будет слабее института с независимым генеральным директором и техническим персоналом, способным действовать на основе профессионального суждения.
В IAEA работает около 2500 человек, в том числе несколько сотен инспекторов с глубокими знаниями в ядерной инженерии. В OPCW — несколько сотен сотрудников, включая химиков, способных проводить полевой анализ проб. Агентству по мониторингу ИИ, которое должно оценивать передовые системы, понадобятся специалисты, чья экспертиза сейчас стоит очень дорого в частном секторе. Найти и удержать таких людей в рамках международной гражданской службы — одна из самых сложных задач при создании такого органа.
Модель финансирования — третье решение. Международные организации финансируются за счёт взносов государств-членов, пропорциональных их ВВП и другим факторам, а добровольные взносы дополняют утверждённый бюджет на конкретные программы. Бюджеты по взносам ежегодно согласовываются и подвержены политическому давлению: государства-члены, возражающие против деятельности агентства, могут удерживать взносы или голосовать за сокращение бюджета. Регулярный бюджет IAEA составляет примерно 500 млн USD в год; у OPCW — около 70 млн евро. Агентству мониторинга ИИ со значительным техническим потенциалом потребуется бюджет в этом диапазоне или выше, и вопрос стабильности финансирования (как сохранять бюджет агентства через политические циклы в основных странах-донорах) требует проектного решения.
Четвёртое решение — юридические полномочия инспекторов. Инспекторы могут делать только то, что разрешено договором. Первоначальные соглашения о гарантиях IAEA давали инспекторам ограниченные права доступа, которые были расширены Дополнительным протоколом; инспекторы, работающие по старым соглашениям без Дополнительного протокола, до сих пор имеют меньше прав. Инспекторам агентства по мониторингу ИИ потребуются чётко прописанные права доступа (к объектам, записям, логам оборудования и персоналу), и договор, учреждающий агентство, должен эти права ясно указывать, потому что на практике неясности будут толковаться в пользу проверяемой стороны.
Наращивание технического потенциала до заключения договора
Один урок и IAEA, и OPCW: технические возможности нельзя создать после учреждения института. Оба агентства выиграли от того, что уже существовали научные и технические сообщества, способные их укомплектовать: ядерная физика и инженерия для IAEA, аналитическая химия для OPCW. Экспертиза, нужная для проверки обязательств по нераспространению или выявления следов химического оружия в почве, уже была в университетах и национальных лабораториях до того, как международные органы верификации в ней нуждались.
Соответствующее техническое сообщество для проверок в рамках управления ASI — люди, способные оценивать передовые ИИ-системы на предмет свойств безопасности, проверять записи тренировок и разрабатывать протоколы аппаратного мониторинга для крупных кластеров вычислений, — невелико и почти полностью сосредоточено в частных ИИ-компаниях и нескольких академических институтах. Создание базы экспертизы, из которой международное мониторинговое агентство могло бы рекрутировать кадры, само по себе является задачей управления, предшествующей основанию такого института.
Поэтому национальные институты безопасности ИИ, такие как Институт безопасности ИИ UK (созданный в 2023 году как Институт безопасности ИИ), важны для долгосрочного проекта управления. Они создают методологию оценки, институциональный опыт и профессиональное сообщество, на которые в будущем сможет опереться международное мониторинговое агентство. Техническая основа международного мониторинга закладывается уже сейчас — частично и неидеально — до того, как сложатся политические условия для договора и института.
"Невозможно создать орган верификации за год. Технические методы, обученный персонал, операционные процедуры и правовые рамки нужно разрабатывать годами. Начинать нужно сейчас, а не после подписания договора."
Глобальное агентство по мониторингу ИИ — это институт, требующий конкретных проектных решений, конкретных ресурсных обязательств, конкретных правовых полномочий и конкретных технических возможностей для работы, а не отдалённая утопическая цель. IAEA и OPCW показывают, что такие институты можно создать и они могут работать. Они также показывают, что их создание занимает больше времени, чем предполагает текст договора, требует устойчивых политических вложений через несколько циклов руководства и развивает реальные возможности в ответ на неудачи, вскрывающие пределы первоначального замысла. Сторонники управления, призывающие к созданию мониторингового агентства без проработки этих вопросов институционального дизайна, описывают не план, а пожелание.
Самое жёсткое возражение
Самое справедливое возражение — государства никогда не согласятся пустить инспекторов к самым ценным вычислительным мощностям. То же самое говорили перед введением ядерных гарантий. Общий страх перед прорывом и отказ в доступе к оборудованию для нарушителей — именно так неохотно соглашающиеся стороны всё-таки создают систему контроля. Агентство без доступа — это просто вывеска. Доступ — это инженерная задача, которую стоит решать.