Страны, исторически определявшие успех международного технологического регулирования, не всегда были самыми могущественными. Монреальский протокол по озоноразрушающим веществам продвигали прежде всего Канада, скандинавские страны и Европейское сообщество, а не США, которые поначалу сопротивлялись. Договор о запрете противопехотных мин (1997) был полностью разработан вне рамок великих держав, по инициативе Канады и коалиции гражданских организаций, и ратифицирован 164 странами, несмотря на отказ США, Китая и России. Международный уголовный суд был создан вопреки устойчивому US сопротивлению.
Договор о запрете противопехотных мин был создан Канадой полностью вне рамок великих держав. Средние державы формируют управление технологиями. Вот как они могут сделать это для ИИ.
Средние державы важны в международном управлении. Они пока не используют своё влияние на ASI-управление эффективно. Понимание, в чём состоит это влияние и как оно работало исторически, — отправная точка для изменений.
Кто такие релевантные средние державы
В контексте управления ASI средние державы — это страны со значительным регуляторным потенциалом в сфере ИИ, значительным влиянием на рынок ИИ или тем и другим одновременно, но не США и не Китай, и не просто страны среднего размера.
Европейский союз — крупнейший регуляторный игрок. Закон об ИИ EU, вступивший в силу в 2024 году, создаёт обязательные требования к системам ИИ, развёрнутым на рынках EU, и влияет на compliance любой компании, стремящейся работать на едином рынке EU. Это проявление «эффекта Брюсселя»: регуляторные стандарты EU становятся де-факто глобальными, поскольку компаниям проще соблюдать единые глобальные правила, чем разные стандарты для разных рынков. Влияние EU на управление ИИ уже существенно, независимо от того, что делают US или Китай на уровне договоров.
Великобритания hosts Институт безопасности ИИ (создан в 2023 году как Институт безопасности ИИ), первый национальный орган, учреждённый специально для оценки передовых систем ИИ на предмет свойств безопасности. UK провёл Блетчлиский саммит по безопасности ИИ в ноябре 2023 года — первую крупную многостороннюю встречу, специально посвящённую рискам безопасности передового ИИ. После Brexit UK позиционирует безопасность ИИ как сферу, где проявляет международное влияние независимо от EU, и реализует эту роль через научную дипломатию и институциональные инновации, а не через размер регуляторного рынка.
Япония, Южная Корея и Австралия — крупные технологические экономики, тесно связанные с США. Япония принимает процесс G7 по управлению ASI, породивший принципы Хиросимского процесса по ИИ. Южная Корея совместно принимала следующий саммит по безопасности ИИ в Сеуле в 2024 году. Австралия активно разрабатывает национальные рамки безопасности ИИ. Вместе эти три страны представляют значительную долю рынка ИИ и регуляторные возможности в Азиатско-Тихоокеанском регионе и поддерживают отношения как с US, так и, с осторожностью, с Китаем, создавая каналы диалога, недоступные западным странам напрямую.
Канада имеет долгую традицию многостороннего участия в управлении технологиями и сыграла ключевую роль в Оттавском процессе по противопехотным минам — самом успешном в недавней истории случае, когда коалиция средних держав установила обязательные международные нормы вопреки возражениям великих держав. Канада участвует в обсуждениях управления ASI, но пока не сформировала сопоставимую коалицию вокруг безопасности передового ИИ.
Какими рычагами влияния обладают средние державы
Средние державы в управлении ASI обладают четырьмя конкретными формами влияния, ни одна из которых не требует ждать согласия US и Китая.
Самый непосредственный рычаг — доступ к рынку. Страны со значительными рынками ИИ могут обусловить доступ соблюдением стандартов безопасности. Если UK, Канада, Япония, Южная Корея и Австралия согласуют свои национальные регуляторные рамки друг с другом и с EU, они вместе охватят рынок, включающий большинство развитых экономик мира за пределами US и Китая. Компании, желающие работать на этих рынках, окажутся под регуляторным давлением, требующим соответствия стандартам управления, которые установят эти страны. Это рыночное управление, а не договорное, но оно обязывает компании через действие национального законодательства.
Сигналы коалиции меняют переговорный фон для обсуждений US и Китая. Когда Канада, страны Северной Европы и EU в 1980-х выступали единым фронтом по вопросам озона, политическая цена для США за отказ от Монреальского протокола заметно выросла. Внутренние силы (бизнес, пострадавший от неучастия, научное сообщество, союзные правительства) повышали стоимость позиции «вне». Достоверная и сплочённая коалиция средних держав по безопасности ИИ создаст аналогичное политическое давление на US и Китай, если они останутся за рамками системы управления.
Канада созвала переговоры по Договору о запрещении мин 1997 года в Оттаве намеренно вне Конференции по разоружению, где US, Китай и Россия блокировали прогресс. В итоге договор ратифицировали 164 страны, и он повлиял на военную доктрину даже в государствах, не подписавших его. Коалиция по безопасности передового ИИ, готовая двигаться без согласия крупных держав, могла бы повторить тот же путь.
Наращивание технического потенциала создаёт институциональную инфраструктуру, которая потребуется режиму формальной верификации. Институт безопасности ИИ UK, орган US при NIST, созданный частично по модели UK (ныне Центр стандартов и инноваций в области ИИ), и аналогичные органы в других странах развивают методологию оценки и институциональный опыт оценки безопасности передовых ИИ. Сеть национальных институтов безопасности ИИ с общими стандартами оценки и договорённостями об обмене данными функционировала бы как фактическая инфраструктура верификации, без необходимости начинать с переговоров по договору. Когда появятся формальные обязательства по управлению, институциональный потенциал для их реализации уже будет существовать.
Международное институциональное размещение даёт средним державам постоянное влияние на органы управления. OPCW находится в Гааге. IAEA — в Вене. Расположение не случайно: страны-хозяева имеют постоянные отношения с этими институтами и некоторое влияние на их развитие. Глобальное агентство мониторинга ИИ, если будет создано, нужно будет где-то разместить. Страны, которые позиционируют себя как надёжных нейтральных хозяев такого органа, получают канал долгосрочного влияния на управление, выходящий за рамки их сырых возможностей разработки ИИ.
Модель Оттавского договора
Договор о запрещении мин (1997) был согласован через процесс, специально созданный для обхода препятствий со стороны крупных держав. Министр иностранных дел Канады Lloyd Axworthy созвал переговорную конференцию в Оттаве в октябре 1996 года, намеренно обойдя Конференцию по разоружению, где США, Китай и Россия блокировали прогресс по запрету наземных мин. Договор был завершён примерно за год коалицией готовых государств при поддержке кампании гражданского общества. Сто шестьдесят четыре страны его ратифицировали.
Соединённые Штаты, Китай, Россия, Индия и Пакистан не присоединились. Но договор создал мощную норму: применение противопехотных мин стало международно осуждённым так, что это повлияло на военную доктрину и закупки даже в государствах, не подписавших договор. Военное планирование US в последующие годы показало влияние этой нормы в контекстах, где US не была юридически связана. Договор без великих держав изменил поведение великих держав.
Процесс обеспечения безопасности передового ИИ по модели Оттавы допускал бы неучастие US и Китая на первом этапе, одновременно устанавливая обязательные нормы среди желающих стран, достаточные для формирования коммерческого поведения. Он не решил бы проблему управления передовым ASI сам по себе, потому что договор, не связывающий организации, ведущие наибольшую разработку передового ИИ, имеет критический пробел. Но он создал бы институциональную инфраструктуру, политический импульс и доказанную осуществимость, которые со временем могли бы привлечь крупные державы, точно как Договор о запрете мин создал нормативную среду, постепенно повышавшую цену применения противопехотных мин.
Что могла бы сделать сейчас коалиция средних держав
Ряд шагов можно предпринять, не дожидаясь всеобъемлющего многостороннего договора и без участия US или Китая на начальном этапе.
Общий стандарт оценки безопасности для передовых ИИ-систем. Если UK AI Security Institute, регулирующий орган EU и аналогичные органы в Канаде, Японии, Южной Корее и Австралии примут единые стандарты оценки передовых моделей ИИ, компаниям придётся соответствовать этим стандартам для работы на их рынках. Так возникает управление через доступ к рынку, а не через договорные обязательства, и это достижимо в ближайшее время без дипломатических прорывов.
Соглашение об обмене данными между национальными институтами безопасности ИИ. Институт безопасности ИИ UK проводил оценки передовых моделей с доступом правительства к результатам, не публикуемым открыто. Обмен данными между союзными институтами безопасности повысит совокупный объём знаний о свойствах безопасности передового ИИ и создаст общую доказательную базу для управленческих решений. Институциональные отношения, необходимые для такого обмена, уже частично существуют.
Создание технической рабочей группы по разработке верификации. Самый сложный вопрос при проектировании договора о ASI-управлении — как верифицировать соблюдение заявленных обязательств. Коалиция средних держав могла бы заказать авторитетную техническую работу по проектированию системы верификации, которая ускорит переговоры по договору, когда политические условия позволят. Эта работа должна быть выполнена до начала переговоров, а не во время них.
Прямое взаимодействие с Китаем через двусторонние каналы, не требующие рамки US–Китай. У Японии и Южной Кореи есть собственные сложные, но устойчивые технологические отношения с Китаем. У EU есть регуляторное взаимодействие с китайскими технологическими компаниями через Акт о цифровых рынках и связанные рамки. Эти каналы позволяют вести диалог о нормах ASI-управления независимо от динамики US–Китай и могут привести к иному типу взаимодействия, чем нынешние двусторонние обсуждения US–Китай.
«Страны, которые больше всего выиграют от эффективного управления ASI, — не обязательно те, у кого сейчас больше всего власти в соревновании. Средние державы имеют и стимул, и возможность создать архитектуру управления, на которую ведущие державы пока не согласились.»
Двухполюсная рамка управления ASI недооценивает доступные варианты. Мир, в котором US и Китай не договорились об обязательных обязательствах по безопасности ИИ, — это мир, где странам между ними нужно брать на себя больше работы, как они делали в управлении озоном, противопехотными минами, химическим оружием и Международным уголовным судом, а не мир, где управление невозможно. Прецеденты уже существуют. Вопрос в том, сформируется ли коалиция до того, как возможности, делающие управление необходимым, выйдут за пределы досягаемости институтов, которые могли бы ими управлять.