Первое: когда в 2023 году Саммит по безопасности ИИ в Блетчли завершился совместной декларацией о рисках передовых систем ИИ, её подписали 28 стран. Среди не подписавших — Индия, Бразилия, Индонезия, Мексика, Саудовская Аравия, Нигерия и почти весь Африканский континент. Эти страны представляют значительную долю населения мира, его экономики и политического веса в международных институтах. Любая система управления ASI, которая добивается участия западных стран и Китая, но исключает эту группу, получает неполный мандат и проблему легитимности, которая будет только расти.
Разрабатываемые рамки, предлагаемые институты и составляемый текст договора отражают приоритеты стран, которые одновременно являются ведущими разработчиками ИИ и главными сторонниками управления. Остальной мир в значительной степени остаётся запоздалой мыслью. История показывает, что такой подход порождает рамки, которые не удерживаются.
Это не новая проблема. С ней сталкивался каждый крупный договор по управлению технологиями, и договоры, добившиеся действительно широкого участия, решали её через явные уступки интересам стран, не являвшихся основными авторами документа.
Что развивающиеся страны неизменно говорили об управлении технологиями
Озабоченности, которые развивающиеся страны высказывали по поводу международных рамок управления технологиями, оставались последовательными в самых разных областях — от ядерной энергетики до разрушения озонового слоя и интеллектуальной собственности. Это не необоснованные опасения, и признавать их политическую значимость не требует согласия с каждой их формулировкой.
Проблема справедливости в том, что вопросы, которые решают механизмы управления технологиями, в основном создают богатые технологически развитые страны. Ограничения, которые вводят эти механизмы, распространяются на все страны. В результате развивающиеся страны несут издержки за проблемы, которых не создавали, и отказываются от возможностей развития, которыми богатые страны уже воспользовались до введения ограничений. NPT зафиксировал ядерный статус-кво 1968 года; неядерные государства согласились не разрабатывать то, что уже имели ядерные. Монреальский протокол обязал все страны отказаться от ХФУ, хотя богатые страны уже построили свою экономику на холодильном и климатическом оборудовании, зависящем от ХФУ. Механизмы управления ASI рискуют повторить ту же динамику: богатые страны, построившие экономику на приложениях ИИ, которые они развивали без ограничений, просят развивающиеся страны принять ограничения, которые ранее распространялись бы и на эти приложения.
К этому добавляется проблема доступа. Развивающиеся страны обычно просят в переговорах по управлению технологиями гарантированного доступа к полезным применениям регулируемой технологии. Стороны, не обладающие ядерным оружием по NPT, получили гарантированный доступ к мирным ядерным технологиям. Участники Монреальского протокола получили доступ к заменителям ХФУ по субсидированным ценам. Развивающиеся страны, рассматривающие участие в управлении по ASI, спросят, какие позитивные выгоды дает членство.
Проблема представительства структурная. Международные институты проектируют страны, которые их создают. Производимые ими рамки управления отражают приоритеты и модели угроз этих стран. Развивающиеся страны постоянно указывают, что их приоритеты (доступ к технологиям, пути развития, национальный регуляторный суверенитет) недостаточно представлены в рамках, созданных без их участия.
Как Монреальский протокол решил проблему справедливости
Подход Монреальского протокола к участию развивающихся стран — наиболее прямой и полезный прецедент для управления ASI, потому что технология была по-настоящему двойного назначения, а издержки перехода ложились на страны, меньше всего способствовавшие проблеме.
Протокол ввёл дифференцированные обязательства через статью 5: развивающимся странам, потреблявшим меньше установленного порога озоноразрушающих веществ на душу населения, предоставлялась десятилетняя отсрочка по сравнению со сроками, обязательными для развитых стран. Тем самым признавалось, что государства, внёсшие малый вклад в накопленный запас ХФУ в атмосфере, не должны нести те же немедленные издержки, что и страны, внёсшие основной вклад.
Многосторонний фонд, учреждённый в 1990 году, предоставлял финансовые ресурсы странам статьи 5 для покрытия дополнительных затрат на соблюдение протокола. Он также финансировал передачу технологий, давая развивающимся странам доступ к альтернативам ХФУ и технические возможности их использовать. С момента создания фонд выплатил более четырёх миллиардов долларов. Именно благодаря ему Монреальский протокол добился почти всеобщей ратификации: страны, которые иначе утверждали бы, что соблюдение им не по карману, получили ресурсы для выполнения обязательств.
Монреальский протокол дал развивающимся странам две вещи: время и деньги. Отложенный график соблюдения признавал, что они не были главными виновниками разрушения озонового слоя. Финансовая и техническая помощь признавала, что затраты на переход не должны полностью ложиться на тех, кто меньше всего ответственен. Оба условия были политически необходимы для всеобщего участия. Оба напрямую применимы к проектированию управления ASI.
В итоге получился протокол, который в конечном счёте ратифицировали 197 сторон — все государства-члены UN. Страны, изначально сопротивлявшиеся, присоединились, когда были созданы механизмы адаптации и стало ясно, что научный консенсус по истощению озонового слоя делает бесконечное неучастие политически невозможным.
Великая сделка NPT и её актуальность
Архитектура участия Договора о нераспространении ядерного оружия предлагает иную модель. Сделка NPT была явной и взаимной: неядерные государства отказывались от создания оружия в обмен на гарантированный доступ к мирным ядерным технологиям под гарантиями IAEA, гарантии безопасности от ядерных держав и обязательство ядерных государств двигаться к разоружению. Неядерные государства отказывались от возможности и получали взамен реальные выгоды, а не просто обещание не угрожать.
Эта взаимная структура была необходима для широты договора. Страны, технически способные создать ядерное оружие (Западная Германия, Япония, Швеция, Египет, Бразилия), согласились не делать его отчасти потому, что положения договора о мирном использовании давали им доступ к технологиям ядерной энергетики, которые иначе им пришлось бы разрабатывать самостоятельно или обходиться без них. Рамки управления были одновременно и механизмом обмена технологиями.
Рамка управления ASI, построенная по этой модели, предоставит развивающимся странам гарантированный доступ к технологиям ИИ, учебным ресурсам и помощи в развитии в обмен на принятие обязательств по мониторингу безопасности любых передовых программ ИИ, которые они будут создавать. Страны, принявшие такие обязательства, получат преимущества режима совместного управления, включая доступ к системам и инфраструктуре ИИ, которые государства-участники договора будут предоставлять в первую очередь партнёрам.
Индия и проблема участия
Индия — важнейшая страна для глобального участия в управлении ASI: это самая населённая страна мира, у неё значительный и растущий технологический сектор, серьёзный исследовательский потенциал в ИИ в институтах вроде Индийских технологических институтов, и она не подписала Блетчлискую декларацию 2023 года, не участвует в основных рамках управления. У Индии последовательная история неприсоединения к международным рамкам управления, которые она воспринимает как созданные крупными державами и для них, начиная с неучастия в NPT.
Позиция Индии по управлению ASI отражает несколько опасений. В различных международных форумах она утверждала, что управление ASI должно фокусироваться на текущих вреде, а не на спекулятивных будущих рисках, отражая иную оценку рисков, чем та, которая движет защитниками безопасности передового ИИ. Она выражала обеспокоенность рамками управления ASI, которые могли бы ограничить её собственное технологическое развитие. И она придерживается принципиальной приверженности национальному регуляторному суверенитету, что делает обязательные международные рамки политически сложными внутри страны.
Содержательное вовлечение Индии требует прямого обращения к этим опасениям, а не просто приглашения присоединиться к уже готовой структуре, разработанной без её участия. Это значит включать индийских представителей в процесс проектирования на ранних этапах, серьёзно относиться к иному приоритету текущих угроз наряду с будущими рисками и гарантировать, что любая структура управления даёт Индии ощутимые преимущества (доступ к технологиям, наращивание потенциала, представительство в органах управления), делающие участие более выгодным, чем оставаться за рамками.
Что предложит инклюзивная по участию рамка управления ASI
Опираясь на Монреальский протокол и модели NPT, передовая рамка управления ASI, призванная обеспечить широкое участие, должна включать несколько элементов, которые нынешние предложения в основном упускают.
Разные графики соблюдения. Страны с зарождающимися программами разработки ИИ получат более длительные сроки до начала применения к их программам обязательств по мониторингу, поскольку они сейчас не являются источником риска передового ИИ, на который рассчитан договор.
Фонд доступа к технологиям. По аналогии с Многосторонним фондом Монреальского протокола, специальный механизм финансирования предоставлял бы развивающимся странам доступ к ИИ-системам, облачным вычислениям и техническому потенциалу для участия в развитии ИИ в благих целях. Доступ был бы обусловлен участием в договоре, создавая положительный стимул для присоединения.
Содержательное представительство в институтах управления. Структура управления Глобального агентства мониторинга ИИ должна предоставлять развивающимся странам голоса и руководящие позиции пропорционально их населению и экономическому весу, а не только текущему уровню развития ИИ. Институт, чей совет контролируется пятью-шестью основными странами-разработчиками ИИ, не будет восприниматься остальным миром как легитимный.
"Рамки управления, которые богатые страны разрабатывают для себя, а потом предлагают остальному миру присоединиться на этих условиях, в истории международных отношений имеют название. Это империализм, и он не приводит к прочным соглашениям."
Экзистенциальный риск от передовых систем ИИ, если он реализуется, не будет избирательно выбирать, каким странам вредить. Рамки регулирования, которые не добьются широкого участия, потому что игнорировали озабоченности большинства населения мира, не продержатся достаточно долго, чтобы иметь значение. Техническая разработка регулирования ASI действительно сложна. Политическая разработка (обеспечение того, чтобы рамки предлагали достаточно многим странам, чтобы обеспечить необходимое участие) столь же сложна и получает гораздо меньше внимания. Создатели Монреальского протокола понимали обе проблемы. Разговор о регулировании передовых ASI ещё не всерьёз взялся за вторую.
Самое жёсткое возражение
Самое справедливое возражение: передовые ИИ — это проблема US-Китая, а все остальные — зрители. Зрители всё равно размещают вычислительные мощности, таланты и голоса в международных органах. Режим, который отрежет остальной мир от полезного узкого ИИ, политически провалится. Режим, который делится инструментами, одновременно блокируя пути к ASI, может пройти.