198 — число, которое стоит запомнить. Это количество участников Монреальского протокола по веществам, разрушающим озоновый слой: все признанные государства Земли, включая таких маловероятных участников, как Северная Корея, Южный Судан и Острова Кука. Ни один другой договор UN не добился всеобщей ратификации.
Монреальский протокол — единственный договор UN, ратифицированный всеми странами Земли; он решил проблему, ради которой был написан, а его архитектура создана именно под ситуацию, с которой сейчас сталкивается управление ASI.
Содержание за цифрой труднее отбросить. В 1987 году правительства обязались отказаться от прибыльной, широко применяемой промышленной технологии (хлорфторуглеродов, тогда использовавшихся почти в каждом холодильнике, аэрозольном баллончике и кондиционере на планете), ещё до того, как произошёл наихудший ущерб. Договор вступил в силу в 1989 году. Озоновая дыра сокращается уже десятилетие. Ожидаемая дата полного восстановления — примерно середина века, то есть примерно через человеческую жизнь после того, как прекратился выброс вредных веществ.
Для тех, кто утверждает, что обязательный договор по ИИ наивен, Монреаль — неудобный контраргумент. Международная система может сдерживать опасную технологию в условиях неопределённости, между соперничающими экономиками и достаточно быстро, чтобы это имело значение. Вопрос не в том, возможен ли такой договор (ответ уже известен), а какие черты Монреальского протокола сделали его рабочим и что из них режим управления ASI может позаимствовать, не изобретая право с нуля.
Что на самом деле сделал договор
Протокол по веществам, разрушающим озоновый слой, установил обязательные, запланированные сокращения производства и потребления определённого списка химических веществ. Он не запрещал всё сразу. Он задавал траекторию: конкретные процентные сокращения к конкретным датам для самых опасных веществ, а затем неоднократно ужесточал эту траекторию по мере уточнения научных данных. ХФУ стали первой целью. ГХФУ — следующей. Поправка из Кигали 2016 года добавила ГФУ — заменители, которые сами оказались мощными парниковыми газами. Каждое ужесточение обязывало все стороны без необходимости заново ратифицировать договор.
Обязательства намеренно сделали дифференцированными. Развивающимся странам дали льготный период и финансовую помощь для соблюдения, признавая, что они не вызвали большую часть проблемы и не могут в одиночку покрыть затраты перехода. Любой договор по ИИ столкнётся с той же проблемой справедливости между немногими государствами с фронтирными лабораториями и большинством без них.
Три особенности дизайна, стоящие копирования
Начать с рамок, ужесточить позже
Венская конвенция 1985 года об охране озонового слоя создала институциональную оболочку: обязательства сотрудничать, вести мониторинг и отчитываться — ещё до того, как стороны договорились о конкретных цифрах. Обязательные сокращения появились два года спустя в Монреале и впоследствии ужесточались не менее девяти раз. Управление ASI может начаться с тонкой рамочной конвенции, а затем добавлять содержание по мере развития возможностей и накопления доказательств. Такая последовательность даёт время, не оборачиваясь бездействием.
Корректировка без повторной ратификации
Главный приём договора — механизм корректировки. Стороны могут ускорять графики поэтапного отказа квалифицированным большинством голосов, обязательным для всех участников, без повторного открытия договора для национальной ратификации. Это сделало договор responsive к новым научным данным, не делая его заложником десятилетнего цикла ратификации. Для технологии, развивающейся так быстро, как ИИ, где возможности могут меняться за месяцы, статичный договор устареет сразу после принятия. Способность обновлять binding обязательства без повторной ратификации — необходимое условие выживания.
Сделайте неучастие дорогим
Монреаль запретил торговлю контролируемыми веществами с неучастниками. Это единственное положение перевернуло расчёт любого государства, рассматривающего выход: оставаться снаружи означало потерять доступ к рынку, поэтому присоединение стало рациональным выбором. Цепочки поставок вычислительных мощностей и полупроводников предлагают структурно похожую узкую точку для ИИ: handful фирм и небольшое число юрисдикций контролируют входы, необходимые для передовых разработок.
Механизм финансирования, который купил консенсус
В 1990 году стороны создали Многосторонний фонд, финансируемый развитыми странами, чтобы оплачивать согласованные дополнительные расходы развивающихся стран на соблюдение обязательств. Это не была иностранная помощь. Это была цена всеобщего участия. Китай и Индия присоединились, как только фонд сделал соблюдение доступным. К 1996 году фонд выплатил сотни миллионов долларов, и обязательства фазы I были выполнены или перевыполнены каждой развивающейся страной-участницей.
Урок для ИИ прямой. Договор, который просит Глобальный Юг отказаться от трансформирующей технологии или принять навязчивый мониторинг своей инфраструктуры, не будет подписан из великодушия. Его подпишут, когда участие окажется дешевле отказа: помощь в наращивании возможностей, доступ к технологиям в определённых областях и компенсация в обмен на ограничения. Шаблон Многостороннего фонда уже есть, его можно скопировать.
Где аналогия не работает
Ни один прецедент не идеален, и справедливая формулировка скептицизма звучит так. Истощение озонового слоя имело ясный, измеримый показатель (концентрация хлора в атмосфере выше определённых порогов) и небольшое число взаимозаменяемых химикатов, производимых горсткой фирм. Возможности фронтирного ИИ труднее определить, труднее измерить, и их разрабатывают субъекты с гораздо более сильными стратегическими стимулами к дефекции. Заменители ХФУ были коммерчески привлекательны; замены продавали себя сами. Эквивалентного коммерческого продукта по другую сторону запрета на сверхинтеллект не существует.
Эти различия делают управление ASI сложнее, но не невозможным. Они указывают, куда должна идти работа. Определить измеримые пороги, аналогичные атмосферному хлору. Создать инструменты верификации, которые уже существовали для мониторинга озона (работающая глобальная сеть датчиков в случае озона с публикуемыми данными; аналог для ИИ пока не существует с той же точностью). Построить структуру стимулов через цепочки поставок вычислительных мощностей и доступ к рынкам, делающую участие рациональным выбором. Монреальский протокол не преуспел потому, что проблема была лёгкой. Он преуспел потому, что договор был разумно спроектирован вокруг сложной проблемы. Это и стало стандартом.
Что переносится, а что нужно перестраивать
Последовательность «сначала рамка, потом обязательства», механизм корректировки квалифицированным большинством, узкие места цепочки поставок, структура Многостороннего фонда — всё это переносимо. Непереносима лежащая в основе ясность науки. Монреальский протокол сработал отчасти потому, что атмосферные химики могли с воспроизводимыми цифрами точно сказать, когда вещество наносит слишком большой ущерб. Такого общего эпистемического основания для возможностей ИИ пока нет.
Создание такой инфраструктуры — обязательное условие, а не необязательное дополнение. Пока область не сможет с воспроизводимыми цифрами утверждать, что модель пересекла определённый порог возможностей, пороговые формулировки договора будут оспариваться в каждом споре. Монреальский протокол не создал инфраструктуру измерения озона. Он унаследовал её от трёх десятилетий атмосферной химии. Договору по ИИ потребуется сначала заказать аналогичную систему или усвоить урок, что некоторые договоры многократно окупают вложения в науку.
Самое жёсткое возражение
Самое справедливое возражение состоит в том, что химия озона была яснее, чем риск ИИ, поэтому Монреаль не может служить нам ориентиром. Чёткость науки помогла. Переносимые элементы всё равно в конструкции: корректировать графики, воздействовать на цепочки поставок, финансировать отстающих для соблюдения. ИИ требует более жёсткой верификации. Ему не нужно изобретать управление с нуля.