10 июня 1963 года в Американском университете в Вашингтоне Джон Ф. Кеннеди произнёс речь, которую заранее не готовили помощники. Он говорил тридцать пять минут об угрозе ядерной войны и в конце назвал проблему, которую создали Соединённые Штаты и Советский Союз, наращивая арсеналы и не останавливая распространение технологии. «Я считаю это величайшей угрозой человечеству», — сказал он, а затем предупредил: к 1970 году может появиться пятнадцать ядерных держав, а к концу десятилетия — двадцать или двадцать пять. Он назвал конкретные страны. Он предложил договор о частичном запрете испытаний, который был подписан в Москве три месяца спустя.
NPT не остановил распространение полностью, но замедлил прогнозируемую волну из двадцати с лишним ядерных государств до тонкой струйки. Он сделал это через сделку, которую ASI-управлению придётся изобретать заново.
Предсказанный мир не наступил. Сегодня ядерным оружием обладают девять государств, а не двадцать пять. Причина — договор, которого Кеннеди не дожил до подписания. Договор о нераспространении ядерного оружия был открыт для подписания 1 июля 1968 года, примерно через пять лет после речи и через три года после его смерти. Сейчас у него 191 государство-участник: это самое широко ратифицированное соглашение по контролю над вооружениями в истории. Его механизм важен далеко за пределами ядерного оружия, потому что передовые системы ИИ ставят ту же структурную проблему. Небольшое число акторов обладает опасной возможностью, регулирование зависит от остановки её распространения, и ограниченное большинство нужно убедить, что сдержанность отвечает его интересам.
Три столпа
NPT опирается на сделку между тремя обязательствами, каждое из которых поддерживает остальные. Ядерные государства согласились не передавать оружие и добросовестно стремиться к разоружению. Безъядерные государства согласились не приобретать оружие и принять IAEA гарантии на свои ядерные программы. Все стороны подтвердили право на мирную ядерную энергетику с сотрудничеством и обменом технологиями для тех, кто остаётся безъядерным.
Нераспространение
Государства, не обладающие ядерным оружием, обязуются не создавать и не приобретать его и принимать международную верификацию своих ядерных программ через Международное агентство по атомной энергии. Именно это ограничение и призван наложить договор. Сейчас действуют двести сорок семь соглашений IAEA safeguards, охватывающих большую часть гражданских ядерных объектов мира.
Разоружение
По статье VI ядерные державы обязуются добросовестно вести переговоры об уничтожении своих арсеналов. Это взаимная уступка, делающая ограничение политически приемлемым. Неядерным государствам не говорят «оставайтесь позади навсегда». Обязательство выполнялось медленно, и именно эта медлительность — источник большей части недовольства, с которым договор сталкивается сегодня.
Мирное использование
Каждая сторона сохраняет доступ к гражданским ядерным технологиям, а ядерные государства помогают неядерным их развивать. Это выгода, которая делает присоединение привлекательным, а не просто ограничительным. Примерно четверть века технического сотрудничества IAEA спустя десятки стран эксплуатируют атомные электростанции под гарантиями, не отказываясь от неядерного статуса.
Почему структура сделки важна для ИИ
Урок, который можно перенести, — структурный, а не технический. Режим нераспространения не может быть лишь набором ограничений для слабых, навязанных сильными. Он должен предлагать большинству, на которое накладываются ограничения, что-то ценное (здесь — мирные ядерные технологии и правдоподобное обещание eventual disarmament), иначе они не присоединятся, а договор, к которому не присоединились ключевые государства, ничего не регулирует. Двусторонняя структура обеспечила почти всеобщее членство NPT. Односторонняя структура оставила за бортом четыре государства: Израиль, Индию, Пакистан и (после 2003 года) Северную Корею после выхода.
Перед ASI стоит точно такая же проблема. Договор о передовом ИИ будут заключать несколько государств с лабораториями мирового уровня и большое большинство без них. Если соглашение будет выглядеть так, будто «имеющие» ИИ навсегда закрепляют своё преимущество, а все остальные соглашаются на мониторинг своих вычислительных мощностей и инфраструктуры, уровень участия окажется низким, а авторитет договора рухнет при первом же серьёзном испытании. Ответ NPT (совместный доступ к полезным технологиям плюс убедительное обязательство лидеров принимать взаимные ограничения) — это шаблон, который позволяет сделать сделку по ИИ приемлемой для государств, которых просят подписаться.
Провалы NPT, прочитанные как предупреждения при проектировании
Договор нельзя назвать безусловным успехом, и его слабые места — именно те, где управлению ASI нужно действовать лучше. Обещание разоружения в статье VI выполнялось медленно и неохотно. Общее число ядерных боеголовок снизилось с момента подписания договора с пика холодной войны более 60 000 до примерно 12 500 сегодня, но каждое реальное сокращение происходило через отдельные соглашения (START I, START II, New START), а не через основную дипломатию статьи VI. Безъядерные государства давно считают сделку односторонней. Последняя конференция по рассмотрению действия договора в 2022 году завершилась без консенсуса из-за претензий Украины и Ирана. Это недовольство — не второстепённая помеха. Это структурный риск, с которым договор сталкивается каждый год при отсутствии реального прогресса в разоружении.
Три государства так и не присоединились (Индия, Пакистан, Израиль), а четвёртое (КНДР) вышло в 2003 году и позже в том же десятилетии провело первое испытание. Картина последовательна. Решительное государство может оставаться вне договора сколь угодно долго, если цена такого шага ниже цены принятия ограничений. А столп мирного использования как раз распространяет те самые двойные технологии, которые подводят государство к ядерному порогу. Иран показал, как компромиссы внутри рамок NPT можно использовать для продвижения программы, которую эти рамки и должны были предотвратить.
Каждая неудача несёт конструктивный урок. Разоруженческий эквивалент в договоре по ИИ (то, что ведущие государства предлагают в обмен на сдержанность других) должен быть убедительным и реально выполненным, иначе он разложится точно так же. Договор должен делать выход дорогим, а не без последствий. И он должен решать, как никогда полностью не решила NPT, проблему двойного назначения. Те же кластеры GPU, на которых обучают модели погоды и открытия лекарств, могут обучать следующее поколение передовых моделей. Счётчик должен считывать два числа одновременно.
Политическая архитектура, отличная от технической
NPT даёт ASI-управлению конкретный план для одной половины задачи: политической архитектуры. Техническая архитектура (какие возможности измерять, какие пороги устанавливать, как их верифицировать) — это отдельная проектная работа, и она не переносится в готовом виде. Переносится лишь форма соглашения.
Самый массовый договор по контролю над вооружениями в истории — это сделка. Версия для ИИ тоже должна ею стать. Работа — это более трудная задача по построению той самой сделки, которую в итоге должен выразить закон, а не создание нового международного права. Урок применим ко всем повторяющимся элементам: определить порог возможностей, на котором любой компетентный актор может создать глобальный катастрофический риск, а затем договориться о остановке, устойчивой к дефекции. Прямо, а не замазывая проблему.
И учиться на том, где произошёл разрыв NPT: уступки лидеров должны быть реальными и видимыми, выход — дорогим через рыночные и логистические узкие места, а проблема двойного назначения — решаться напрямую.
Речь Кеннеди в июне 1963 года не породила договор. Она породила готовность достаточного числа правительств с обеих сторон начать переговоры. Эта работа происходит до подписания любого документа, и именно её организует Фонд. Договор, к которому не присоединились соответствующие государства, ничего не регулирует. Вовлечь их в договор — политический вопрос, и именно его решение делает возможным всё последующее.
Самое жёсткое возражение
Самое справедливое возражение в том, что NPT закрепил неравенство и всё равно дал утечку, поэтому его копирование просто заморозит неудачную сделку. Учитесь на опыте: видимое сдерживание лидеров, дорогостоящие выходы, честность по двойному назначению. Не поклоняйтесь тексту. Берите структуру большой сделки, которая вообще сделала нераспространение возможным.