Рассмотрение конкуренции US и Китая в области ИИ как барьера для управления ASI приравнивает две разные вещи. Конкуренция и сотрудничество по общему катастрофическому риску не исключают друг друга. США и Советский Союз десятилетиями жёстко соперничали по всем направлениям национальной мощи, одновременно ведя переговоры и поддерживая серию соглашений по контролю над вооружениями, ограничивавших оружие, способное уничтожить цивилизацию. Условия, при которых такое сотрудничество стало возможным, стоит понять, чтобы применить к проблеме безопасности ИИ.
История того, как соперники сотрудничают в условиях катастрофических общих рисков, напрямую относится к проблеме безопасности ИИ.
Что сделало возможным сотрудничество US и СССР
Для соглашений по контролю над вооружениями между двумя сверхдержавами холодной войны требовался ряд условий. Ни одно из них не предполагало, что соревнование прекратится или что стороны будут доверять друг другу в каком-то общем смысле.
Недоверие нормально. Проверка всё равно существует.
Первое — общее и конкретное понимание взаимной катастрофы. И США, и Советский Союз видели последствия применения ядерного оружия: США — через его использование и испытания, Советский Союз — через испытания и разведданные о Хиросиме и Нагасаки. К концу 1950-х обе стороны понимали, что полномасштабный ядерный обмен будет катастрофой для обеих. Это была не теоретическая оценка, а вывод, опирающийся на физические доказательства того, что делают ядерные боеприпасы. Карибский кризис 1962 года сделал это понимание непосредственным и осязаемым для политических лидеров так, как не смогли сделать годы стратегического анализа.
Вторым элементом стал устойчивый неформальный диалог, поддерживавший интеллектуальные и личные связи через политический разлом. Конференции Пагуош по науке и мировым делам, начавшиеся в 1957 году, собирали учёных обоих блоков для обсуждения контроля над вооружениями ещё до того, как стали возможны официальные переговоры. Эта неформальная сеть создала идеи и отношения, которые позже оформились в формальных переговорах. Когда представители US и советские чиновники сели за стол переговоров по Договору о запрещении ядерных испытаний в трёх средах в 1963 году, они не начинали с нуля.
Третьим элементом стало тщательное ограничение сферы. Договор о частичном запрещении ядерных испытаний (1963) запретил испытания в атмосфере, космосе и под водой, но не под землёй. Он решал проблему атмосферных осадков от испытаний, где обе стороны действительно имели общий интерес в решении, не требуя при этом ограничений на сами оружейные программы или проверки арсеналов. Это было узкое первое соглашение, которое создавало доверие для последующих, более масштабных. SALT I (1972), Договор по ПРО (1972) и Конвенция о запрещении химического оружия появились позже, каждый раз опираясь на архитектуру предыдущего.
Четвёртое: верификация была заложена с самого начала, а не добавлена потом. Каждое соглашение проектировалось с явными механизмами проверки: национальные технические средства спутниковой разведки были включены в рамки SALT, и обе стороны договорились не мешать мониторингу спутников друг друга. Это позволяло каждой стороне проверять соблюдение без доверия к заявлениям другой. Соглашения, требовавшие доверия для работы, не заключались; соглашения, которые можно было проверить без доверия, заключались.
В чём US-сравнение с Китаем имеет силу
Соединённые Штаты и Китай разделяют структурные особенности с динамикой US-советской, которые релевантны для управления ASI.
Обе стороны разрабатывают передовые системы ИИ с потенциальными военными и экономическими применениями, которыми ни одна не хочет делиться с другой. На официальном уровне обе выражают обеспокоенность рисками ASI, создаваемого без достаточных мер безопасности. Обе сталкиваются со сценарием (ИИ-система, ведущая себя катастрофически непредсказуемо), который нанесёт вред обеим странам независимо от того, чья система его породит. Неразмещённый сверхинтеллект, созданный в китайской лаборатории, будет опасен для Китая не меньше, чем для Соединённых Штатов, и наоборот. Категория рисков, вызывающая наибольшую тревогу у исследователей безопасности ИИ, не носит соперничества, как ядерное оружие. Это создаёт реальную структурную основу для общих интересов.
Существует также неформальный диалог, который постепенно расширяется. Саммит по безопасности ИИ в Блетчли в ноябре 2023 года впервые включил участие китайского правительства — это был первый случай, когда китайские официальные лица присоединились к многосторонней площадке, специально посвящённой безопасности передового ИИ. Китайские исследователи ИИ участвуют в международных обсуждениях безопасности. В конце 2024 года US и Китай договорились начать двусторонние переговоры по рискам ИИ. Эти контакты пока ранние и хрупкие, их легко нарушить из-за других аспектов двусторонних отношений, но инфраструктура для диалога уже существует.
Контроль над вооружениями между US и СССР не требовал взаимного доверия. Он требовал согласия, что определённые катастрофические исходы хуже ограничений, нужных для их предотвращения, и создания систем верификации, делающих соблюдение observable без опоры на добрую волю.
Где сравнение перестаёт работать
Отношения US с Советским Союзом обладали ясностью, которой не хватает нынешним отношениям US с Китаем. Обе сверхдержавы холодной войны официально признавали, что ядерное оружие — это оружие и что полномасштабный ядерный обмен будет катастрофой. Физические эффекты ядерного оружия были задокументированы, засвидетельствованы и понятны. Угроза была конкретной.
Катастрофический риск от ИИ для большинства политических лидеров остаётся ожидаемым, а не пережитым. Ни одно правительство не включило экзистенциальный риск от искусственного сверхразума в свою национальную систему безопасности с тем же весом, который ядерный риск имеет с 1945 года. Сценарий, при котором невыровненный сверхразумный ИИ причиняет цивилизационный вред, не имеет исторического прецедента. Это затрудняет политическую мобилизацию вокруг предотвращения, потому что политики надёжнее реагируют на уже произошедший вред, чем на ожидаемый.
Экономическое измерение отношений US–Китай также усложняет ситуацию способами, не имевшими аналогов в холодной войне. У US и Советского Союза были в основном раздельные экономики. US и Китай экономически взаимозависимы: цепочки поставок, передача технологий и инвестиционные потоки идут в обе стороны. Возможности ИИ находятся в центре экономического соперничества в этих отношениях, а не только военного. Это делает ИИ труднее отделить от общего конкурентного контекста и вести о нём отдельные переговоры, потому что ограничения на развитие ИИ затрагивают экономические перспективы так, как не затрагивали ограничения, скажем, на ракеты средней дальности.
Текущее состояние диалога
По состоянию на середину 2026 года диалог US и Китая по ИИ остаётся осторожным и прерывистым. Двусторонние обсуждения, начавшиеся в 2024 году, продолжаются на рабочем уровне и сосредоточены главным образом на обмене информацией об оценках рисков ИИ, а не на обязательных обязательствах. Оба правительства публично поддерживают цель предотвращения катастрофических исходов ИИ, одновременно сохраняя конкурентные программы разработки ИИ. На многостороннем уровне обе стороны участвовали в саммите в Блетчли 2023 года и сеульском саммите 2024 года, подписав декларации, признающие общую озабоченность рисками передового ИИ, но не создающие обязательств.
Экспортный контроль US в отношении передовых полупроводниковых технологий остаётся постоянным источником двусторонней напряжённости. Эти ограничения, блокирующие доступ Китая к самым передовым чипам, используемым для обучения фронтирных ИИ, мотивированы в первую очередь конкурентными соображениями, а не соображениями безопасности. С точки зрения управления они представляют собой форму одностороннего контроля вычислений с некоторыми теми же практическими эффектами, что и договорные лимиты на вычисления, хотя и без взаимных ограничений или механизмов верификации, которые предусматривало бы договорное управление.
Какие условия позволят добиться прогресса
Три условия исторически предшествовали значимому прогрессу в контроле над вооружениями между соперниками, и у каждого есть аналог для ИИ.
Определяющий момент, который делает риск конкретным и политическим. Договор об ограничении испытаний ядерного оружия последовал после того, как атмосферные испытания обеих сторон произвели измеримые глобальные осадки, сконцентрировавшие общественное мнение против продолжения испытаний. Аналогом управления ASI мог бы стать серьёзный инцидент — развёртывание высокоэффективной системы, которая в крупном масштабе вела себя существенно непредсказуемо, — делающий риск политически видимым для внутренней аудитории обеих стран одновременно. Правительства, ранее сопротивлявшиеся превентивным мерам, становятся более восприимчивыми после опыта близких промахов.
Технические меры укрепления доверия до юридически обязывающих обязательств. До ОСВ-1 обе стороны использовали спутниковую разведку для наблюдения за ракетными программами друг друга, с молчаливым согласием, что такое наблюдение происходит. Аналогом для ИИ могли бы стать соглашения о прозрачности — уведомления о тренировочных запусках, общие стандарты оценки или совместные исследования безопасности. Такие меры укрепляют уверенность, что другая сторона действует добросовестно, и создают политическую основу для более крупных обязательств.
Содействие третьей стороны, позволяющее обеим сторонам участвовать, не создавая видимости уступки другой. Несколько успешных инициатив по контролю над вооружениями выиграли от многостороннего оформления: обе стороны могли взаимодействовать с международным процессом, а не делать двусторонние уступки друг другу. Многосторонний процесс управления ASI с участием US и Китая под эгидой нейтрального органа может стать путём к соглашениям, которые двусторонние переговоры в формате US–Китай не смогли бы обеспечить.
«US и Китаю не нужно доверять друг другу, чтобы сотрудничать в области безопасности ИИ. Им нужно согласиться, что катастрофические исходы с ИИ хуже для обеих сторон, чем ограничения, необходимые для предотвращения этих исходов.»
Вопрос о том, смогут ли US и Китай договориться по безопасности ИИ, в конечном счёте сводится к тому, придут ли оба правительства до появления достаточно мощной системы ИИ к выводу, что взаимные обязательные ограничения предпочтительнее неограниченной гонки. История показывает, что такой вывод достижим при правильных условиях. История также показывает, что правительства редко приходят к нему через спокойное обдумывание заранее. Они приходят к нему, когда альтернатива становится достаточно наглядной, чтобы изменить политический расчёт. Политический вопрос в том, останется ли окно возможностей для управления открытым достаточно долго, чтобы это изменение произошло.
Самое жёсткое возражение
Самое справедливое возражение — что соперничество делает сотрудничество фантазией. Контроль над ядерными вооружениями состоялся при гораздо большей ненависти, но с проверкой вместо доверия. Общая уязвимость перед потерей контроля — это совместный интерес. Без него обе стороны получают гонку к системам, которыми никто не сможет управлять.