Статья называется Международное соглашение о предотвращении преждевременного создания искусственного сверхинтеллекта (arXiv:2511.10783), написанный Аароном Шером, Дэвидом Абекассисом, Питером Барнеттом и Брайаном Абейтой из команды технического управления Института исследований машинного интеллекта и опубликованный в ноябре 2025 года. Это не подписанный договор, и он не делает вид, что политическая воля уже существует. Он лишь закрывает брешь, которой противники управления ASI пользовались годами: утверждение, что запрет на сверхразум — это лозунг без какого-либо содержания. Проект MIRI и есть это «содержание», проработанное до деталей, которые нужны дипломатам.

Команда технического регулирования MIRI опубликовала полный проект международного соглашения о прекращении гонки к сверхинтеллекту, включающий ограничения вычислительных мощностей, порог по кластерам чипов и режим проверок, рассчитанный на соперников, не доверяющих друг другу. Вот что в нём говорится и почему важно, что такой документ уже существует.

Оно появилось вместе со своим естественным спутником. Днями ранее Заявление о суперинтеллекте собрала более 850 подписей (среди них Джеффри Хинтон, Йошуа Бенжио и Стюарт Рассел) под одним предложением: разработку супер-интеллекта следует запретить, пока нет широкого научного консенсуса, что это можно сделать безопасно и контролируемо, и пока нет сильной общественной поддержки. Заявление — это требование. Проект MIRI — это механизм. Одно говорит остановить; другой говорит вот как на самом деле сделать остановку проверяемой.

Коалиция, а не всеобщий договор

Проект строится вокруг ключевой коалиции, а не ждёт согласия всех примерно 190 правительств; по формулировке авторов, «коалиция во главе с США и Китаем, которая ограничит масштаб обучения ИИ и опасных исследований в области ИИ». Этот выбор намеренный и реалистичный. Передовые чипы, ведущие лаборатории и узкие места производства сосредоточены в небольшом числе юрисдикций. Если Вашингтон и Пекин свяжут себя обязательствами и используют влияние на цепочки поставок, чтобы привлечь других, соглашение будет регулировать тех, кто действительно имеет значение, без необходимости сначала получать всеобщее согласие. Это та же логика, которая сделала возможным Монреальский протокол: начать с тех, кто способен решить проблему.

Пороги, определяющие "слишком далеко"

Поскольку возможности ИИ представляют собой непрерывный спектр без естественной границы, проект привязывает правила к измеримому показателю: вычислительным затратам на обучение, измеряемым во флопсах. Он устанавливает два уровня.

1

Строгий порог, 1024 FLOP

Тренировочные запуски выше этого уровня запрещаются полностью. Порог намеренно установлен ниже масштаба крупнейших передовых запусков сегодняшнего дня: цель — остановить гонку масштабирования, а не узаконить её. Жёсткий порог после обучения — 1023 FLOP охватывает дообучение и последующие модификации.

2

Контролируемый порог, 1022 FLOP

Запуски ниже жёсткого потолка, но выше этой нижней черты, всё ещё разрешены, однако только с предварительного одобрения и при активном мониторинге. Это зона легитимного, полезного ИИ, которую договор оставляет открытой, но под наблюдением.

3

Цифры, созданные чтобы двигаться

Точные цифры предполагается пересматривать со временем техническим органом по мере совершенствования оборудования и алгоритмов, потому что любое фиксированное число устареет через несколько лет и не должно быть намертво вписано в текст.

Линия на 16 GPU: закрытые кластеры чипов

Ограничение вычислений работает лишь настолько, насколько вы можете их видеть. Поэтому проект привязывает правила к физической единице, которую называет Covered Chip Cluster: любая совокупность ИИ-чипов или их сетевое объединение, чья совокупная эффективная вычислительная мощность превышает шестнадцать эквивалентов H100. Для наглядности в документе отмечается, что шестнадцать чипов H100 дают примерно 15 840 TFLOP/s и стоят порядка 500 000 долларов в ценах 2025 года. Выше этой черты чипы не могут концентрироваться вне контролируемых объектов.

Это физическая основа всего режима. Обучение передовой модели нельзя создать из воздуха: требуется собрать крупный, энергозатратный кластер из дефицитных чипов. Обязывая любую концентрацию выше порога в шестнадцать GPU размещать в заявленных и контролируемых местах, проект делает запрещённое действие (тайный крупномасштабный запуск) трудноосуществимым без обнаружения. Всё остальное в режиме верификации держится на этом единственном требовании.

Как проверить обещание между соперниками

Проверка — самая трудная часть любого соглашения между сторонами, которые друг другу не доверяют, и проект ставит её в центр, а не оставляет на потом. Он накладывает несколько механизмов, у каждого из которых есть прецедент в существующем контроле над вооружениями:

  • Отслеживание цепочек поставок. Передовые ИИ-чипы отслеживаются от производства до продажи и установки, поэтому коалиция знает, где физически находится мировой compute.
  • Мониторинг энергопотребления. Крупные тренировочные запуски потребляют огромные и характерные объёмы электроэнергии; мониторинг энергопрофиля дата-центров — один из способов выявить незаявленные вычисления.
  • Консолидация в контролируемых объектах. Правило, по которому кластеры выше порога должны находиться в заявленных местах, превращает «найти скрытый дата-центр» в «учесть известные».
  • Инспекции по вызову. Сторона может потребовать краткосрочную инспекцию на месте подозрительного объекта — механизм, который в проекте основан на Части X Конвенции о запрещении химического оружия, где он уже десятилетиями применяется на практике.

Ни один из этих методов не является научной фантастикой. Каждый — адаптация уже применяемых способов проверки ядерных или химических обязательств. Новизна лишь в том, чтобы применять их к вычислениям и делать это до, а не после появления опасных возможностей.

Ограничение исследований, а не только вычислительных мощностей

Самое новаторское (и наиболее спорное) положение проекта выходит за рамки аппаратного обеспечения. Оно ограничивает само определённое исследование: работы, способствующие развитию передовых систем ИИ, или те, что могут поставить под угрозу методы верификации, от которых зависит соглашение. Логика в том, что прогресс в алгоритмах может заменить сырые вычислительные мощности; прорыв, делающий обучение в десять раз эффективнее, незаметно снижает объём вычислений, необходимый для пересечения опасной черты. Режим, который следил бы только за чипами, игнорируя науку, в итоге был бы обойдён ею. Провести эту черту, не подавляя обычные полезные исследования, действительно сложно, и авторы честно признают, что это одна из самых трудных проблем предложения.

Авторы утверждают, что предложение было бы технически достаточным, чтобы предотвратить создание искусственного сверхразума, если бы его реализовали сегодня, признавая при этом, что политической воли для его реализации пока нет.

Scher, Abecassis, Barnett & Abeyta, MIRI Technical Governance Team, arXiv:2511.10783 (2025)

От проекта к закону: уже существуют первые шаги

Статья на arXiv — не обязывающий документ. Но мир не начинает с чистого листа, и путь отсюда до чего-то enforceable короче, чем кажется. Три существующие режима — частичные прецеденты, каждый уже выполняет часть того, что потребовалось бы проекту MIRI:

1

US контроль экспорта передовых чипов

Вашингтон уже отслеживает и ограничивает поток оборудования, которое режим MIRI будет мониторить. Механизм отслеживания, куда попадают передовые ИИ-чипы, и блокировки части из них уже создан и работает. Политика этих мер контроля это сырьё для будущей системы верификации.

2

EU Закон об ИИ

Европейский закон уже возлагает повышенные обязательства на самые мощные модели общего назначения, используя порог вычислений как триггер — тот же базовый шаблон «выше этой черты — дополнительные обязанности», который договор закрепляет на международном уровне.

3

Рамочная конвенция Совета Европы об ИИ

Открытый для подписания в сентябре 2024 года и подписанный Европейским союзом, Соединёнными Штатами, Соединённым Королевством и другими, он стал первым юридически обязывающим международным договором по искусственному интеллекту. Он ориентирован на права, а не на запрет возможностей, но доказывает то, что скептики называют невозможным: государства действительно подпишут обязывающий договор по ИИ.

Работа по превращению этих фрагментов в coherentный путь — именно то, где полезна advocacy-организация. Это значит синтезировать проект MIRI, Заявление о сверхинтеллекте, существующие экспортные ограничения и конвенцию Совета Европы в targeted материалы для тех, кто пишет и согласовывает законы: модельное национальное implementing legislation; анализ того, как сегодняшние чиповые ограничения и AI Act EU могут развиться в мониторинг, предусмотренный договором; и plain-language обновления, сопоставляющие реальные возможности ИИ с предлагаемыми порогами. Эти материалы мало стоят, лежа на сайте. Они чего-то стоят перед сотрудниками Конгресса, ведомствами исполнительной власти, растущей сетью национальные институты безопасности ИИ, и дипломатические каналы, где политическая работа нацеливает их.

Почему проект меняет разговор

Ценность статьи о MIRI в том, что она превращает смутное стремление в набор конкретных, обсуждаемых выборов: жёсткий порог, который можно оспорить как слишком низкий или слишком высокий, границу в шестнадцать GPU, которую можно оспорить, ограничение исследований, которое можно попытаться сузить, — а не в том, что кто-то подпишет её в таком виде. Это большой шаг вперёд. Дебаты сдвигаются с «договор невозможен» к «вот договор; вот именно то, о чём нам придётся договориться». Как и в случае с нашим собственным структурный набросок модельного договора, цель — показать, что барьер не в отсутствии правовых или технических инструментов. Каждый механизм, использованный в проекте, уже где-то существует. Недостающий ингредиент — политическая воля, а конкретный проект договора — одно из немногих средств, способных её укрепить.