22 октября 2025 года Future of Life Institute опубликовал открытое письмо под названием Заявление о суперинтеллекте. В отличие от пространных манифестов, которые обычно сопровождают такие моменты, это одно предложение:

Мы призываем к запрету на разработку суперинтеллекта, который не будет снят до тех пор, пока не появится широкое научное согласие, что это можно сделать безопасно и контролируемо, и пока не будет сильной общественной поддержки.

Заявление о сверхинтеллекте, Future of Life Institute · Октябрь 2025

В нём не говорится, что сверхинтеллект никогда не следует создавать. В нём не осуждается ИИ как таковой. Оно ставит условие (на самом деле два) и требует остановить разработку, пока они не будут выполнены. Чтобы понять, почему эта скромная просьба представляет собой настоящий сдвиг в дискуссии, нужно понять и то, чего она требует, и то, кто согласился поставить под ней своё имя.

Что на самом деле запрашивает заявление

Формулировка точна. Три особенности отличают её от предыдущих открытых писем, включая известное письмо 2023 года с призывом к шестимесячной паузе в крупнейших тренировочных запусках.

  • Он нацелен конкретно на сверхинтеллект. Не узкий ИИ, не чат-боты, не инструменты ИИ, уже вплетённые в повседневную жизнь. Запрет касается систем, которые превзойдут человеческие возможности практически во всех когнитивных областях — той категории, которую мы описываем в нашем пояснении к искусственный сверхинтеллект. Эта точность снимает обычное возражение, будто сторонники безопасности хотят остановить полезные технологии. Они не хотят. Они хотят остановить одну конкретную и конкретно опасную передовую разработку.
  • Это условный запрет, а не постоянный. Запрет снимается, только когда пересечены два порога. Это меняет всю постановку вопроса. Сегодня по умолчанию: строить суперинтеллект, а безопасность налаживать потом, если получится. Заявление переворачивает это: сначала обеспечить безопасность, потом строить. Бремя доказательства переходит к разработчикам, где (для технологии таких последствий) оно, по сути, и должно находиться.
  • Это требует поддержки общественности, а не только одобрения экспертов. Второе условие — демократическое, а не техническое. Даже если учёные когда-нибудь согласятся, что суперинтеллект можно контролировать, заявление требует, чтобы на его создание дало согласие общество. Это прямой вызов нынешнему порядку, при котором несколько частных лабораторий принимают за всех решение, меняющее цивилизацию, — ту самую проблему, которую мы разбираем в кто контролирует сверхинтеллект.

Почему подписанты важнее, чем само предложение

Открытые письма — дёшево. Что сделало это письмо заметным — коалиция. Более 850 человек подписались, и список замечателен не длиной, а диапазон.

На вершине были учёные, создавшие эту область. Yoshua Bengio и Geoffrey Hinton (оба лауреата премии Тьюринга, обоих часто называют крёстными отцами современного ИИ) подписали, как и Stuart Russell, автор стандартного учебника по ИИ. Когда люди, наиболее ответственные за существование технологии, просят мир остановиться до создания её самой мощной формы, это свидетельство, а не активизм.

Затем пришли строители и общественные деятели. Сооснователь Apple Steve Wozniak и основатель Virgin Richard Branson. Историк Yuval Noah Harari, актёр Stephen Fry, и музыкант will.i.am. В отставке лидеры национальной безопасности, включая бывшего председателя Объединённого комитета начальников штабов Admiral Mike Mullen и бывший советник по национальной безопасности Susan Rice. И, что наиболее показательно, фигуры, которые почти ни в чём другом не согласны: Принц Гарри и Меган наряду с Steve Bannon и Glenn Beck.

Последняя деталь — весь аргумент в миниатюре. Когда британская королевская чета и стратег MAGA-медиа подписывают одну и ту же фразу, вопрос вышел за рамки обычного идеологического размежевания. Озабоченность сверхразумом — одна из немногих позиций 2025–2026 годов с подлинным межпартийным охватом, именно тот тип коалиции, который делает возможной обязательную политику, не левая и не правая, не истеблишмент и не популисты.

Что представляет собой заявление, а что — нет

Важно трезво оценивать пределы. Публичное заявление ничего не запрещает. Оно не назначает регулятора, не связывает компанию и не ограничивает государство. Тот, кто воспримет его как закон, ошибётся.

Что оно делает — это перемещает Окно Овертона, диапазон позиций, считающихся мейнстримными и допустимыми для высказывания. Два года назад призыв к запрету целого класса ИИ был бы отвергнут как маргинальный. После октября 2025 года это позиция, которую публично занимают нобелевские учёные, iconic предприниматели и политические фигуры по всему спектру. Этот сдвиг в том, что считается respectable для высказывания, — предпосылка всего последующего. Политики занимают позиции, которые уже популярны; они редко ведут. Функция заявления — сделать запрет достаточно популярным, чтобы лидеры могли действовать.

Именно так начинались более ранние движения по управлению технологиями Пагуошские конференции потратили два десятилетия на формирование интеллектуального и морального консенсуса, который в итоге обеспечил контроль над ядерным оружием. Заявления и декларации — это способ построить взлётную полосу, а не финишная черта.

От предложения до договора

Разрыв между заявлением и реальностью — это разрыв, который призван закрыть Nakada Foundation. Декларация утверждает, что запрет желателен и легитимен. Она не создаёт механизмов его enforcement. Для этого нужны три вещи, которые текст намеренно не уточняет:

Заявление о сверхинтеллекте доказало важное: воля существует и она пересекает все привычные линии разделения. Наша план это превращение этой воли в контроль над вычислительными мощностями, мониторинг агентности и международный договор, который придаст единственному предложению заявления необходимую силу. Если вы согласны с этим предложением, самое полезное, что можно сделать дальше, — помочь создать коалицию, которая превратит его в политику.