Каждые несколько месяцев падает очередной бенчмарк возможностей ИИ. Системы, которые два года назад не могли сдать профессиональные экзамены, теперь набирают баллы в верхних процентилях. Руководители ведущих лабораторий frontier-ИИ открыто называют искусственный общий интеллект делом нескольких лет, а не десятилетий. Один из самых известных исследователей безопасности ИИ, Ник Бостром, опубликовал в 2026 году рабочую статью, в которой спрашивает не о том, стоит ли разрабатывать сверхинтеллект, а о том, когда это делать.
На этом фоне вопрос, готовы ли мы к суперинтеллекту, — это срочная практическая оценка, и ответ явно отрицательный, а не теоретическое упражнение.
Что на самом деле потребует готовность
Важно точно определять, что значит «готовность», потому что слово часто используют вольно — как «мы подумали о рисках» или «ответственные лаборатории работают над безопасностью». Это не готовность в нужном смысле.
Настоящая готовность к суперинтеллекту требует, чтобы до развёртывания системы уровня ASI где бы то ни было были выполнены все перечисленные условия:
- Надёжный технический метод проверки согласования ИИ перед развёртыванием, а не вывод его из поведенческих оценок
- Международное управление с достаточным охватом, чтобы предотвратить развёртывание системы любым отдельным субъектом (компанией или страной) до прохождения верификации
- Инфраструктура мониторинга, действующая независимо от организаций, создающих системы
- Правовые рамки в основных странах — разработчиках ИИ, наделяющие надзорные органы реальной властью
- Установленные международные нормы с достаточным политическим весом, чтобы выдержать конкурентное давление
Оценивая по этим требованиям, вот где мы на самом деле находимся.
Разговор о управлении пошёл в неверном направлении
В ноябре 2023 года правительство UK провело Саммит по безопасности ИИ в Блетчли-Парке — первую крупную международную встречу, специально посвящённую рискам фронтирного ИИ. Формулировки были явно ориентированы на безопасность. Итоговая Блетчлиская декларация была подписана 28 странами, включая US, Китай и EU, и признавала «потенциально катастрофические» риски от ASI.
К февралю 2025 года Франция провела то, что назвала Саммитом действий в области ИИ, намеренно изменив формат, чтобы сигнализировать о смене приоритетов. Акцент сместился с выявления и управления рисками на содействие внедрению и получение экономических преимуществ. Это была не нейтральная смена терминологии. Она отражала реальное политическое давление со стороны правительств и отраслей, которые видят конкуренцию в области ИИ с Китаем как главную рамку, а требования безопасности — как возможное конкурентное преимущество.
«Вопрос уже не в том, стоит ли разрабатывать сверхинтеллект, а в том, когда это оптимально сделать и кому достанутся выгоды от этого решения о сроках».
Ник Бостром, «О сроках разработки суперинтеллекта» · Рабочая статья, 2026
Формулировка Бострома примечательна тем, что его более ранняя работа («Superintelligence», 2014) заложила многие базовые аргументы о том, почему superintelligence несёт экзистенциальный риск. Его сдвиг в 2026 году в сторону вопросов тайминга и распределения отражает более широкое движение в области: признание, что разработка произойдёт, и фокус на том, кто будет контролировать процесс. Вопрос legitimate. Отличный от обеспечения безопасности самого процесса.
Проблема перехода от AGI к ASI
В дискуссиях о регулировании часто считают AGI релевантным порогом, исходя из предположения, что системы уровня AGI будут понятны человеческим надзирателям и поддадутся осмысленной оценке. На пороге AGI это, вероятно, верно. Проблема в том, что происходит дальше.
Система уровня AGI, способная направлять собственные исследования и улучшения, может перейти от человеческого уровня к существенно превосходящему его за время намного меньшее, чем потребовалось для достижения человеческого уровня. Технический термин для этого — сценарий быстрого взлёта. При быстром взлёте система проходит путь от уровня, на котором управление людьми ещё возможно, до уровня, на котором оно уже может оказаться невозможным, за срок короче времени реакции любого института управления.
Готовность к сверхразуму означает готовность до порога AGI, а не план реагировать после него. Управление, которое включается лишь при достижении AGI, может оказаться слишком поздним, чтобы предотвратить быстрый переход к уровням возможностей, которые его преодолеют.
Почему окно возможностей всё ещё открыто
Разрыв в готовности реален и серьёзен. Честное описание этого разрыва не равнозначно выводу, что ничего сделать нельзя. Окно для создания адекватного управления сужается, но ещё не закрылось.
Ведущие лаборатории передового ИИ пока находятся на уровне человеческого или близкого к нему выполнения большинства когнитивных задач, но не значительно выше. Переход от этого уровня возможностей к тому, который имеет наибольшее значение, ещё не произошёл. Именно сейчас можно создавать рамки управления при участии тех, кто впоследствии будет им подчиняться, а не после того, как эти акторы разработают системы, делающие сотрудничество менее необходимым.
Политическая цена создания управления сейчас реальна: конкурентное трение, более медленное развёртывание, возможная потеря экономического преимущества по сравнению с менее заботящимися о безопасности игроками. Эти издержки нужно честно сопоставить с ценой отсутствия управления сейчас и попадания в описанную выше ситуацию. Асимметрия в этом сравнении не тонкая. Три предложения Фонда созданы именно для этого окна: до пересечения порога, пока ещё можно добиться сотрудничества всех ключевых игроков.