Суперинтеллект уже не маргинальная тема в Вашингтоне, Брюсселе или Пекине. Открытый вопрос — скорость: смогут ли правительства действовать быстрее, чем системы, которыми они должны управлять.
В ноябре 2023 года 28 стран подписали Блетчлискую декларацию — первое международное соглашение, признавшее, что передовой ИИ несёт риски, «потенциально катастрофические». Подписанты включали США, Китай, Великобританию, Европейский союз и страны Азии, Африки и Южной Америки. Соглашение отнюдь не было маргинальным документом. Его подписали главы государств и старшие министры.
UK провела первый саммит по безопасности ИИ в Блетчли-парке. Второй прошёл в Сеуле. Третий — в Париже. Создана международная сеть государственных институтов по ИИ, изначально запущенная как AI Safety Institutes, а затем переименованная в UK (AI Security Institute) и US (Center for AI Standards and Innovation); в США, Великобритании и Евросоюзе действуют органы, которые совместно проводят исследования и координируют подходы к рискам. Четыре года назад ничего подобного не существовало.
В Сенате США риск ИИ стал одним из редких по-настоящему bipartisan вопросов. Чак Шумер организовал форумы AI Insight Forums в 2023 году. Джош Хоули назвал суперинтеллект «самой опасной технологией в истории человечества». Марко Рубио внёс законопроект, направленный на риски ИИ. Озабоченность пересекает партийные линии, потому что угроза не уважает идеологию.
Европейский союз принял AI Act в 2024 году — первый в мире всеобъемлющий закон, регулирующий системы ИИ по уровню риска. Самые мощные передовые модели подпадают под самые жёсткие требования. Закон неидеален. Но это обязательный закон, который enforce регуляторы с правом выписывать крупные штрафы.
Китай выпустил собственные правила ASI, включая требования к прозрачности алгоритмов и маркировке контента. Китай участвовал в саммитах в Блетчли и Сеуле. Представление о Китае как о не желает участвовать в управлении ASI неверно.
Политическая ситуация 2026 года совсем не похожа на ситуацию 2020 года. Этот сдвиг произошёл потому, что люди за него боролись. Он может продолжаться, и должен, прежде чем создаваемые системы сделают вопрос управления неразрешимым.
28 стран, включая US, UK, EU и Китай, подписывают первое международное соглашение, признающее, что передовой ИИ несёт риски, которые «потенциально катастрофичны». Саммит по безопасности ИИ в Блетчли-парке вырабатывает общую основу для оценки рисков передового ИИ.
Европейский союз принимает первую в мире всеобъемлющую нормативную базу по ИИ, вводя строгие требования к самым мощным передовым моделям. Нарушения влекут штрафы до 3 % глобальной выручки. Закон обязателен для всех 27 государств-членов и распространяется на любую систему ИИ, развёрнутую в EU.
Сенат US проводит серию двухпартийных слушаний по риску ИИ с показаниями Сэма Альтмана из OpenAI, ведущих исследователей и экспертов по политике. Слушания впервые обсуждают экзистенциальный риск ИИ по существу на высшем уровне законодательного надзора US.
US, UK и EU создают институты безопасности ИИ с мандатом оценивать передовые системы ИИ на предмет катастрофических рисков до развёртывания. Эти институты — первая официальная государственная инфраструктура оценки рисков суперинтеллекта. UK и US переименовали в 2025 году, но инфраструктура оценки осталась.
OpenAI, Google, Microsoft, Meta и Amazon потратили сотни миллионов на лоббирование в Вашингтоне в 2023 и 2024 годах. Технологическая отрасль — крупнейшая корпоративная лоббистская сила в Соединённых Штатах. Она нанимает бывших регуляторов, бывших законодателей и бывших сотрудников Белого дома. Именно эту силу должно преодолеть любое усилие по ASI.
Лоббирование точечное, а не случайное. Оно бьёт именно по тем законодательным механизмам, которые могли бы ограничить разработку сверхразума: пороги вычислений, обязательные проверки безопасности, рамки ответственности. Каждую меру, создающую реальную подотчётность, встречает хорошо финансируемая кампания по её ослаблению или провалу.
Возможности ИИ продвинулись от GPT-2 до систем, превосходящих большинство людей по большинству когнитивных бенчмарков, меньше чем за шесть лет. Крупное законодательство обычно занимает от четырёх до восьми лет от внесения до принятия. Технология не ждёт, пока управление её догонит.
Это несоответствие требует относиться к законодательной срочности как к приоритету первого порядка, финансировать политическую работу, сжимающую сроки, и создавать общественное давление, вынуждающее действовать быстрее. Несоответствие скоростей — политическая проблема, а не закон физики.
Правила безопасности обычно появляются после катастроф, а не до них. Законы о ремнях безопасности приняли после десятилетий смертей на дорогах. Финансовое регулирование ужесточали после кризисов. Механизм превентивного регулирования в большинстве демократий развит слабо.
Для суперинтеллекта модель «сначала катастрофа» неприемлема. Не согласованный с человеком суперинтеллект не оставляет времени на исправление. Именно поэтому необходимо превентивное управление, построенное по образцу ядерное нераспространение а не регулирование после кризиса — правильная рамка. Она уже работала. Требуется заново выстроить политическую инфраструктуру, чтобы она заработала.
Табачная индустрия утверждала, что ограничить рекламу сигарет невозможно. Автомобильная индустрия говорила, что требование ремней безопасности уничтожит продажи машин. Химическая индустрия заявляла, что запрет ХФУ положит конец современному производству. В каждом случае утверждение о невозможности было лоббистской позицией, а не фактом. И в каждом случае регулирование всё равно ввели.
Окно Овертона по рискам ИИ сдвинулось быстрее, чем по любому сопоставимому технологическому вопросу в истории. В 2020 году риск суперинтеллекта обсуждали в основном в академических статьях и на онлайн-форумах. В 2026 году он стоит в повестке каждого правительства «Большой семёрки». Главы государств публично называют его «экзистенциальной угрозой». Этот сдвиг стал результатом постоянной работы исследователей, журналистов и граждан, которые не позволили тему замять. Сам собой он не возник.
Политическая коалиция в поддержку безопасности ИИ уже формируется. В неё входят консерваторы, опасающиеся за национальную безопасность и концентрацию власти в руках нескольких корпораций. В неё входят прогрессисты, которых беспокоит отсутствие демократического контроля над самыми важными технологическими решениями в истории. В неё входят религиозные общины, учёные, художники и родители. Это начало большинства.
Международный импульс реален. Процесс в Блетчли, международная сеть институтов ИИ и формирующиеся обсуждения управления UN представляют собой самое быстрое создание международной инфраструктуры политики в области ИИ в любой технологической сфере. Детали собираются. Вопрос в том, соберутся ли они достаточно быстро, и это зависит от того, будет ли достаточно людей, которые будут толкать.
Присоединяйтесь к нам и помогите создать давление, которое сделает бездействие политически невозможным.