Люди, решающие, как быстро двигаться к сверхинтеллекту, какие стандарты безопасности применять и когда развёртывать системы, приближающиеся к этому порогу, — преимущественно сотрудники и инвесторы пяти-шести частных технологических компаний. Они не связаны обязательным международным правом, не избираются. Их решения ограничены лишь добровольными обязательствами, которые они дали друг другу, и регуляторной средой стран, где они работают, — средой неполной и в основном реактивной.
Эти факты не могут быть окончательным ответом.
Это не обвинение. Люди в этих организациях во многих случаях действительно пытаются действовать ответственно. Проблема структурная: решения такого масштаба не должны зависеть от добрых намерений отдельных лиц в отдельных компаниях, работающих под конкурентным давлением, которое систематически толкает к более быстрому развёртыванию при меньших запасах безопасности.
Текущая структура принятия решений
OpenAI, Anthropic, Google, DeepMind и Meta — основные западные участники разработки передовых ИИ. У каждой есть внутренние команды по безопасности, публичные обязательства по ответственному развитию и участие в добровольных форумах управления, включая Frontier Model Forum. Развитием в Китае в основном руководят государственные структуры и крупные технологические компании под координацией правительства.
Самые важные решения — когда переходить к следующему уровню возможностей, какие оценки безопасности достаточны перед развёртыванием, достаточно ли проверено выравнивание системы — принимаются внутри этих организаций, рассматриваются их внутренними командами безопасности и оцениваются по стандартам, которые они в значительной степени написали сами.
Ни одно действующее правительство не имеет полномочий приказать ведущим лабораториям по созданию передового ИИ остановить разработки. Ни один международный орган не обладает юридическим правом требовать независимой проверки оценок безопасности. Ни в одной стране не проводилось демократического голосования по вопросу о продолжении создания систем, которые сами их разработчики называют потенциально способными преобразить всю человеческую деятельность.
Это описание структурного разрыва: люди, которых сильнее всего затрагивают решения о суперинтеллекте, не имеют реального формального механизма влияния на них, а не критика намерений какой-то конкретной компании.
Почему частное управление терпит структурный крах
Три структурные проблемы делают частное управление суперинтеллектом со стороны компаний неадекватным, независимо от намерений самих компаний.
Первая причина — конкурентное давление. Даже лаборатория, которая искренне хочет подождать решения проблемы выравнивания, понимает: конкурент, развернувший систему первым, может занять такую позицию на рынке, что её уже не отыграть. Это создаёт стимул определять «достаточную безопасность» на том уровне, который позволяет опередить соперников, а не на уровне, который действительно достаточен. Ни одна компания в одиночку эту проблему не решит. Добровольные обязательства по безопасности существуют именно потому, что компании знают о реальности этой проблемы, и они недостаточны именно потому, что добровольные обещания ломаются под давлением конкуренции.
Второе — конфликт интересов при оценке безопасности. Организации, проводящие оценку безопасности систем ИИ, — это те же организации, которые финансово заинтересованы в том, чтобы системы эту оценку прошли. Это просто текущее положение дел в отрасли, а не преувеличение. Внутренние команды по безопасности выполняют серьёзную и полезную работу. Но они не заменяют независимую внешнюю проверку — точно так же, как внутренние клинические испытания фармацевтической компании не заменяют регуляторную экспертизу независимого органа.
Третье — масштаб решения. Вопрос о том, строить ли сверхинтеллект и в какие сроки, носит цивилизационный характер, а не является продуктовым решением. Надлежащим местом для такого решения должны быть структуры управления, подотчётные людям, чьё будущее поставлено на карту, а не корпоративные советы, подотчётные акционерам.
Что потребовалось бы для демократического и транснационального надзора
Аргумент в пользу демократического надзора за суперинтеллектом не предполагает, что демократические процессы совершенны или что международные институты работают гладко. Он исходит из того, что альтернатива — частное управление под давлением конкуренции — явно хуже.
Достаточный надзор требует трёх свойств. Первое — репрезентативная легитимность: орган управления должен быть подотчётен тем, кого затрагивает, то есть в конечном счёте всему человечеству, а не только гражданам стран, где создаётся передовой ИИ. Это указывает на международные договорные организации с широким членством, а не на одностороннее национальное регулирование.
Второе — обязывающая власть. Добровольные обязательства — это не управление. Рамочная система управления сверхразумным ИИ нуждается в правовой возможности требовать соблюдения, проводить независимые аудиты и налагать последствия за нарушения. Для этого требуются соглашения на уровне договоров, а не отраслевые форумы.
Третье — технические возможности. Орган управления, который не может оценить то, чем управляет, не может им управлять. Международный надзор за ИИ требует сотрудников с настоящей технической экспертизой, доступа к весам моделей и записям обучения, а также аналитических инструментов для независимой оценки заявлений о выравнивании.
Ядерный прецедент
Утверждение, что эффективное международное управление опасными технологиями невозможно, опровергается историей. Договор о нераспространении ядерного оружия, подписанный в 1968 году и ныне действующий в 191 стране, успешно ограничил распространение ядерного оружия гораздо меньшим числом государств, чем предсказывали аналитики в 1960-х. Он несовершенен. Он не предотвратил все случаи распространения. Тем не менее он остаётся одним из самых значимых соглашений по контролю над вооружениями в истории.
Конвенция о химическом оружии, вступившая в силу в 1997 году, обеспечила проверенное уничтожение более 70 000 метрических тонн заявленного химического оружия. Режим инспекций, проводимый Организацией по запрещению химического оружия (OPCW), осуществляет независимые верификационные визиты на объекты в странах-участницах и работает с настоящей технической credibility.
"Ответственность за разработку сверхинтеллектуального ИИ не должна оставаться за каким-либо одним актором (государством или корпорацией) — её следует передать демократическим и транснациональным структурам управления, представляющим всё человечество во всём его многообразии."
Журнал глобальной политики, февраль 2026
Ни один договор не является идеальной аналогией для управления ASI. Разработка ИИ быстрее, более распределена и труднее поддаётся физическому мониторингу, чем производство ядерного оружия. Но основной аргумент из этих прецедентов остаётся в силе: когда технология несёт риски, которые по-настоящему глобальны и потенциально необратимы, международное сообщество уже демонстрировало способность создавать структуры управления, которые её ограничивают. Утверждение, что ИИ уникально не поддаётся управлению, — не техническое наблюдение, а выбор.
Конкурентное возражение и почему оно не разрешает вопрос
Самое серьёзное возражение против демократического и транснационального надзора за суперинтеллектом — конкурентное: если западные демократии примут ограничения, а Китай — нет, то менее заботящийся о безопасности игрок первым создаст суперинтеллект.
Ответ состоит из нескольких частей. Во-первых, механизмы управления нужно разрабатывать с самого начала так, чтобы в них участвовали все крупные игроки. US и его союзники обладают значительным влиянием на развитие ИИ в Китае через доступ к технологиям, инвестиционные потоки и цепочки поставок чипов. Это влияние наиболее ценно, пока оно существует, а не после того, как система управления будет построена без Китая и затем провалится. Во-вторых, у китайского правительства есть собственная заинтересованность в том, чтобы его не обогнал неконтролируемый ИИ, созданный западной компанией, и оно участвовало в международных обсуждениях безопасности ИИ, в том числе в Блетчли-парке. Препятствия для участия Китая реальны, но преодолимы. В-третьих, альтернатива многостороннему управлению — это гонка, в которой каждый крупный игрок стремится первым развернуть систему с минимальными ограничениями по безопасности, что явно не в интересах US и его союзников и делает появление неконтролируемого сверхинтеллекта более вероятным независимо от того, кто его создаст.
Возражение, основанное на конкуренции, не является аргументом в пользу статус-кво. Статус-кво — это частное управление под давлением конкуренции, и анализ выше показывает, что такая модель структурно недостаточна. Ответ на «многостороннее управление сложно» — работать над ним, а не соглашаться на более простое, но явно недостаточное управление.
Фонда три политических предложения созданы именно с учётом этого ограничения: структуры, которые изначально рассчитаны на присоединение всех ключевых игроков и содержат политические и экономические стимулы, делающие участие выгоднее, чем отказ.