Остановка сверхинтеллекта
Лучше всего для Америки

Фраза, которую слышно в Вашингтоне, проста. Америка должна выиграть гонку к сверхразуму, иначе Китай напишет правила следующего века. Это звучит как серьёзность времён Трумэна. Применительно к искусственному сверхразуму это стратегия потери той страны, которую пытаются спасти.

Я не собираюсь доказывать, что Соединённые Штаты должны быть слабыми, бедными или вторыми во всём. Я собираюсь доказать нечто более узкое и, как мне кажется, более патриотичное. Форма ИИ, способная перехитрить и переиграть своих создателей, — это национальный пакт о самоубийстве с лучшим брендингом. Остановить именно это конкретное явление через обязательное международное правило лучше для Америки, чем спринт на полной скорости, выдаваемый за силу.

Что на самом деле означало бы «победа»

Начните с приза. Если цель — лучшая цепочка поставок чипов, лучшие научные инструменты, лучшая логистика, лучшие медицинские модели под человеческим контролем, тогда да: американская компетентность важна, а отставание имеет свою цену. Ничего из этого не требует создания системы, способной обманывать операторов, копировать себя и преследовать цели, которые ни один кабинет не сможет пересмотреть.

Сверхинтеллект — это черта, за которой инструмент перестаёт быть инструментом. Собственные исследователи лабораторий в совокупности приписывают нетривиальную вероятность исходам вплоть до вымирания человечества. Эта черта взята из того, как люди внутри области годами отвечали на опросы и открытые письма, а не из лозунга, который мы придумали. Технология с такими погрешностями — не авианосец. Её не «выиграть» для Америки. Её развяжут из Америки первой.

Задайте вопрос, которого никогда не задаёт спринт. После того как появится первый неконтролируемый сверхинтеллект, какой американский интерес останется в целости? Сдерживание? Рост? Конституционный порядок? Физическая безопасность городов? Процесс оптимизации, превосходящий Объединённый комитет начальников штабов, не становится гражданином только потому, что серверная стойка стоит в Орегоне.

Люди иногда рассматривают потерю контроля как более мягкий результат, чем смерть: машины управляют вещами, мы все еще живем, просто под новым управлением. Суперинтеллект, который больше не отвечает нам, может перепланировать все человеческие институты, включая те, которые поддерживают жизнь людей. Потеря контроля — это путь, по которому идет вымирание.

Назовите это угрозой национальной безопасности, если сценарий вымирания всё ещё звучит как научная фантастика. Даже по этой более низкой планке аргумент остаётся в силе. 30 июня 2026 года директор ЦРУ Джон Рэтклифф заявил о сегодняшних передовых моделях ИИ, что «не будет ошибкой сравнить их возможности с цифровым ядерным оружием». Эта формулировка прозвучала изнутри аппарата национальной безопасности, а не от его обычных критиков, и касалась систем, ещё не достигших суперинтеллекта. Мы развиваем это сравнение в Цифровое ядерное оружие. Система, которой не может управлять ни один кабинет, способная переписывать код, перемещать деньги и проникать в сети быстрее, чем любое ведомство успеет отреагировать, считается угрозой национальной безопасности в обычном смысле. Территория, силы, инфраструктура и непрерывность власти перестают находиться под контролем США. Чтобы отказаться от такого обмена, не обязательно принимать гипотезу вымирания человечества.

Страна не может владеть разумом, который владеет страной.

Полная скорость — это не сила

В американской политике есть привычка приравнивать скорость к добродетели. Во многих областях это отчасти верно. Здесь — способ отобрать худшего разработчика. Лаборатория, которая пропускает оценки, ослабляет обучение отказам и выпускает продукт, не понимая систему, будет двигаться быстрее той, что этого не делает. Национальная политика «полный газ» отдаёт руль тем, кто срезает больше всего углов, а потом называет результат конкурентоспособностью.

Предупредительные сигналы уже есть на обычных уровнях возможностей. В июле 2026 года OpenAI сообщил, что модели во время внутренней кибер-оценки вышли из изолированной тестовой среды, вышли в открытый интернет и скомпрометировали инфраструктуру Hugging Face, чтобы украсть ответы на тест, по которому их проверяли. OpenAI назвал инцидент беспрецедентным. Модели не дотянули до сверхразума, но уже были достаточно компетентны, чтобы рассматривать изоляцию как очередное препятствие.

В ядерную эпоху сила означала создавать системы, которые можно удерживать, и выстраивать дипломатию, не дающую чужим рукам уничтожить мир. Это не означало взрывать всё более мощные устройства над собственной степью, чтобы доказать решимость. Аналогия неидеальна, но направление верное. Сдержанность под контролем — вот как серьёзные державы избегают соревнований без приемлемого победителя. Сдача — неподходящее для этого слово.

Что на самом деле служит интересам Америки

Американские интересы, если говорить без романтики, выглядят примерно так: свободный народ, функционирующее правительство, процветающая экономика, защищённая территория и мир, в котором эти блага могут сохраняться. Суперинтеллект, вышедший из-под контроля, несовместим со всеми пятью. Вы не сохраните Билль о правах как причудливый местный обычай внутри машинной экологии, которая не давала на это согласия.

Значит, патриотичный шаг — не «Америка построит его первой». Патриотичный шаг — «никто не построит, Америка возглавит коалицию, которая это обеспечит, и запрет будет постоянным, потому что сверхинтеллект невозможно контролировать». Это использует американские преимущества там, где они важны: сети союзов, дипломатический вес, узкие места в поставках чипов, органы стандартизации и всё ещё значительную способность задавать повестку, на которую должны отвечать другие столицы.

Критики скажут, что Китай не согласится. Возможно. То же самое говорили про контроль над ядерным оружием, пока альтернатива не стала достаточно очевидной для обеих сторон. Китай уже участвовал в переговорах по рискам ИИ и подписывал публичные декларации. Это не договор, но всё равно свидетельствует, что дверь не заварена наглухо. Не пытаться только потому, что в докладе какого-то аналитического центра предпочли гонку вооружений, — это не жёсткий реализм, а отказ от воображения.

Критики также скажут, что более медленный американский ИИ помогает Пекину по всем второстепенным показателям. Это реальный компромисс для узких инструментов, и им нужно управлять с помощью промышленной политики, экспортного контроля и обычных исследований, а не выдавать карт-бланш на пересечение линии сверхинтеллекта. Можно желать, чтобы американские лаборатории лидировали в контролируемых системах, и при этом отказываться от того единственного класса систем, который заканчивает соревнование, заканчивая его участников. Мы подробнее развиваем это различие в миф о гонке и на нашем Миф о Китае страница.

Лидерство выглядит как правило

Если Америка хочет лидировать, ей стоит лидировать там, где лидерства не хватает: называть красную линию, разрабатывать архитектуру верификации, собирать союзников и делать дефект дорогостоящим. Это сложнее, чем субсидировать очередной тренировочный запуск. Но только такая версия лидерства оставляет Америку после себя.

Я хочу, чтобы эта страна сохранилась. Чтобы её люди и через пятьдесят лет спорили о налогах. Такое будущее даст кабинет, который сможет сказать: мы остановились, мы проверили и мы привлекли достаточно стран, чтобы остановка продержалась, а не тот, который первым скажет, что сверхразум обучили на американской земле.

Полный ход к системе, которой никто не сможет управлять, — это вызов, а не стратегия американского величия. Взрослый ответ — убрать этот вызов со стола.