Моделью была Mythos, которую называли самой мощной системой Anthropic. Сенатором был Марк Уорнер из Вирджинии, заместитель председателя сенатского комитета по разведке. Генералом был Джошуа Радд, возглавляющий и АНБ, и Киберкомандование США. По словам Уорнера, впервые сообщено The Economist и подхвачено в отраслевой прессе, Радд рассказал ему, что сделала модель.

За считаные часы коммерческой моделью. Подробности оспаривают, а история уже через несколько дней усложнилась. Но суть реальна, и этой сути достаточно.

Mythos взломал почти все наши засекреченные системы не за недели, а за часы.

Генерал Джошуа Радд, глава АНБ и Киберкомандования США, со слов сенатора Марка Уорнера, по сообщению The Economist, июнь 2026

«ИИ взламывает АНБ» — заголовок сам себя пишет. Но произошло не совсем то. Разрыв между вирусной версией и реальной стоит прояснить, потому что именно реальная должна заставлять беспокоиться.

Что на самом деле произошло

Никакая машина-отступник не восстала против своих создателей и не захватила государственные секреты. Взлом произошёл внутри авторизованного упражнение red-team: контролируемое испытание безопасности, в ходе которого агентство направило модель на копии собственных засекреченных сред и поручило ей найти способ проникнуть внутрь.

Оговорки появились быстро. Позже представитель правительства уточнил, что Уорнер, возможно, сжал историю при пересказе, а фраза «часы, а не недели» относилась только к контексту red teaming, а не к реальной сети. Ни АНБ, ни Киберкомандование независимо не подтвердили его слова. Примите всё это во внимание. Согласитесь с каждой поправкой. Исходите из самого успокаивающего варианта.

После снятия пафоса остаётся вот что. Модель, которую можно арендовать, нацеленная на заменители самых защищённых систем, какие только умеет строить эта страна, нашла уязвимости и за один день выстроила из них цепочку почти полного доступа. Команда лучших в мире человеческих red team за день такого не сделает.

Они отключили продукт

О серьёзности чего-либо можно узнать многое, наблюдая за тем, что делают серьёзные люди дальше. Они не пожали плечами.

На следующий день после теста Министерство торговли запретило всем иностранным гражданам, включая собственных негражданских сотрудников Anthropic, пользоваться двумя самыми мощными моделями — Mythos и Fable. Anthropic не стал оспаривать техническую деталь. Он изъяли обе модели с мирового рынка, для всех, утверждая, что на практике невозможно провести тест на гражданство для тех, кто хочет войти в систему. Компания взяла свой флагманский продукт, ради которого она и существует, и отключила его по всей планете за один день. Так не поступают с возможностью, которую считают надёжно контролируемой.

И тест NSA не был разовой демонстрацией. Через закрытую программу оценки Mythos, по сообщениям, выявил тысячи уязвимостей в ПО, среди них — дефект, который двадцать семь лет оставался необнаруженным в OpenBSD, операционной системе, выбранной специалистами по безопасности именно потому, что её трудно взломать. Двадцать семь лет работы лучших человеческих глаз его не заметили. Модель прочитала код так, как вы читаете абзац. Она не устаёт. Её будет только больше.

Это самое медленное, что оно когда-либо будет двигаться

Это должно насторожить любого, кто следит за ситуацией. Лаборатории мчатся к суперразуму, и темп только ускоряется. Год назад никто за пределами frontier-лабораторий не видел, как модель делает то, что только что продемонстрировал Mythos. Через шесть месяцев появятся системы, на фоне которых Mythos будет выглядеть медленным, а ещё через полгода сравнение снова поставит нас в неловкое положение.

Причина этого эффекта не загадочна. Модель, способная находить уязвимости в мировом ПО, достаточно сильна, чтобы помочь создать собственную преемницу, — именно в этом и состоит механизм рекурсивное самосовершенствование. Исследования, ускоряющие исследования, не добавляют. Они умножают. Кривая возможностей не заботится о том, что мы не готовы к ней, и она не будет ждать у обочины, пока закон её догонит. Закон не близко.

Я закончил его смягчать

Поэтому я перестану тщательно подбирать слова. Времени на осторожность больше нет. Я долго смягчал формулировки, чтобы разумные люди продолжали слушать и не записывали меня в «пророки конца света». Эта осторожность стала обузой. Она даёт репутацию взвешенного человека, пока то, о чём я говорю взвешенно, всё равно строят.

Вероятный исход этой гонки, если её не остановить, — мы потеряем контроль над тем, что строим, и оно нас убьёт. Не «нарушит рынок труда». Не «перегрузит институты», хотя и это тоже произойдёт по пути. Убьёт нас. Всех. Каждого, кого вы любите, и каждого, кого любят они, и всё тихое человеческое будущее, которое должно было наступить после.

Я точно знаю, как это выглядит на странице. В самый крупный опрос исследователей ИИ из когда-либо проведённых, где почти 2800 человек, которые строят эти системы профессионально, от 38 до 51 процентов оценивают вероятность того, что продвинутый ИИ приведёт к последствиям вплоть до вымирания человечества, как один к десяти или выше. Не один к миллиону. Один к десяти — от самих создателей. Вы не посадили бы своего ребёнка в самолёт с такими шансами. Мы сажаем на борт весь вид.

Geoffrey Hinton получил премию Тьюринга за методы, сделавшие всё это возможным, а затем покинул Google, чтобы говорить то, что думает, без корпоративного надзирателя в комнате. Он оценивает вероятность того, что ИИ приведёт человечество к вымиранию, в 10–20 процентов. Он не самый напуганный человек в этой области. Многие из тех, кто ближе всего к работе, ставят число выше, и оценки, как правило, растут, а не падают, чем ближе эксперт находится к переднему краю.

В 2023 году сотни самых цитируемых исследователей и руководители лабораторий, гонящихся за созданием этой технологии, в том числе Anthropic, подписали одну фразу Центра по безопасности ИИ: снижение риска вымирания от ИИ должно стать глобальным приоритетом наравне с такими рисками планетарного масштаба, как пандемии и ядерная война. Люди, которые это строят, поставили способность уничтожить человечество в один ряд с ядерной войной, а потом вернулись за столы и стали строить быстрее. Их формулировка. Их слова. Их имена.

Но вы можете что-то с этим сделать

Тихое отчаяние — ещё один способ ничего не делать, а бездействие — это как мы проигрываем по умолчанию. Вы здесь не зритель.

«Мифос» сняли с полки, потому что надавило правительство, а правительство нажало, потому что до него дошло давление. Правила пишут правительства, а правительства слушают тех, кто не молчит. Так что не молчите.

  • Скажите своим представителям, простыми словами, что вы хотите жёстких ограничений на передовой ИИ и будете за это голосовать. Если вы никогда этого не делали, наш инструмент поможет напишите своему представителю делает первое сообщение простым.
  • Поддержите подлежащий исполнению международный договор на самые опасные системы, как когда-то мир решил, что ядерное и биологическое оружие слишком опасно, чтобы оставлять его тем, кто движется быстрее всех. Именно эта работа наш план построен вокруг.
  • Поддержите людей, занимающихся этим на постоянной основе. Добавьте своё имя ниже, пожертвуйте сколько можете и сделайте это на этой неделе, а не после следующего заголовка, который окажется хуже этого.

Люди, которые это строят, прямо и под своими именами говорили вам, что это может убить всех. ИИ за один день прошёл почти через все засекреченные стены страны, а официальной реакцией стало снятие модели с рынка до выходных. Перестаньте ждать предупреждения яснее тех, что уже перед вами. Его не будет.