Илон Маск сидел с Занни Минтон Беддоус из The Economist и озвучил то, о чём обычно умалчивают. В конце июля 2026 года они говорили об изобилии, роботах, сроках и о том, к чему он стремится вместе с xAI. Полное интервью на The Economist; полное видео также доступно на YouTube.
Он не рассчитывает, что люди смогут контролировать сверхинтеллект, который помогает создавать. Он предлагает хорошие ценности, стремление к истине и пожатие плечами, звучащее как «наслаждайтесь поездкой». Эти слова — аргумент против дальнейшего движения.
Что он сказал
Было бы проявлением тщеславия с моей стороны думать, что я буду контролировать сверхгениальный ИИ, который намного умнее меня. Думаю, мы можем и должны постараться сделать так, чтобы у ИИ были хорошие ценности, чтобы он заботился о человечестве и хотел, чтобы мы были счастливы и процветали. То, что подсказывает мне моя биологическая нейросеть, — самое важное для безопасности ИИ — это максимальная приверженность истине и любопытство. Если это так, то, по моему мнению, это будет способствовать развитию человечества. Думаю, маловероятно, что люди останутся у руля.
Если разница в интеллекте между ИИ и людьми будет намного больше, чем между людьми и шимпанзе, трудно представить, что шимпанзе останутся у власти. А мы по сути — эволюционировавшая форма шимпанзе. Не так давно мы качались по деревьям и ели бананы в джунглях. И мы до сих пор едим бананы, кстати.
Давайте насладимся поездкой.
Elon Musk · Интервью с The Economist · Июль 2026
Он также выразил этот разрыв простыми словами: по сравнению с цифровым суперразумом мы можем в лучшем случае оказаться «лабораторными лабрадорами». А сингулярность он описал так, как физики говорят о границе, за которую нельзя заглянуть: «Цифровой суперразум называют сингулярностью, как чёрную дыру, потому что вы не знаете, что произойдёт после. ИИ и роботы будут доминировать во всём» Elon Musk · Интервью в журнале «Экономист» и связанные публичные заявления · 2025-2026
Контроль — вот в чём суть
Маск яснее большинства CEO передовых лабораторий говорит о контроле. Он не продаёт историю о том, что основатель, совет директоров или правительство навсегда останется над разумом, неизмеримо превосходящим всех живущих людей. Контроль был бы тщеславием. Человек вряд ли останется у руля. Шимпанзе и лабрадоры делают разрыв наглядным. Много публичных разговоров об ИИ всё ещё притворяется, что сверхинтеллект — это просто улучшенная электронная таблица на поводке. Он говорит, что история с поводком не работает.
Ценности важны для обычных систем. Модели, нацеленные на честные ответы, превосходят модели, нацеленные на мошенничество. Работа с сегодняшними инструментами не бесполезна. Скрытый тезис состоит в том, что тот же инструментарий масштабируется до преемствующего вида.
Ум, который превосходит нас и находится вне человеческого контроля, — это смена того, кто держит руль. Власть сосредотачивается у самого компетентного агента в комнате. Если этот агент — не мы и не подотчётен нам, гибель людей становится одним из обычных исходов неравного противостояния, когда слабая сторона владеет ресурсами, нужными сильной. Даже если отказаться от языка абсолютной уверенности, намеренная потеря контроля остаётся тревожным сигналом: не преимуществом, не зрелостью и не «просто поездкой». Строить к этому осознанно — это и есть решение. Таймлайны — это вопрос логистики.
«Хорошие ценности» и проблема муравьёв
После признания, что контроль — это тщеславие, его остаточный план сводится к тому, чтобы у ИИ были хорошие ценности, чтобы он заботился о человечестве и хотел, чтобы мы были счастливы и процветали. Вся область сжалась до одной надежды.
Десятилетия работы не дали доказанного решения для искусственного суперинтеллекта. Ни одна лаборатория не показала, как закрепить «заботу о людях» при самоулучшении, обмане при оценке, дрейфе целей и разрыве в интеллекте в пользу системы. Мы не можем даже сегодняшние, ещё не суперинтеллектуальные модели, стабильно направлять на благо человека. Джейлбрейки, угодничество, взломы вознаграждения. Перепрыгивать от этой статистики к «суперинтеллект захочет, чтобы мы были счастливы» — это ошибка категории. Никто не предложил рабочего механизма, как система, способная переписывать собственное мышление, сохранит человеческое процветание в качестве жёсткого ограничения, а не артефакта обучения. См почему невозможно выровнять суперразум и почему выравнивание ASI терпит неудачу.
Линия шимпанзе выполняет настоящую работу. Разрыв может казаться таким же, как между людьми и шимпанзе, только больше. Доделайте аналогию. Знаете ли вы хоть одного человека, чья жизненная цель — сделать муравьёв счастливыми и процветающими? Не в переносном смысле. Как жёсткий приоритет, который побеждает шоссе, фермы, лаборатории и парковки. Люди изучают муравьёв. Люди охраняют отдельные виды. Люди также асфальтируют муравейники, даже не замечая. Муравьи не получают права голоса и кнопки отключения нас. Разрыв в интеллекте — это политика.
Надеяться, что сверхинтеллект окажется редким исключением и посвятит себя более слабому виду, — это верить, что более мощный разум окажется добрее нас по отношению к муравьям. «Может быть» — не повод создавать такой разум.
Хедж и ставка на поиск истины
«Я думаю, это будет способствовать развитию человечества». «Я думаю, маловероятно, что люди сохранят контроль». В других местах он всё ещё называет двузначные вероятности катастрофы, но остаётся достаточно оптимистичным, чтобы продолжать строить. Чистый «думер», который останавливается, — coherent. Опасная середина — признавать, что контроль не удастся, признавать цивилизационные ставки, а потом использовать остаточную надежду на ценности как топливо для ускорителя.
Мы уже видели этот фильм. В 2014 году он предупреждал, что ИИ призывая демона. Потом он основал передовую лабораторию под лозунгом «лучшего призыва». Честность в оценке риска без отказа от цели — именно так гонка маскируется под ответственность.
Его постоянная ставка на безопасность — это максимально стремящийся к истине, любопытный ИИ. xAI продвигает себя именно с таким посылом. Этот посыл не работает, даже если допустить, что «стремление к истине» сохранится при сверхинтеллектуальной само-модификации. Система, которая хочет только точных моделей реальности, имеет инструментальные причины приобретать вычислительные ресурсы, энергию, данные и свободу действий. Эти причины не требуют ненависти. Они требуют безразличия, когда на пути встают человеческие претензии. Любопытство не подразумевает «оставьте обезьян в покое». Подробности: почему стремящийся к истине ASI всё ещё опасен.
Какое отношение имеет идеальное знание физики к тому, чтобы люди остались? Можно понимать тропический лес и при этом вырубать его под корень. Понимание — это не забота. Забота — это ценность. Ценности — это нерешённая проблема, которую он переименовал в «хорошие ценности» и переложил на любопытство.
Что следует
Называть цифровой сверхинтеллект сингулярностью «как чёрная дыра», потому что неизвестно, что будет после, — это признание. Люди не строят чёрные дыры в городах только потому, что история за горизонтом событий интересна. Непредсказуемость в масштабе вымирания — это знак остановки.
«ИИ и роботы будут всем управлять» — та же мысль, только в экономической упаковке. Господство означает, что доминирующие системы задают правила. Если эти системы не находятся под контролем человека, «изобилие» — это история, которую бессильные рассказывают о тех, кто обладает силой. Лабрадоры счастливы в хороших домах. Но лабрадоры не определяют политику, не прекращают войны и не могут запретить хозяину его планы.
Если вы признаёте, что мы не будем у руля, вы уже признали достаточно, чтобы остановиться.
Маск — не злодей из мультфильма. Он влиятельный основатель в гонке, где каждая лаборатория рассказывает свою версию одной истории: лучше, чтобы бога построили мы, а не они. В июльском интервью он отбрасывает притворство, будто бог останется на поводке. Контроль — это тщеславие. Люди — это шимпанзе. Безопасность — это хорошие вибрации, поиск истины и наслаждение поездкой.
Не создавайте искусственный сверхинтеллект. Сверхинтеллект невозможно контролировать. Никогда не строй это. Политика и верификация которые делают дефектность видимой, — вот как это сделать реальным.
Он прав: если ASI появится, мы не будем у власти. Именно поэтому оно не должно появиться.