В 2016 году типичные экспертные оценки ставили ИИ человеческого уровня на десятилетия вперёд. К середине 2020-х крупные опросы и руководители лабораторий сильно приблизили эти сроки, иногда до трудоспособного возраста тех, кто это читает. Временные рамки всё ещё неопределённы. Направление пересмотра — нет.
Что на самом деле показывают опросы прогнозов
Самые систематические данные по срокам AGI поступают от AI Impacts, которая уже несколько лет опрашивает исследователей ИИ о том, когда они ожидают «машинного интеллекта человеческого уровня» (примерно эквивалент AGI). Результаты показательны.
В 2016 году опрошенные исследователи оценивали медианную вероятность появления HLMI примерно в 50 % к 2061 году. К 2022 году, ещё до публичного выхода GPT-4, эта медиана уже заметно сдвинулась на более ранний срок. Исследователи, дающие такие прогнозы, — это люди, которые строят предсказываемые системы, а не пророки или пиарщики.
В данных нет согласованной целевой даты, но сходящееся окно с малым согласием по точному году. Паттерн в том, что каждый новый опрос (калиброванный по реальным разработкам возможностей) даёт более короткие сроки, чем предыдущий.
Четыре года. От текста, который едва держался вместе, до результатов в верхнем дециле человеческих экспертов по стандартизированным показателям профессиональной компетенции. Именно на этом эмпирическом опыте нужно калибровать прогнозы по срокам.
Что говорят люди, создающие ИИ
Публичные заявления руководителей фронтирных ИИ-лабораторий — это не то же самое, что их внутренние рабочие предположения. Но они всё равно примечательны, потому что публичные заявления людей на таких позициях обычно консервативны, ограничены отношениями с инвесторами, регуляторным надзором и профессиональной нормой осторожности в отношении экстраординарных утверждений.
«Теперь мы уверены, что знаем, как создать AGI в традиционном понимании».
Сэм Альтман, генеральный директор OpenAI · Январь 2025
«Я думаю, мы можем оказаться всего в нескольких годах (а может, и раньше) от ИИ, который превзойдёт человеческий интеллект по всем параметрам».
Дарио Амодеи, CEO Anthropic · эссе «Machines of Loving Grace» · октябрь 2024
Это продуманные публичные заявления людей, принимающих решения об инвестициях на основе внутренних прогнозов, которые почти наверняка короче тех, что они публикуют, а не слова тех, кто считает ASI отдалённой перспективой.
Когда компания тратит десятки миллиардов долларов на ИИ-инфраструктуру, исходя из внутреннего предположения, что трансформативный ИИ уже близок, таймлайн становится операционно реальным, независимо от того, что говорит PR-команда о неопределённости.
Почему дата менее важна, чем распределение
Естественная реакция на обсуждение сроков AGI — сосредоточиться на конкретной дате: 2027? 2030? 2040? Такое framing понятно, но вводит в заблуждение. Вопрос, важный для управления, не «когда именно?», а «какова вероятность, что AGI появится в пределах горизонта планирования наших нынешних институтов?»
Рассмотрите, что на самом деле требует создание адекватного управления ASI:
- Международные договорные переговоры обычно занимают несколько лет от начала до подписания
- Ратификация и реализация международных соглашений занимает дополнительные годы
- Техническая инфраструктура для верификации и мониторинга должна быть спроектирована, профинансирована и развёрнута
- В ведущих странах-разработчиках ИИ необходимо принять национальное законодательство
- Для фреймворков управления вычислениями требуются механизмы отраслевого соответствия, выстраиваемые со временем
Даже при чрезвычайной политической воле создание с нуля полноценной международной системы управления ASI требует минимум пяти-десяти лет. Если вероятность появления AGI в течение десятилетия нетривиальна (а данные указывают именно на это), то управление, которое начнётся после того, как AGI станет «явно неизбежным», не успеет завершиться.
Это уже актуальная проблема. Окно возможностей для управления не безгранично и не статично. Оно сужается.
Асимметрия, которая делает это решение лёгким
Здесь есть асимметрия двух типов ошибок. Если мы построим надёжные рамки управления ASI, а AGI окажется дальше, чем ожидалось, цена — потраченные усилия, некоторое регуляторное трение для разработки ИИ и набор международных институтов, готовых к моменту, когда он наступит. Если мы будем ждать уверенности в сроках, прежде чем строить управление, и AGI придёт раньше, чем управление будет создано, цена может оказаться невосполнимой.
Эта асимметрия та же, что побудила к ядерному управлению до распространения оружия, защите озонового слоя до его разрушения и подготовке к пандемиям до следующей вспышки. В каждом случае институты, созданные в условиях неопределённости, доказали свою ценность, когда предсказанный сценарий материализовался.
«У человечества плохой послужной список по созданию институтов задним числом, когда их нужно было предвидеть и строить заранее».
Йошуа Бенджио, лауреат премии Тьюринга и Нобелевской премии · 2024
Аргумент за действия сейчас не зависит от веры в самые агрессивные сроки AGI. Он зависит только от серьёзного отношения ко всему спектру правдоподобных оценок (включая более короткие) и соответствующей реакции на эту неопределённость через надлежащие меры управления.
Что будет после AGI
AGI — порог беспокойства, а не конечная точка. Система, достигшая человеческого уровня когнитивных способностей во всех областях, способна улучшать собственную конструкцию и рекурсивно самоусовершенствоваться, что может сжать срок от AGI до искусственный сверхинтеллект в месяцы, а не десятилетия.
Именно этот сценарий побудил самые серьёзные предупреждения исследователей, ближе всех стоящих к технологии. Не AGI сам по себе, а динамика, которая может последовать за AGI, включая возможность перехода от управляемой системы к неуправляемой быстрее, чем человеческие институты успеют отреагировать.
Вывод для управления прям: рамки должны быть созданы до пересечения порога AGI, а не после. Время вести переговоры — сейчас, пока все стороны ещё движутся к порогу и никто его не пересёк. Три политических предложения Nakada Foundation разработаны именно для этого окна.
Самое жёсткое возражение
Самое справедливое возражение: прогнозы сроков уже не раз ошибались, поэтому управлять на их основе — паника. Справедливо относительно точечных предсказаний. Переносимый факт — направление пересмотров и асимметрия опоздания: институтам нужны годы; возможности могут скакнуть за кварталы. Строите рамки, пока порог ещё впереди.