Справочный документ · 2026
Научный консенсус
о рисках ИИ
Люди, создавшие искусственный интеллект, предупреждают нас. Вот что они сказали и кто они такие.
"Я думаю, вполне допустимо, что человечество — лишь преходящая фаза в эволюции интеллекта."Geoffrey Hinton Нобелевская премия по физике 2024 · Премия Тьюринга 2018
Бывший вице-президент и инженерный феллоу, Google · 2023
«Я чувствую растерянность относительно того, что нам делать, чтобы всё сложилось хорошо, учитывая мощные силы, толкающие нас к ускоренному развёртыванию ИИ без достаточных гарантий.»Yoshua Bengio Нобелевская премия по физике 2024 · Премия Тьюринга 2018
Научный директор, Mila · 2023
«Стандартная модель ИИ, где вы определяете цель, а ИИ оптимизирует её, скорее всего приведёт к нашему концу.»Stuart Russell Профессор информатики, UC Berkeley
Соавтор стандартного учебника по ИИ
"Я всё больше убеждаюсь, что эта проблема может стать важнейшей в нашем веке, независимо от того, решаема ли безопасность ИИ и в какие сроки."Ilya Sutskever Сооснователь, OpenAI · Главный научный сотрудник 2015-2024
Один из архитекторов современного глубокого обучения
"Мы создаём одну из самых transformative и потенциально опасных технологий в истории человечества, но, похоже, не можем нажать на паузу."Yoshua Bengio Лауреат Нобелевской премии · Mila · 2023
"Безопасность ИИ важнее изменения климата."Geoffrey Hinton Лауреат Нобелевской премии · Бывший Google
Заявление глобальной платформы, 2024
Хронология эскалации предупреждений экспертов
2014
Ник Бостром публикует Суперинтеллект, первый строгий академический анализ экзистенциального риска от искусственного сверхинтеллекта. Оксфордский философ. Цитируется Илоном Маском и Биллом Гейтсом как обязательное чтение.
2018
Хинтон, Бенджио и ЛеКун получают премию Тьюринга за основание современного глубокого обучения. Все трое впоследствии поднимают вопросы безопасности относительно созданной ими технологии.
2023
Center for AI Safety публикует заявление о риске вымирания. Его подписывают более 500 учёных. Отдельно открытое письмо Future of Life Institute с призывом к паузе в разработке собирает более 33 000 подписей, включая лауреатов премии Тьюринга.
2024
Хинтон и Бенджио получают Нобелевскую премию по физике. Оба используют глобальную трибуну, чтобы усилить предупреждения о безопасности ИИ. Хинтон заявляет, что безопасность теперь «важнее изменения климата».