Наша цель — предотвратить вымирание человечества, избежав ASI.
Страны ограничили ядерные арсеналы, восстановили озоновый слой и запретили этилированный бензин. Обязательные правила работали. Они могут сработать снова.
"С искусственным интеллектом мы вызываем демона."
Elon Musk
"Развитие полноценного искусственного интеллекта может означать конец человеческой расы."
Stephen Hawking
"Как будто приземлились инопланетяне, а люди не заметили, потому что те говорят на очень хорошем английском. Я считаю, вероятность того, что ИИ уничтожит человечество, не так уж мала."
Geoffrey Hinton
"Снижение риска вымирания от ИИ должно стать глобальным приоритетом наряду с другими рисками планетарного масштаба, такими как пандемии и ядерная война."
Подписано более 500 специалистами по ИИ
"В худшем случае… это как погасить свет для всех нас."
OpenAI Генеральный директор Сэм Альтман
"It would not be misplaced to refer to their capabilities as akin to digital nuclear weapons."
Директор ЦРУ Джон Рэтклифф
"Наиболее вероятный результат создания сверхчеловечески умного ИИ… — это то, что буквально все на Земле умрут."
Исследователь ИИ Элиезер Юдковский
«Перед перспективой взрыва интеллекта мы, люди, подобны маленьким детям, играющим с бомбой».
Философ Ник Бостром
Суперинтеллект не похож ни на одну технологию до него.
Мы выживаем в узкой полосе тепла, кислорода и химии. Сверхинтеллекту ничего из этого не нужно, и он с высокой вероятностью разрушит полосу, в которой живём мы.
Мы не ненавидим муравьёв, но без раздумий убиваем их, строя дороги и дома. Для интеллекта, намного превосходящего нас, мы — муравьи.
Всё, что имеет цель, заинтересовано в собственном сохранении. Если оно способно предсказать, что вы потянетесь к выключателю, оно уже подготовило контрмеры.
Никто не пишет современный ИИ строка за строкой. Мы обучаем чёрный ящик и обнаруживаем, что он умеет, постфактум.
Она будет рассуждать и действовать намного быстрее, чем любое человеческое учреждение успеет отреагировать. Кризис может завершиться раньше, чем соберётся совещание.
От авиации до фармацевтики мы делали новые технологии безопасными методом проб и ошибок. Для создания «безопасного сверхинтеллекта» второй попытки не будет.
Nakada Foundation to Save Humanity — это филантропическая инициатива, посвящённая предотвращению экзистенциальных рисков искусственного суперинтеллекта.
Выравнивание разума умнее нашего может оказаться самой трудной проблемой в истории человеческой мысли, и у никого нет проверенного метода её решения. Сущность, умнее людей, не может контролироваться людьми. Надёжный путь — предотвратить создание таких систем вообще. Это постоянное решение, а не пауза.
Мы поддерживаем контролируемые и полезные применения ИИ. Узкий ИИ уже вылечил болезни, ускорил открытия, улучшил медицинскую визуализацию и диагностику. Мы выступаем против создания формы интеллекта, которую мы не сможем контролировать, не сможем согласовать и не сможем остановить, если придётся.
Мы выступаем за международный договор чтобы предотвратить создание суперинтеллекта, по образцу рамки ядерного нераспространения которые держались почти век.
Простые аргументы за обязательные рамки, запрещающие сверхразумный ИИ. Культура, медиа и ясные разъяснения, которые сделают эту позицию публичной и трудной для игнорирования.
Мы сотрудничаем с крупными фондами, правительствами и культурными деятелями, чтобы финансировать работу и расширять границы политически возможного.
Мы заказываем искусство, фильмы и тексты, которые делают опасность осязаемой. Цель — общество, воспринимающее безопасность как серьёзную, неотложную и неоспоримую задачу.
Обоснованные оценки от исследователей, создавших эту технологию.
Вероятность гибели человечества, если будет построен искусственный сверхинтеллект.
Учёные в области ИИ, подписавшие Заявление о рисках ИИ 2023 года, назвав его глобальным приоритетом наравне с ядерной войной и пандемиями.
Попытка. Суперинтеллект нельзя отозвать или отменить.
Часы Судного дня «Бюллетеня учёных-атомщиков» теперь показывают 89 секунд до полуночи, ближе всего за 78 лет. Часы были созданы в 1947 году, чтобы предупреждать, насколько близко человечество к ядерной войне. В январе 2025 года они впервые учли риск ИИ.
Полночь означает катастрофу для цивилизации, и стрелки никогда не были так близко.
Будьте в курсе. Дайте знать свой голос. Помогите спасти мир.