Обязательный международный договор способен спасти человечество и при этом сохранить технологический прогресс.
Мы — благотворительная кампания против систем, превосходящих человеческий интеллект и не поддающихся исправлению или остановке. Человечество никогда не должно создавать суперинтеллект.
Единая система, намеренно выращенная так, чтобы превзойти и заменить человеческие возможности во всех областях, опасна. Искусственный суперразум — главная угроза человечеству, большая, чем глобальная термоядерная война. Ядерная война может уничтожить цивилизацию и оставить выживших. Суперразум уничтожит наш вид.
Мы опираемся на проверенные подходы, уже изменившие мир: кампании общественного давления и международные договоры по химическому оружию, нераспространению ядерного оружия и защите озонового слоя.
Мы полностью независимы и не берём денег от лабораторий ИИ, их инвесторов или компаний, чья прибыль зависит от гонки за фронтиром.
Медиа — мощный инструмент формирования мнений и создания культуры, в которой кризис невозможно игнорировать. Они влияют на избирателей и на тех, кого мы избираем. Когда Ronald Reagan смотрели фильм 1983 года На следующий день, абстрактная концепция ядерной войны стала конкретной, и президент позже подписал с Советским Союзом обязывающий договор о сокращении ядерных запасов.
Многие организации работают над «более безопасной гонкой» или «безопасным переходом». Мы — одна из немногих, кто срочно добивается остановки ASI через обязательный закон. «Переход» никогда не должен состояться.
Мы не «анти-ИИ»-организация, поскольку поддерживаем контролируемый и полезный узкий ИИ, например системы диагностики рака и ускорения разработки лекарств. Такие системы превосходят человека только в одной области, что позволяет нам безопасно управлять их работой на благо человечества.
Наш фонд занимается исключительно предотвращением ASI. Мы ведём публичную работу, которая делает возможным юридически обязывающий международный договор: заказываем фильмы, видео, эссе, изображения и выстраиваем отношения с деятелями культуры. Также мы стремимся перенаправить таланты и финансирование из исследований выравнивания на предотвращение ASI.
Мы не занимаемся техническими исследованиями, анализом политики или лоббированием.
Мы также не занимаем позиций по общим темам ИИ, таким как чат-боты, автоматизация рабочих мест, военные дроны или дата-центры.
Мы — US-филантропическая ассоциация. По состоянию на август 2026 года мы проходим процесс фискального спонсорства, чтобы получить статус, соответствующий 501(c)(3). После этого все пожертвования будут освобождены от налогов.
Мы формируем небольшой консультативный совет. Мы особенно ищем тех, у кого есть опыт в коммуникациях в общественных интересах, фандрайзинге и культурном производстве.
Достижение заметного влияния — одна из наших главных целей. Наши материалы находятся в открытом доступе и поддаются измерению, например охват в X и просмотры видео на YouTube, и мы сопоставляем эти показатели с настроениями избирателей.
Naoto Nakada финансировал бы работу по ядерным договорам во время холодной войны. Наш основатель рассматривает сверхинтеллект как сегодняшний экзистенциальный кризис.
После десятилетий исследований безопасности ИИ вывод таков: мы не можем контролировать нечто умнее нас, в то время как большая часть денег в в этой области всё ещё идёт на «более безопасные» передовые системы, пока их продолжают строить. Остановка искусственного сверхинтеллекта до его появления остаётся критически недофинансированной и недостаточно обсуждаемой, с лишь семь организаций в мире, исключительно сосредоточенных на предотвращении ASI.
Мы создали фонд в ответ на этот пробел, дав ему выразительное название, которое сразу передаёт неотложность и серьёзность угрозы.
История человечества только началась. Мы должны обеспечить её продолжение на долгие эоны.
Naoto Nakada
Нет. Мы поддерживаем полезный узкий ИИ: системы, которые выполняют задачу и могут быть исправлены. Мы работаем, чтобы предотвратить artificial superintelligence — системы, чьи открытые возможности ставят их в другую категорию. Смартфон, интернет, даже ядерная станция поддаются регулированию и отключению. Сверхинтеллект — нет.
Мы уникальны. Мы работаем над искусственным сверхинтеллектом и той культурной работой, которая делает возможным договор против него. Смещение чат-ботов, потеря рабочих мест из-за автоматизации, дипфейки, военные дроны, размещение дата-центров: всё это может иметь значение в других местах. Это не работа данного фонда. Если вопрос не о предотвращении ASI, он находится вне компетенции фонда.
Самое частое возражение повторяет аргумент против ядерного нераспространения. NPT несовершенен, но всё равно сработал: с 1945 года ядерное оружие не применялось в войне, а ядерных государств девять вместо сотен возможных. Риск дефекции — повод для проверки, а не для гонки. Обучение передовых моделей всё ещё проходит через короткий список производителей чипов. Мониторинг порога вычислений — скорее политическая, чем физическая задача.
Да. У них также есть отделы продаж, отношения с инвесторами, члены советов директоров, представляющие акционеров, и конкурентное давление, заставляющее выпускать продукты быстрее соперников. Команды по безопасности внутри коммерческих лабораторий ИИ подчиняются тем же стимулам, что и остальная компания, а эти стимулы вознаграждают скорость выпуска возможностей, а не снижение риска. Когда команда безопасности OpenAI опубликовала опасения по поводу слишком быстрого движения, компания всё равно ускорилась. В лучшем случае внутренняя команда дополняет внешнее регулирование. Она не может его заменить.
Лауреат премии Тьюринга Джеффри Хинтон, посвятивший карьеру созданию основ современного ИИ, оценивает 10-20-процентный шанс, что ИИ приведёт к вымиранию человечества в течение века. Лауреат Нобелевской премии Йошуа Бенжио публично заявил, что риск реален и недооценён. Заявление Центра по безопасности ИИ 2023 года, подписанное более чем 500 специалистами по ИИ, включая Сэма Альтмана, поставило риск вымирания от ИИ в один ряд с ядерной войной и пандемиями как глобальный приоритет.
Присоединяйтесь к Фонду. Распространяйте наше сообщение среди тех, кто его ещё не слышал. Обратитесь к своему избранному представителю и спросите, какова его позиция по рискам ИИ и какие законы он поддерживает. Если у вас есть финансовые ресурсы, рассмотрите возможность пожертвования Фонду или одной из шести других организаций, работающих над предотвращением ASI. Если у вас есть культурное или медийное влияние, используйте его. Если вы работаете в лаборатории ИИ и обеспокоены, подумайте о публичном выступлении. Политическая воля решает этот вопрос, и она исходит от таких людей, как вы.
Получайте обновления и помогайте создавать необходимое давление для этого дела.