Обязательный международный договор по безопасности ИИ нам никто не вручат. За него нужно бороться, его нужно организовывать и финансировать. Наша независимость целиком зависит от людей, подобных вам.
Онлайн-пожертвования пока не доступны. Платёжные системы требуют сертифицированной некоммерческой организации, а регистрация фонда ещё завершается. Тем временем, зарегистрируйте свою заинтересованность и мы сообщим вам, как только откроется возможность пожертвований.
Статус организации. Некорпоративная филантропическая ассоциация, США. Ищем фискальное спонсорство под 501(c)(3). EIN пока нет. Пожертвования не облагаются налоговыми льготами, пока мы не окажемся под квалифицированным спонсором или не получим собственное письмо с определением.
Большая часть денег в области безопасности ИИ по-прежнему идёт лабораториям и техническим исследованиям, которые считают сверхинтеллект неизбежным. Почти ничего не финансирует политическую работу по обеспечению того, чтобы сверхинтеллект никогда не был построен. Мы занимаемся именно этой работой и только ей: обязательный международный договор, общественное давление и информационная кампания, делающая договор возможным. Мы не берём деньги от ИИ-лабораторий или их инвесторов.
Техническая безопасность ИИ уже получает основные деньги отрасли и её лучших специалистов, и при всех этих усилиях никто не показал, как надёжно контролировать систему, намного превосходящую по уму создавших её людей. Даже если допустить, что контроль над сущностью, намного умнее нас, в принципе решаем, он почти наверняка не будет решён вовремя. Единственная оставшаяся защита — решение не создавать такие системы, пока их нельзя сделать безопасными. Это решение политическое, и на него катастрофически не хватает средств.
Пожертвование здесь оплачивает недостающее звено. Не очередную статью о том, как контролировать разум умнее своих создателей. Сотрудники, организаторы, ответы в X, которые реально встречают лозунги гонки там, где они звучат, материалы, которые видят законодатели и авторы контента, и долгосрочная работа по перенаправлению филантропии на предотвращение. Доллар за долларом именно здесь следующий доллар сильнее всего снижает риск вымирания.
Что именно покрывает ваш подарок, расписано ниже построчно. Мы обязуемся публиковать значимые дары выше порога прозрачности, который установим публично.
Не можете дать прямо сейчас? Отдайте своё время вместо этого.
Предпочитаете сделать крупное пожертвование, когда станет доступен налоговый вычет? Зарегистрировать интерес для крупных и институциональных пожертвований.
Пока безопасные платежи не включены, никакая карта не будет списана и данные платежей на этой странице не собираются.
Если хотите, чтобы пожертвование принесло максимум пользы, рассуждение идёт по прямой. Вот оно, без утайки.
Смысл подарка — в его эффекте, а эффект доллара не одинаков везде. Поэтому честный вопрос не в том, хороша ли цель, а в том, является ли именно этот лучший доступное использование следующего доллара. Отнеситесь к этому вопросу серьёзно, и всё остальное последует из этого.
Причины с наибольшим воздействием — те, что касаются всех и всех, кто придёт после. Угроза всё будущее человечества перевешивает любую ограниченную проблему, потому что ставит на карту не одно поколение, а все поколения, которые могут последовать.
Среди технологий, способных уничтожить человечество, искусственный сверхинтеллект стоит на первом месте. По лучшим имеющимся структурированным оценкам, он несёт вероятность порядка в сто раз выше риск вымирания, чем от ядерной войны, и это единственная технология, которая сама себя улучшает и противодействует любым нашим мерам защиты.
Исследования технической безопасности уже получают деньги отрасли и её лучшие умы, и всё равно никто не умеет контролировать систему, намного превосходящую нас по уму. Недофинансированной остаётся другая работа: обязательное, проверяемое международное соглашение, которое не позволит строить суперинтеллект, пока его нельзя сделать безопасным. Мы сосредоточены исключительно на этом, а не на уже существующих исследованиях.
Самое impactful, что можно профинансировать, — это предотвращение суперинтеллекта, а самая neglected часть этого — политическая борьба за закрепление запрета в законе. Именно туда идёт ваш donation, и именно поэтому доллар здесь — один из самых высокодоходных по impact.
Поддержите миссию →Каждый доллар предназначен на административные, технические и кадровые расходы программ ниже. Мы предпочитаем показать вам статьи расходов, а не просить поверить в миссию. Мы будем измерять прогресс данными и публиковать цифры.
Нам нужно финансирование как можно скорее для штатного специалиста по соцсетям, чья задача — находить и отвечать на посты в X о «ASI-гонке», «сингулярности», «победе в гонке ИИ», «ASI» и «сверхразуме». Эта работа сегодня не ведётся. Лозунги гонки звучат каждый час без вдумчивого ответа в треде.
Почему X. Это главная социальная платформа для самых влиятельных людей мира: законодателей, журналистов, руководителей лабораторий и тех аккаунтов, которые они читают. Социальные сети теперь — один из основных источников новостей для многих из этих законодателей. Один удачно размещённый ответ может набрать миллионы показов. Это охват, который нельзя купить ещё одной белой книгой.
Ваши деньги платят за Организация X аккаунт (проверенный, доверенный, способный публиковать в большом объёме), зарплата человека, который пишет и отвечает каждый день, и обучение, вводящее его в миссию и наши правила контента. Цель проста: ни один заметный пост о гонке не должен остаться без ответа, а в нашей ленте без пауз должен звучать довод в пользу запрета.
Измеримый результат: показы и охват ответов и оригинальных постов (публичная аналитика после запуска аккаунта).
Короткие и длинные тексты, изображения, инфографика и видео: оригинальные материалы о суперинтеллекте, написанные так, чтобы неспециалист мог разобраться за один присест. Создаётся один раз, затем распространяется на всех доступных платформах. Плюс платное размещение там, где действительно формируется мнение.
Это не очередная белая книга для тех, кто уже внутри отрасли. Это творческая работа, которая встречает людей там, где они уже находятся: объяснения, эссе, визуалы и сторителлинг, близкий к кино, делающий ставки понятными без технической подготовки.
Спонсировать тематические рассылки которые уже открывают законодатели и их сотрудники. Спонсировать подкасты которые те же люди слушают по дороге на работу. Спонсируйте создателей контента с реальной аудиторией. Люди формируют взгляды по авторам. Посмотрите, кто сегодня пишет о ASI как об экзистенциальном риске: почти никто из тех, у кого есть охват. Это как жить в годы холодной войны, когда почти никто с микрофоном не говорит о предотвращении ядерной войны. Заполнить эту тишину — дешёвый способ сделать угрозу понятной ещё до того, как будет назначено голосование по договору, а не тщеславие.
Ваши деньги идут людям, которые создают оригинальный контент: спонсорство авторов и рассылок, финансирование подкастов, верифицированные аккаунты в соцсетях и инструменты распространения, чтобы часы уходили на аргументацию, а не на очередь публикаций.
Измеримый результат: просмотров и времени просмотра оригинальных материалов, а также охват за счёт спонсируемого размещения.
Мы уже начали искать людей, способных выполнять эту работу. Один урок пришёл быстро: на одно видео уходят месяцы. Это слишком медленно. Пока фильм стоит в очереди, гонка продолжается.
Видео не должно занимать месяцы.
Деньги здесь позволяют нанять больше таких людей одновременно.
Измеримый результат: время от начала до публикации оригинальных материалов.
На рассмотрении, финансирование пока не выделено
Много разговоров и philanthropy по-прежнему уходит на alignment: технические исследования, призванные сделать будущий сверхинтеллект благополучным. Назовите, что на самом деле означало бы «решить alignment». Это значит надёжный контроль над чем-то гораздо более разумным, чем мы. Это в названии: суперинтеллект. Ставить вид на контроль над разумом, умнее всех людей, его создавших, — глупый план, а по имеющимся данным — ещё и невыполнимый.
Амбициозное использование донорских денег — это оплачиваемый персонал, чья работа — встречаться с грантодателями и советниками, обосновать перенаправление ограниченного капитала безопасности на договор, верификацию и общественное давление, и делайте эту работу в тех кабинетах, где деньги уже обещаны. Не ещё одна статья в ту же кучу.
Безопасность узких систем, которую действительно можно контролировать, по-прежнему заслуживает финансирования. Исследования, предполагающие, что мы создадим преемнический вид, а потом его обуздаем, — нет. Лидеры эффективного альтруизма когда-то перенаправили филантропию на противомалярийные сетки, приводя именно такие аргументы. Если мы пойдём тем же путём в отношении супер-интеллекта, мы скажем об этом до того, как попросим дополнительные средства.
Получайте уведомления в момент запуска безопасных онлайн-пожертвований. Вы также будете получать периодические краткие отчёты о том, куда идут средства.