Международное соглашение по безопасности ИИ не появится само собой. Его строят политикой за политикой, голосом за голосом, разговором за разговором. Выберите свою роль ниже, чтобы заняться делом уже сегодня, а не когда-нибудь.
Основатели, руководители и операторы обладают авторитетом, которого нет у академиков и активистов. Их решения (что строить, от чего отказываться, с кем сотрудничать) служат публичными сигналами, влияющими на рынки и поведение коллег.
Закрепите позицию компании в контракте, утвердите советом директоров и сделайте проверяемой, а не оставляйте в виде красивых слов в блоге. Обязуйтесь никогда не создавать системы ASI. Только обязательство, за которое можно спросить, имеет значение.
Отказывайтесь от партнёрств, совместных проектов и контрактов с передовыми ИИ-лабораториями, которые мчатся к ASI. Публично объясняйте свою позицию. Когда лидер бизнеса отвергает сделку и называет причины, это посылает сигнал, который не подделаешь никакой PR-кампанией.
Полезный ИИ возможен без создания систем, которые никто не сможет контролировать. Если ваша компания работает с ИИ, направьте её на приложения с чёткими и ограниченными целями. Покажите прибыльным примером, что безопасность и полезность не противоречат друг другу.
У вас есть доступ к конференциям, публикациям и экспертным сетям, которых у большинства активистов нет. Говорите откровенно о ставках с этих площадок. Доверие изнутри сектора невозможно заменить, его нельзя нанять или создать извне.
Сформулируйте чёткие письменные правила о том, какие возможности ИИ ваша организация будет и не будет разрабатывать или закупать. Сделайте их обязательными для поставщиков и партнёров. Закрепите ожидание, что серьёзные компании имеют стандарты безопасности.
Nakada Foundation формирует общественную поддержку международного договора по безопасности ИИ. Мы не исследовательская лаборатория. Мы филантропическая кампания, которой нужны ресурсы, чтобы достучаться до людей страница пожертвований точно указывает, какие расходы покрывает ваш взнос.
Независимо от того, вкладываете ли вы капитал ради финансовой отдачи или филантропических целей, в ваших руках один из самых прямых рычагов. Отказ от участия в гонке и финансирование сопротивления — оба варианта доступны вам, и оба важны.
Изымите капитал из лабораторий, прямо стремящихся к ASI. Выведенные деньги — это некупленный вычислительный ресурс, ненанятые инженеры, неускоренные сроки. Сегодня это самое прямое вмешательство, доступное инвестору.
Требуйте проверяемых обязательств по безопасности, соблюдения правил управления вычислительными мощностями и независимых сторонних аудитов как обязательных условий любого инвестирования или гранта в сфере ИИ. Если они не соглашаются, это уже о многом говорит.
В компаниях, где у вас есть доли или места в совете, внесите безопасность ИИ в повестку. Добивайтесь обязательств, прав на аудит и соблюдения emerging международных стандартов управления вычислительными мощностями. Советы и LP реагируют на крупных стейкхолдеров. Используйте этот вес.
Исследовательское поле безопасности ИИ получает миллиарды от лабораторий, которые оно изучает, — структура стимулов с конфликтом интересов. Независимые правозащитные и политические организации, борющиеся за enforceable закон, почти ничего не получают. Один крупный дар способен изменить баланс сил в этой сфере.
Журналистские расследования практики лабораторий ИИ, политические исследования договорных рамок и культурная работа, делающая риск осязаемым и неоспоримым, — ничто из этого не привлекательно для коммерческого производства. Филантропический капитал — единственный источник средств для работы, которая критична, но не прибыльна.
У вас есть доступ к донорам, советам фондов, институциональным инвесторам и политикам, до которых активистам не добраться холодными обращениями. Соберите их. Представьте это дело. Час вашего доступа стоит года усилий недофинансированной организации.
У исследователей, инженеров и технических специалистов в ИИ-лабораториях и технологических компаниях есть информация, доступ и рычаги, которых нет ни у одного внешнего активиста. История показывает, что сотрудники уже меняли институты, казавшиеся неподвижными.
Поднимайте вопросы через существующие формальные механизмы: команды по безопасности, омбудсменов, этические комиссии, доступ к совету директоров. Фиксируйте каждое обращение письменно. Создавайте бумажный след до того, как он понадобится, а не после.
Вы не одиноки. Исследователи и инженеры, обеспокоенные направлением развития передового ИИ, есть в каждой крупной лаборатории. Найдите друг друга. Коллективные действия технических сотрудников уже меняли корпоративное поведение в компаниях ИИ, и могут снова.
Люди, раскрывшие информацию о небезопасной разработке, сделали это ценой значительных личных потерь. Поддержите их публично и профессионально. Их разоблачения создают публичный аргумент, который не может создать ни один внешний сторонник в одиночку, потому что только инсайдеры знают, что происходит на самом деле.
Во многих юрисдикциях существуют защиты для инсайдеров, раскрывающих информацию о деятельности, угрожающей общественной безопасности. Знайте свои права. Обратитесь к юристу, специализирующемуся в этой области. Оцените варианты, пока ещё есть время подготовиться.
У вас навыки, которые крайне востребованы. Вы сможете найти другую работу, скорее всего, лучшую. Исследователи и инженеры, создающие передовые системы ИИ, имеют больше рычагов влияния на работодателей, чем почти любая другая рабочая сила в истории. Большинство ещё не воспользовались ими. Вопрос в том, сделаете ли это вы.
Если вы работаете в передовой лаборатории ИИ и имеете основания полагать, что разработка идёт небезопасно (обязательства не выполняются, риски преуменьшаются, сроки короче, чем заявлено публично), вопрос о том, что вы сделаете, уже не гипотетический. Подумайте об этом сейчас.
Ни одна частная организация, сколь бы хорошо финансируемой она ни была, не может обязать суверенные государства ограничивать разработку ИИ. Это могут сделать только правительства, ведущие переговоры с правительствами. Именно политики, госслужащие, дипломаты и регуляторы напишут закон — или не напишут.
Требовать государственного разрешения на обучение ИИ, превышающее заданный порог вычислений, сейчас предлагается на уровне 10²⁶ операций с плавающей точкой. Это технически осуществимо, поддаётся независимой проверке и имеет прецеденты. Небольшое число производителей чипов контролирует оборудование, необходимое для обучения передовых моделей. Лицензирование именно на этом этапе — узкое место.
Официально попросите своё правительство внести предложение в ООН или соответствующий многосторонний орган о начале переговоров по обязательному договору о безопасности ИИ. Монреальский протокол прошёл путь от научного консенсуса до ратификации менее чем за два года. Амбиции такого масштаба уже имели прецеденты и не являются наивными.
Экзистенциальный риск ИИ ещё не стал обычной темой парламентских или конгрессных слушаний. Внесите его в повестку. Приглашайте исследователей и бывших сотрудников лабораторий ИИ, готовых говорить откровенно. Создайте законодательную историю, которая потребуется для будущих действий и к которой обратится история, чтобы понять, успели ли мы вовремя.
Добиваться достаточных ресурсов для агентств мониторинга ИИ, независимых аудиторов безопасности и международного инспекционного режима, который потребует эффективный договор. Международное агентство по атомной энергии было создано в течение трёх лет после NPT. Его аналог для ИИ достижим в те же сроки, если существует политическая воля.
Экзистенциальный риск ИИ — вопрос цивилизационный, а не левый или правый. Нужно строить коалиции через партийные линии внутри страны. Выходить на коллег в других столицах. Для договора потребуется участие всех основных стран-разработчиков ИИ, и эти разговоры нужно начинать уже сейчас, на политическом уровне.
Компании ИИ тратят огромные ресурсы на лоббирование и налаживание связей. Политические рамки, которые они продвигают, призваны сохранить коммерческую свободу действий, а не защитить общество. Требуйте независимых доказательств. Относитесь скептически к стандартам безопасности, написанным теми, кого они должны ограничивать.
Художники, журналисты, режиссёры, музыканты, писатели, знаменитости и творцы с аудиторией — именно вы делаете абстрактные угрозы ощутимыми и неотложными. Общественное мнение — то, на что реагируют политики. Вы формируете общественное мнение.
Статистика и политические документы людей не убеждают. Убеждают истории. Создавайте работы (в любом подходящем формате), которые заставят аудиторию почувствовать, что поставлено на карту: что значит ошибиться здесь — для них самих, для близких, для всех последующих поколений.
Берите интервью у исследователей ИИ, бывших сотрудников лабораторий, готовых говорить откровенно, и специалистов по политике в этой сфере. Ваш охват может придать их словам масштаб, которого академические статьи и пресс-релизы сами по себе не достигнут. Одно интервью способно сделать больше, чем сотня политических брифингов.
Если у вас есть площадка (читатели, подписчики, аудитория), используйте её, чтобы прямо сказать: это важнейший вопрос вашей жизни. Без смягчений ради приятности. Без оговорок ради коммерции. Прямо. Аудитория уважает прямоту от тех, кому есть что терять от такой прямоты.
Отказывайтесь от партнёрств, одобрений и спонсорского контента, которые приносят пользу передовым лабораториям ИИ без обязательных гарантий безопасности. Если лаборатория предлагает вам сделку, публичный отказ от неё посылает сообщение, что их нельзя купить. Им нужны ваша аудитория и ваша репутация. Используйте это преимущество явно.
Научная фантастика сделала больше для формирования общественного сознания о технологиях, чем любая политическая статья в истории. Движение за климат построило свою культурную основу через искусство раньше, чем через закон. Если вы создаёте вещи (пишете, режиссируете, сочиняете, иллюстрируете), создавайте работы, которые заставляют людей осознать то, что мы строим.
Nakada Foundation строит медиакампанию, чтобы изменить общественное мнение по международной безопасности ИИ. Мы хотим работать с авторами, которые понимают свою платформу как форму политической силы. Свяжитесь с нами.
Молодые люди создавали каждое крупное социальное движение двадцатого века. Это тоже нуждается в вас — не как в наблюдателях, а как в организаторах и лицах, принимающих решения, чьи ценности и связи формируются прямо сейчас.
Создайте или присоединяйтесь к студенческой организации по безопасности ИИ. Добейтесь, чтобы университет поддерживал исследования по обязательному ASI управлению, приглашал спикеров по рискам суперинтеллекта и включил профилактику в учебные программы. Индивидуальные бойкоты и символические действия с эндаументами — второстепенные каналы. Масштабируемая работа — это организованное политическое давление в пользу договора. Студенческие движения уже меняли университеты. Они могут сделать это снова — в сторону закона, а не бойкотов брендов.
Право, политика, дипломатия, журналистика и государственная служба — именно эти области определят, будет ли договор заключён и соблюдён. Движению за безопасность ИИ отчаянно нужны люди в этих профессиях, понимающие техническую цену вопроса. Ваш выбор карьеры — один из самых значимых, которые вы когда-либо сделаете. Сделайте его важным.
Лаборатории передового ИИ агрессивно вербуют из лучших университетов. Отказ от предложения (и публичное объяснение причин) весит больше любого добровольного обязательства, которое лаборатория берёт на себя по безопасности. Ваше решение уйти в другое место — форма политического высказывания, с которым они не могут бороться.
Ваши однокурсники — поколение, которое через десять-двадцать лет будет принимать важные решения по политике в области ИИ. Разговоры, которые вы ведёте сейчас, формируют интуиции, которые они понесут дальше. Не ждите, пока это станет чужой проблемой, прежде чем включиться.
Молодые люди систематически недостаточно представлены в политических контактах, и избранные официальные лица это знают. Пишите, звоните и приходите лично. Скажите своим представителям, что международная безопасность ИИ — определяющий вопрос вашего поколения, и спросите, какое законодательство они поддерживают.
Договор о нераспространении ядерного оружия, Конвенция о запрещении химического оружия, Монреальский протокол: у каждого есть уроки для того, как мог бы выглядеть договор по безопасности ИИ и как его можно было бы верифицировать. Изучите историю. Станьте одним из тех, кто способен спроектировать следующий такой договор.
Политики реагируют на избирателей, которые задают чёткие вопросы и приходят. Люди, поднимающие тему безопасности ИИ перед представителями, на слушаниях и в обычных разговорах, — это та constituency, которая делает возможными все остальные действия на этой странице. Мы не поддерживаем и не выступаем против кандидатов или партий.
Спросите своих избранных представителей, как они относятся к лицензированию вычислительных мощностей и переговорам о международном договоре по безопасности ИИ. Если они не знают вопроса, расскажите им. Чёткие и повторяющиеся вопросы избирателей превращают забытый файл в реальное дело, а пока почти никто не спрашивает.
Телефонные звонки, письма и личные визиты избирателей влияют на избранных лиц сильнее, чем онлайн-петиции. Будьте конкретны: просите поддержать законодательство о лицензировании вычислений и официальные переговоры по международному договору. Пишите сегодня, а не когда станет «ещё более срочно», потому что тогда может быть уже поздно.
Приходите лично. Спросите избранных представителей, поддерживают ли они международный договор по безопасности ИИ. Сам вопрос уже становится актом политического просвещения — и для чиновника, и для всех, кто слышит его в зале.
Политические majority формируются через социальные сети, а не через рекламу. Разговаривайте с семьёй, коллегами, соседями. Разговоры, которые вы ведёте в этом году, определяют, что политики сочтут безопасным говорить в следующем году и какие законы смогут принять через год после этого.
Если текст показался вам важным, самое ценное, что можно сделать прямо сейчас, — расширить круг людей, которым эта тема небезразлична. Перешлите его одному человеку, который ещё не задумывался над этими вопросами. Так и растут движения: по одному разговору за раз.
Мы рассылаем обзоры, когда происходят события в международной политике ИИ, требующие вашего внимания, и когда есть конкретные действия, которые вы можете предпринять.