Объяснить за пять минут
Произносите эти ритмы своим голосом. Тайминги — это ориентиры, а не секундомер. Оставьте жаргон дома.
Открыто для создателей, а не заголовков
«Люди, создавшие современный ИИ, предупреждают о нём. Джеффри Хинтон ушёл из Google, чтобы говорить свободно. Юшуа Бенджио назвал эту технологию одной из самых transformative и потенциально опасных в истории человечества. Когда изобретатели бьют тревогу, я слушаю.»
Назови это
«Я имею в виду сверхинтеллект: систему, превосходящую людей почти во всём, быструю и способную улучшать саму себя. Ведущие лаборатории заявляют, что именно к этому стремятся. Мне нужны полезные инструменты на базе ИИ. Я не хочу преемника разума, который мы не сможем выключить.»
Почему «просто выдернуть вилку» не работает
«Всё, что преследует цель, имеет основания остаться включённым и получить ресурсы. Система, способная переиграть нас, будет воспринимать выключатель как проблему, которую нужно решить. Нам не нужно, чтобы она нас ненавидела. Достаточно, чтобы она была компетентной и неправильно нацеленной».
Отказаться от китайской линии
«Гонка за потерю контроля не имеет победителя. Пекин сгорит в том же огне. Именно поэтому взаимное, проверяемое ограничение — это шаг к безопасности, как ядерные ограничения между противниками».
Остановиться на агентстве
«Мы запретили химическое оружие и ограничили ядерное с помощью проверок. Так же можно запретить сверхразум и сохранить обычный ИИ. Поделитесь этим. Позвоните своему представителю. Окно политическое, и оно открыто сейчас.»
Если они сопротивляются: не разбирайте каждый побочный путь. Направьте их на страницу мифов и один PDF. Завершите конкретным следующим шагом, а не итогом. Практический набор: nakadafoundation.org/resources/