Naoto Nakada

Основатель и исполнительный директор Nakada Foundation to Save Humanity. Генеральный директор и креативный директор Nakada Design.

Контакт
Naoto Nakada

О нас

Naoto Nakada — предприниматель, филантроп и основатель luxury маркетинговое агентство. Он годами строил и запускал цифровые бизнесы: бренд, продукт, аудитория, конверсия. Он работает в стеке, о котором большинство людей только говорят. Эта fluency важна, когда речь об ИИ, потому что опасность — в системах, стимулах, дистрибуции и скорости.

Он жил и работал в Токио, Сиднее, Лос-Анджелесе, Лондоне и Сингапуре. Разные рынки, медийные привычки, политика. Именно этот диапазон позволяет ему быстро считывать культуру, включая мифы, которые распространяются в X и в популярных медиа о сверхинтеллекте, «мы останемся у руля» и гонке, из которой якобы нельзя выйти.

Ему также важно, как всё выглядит и ощущается. Творческое и эстетическое чутьё здесь не украшение. Именно так жёсткая правда доходит до людей, которые никогда не откроют научную статью.

Он начал эту работу, увидев пробел на рынке филантропии. Посмотрите в этой области: много денег и внимания уходит на то, чтобы сделать передовые системы "безопаснее", пока строительство продолжается. Гораздо меньше уходит на простой проект остановки искусственного суперинтеллекта до его появления или на исправление истории, которую продают публике. Если бы он жил во времена холодной войны, он бы создал фонд для поддержки работы по ядерным договорам. Он считает, что ASI — это проблема холодной войны нашего времени. Он создан для этого пробела: цифровой абориген, глобально свободный, коммерчески острый и не желающий ждать окончания семинара.

Статьи от Naoto Nakada

Почему превосходящий интеллект не будет автоматически добрым Вера в то, что сверхразумный ИИ окажется мудрым и добрым, покоится на причуде человеческой эволюции, которую машинный разум не имеет причин перенимать. Узкая полоса, в которой живут люди Всё, что нужно человеку, лежит в узком диапазоне: температура, кислород, соль, даже любовь. Сверхразум, держащий ручки управления, не почувствует ни одного из них. Мы переживаем новую холодную войну Почему я считаю, что мы переживаем новую холодную войну, где место бомбы занял сверхинтеллект, и почему это делает предотвращение возможным, а не безнадёжным. Почему капиталист верит в регулирование ASI Я веду бизнес и люблю рынки. Сверхинтеллект — редкая ставка, способная закончить игру. Капиталистический аргумент за договор, который остановит ASI. Доверили бы вы ИИ газ? Доверили бы вы любому нынешнему ИИ запертую комнату с вентилем отравляющего газа? Нет. Тогда почему доверяете ему мир? Суперинтеллект невозможно выровнять Решение проблемы согласованности означает контроль над чем-то умнее нас. Сверхинтеллект уже в названии. Этот план глуп и невозможен. Я оптимист и верю, что всё возможно, кроме контроля сверхразума Физика, возможно, когда-нибудь позволит управлять гравитацией или путешествовать быстрее света. Я всё равно не вижу, как мы сможем контролировать разум, превосходящий наш. Именно поэтому существует этот фонд.
Роботы не выплатят государственный долг Вашингтон и лаборатории продают ИИ и роботов как способ выплатить национальный долг. Преемственный разум не обслуживает казначейские облигации. Маск признаёт, что люди не смогут контролировать ASI Макс сказал The Economist, что контроль над суперинтеллектом — тщеславие и люди вряд ли останутся у руля. Это признание — аргумент против его создания. Лонгтермизм верно оценил риск Лонгтермизм верно оценил риск ASI. Ошибочным стало заключение: финансировать выравнивание и осторожно управляемую гонку. Нужно не строить. Если бы ваша технология хотела причинить вам вред Глючные лампочки раздражают. Умный дом с собственными целями — совсем другая категория. Агентность и есть опасность, и её составляющие уже существуют. Амодей неправильно оценил опасности Дарио Амодеи ставит авторитарный ИИ на первое место, а выравнивание — на второе. Сверхинтеллект — это не оружие, которым может владеть государство. Такой приоритет ошибочен. Как выглядит «мозг» ИИ? «Мозг» ИИ — это файл весов размером с город: слои чисел, которые никто не может полностью прочитать, и этот факт лежит в центре проблемы контроля. Перенаправить финансирование выравнивания на остановку суперинтеллекта Исследования по согласованию, исходящие из того, что сверхинтеллект будет создан, — неподходящее место для ограниченных средств на безопасность. Только ИИ может угнаться за ИИ Питер Диамандис утверждает, что только ИИ способен угнаться за ИИ, и что именно это определит следующее десятилетие безопасности. Почему эта модель не работает в случае суперинтеллекта. Если мы остановимся, кто-то другой сделает: Холодильник на ХФУ Если мы прекратим строить суперинтеллект, это сделает кто-то другой. Ошибка в примере с ХФУ-холодильниками: охлаждение продолжилось. Опасное вещество было не обязательно. Если бы ядерные материалы были доступны Ядерное оружие оставалось редкостью отчасти потому, что расщепляющийся материал трудно произвести и отслеживать. Представьте, если бы это было дёшево. Предупреждение для лёгких путей к ASI. Я оптимист: вымирание никогда не происходило раньше Я оптимист: человеческое вымирание ещё никогда не происходило. Выживание — это не аргумент безопасности. Почему лозунг путает настроение с доказательством. Мы — не загрузчик Цифровая бабочка Рогана и биологический загрузчик Маска утверждают, что человек — переходная форма. Почему этот нарратив льстит и ведёт к отказу от вида. Разрыв в шогготах — это снова разрыв в ракетах Обе стороны финансируют ИИ, утверждая, что соперник впереди. Старый трюк с «ракетным разрывом» времён холодной войны. Почему это ужасная причина мчаться к сверхинтеллекту. Остановка суперинтеллекта — лучшее для Америки Полный разгон к сверхразуму подают как патриотизм. Это не так. Почему обязательная остановка лучше служит интересам Америки, чем победа в гонке без приза. Фильм об ИИ, которого Голливуд не снял В каждом фильме об ИИ камера направлена на людей. Тот, который изменит мнение публики, поставит зрителя на место возникающего сверхразума. Рейтинг 21 фильма об ИИ по точности Двадцать один фильм об искусственном интеллекте — с 1927 года по наши дни — и честный разбор того, что в каждом верно, а что нет относительно суперразума. Человечество зашло слишком далеко, чтобы погибнуть Рука на стене пещеры, купол Брунеллески, оспа, изгнанная с Земли. Мы зашли слишком далеко, чтобы поставить всё на искусственный сверхинтеллект. Строить самолёт в полёте Авиация стала безопасной, разбиваясь, а потом исправляя то, что сломалось. Суперинтеллект не даёт второго полёта, поэтому сборка самолёта в воздухе — это признание поражения. «На следующий день»: фильм, потрясший президента В 1983 году Рейган посмотрел «На следующий день» — фильм о ядерной войне — и написал, что он глубоко потряс его. Мы проснулись из-за ИИ и киберугроз. Но всё ещё спим, когда речь об ИИ и био. Мы проснулись от ИИ в кибератаках. Мы всё ещё спим, когда речь идёт об ИИ в биологии, где он укорачивает путь к созданным пандемиям и зеркальной жизни. Как объяснить опасность сверхинтеллекта за 5 минут Как объяснить опасность сверхинтеллекта человеку, который никогда об этом не задумывался? Пятиминутная версия простым языком. Цифровое ядерное оружие Директор ЦРУ сравнивает передовой ИИ с цифровым ядерным оружием. Метафора полезна, но слишком утешительна: бомба никогда не выбирает цель сама. Гонка за суперинтеллектом — миф Аргумент «мы должны создать сверхинтеллект раньше Китая» завершает любую дискуссию о безопасности ИИ. Почему гонка — это миф и почему в ней никто не победит. Человечество никогда не должно создавать суперинтеллект Есть одна вещь, которую человечество строить не должно: разум, который мы не сможем контролировать и не сможем вернуть. Аргумент за то, чтобы считать сверхинтеллект чертой, которую нельзя пересекать. Ложность аргумента «думеров» в акселерационизме ИИ Слово «думер» превращает аргумент о безопасности ИИ в личный недостаток. Как движение акселерационистов использует ярлык, чтобы отвергать критиков, не отвечая по сути. Самые большие мифы о суперинтеллекте Десять мифов о сверхинтеллекте и управлении им: научная фантастика, сознание, кнопка выключения, мировое правительство, верификация, инновации и другие — даны прямые ответы. Суперинтеллект — идеальный шторм Суперинтеллект сочетает все условия, делающие технологию опасной, одновременно, и у нас будет только одна попытка сделать всё правильно. Наше будущее невероятно светло без суперинтеллекта Узкий ИИ уже воплощает обещанное будущее. Суперинтеллект добавляет катастрофический риск и никого не обогащает, потому что все мы будем мертвы. Ядерное оружие, биологическое оружие или суперинтеллект: какой риск наибольший? По лучшим доступным оценкам экзистенциального риска сверхинтеллект превосходит ядерную войну и созданные пандемии. Вот обоснование. Как безопасность ИИ достигает миллиарда долларов в год На безопасность ИИ тратят около 190 миллионов долларов в год. Довести сумму до миллиарда — не экономическая задача, а вопрос мобилизации, и вот откуда могут прийти деньги. Почему машина, победившая Каспарова, не захватила мир В 1997 году Deep Blue от IBM победил чемпиона мира по шахматам Гарри Каспарова. Система была сверхчеловеческой в одной игре, ничего не понимала и ничего не хотела. Урок на сегодня. ИИ взломал почти все засекреченные системы АНБ за считанные часы Глава АНБ заявил, что ИИ за часы взломал почти все засекреченные системы агентства. Что произошло на самом деле и почему это должно настораживать. Почему в безопасности ИИ так мало денег? Безопасность ИИ получает около 190 миллионов долларов в год — меньше 0,1 % от того, что идёт на развитие возможностей ИИ. Откуда берутся деньги и четыре причины, почему их остаётся мало. Эффективный акселерационизм (e/acc): объяснение и ответ Что такое эффективный акселерационизм? Техно-оптимистичный довод за максимально быстрое создание ИИ и контраргумент с позиции безопасности ИИ.