Миф о гонке с Китаем
Фраза, которую вы услышите в каждой серьёзной дискуссии. Изложена честно. Ответ дана так, чтобы вы могли её использовать.
"Если мы замедлимся, Китай просто вырвётся вперёд и победит."
Первая страна, создавшая сверхинтеллект, получает решающий национальный актив.
Это работает только если кто-то может им управлять. Система, умнее своих операторов нельзя нацелить как оружие. Утрата контроля не уважает границ или флагов.
Сдержанность — это одностороннее разоружение. Пекин не остановится.
Пекин сталкивается с той же проблемой вымирания, что и Вашингтон. Взаимная уязвимость — именно поэтому контроль над ядерными вооружениями работал между противниками. Общая гибель делает проверяемое взаимное ограничение разумным шагом в сфере безопасности, а не гонкой, в которой все первыми теряют контроль.
Они будут жульничать. Договоры — это бумажки.
Страх обмана реален. Это разработка договора проблема: отслеживание чипов, лицензирование кластеров, инспекции на месте — тот же набор инструментов, что применяется к расщепляющимся материалам. Риск дефекции — именно поэтому верификация и существует. Это не повод первым сорваться со скалы.
Враги не ограничивают опасные технологии.
US и USSR заключили соглашения об ограничении ядерных вооружений в период наивысшей враждебности. Договор по космосу запретил размещение оружия на орбите во время холодной войны. Враги могут ограничить одну деятельность, не доверяя друг другу во всём остальном.
"Гонка за создание того, чем никто не сможет управлять, не имеет победителя. Ход национальной безопасности — это взаимный, проверяемый запрет на системы, лишающие контроля, а не соревнование, в котором проигрываешь первым."
Полное опровержение: nakadafoundation.org/myths/