10 октября 1983 года в Кэмп-Дэвиде Рональд Рейган сел смотреть предварительную копию фильма, который ABC планировала показать в следующем месяце. Фильм назывался На следующий день, и в нём был показан ядерный обмен, пронёсшийся через Лоуренс и Канзас-Сити: вспышка, огненный шторм, выжившие, медленно умирающие от радиации среди руин всего привычного. В ту же ночь Рейган записал в дневнике, что фильм оставил его «глубоко подавленным». В той же записи он сформулировал решение: страна должна сделать всё возможное, чтобы ядерная война никогда не произошла.

Речь идёт о том, что нужно, чтобы опасность стала реальной до её наступления.

Шесть недель спустя, 20 ноября, примерно 100 миллионов американцев посмотрели тот же фильм. Это остаётся одной из самых просматриваемых телевизионных трансляций в истории страны. Школы разослали памятки родителям. После показа телеканалы провели обсуждения. На одну ночь абстракция, висевшая над всей послевоенной эпохой, — то, о чём все знали, но почти никто не мог представить, — обрела лицо и почтовый индекс.

Почему фильм до него дошёл, а брифинги — нет

Рейган не был человеком, которому не хватало информации о ядерном оружии. Ему докладывали о забрасываемом весе и мегатоннаже, о едином комплексном оперативном плане, о том, сколько минут у него будет на решение. Он проходил военные игры. Но всё это не то же самое, что увидеть. Брифинг даёт число. Число не кровоточит.

Осень 1983 года уже была самым опасным отрезком поздней холодной войны, и именно поэтому фильм произвёл такое сильное впечатление. В сентябре советский истребитель сбил южнокорейский авиалайнер, погибли 269 человек. В ноябре, за несколько дней до показа, командно-штабные учения NATO под названием Able Archer прошли настолько реалистично, что часть советского руководства, по сообщениям, опасалась, что это прикрытие для настоящего первого удара. Напряжение было не теоретическим. В этот момент пришёл двухчасовой прайм-тайм на телевидении, показавший, что на самом деле означало это напряжение, если бы оно разрядилось.

Опасность становится политической, когда люди могут её почувствовать, а люди чувствуют истории о конкретных людях, а не статистику по населению. Число погибших в ядерной войне буквально невообразимо: сознание соскальзывает. Один врач, видящий, как его больница переполняется, — это то, что сознание может удержать.

От ужаса к подписи

Было бы нечестно проводить прямую линию от фильма к договору, и стоит сопротивляться такому искушению. Рейган годами высказывал личное отвращение к ядерному оружию и искреннее желание от него избавиться. Сдвиг во время его второго срока имел много авторов: новый и иной партнёр в Москве, закулисная дипломатия, постепенное накопление его собственных убеждений. Фильм входит в эту траекторию как один яркий момент среди нескольких, а не как рычаг, сдвинувший всё.

То, что последовало, — дело известное. В октябре 1986 года Рейган встретился с советским лидером Михаилом Горбачёвым в Рейкьявике, и они поразительно близко подошли к согласию об уничтожении всего ядерного оружия, прежде чем переговоры сорвались. Основа устояла. 8 декабря 1987 года в Вашингтоне они подписали Договор о ликвидации ракет средней и меньшей дальности. Он сделал то, чего не делало ни одно соглашение по контролю над вооружениями прежде: ликвидировал целый класс оружия, а не просто ограничивал его количество. Все наземные баллистические и крылатые ракеты дальностью от 500 до 5500 километров подлежали уничтожению, и к 1991 году 2692 такие ракеты были уничтожены, что подтверждалось инспекторами, допущенными на территорию друг друга.

Николас Мейер, который поставил На следующий день, заявил, что после подписания договора до него дошли сведения, будто его фильм сыграл в этом какую-то роль. Воспринимайте это как воспоминание режиссёра, а не задокументированный факт. Достоверная часть достаточна: президент посмотрел изображение того, что он имел власть вызвать, отметил, что это его потрясло, и подписал договор, ликвидировавший категорию оружия, которое могло бы это вызвать.

Ядерная война перестала быть статистикой в ту ночь, когда стала городом с названием.

Чему это учёт и где параллель рушится

Для любого, кто работает над предотвращением катастрофы от искусственного суперинтеллекта, обнадёживающая половина этой истории реальна. Опасность, которая казалась далёкой и технической, стала конкретной, и политика сдвинулась. Серьёзные ограничения на грозную технологию возможны; мы видели, как договор уничтожил целый класс оружия под проверяемым контролем. Тем, кто утверждает, что соперничающие державы никогда не согласятся связать себя, придётся объяснять 1987 год.

Предупреждение именно в этом различии, и оно острое. Все источники страха, сделавшие ядерную войну реальностью, появились уже после. Хиросима и Нагасаки уже произошли. Мир прожил под бомбой четыре десятилетия. Даже На следующий день была драматизацией категории событий, которые человечество уже в меньшем масштабе пережило. Урок пришёл из выживания.

Искусственный сверхинтеллект не даёт такого наставника. Нет Хиросимы, на которую можно указать, нет зернистых кадров, нет выживших для интервью, потому что тот сценарий отказа, которого мы опасаемся, может не оставить второго шанса. Если неуправляемый сверхинтеллект создадут раньше, чем решат проблему его контроля, не будет «дня после», чтобы о нём рассказать. Фильм, который мог бы нас предупредить, не успеют снять, потому что его можно снять только после, а после уже не будет.

Значит, задача сложнее, чем та, что стояла перед Рейганом, и указывает в одном направлении. Аргумент нужно сделать ярким уже сейчас, силой доводов и предвидения, а не обломков, и он должен заканчиваться предотвращением, а не управлением. Контроль над ядерными вооружениями мог быть историей восстановления. Ответ на суперинтеллект — нет. Именно поэтому Фонд выступает за проверенный международный запрет на создание суперинтеллекта навсегда. Суперинтеллект нельзя контролировать, позиция, изложенная в наш план, и почему все усилия направлены на годы до опасности, а не после. Годов после не будет.