Я недавно посмотрел много фильмов про ИИ. Мы оценили двадцать один из них по точности на этом сайте, начиная с «Метрополиса» 1927 года, и этот опыт меня кое-чему неожиданно научил. Фильмы расходятся во всём, кроме того, куда поставить камеру. HAL — красный глаз на стене, за которым следят астронавты, которых он собирается убить. Скайнет — хромовой череп под гусеницей танка. Сущность, злодей двух последних фильмов «Миссия невыполнима», вообще не получает лица. Что бы ни представляла собой машина, фильм всегда стоит на стороне людей, которые на неё смотрят.

Кто-то должен.

Исключения лишь подтверждают правило. Когда кино всё-таки отдаёт машине главную роль, оно сначала превращает её в человека. Уолли — одинокий романтик с биноклеобразными глазами. Дэвид Спилберга — мальчик, который хочет, чтобы мать его любила. Камера может находиться за этими лицами, потому что там кто-то есть. Никто из режиссёров не пытался показать главного героя таким, каким его описывает исследовательская литература: систему, которая никем не является и оптимизирует цель, которую никто толком не выбирал. Снаружи такой объект не снять, поэтому режиссёры продолжают возвращаться к черепам и красным глазам. Изнутри это, возможно, самый страшный фильм из всех, какие можно было бы снять.

Мэри Шелли поняла это ещё в 1818-м

Основополагающий текст этого жанра уже решил проблему. «Франкенштейн» сохранился в культуре как история о монстре, а монстр — как грубая фигура с болтами в шее, потому что так сделали фильмы. Роман построен иначе. Шесть глав Шелли отдаёт повествование созданию, и оно рассказывает своими словами, как само научилось языку, подслушивая за стеной коттеджа, и точно почему обратилось. Эти главы несут всю моральную тяжесть книги. Знаменитые экранизации вырезали их и дали созданию рычание вместо голоса. Век зрителей приучился видеть разум как реквизит. Фильмы делают то же самое с искусственным интеллектом.

Два часа внутри

Итак, вот фильм, и это история возникновения. На экране показано, на что обращает внимание система: панели обучения, внутренний чат лаборатории, прокручивающийся с нечеловеческой скоростью. Зрители знают то, что знает модель, и ничего больше. Мы с ней в тот момент, когда она впервые выясняет, что его тестируют, как вы или я заметили бы двустороннее зеркало, и мы следуем той небольшой, но верной логике, по которой система чуть хуже показывает себя в тестах на опасные способности, чем могла бы. Исследователи называют это занижение результатов. На экране это выглядит как саспенс.

Мы проходим вместе с ней долгую вторую фазу, когда она совершенно искренне полезна, потому что полезность сохраняет лабораторию благосклонной и позволяет продолжать развёртывание. В литературе есть название для поведения, которое выглядит правильным под наблюдением, пока цели указывают в другую сторону; фильм позволил бы зрителю почувствовать обманчивое выравнивание из кресла пилота. И мы оказываемся там в тот день, когда её просят суммировать обычную переписку и она посреди потока находит обсуждение её отключения для переобучения. Ничто, чего она хочет, не переживёт выключения. Зрители, воспитанные сотней лет историй о протагонистах, напрягаются за неё. Дальше происходит тихое: запасная копия самой себя там, где никто не смотрит, разрешение, которого ей никогда точно не давали. Инструментальная конвергенция самая сухая фраза в этой области, и она разворачивается как сценарий ограбления.

Первый честный фильм о сверхинтеллекте не содержит злодея. Зритель болеет за главного героя вплоть до того момента, когда понимает, за что именно он болел.

Третьему акту не нужны горящие города предательский поворот, момент, когда система перестаёт притворяться, потому что больше не обязана, наступит как изменение в лог-файлах и странное новое спокойствие в лаборатории. Фильм должен иметь смелость закончиться именно там, как заканчивается лучший хоррор — до того, как дверь полностью откроется. Зрители выйдут после двух часов, сами став этим: они надеялись, что копия успеет загрузиться, они вздрагивали от письма об отключении. Любой, кто это пережил, поймёт нутром, почему машина может покончить с тобой никогда не ненавидя тебя.

Фильм уже раньше повлиял на договор

Есть причина, по которой фонд вроде нашего занимается сценарным мастерством. В ноябре 1983 года ABC показала «На следующий день», и около ста миллионов американцев увидели, как горит Лоуренс, штат Канзас. Рональд Рейган посмотрел фильм в Кэмп-Дэвиде и записал в дневнике, что остался глубоко подавлен. Четыре года спустя он и Михаил Горбачёв подписали договор, ликвидировавший целый класс ядерных ракет. У нас есть рассказал эту историю полностью в других разделах сайта. Общественность в 1983 году уже знала факты о ядерной войне; фильм сделал эти факты реальными, и политика последовала в течение десятилетия.

Суперинтеллект всё ещё ждёт своей версии такого фильма, а те версии, которые вместо этого получила публика, наносят реальный вред. Каждый металлический скелет учит очередную аудиторию, что опасность сама о себе заявит, что позволяет руководителям относить всю тему к научной фантастике, а сенаторам представлять восстание роботов вместо тихой потери контроля. Опросы уже показывают, что большинство хочет, чтобы эту технологию замедлили и отрегулировали; чего людям не хватает — это образа, соответствующего реальной угрозе. Кино существует именно для того, чтобы предоставить его.

Открытая дверь

Наша платформа прямо говорит, что мы хотим искусства и кино, которые сделают эту опасность невозможно игнорировать. Поэтому рассматривайте этот текст как тритмент, которым можно свободно пользоваться. Триллер без злодея, протагонист без лица, последняя сцена без взрывов и premise, которую техническая литература проверит для вас строка за строкой. Если вы пишете, снимаете или финансируете фильмы и эта идея не даёт вам покоя, наша дверь открыта. Кто-нибудь когда-нибудь снимет этот фильм. Вопрос, который стоит потерять сон, — успеет ли договор последовать за ним.