Во время холодной войны соперники, не доверявшие друг другу, всё равно обменивались уведомлениями, наблюдателями и горячими линиями. Эти привычки не остановили гонку вооружений, но снизили риск, что страх сам по себе развяжет войну. Политике в области ИИ нужна та же незаметная механика, пока идёт более сложная работа над договором.
Противники по холодной войне, ещё не готовые договориться о контроле над вооружениями, всё равно создавали механизмы, чтобы кризис не превратился в катастрофу. Эти «меры укрепления доверия» дёшевы, быстры и доступны уже сейчас, и именно так договор в итоге становится возможным.
Инструментарий холодной войны
US и Советский Союз даже на пике взаимной враждебности создали поразительно много такой инфраструктуры. Прямая линия 1963 года позволяла лидерам оперативно связываться и не допускать, чтобы неверно прочитанные сигналы переросли в кризис. Соглашение 1972 года об инцидентах в море устанавливало правила, чтобы морские столкновения не перерастали в конфликт. Позднее ввели обязательное заблаговременное уведомление об испытаниях ракет и крупных военных учениях, а также круглосуточные центры снижения ядерных рисков. Ни одна из этих мер не ограничивала ни одного оружия. Все они снижали вероятность того, что страх и непонимание спровоцируют катастрофу, которой не желала ни одна сторона.
Как могли бы выглядеть меры укрепления доверия для ИИ
Уведомление об инцидентах и совместная отчётность
Соглашения о немедленном информировании друг друга (и общего органа) о серьёзных инцидентах безопасности ИИ, близких промахах или открытиях опасных возможностей, чтобы пугающее событие не приходилось толковать в темноте через призму наихудших предположений.
Каналы кризисной коммуникации
Прямая, проверенная линия связи между соответствующими органами соперничающих государств на случай ЧС, связанных с ИИ, чтобы подозреваемую потерю контроля или неоднозначный скачок возможностей можно было обсудить напрямую, а не истолковывать ошибочно.
Прозрачность намерений и красных линий
Добровольные заявления о национальных стратегиях в области ИИ, практиках безопасности и порогах возможностей, которые государство считает неприемлемыми: это снижает неверные представления, провоцирующие гонки вооружений, и показывает, где красные линии могут совпасть.
Заблаговременное уведомление о крупных тренировочных запусках
Обязательство уведомлять контролирующий орган перед самыми масштабными работами по разработке, по аналогии с уведомлениями об испытаниях ракет и учениях, чтобы выработать привычку к декларациям, которую позже формализует верификация.
Диалог учёный с учёным
Постоянный технический обмен между исследователями безопасности через границы, сохраняющий канал, который исторически запускал прорывы в контроле над вооружениями даже при замороженных официальных отношениях.
Почему они важнее, чем кажутся
Меры укрепления доверия делают три вещи, которые делают возможным будущий договор. Они снижают непосредственную опасность в период до договора, когда остры риски аварий и неверного восприятия. Они накапливают практический опыт сотрудничества (общие форматы отчётности, отработанные каналы, рабочие отношения), от которого зависит обязательная верификация. И они создают небольшие взаимные демонстрации доброй воли, делающие возможными более крупные обязательства. Государство, годами соблюдавшее уведомления об инцидентах, — более надёжный партнёр по договору, чем государство, начинающее с нуля.
Они также политически дёшевы. Поскольку меры укрепления доверия не требуют от страны отказываться от какой-либо возможности, они обходят возражения по поводу суверенитета и конкуренции, которые губят обязывающие соглашения. Правительство может согласиться на горячую линию или канал обмена информацией об инцидентах, не уступая ничего в праве развивать ИИ. Именно низкая цена делает их реалистичными первыми шагами, пока более сложные переговоры остаются недоступными.
Доверие не строится по требованию. Оно строится через небольшие, проверяемые шаги, которые мало стоят и доказывают надёжность. Каждый договор по контролю над вооружениями в истории опирался на годы предварительного укрепления доверия.
Начиная с того, где возможно согласие
Ценность мер укрепления доверия в том, что их можно начинать уже сейчас, даже между соперниками, далёкими от договора, — именно потому, что они требуют очень мало. Именно из них состоит нынешний диалог US и Китая по ИИ, встречи на высшем уровне и сеть институтов безопасности. Отношение к ним как к серьёзному направлению (а не утешительному приззу) позволяет превратить период до заключения договора в продуктивный, а не просто опасный. Всеобъемлющее соглашение — конечная цель. Меры укрепления доверия — дорога к ней, и она уже открыта. Задача — начать по ней идти, пока случайная авария не заставит сотрудничать самым жёстким образом.