Документ — это Блетчли-декларация. Она появилась по итогам Саммита по безопасности ИИ в Великобритании — первой встречи правительств, специально созванной вокруг рисков от самых мощных frontier-систем. Текст краткий, необязательный и тщательно оговорённый. Читать его ради того, что он фиксирует и что умалчивает, — до сих пор самый ясный способ понять, где находилось международное управление ASI на конец 2023 года.
Впервые соперничающие правительства совместно зафиксировали, что передовой ИИ может причинить катастрофический вред.
Что говорит декларация
Главный шаг — это признание. Декларация утверждает, что передовые модели ИИ несут потенциал серьёзного, даже катастрофического вреда. Она называет риски, которые могут быть как намеренными, так и непреднамеренными, и указывает на серьёзный вред от самых мощных систем общего назначения. Правительства, которые почти ни в чём другом не согласны, включая Вашингтон и Пекин, публично приняли эту формулировку.
Помимо признания рисков подписавшие обязуются в двух направлениях: выявлять риски безопасности ИИ, вызывающие общую озабоченность, и формировать общее научное понимание этих рисков; а также разрабатывать национальные политики на основе оценки рисков и сотрудничать там, где это уместно. Текст поддерживает продолжение международного диалога и приветствует серию последующих саммитов. Он не делает вид, что эти саммиты уже содержат ответы.
Что оно не делает
- Никаких обязывающих обязательств. Ничего не требует от какой-либо страны действовать по графику, сообщать метрику или запрещать возможность.
- Нет института. Нет ни агентства, ни секретариата, ни органа мониторинга — только договорённость продолжать разговор и снова собираться.
- Никаких красных линий. Декларация не определяет, какие возможности неприемлемы и что должно запускать коллективные действия.
- Нет проверки или принуждения. Соответствие не измеряется, потому что нечего конкретно соблюдать.
Почему необязательное заявление всё равно важно
Отмахнуться от декларации без реальных рычагов легко. Это также неверное прочтение того, как опасные технологии входят в международное право. Модель рамочной конвенции, применённая для озона и климата, начинается с установления общих принципов и обязанности сотрудничать, потому что назвать проблему — необходимое условие для переговоров о том, что с ней делать. Блетчли проделала первую тяжёлую дипломатическую работу: заставила соперничающие державы официально признать, что риск реален и является общим.
Она также запустила процесс. Саммит не стал разовым событием. Он положил начало регулярной серии встреч, продолженной в Сеуле в мае 2024 года, и дал правительствам постоянную площадку для развития науки, институтов и в итоге обязательств, которые не удержит одна декларация. Ценность — не столько в формулировках, сколько в пути, который они открывают.
Народное возражение состоит в том, что мягкие заявления — это театр. Справедливо, когда они завершают историю. Когда же они становятся первым шагом режима, который позже добавляет пороги, проверку и штрафы, именно так государства начинают говорить об ограничениях, к которым ещё не готовы. Блетчли провалится только в том случае, если процесс застынет на уровне фотосессии.
Последующий тест
Мера Блетчли заключается в том, превратится ли признание в архитектуру. Общая обеспокоенность, которая никогда не превращается в обязательные правила, независимые проверки и институты, остаётся лишь словами. Последующие саммиты, национальные институты безопасности ИИ, а также научная оценка — это механизмы, которые либо превратят декларацию в реальное управление, либо позволят ей сойти на нет. Текст обеспечил отправную точку. Задача — завершить преобразование, пока возможности, о которых идёт речь, не опередили начатый процесс. Для Фонда такое преобразование означает обязательный путь к остановке суперинтеллекта, а не постоянный цикл саммитов, которые никогда не принимают законы.