Когда мост рушится, юристы уже знают, как найти ответственное лицо. Когда отказывает стек ИИ — модель, облако и интегратор, — поиск останавливается. Правила ответственности, которые не могут назвать ответчика, не могут предотвратить следующий сбой. Это проблема управления, а не метафизики.
Договор, который не может назначить ответственность за нарушение, — это договор, который нельзя обеспечить, и эти вопросы действительно сложны для такой технологии, как ИИ.
Две разные проблемы
Это помогает разделить две вещи, которые часто смешивают. Ответственность это юридический вопрос о том, кто несёт ответственность и должен возмещать ущерб, когда вред уже причинён; вопрос распределения ответственности по цепочке от разработчика к оператору и пользователю. Указание авторства это фактический и технический вопрос установления того, что именно произошло и кто это сделал, прослеживание вредного действия до конкретной системы, модели или субъекта. Управлению нужны ответы на оба вопроса: правила, закрепляющие ответственность, и криминалистические возможности, позволяющие установить факты, к которым эти правила применяются.
Почему ИИ делает оба сложными
- Причинно-следственная цепочка длинная и размытая. Один вредоносный исход может затронуть разработчика базовой модели, компанию, адаптировавшую модель, оператора и конечного пользователя, и каждый из них может обоснованно указать на остальных.
- Поведение возникает спонтанно и остаётся непрозрачным. Когда система совершает нечто, чего её создатели конкретно не планировали и не предвидели, традиционные представления о вине и халатности дают сбой.
- Определение авторства может быть технически затруднительным. Определить, какая именно система выдала тот или иной вывод или действие (особенно когда модели копируют, дообучают или запускают в закрытом режиме), без специальных мер трассируемости может быть действительно сложно.
- Вред может пересекать границы. Система, разработанная в одной стране, развёрнутая в другой и причиняющая вред в третьей, поднимает вопросы юрисдикции, для которых обычное право ответственности не предназначено.
Международное измерение
На уровне государств международное право уже имеет рамки ответственности. Согласно давно сложившимся правилам ответственности государств (кодифицированным в Статьях Комиссии международного права) государство несёт ответственность за международно-противоправные деяния, включая, в определённых обстоятельствах, поведение частных субъектов, которыми оно руководит, контролирует или которые не регулирует. Договор по ИИ будет опираться на это: государства будут отвечать за обеспечение соблюдения правил субъектами на своей территории и за последствия их несоблюдения. Именно так договор, обязывающий государства, превращается в подотчётность для частных компаний, которые фактически создают передовой ИИ.
Однако ответственность государства зависит от атрибуции — доказательства, что нарушение произошло и произошло в юрисдикции конкретного государства. Здесь управление встречается с верификацией: те же инструменты мониторинга и отслеживания, что выявляют несоблюдение, позволяют установить авторство и, следовательно, ответственность. Меры по enforcement договора credible ровно настолько, насколько договор позволяет установить, кто и что сделал.
Что нужно режиму управления
Чёткие правила распределения
Закон, который чётко указывает, кто именно в цепочке разработки и развёртывания отвечает за какие последствия, чтобы ответственность нельзя было размыть до «ничьей вины». Новые подходы, такие как работа EU по ответственности за ИИ, — первые попытки в этом направлении.
Прослеживаемость по замыслу
Встроенные технические меры (ведение логов, идентификация модели, записи на уровне оборудования), позволяющие отследить вредоносные действия до источника и превратить атрибуцию из догадок в доказательства.
Стандарт заботы
Чётко прописанные обязательства для разработчиков передовых систем: их нарушение автоматически устанавливает вину и переносит бремя доказывания на тех, кто создаёт риск.
Международные возможности атрибуции
Совместные возможности верификации и криминалистического анализа, позволяющие устанавливать нарушения через границы и связывать их с ответственными государствами и участниками.
Правило, которое никто не обязан соблюдать, — не правило. Прежде чем вводить ограничения на опасный ИИ, нужно ответить на два вопроса: кто несёт ответственность и как это доказать. Эти ответы — скрытый фундамент любого credible договора.
Основа под договором
Ответственность и установление авторства редко упоминаются в громких призывах к управлению ASI, но именно они определяют, будет ли всё это работать. Договор с порогами и запретами, но без механизма возложения ответственности за нарушение — это лишь заявление о намерениях, а не подлежащее исполнению правило. Создание правовых рамок, распределяющих ответственность по всей цепочке поставок ИИ, и технических возможностей для отслеживания вреда до источника — неотъемлемая часть работы над договором, а не нечто отдельное. Эти направления позволяют продвигаться уже сейчас через национальное законодательство об ответственности и стандарты отслеживаемости, до и в поддержку любого международного соглашения. Видимая архитектура управления (красные линии, контролирующий орган) опирается именно на эту незаметную основу. Без неё исполнение остаётся обещанием, которое никто не сможет сдержать.