FATF была создана «Большой семёркой» в 1989 году как небольшой межправительственный орган по борьбе с отмыванием денег. У неё нет полномочий издавать обязательные законы. Тем не менее её рекомендации стали мировым стандартом, внедрённым более чем в 200 юрисдикциях, благодаря механизму, который неожиданно превращает мягкое право в жёсткое: взаимные оценки и «серый список». Понимание того, как не обязывающий орган добился почти всеобщего соблюдения, напрямую применимо к управлению ИИ без ожидания договора.
Группа разработки финансовых мер борьбы с отмыванием денег управляет глобальными финансами через стандарты, взаимные проверки и репутационное давление, и это удивительно мощная модель для ИИ.
Как на самом деле работает FATF
Он устанавливает стандарты
FATF выпускает рекомендации, определяющие, как должны выглядеть адекватные меры противодействия отмыванию денег и финансированию терроризма. Это не закон, но они подробны, конкретны и авторитетны.
Он проводит рецензирование
Участники и партнёрские органы оценивают соблюдение правил друг другом через жёсткие «взаимные оценки»: экспертные группы проверяют, действительно ли законы и правоприменение страны соответствуют стандарту, и публикуют отчёт.
Он публикует списки
Юрисдикции с серьёзными недостатками помещаются в «серый список» (усиленный мониторинг) или «чёрный список» (высокий риск). Эти списки публичны и имеют последствия.
Рынок обеспечивает принуждение
Серый список повышает стоимость и трения доступа страны к мировой финансовой системе, поскольку банки по всему миру применяют усиленный контроль. Наказание накладывает не FATF, а реакция рынков и институтов на его выводы.
Почему модель мощная
Гениальность FATF в том, что она достигает compliance, сравнимого с договорным, без договора. Она избегает медленного, подверженного вето процесса переговоров и ратификации обязательного права, но обеспечивает изменение поведения, потому что последствия плохой оценки реальны и экономические. Её можно быстро обновлять (стандарты можно пересматривать без повторной ратификации), и она использует взаимосвязанную глобальную систему, чтобы сделать несоблюдение дорогим. Для быстро меняющейся области, где формальный договор может занять годы, такое сочетание адаптируемых стандартов и рыночного принуждения — именно тот инструмент, который может работать на переходный период.
Как это можно применить к ИИ
Орган по типу FATF для ИИ будет устанавливать детальные стандарты ответственной разработки передовых систем (оценка безопасности, отчётность об инцидентах, меры защиты) и оценивать юрисдикции через взаимные проверки с публикацией результатов. Давление будет исходить не от формальных санкций, а от реакции других: государства со слабым надзором за ИИ могут столкнуться с ограничениями доступа к передовым чипам, совместным исследованиям или рынкам со стороны стран, контролирующих эти узкие места. Цепочка поставок вычислительных мощностей даёт режиму ИИ тот же рычаг, который финансовая система даёт FATF.
Пределы аналогии
- Ставки различаются. Отмывание денег — это хронический вред, с которым справляются постепенно; катастрофический риск от ИИ может оказаться одноразовым и необратимым событием. Модель, построенная на постепенном давлении репутации, может оказаться слишком медленной для порога, который нельзя пересечь дважды.
- Верификация сложнее. Финансовые потоки оставляют записи, которые оценщики могут проверить. Оценить, действительно ли разработка передового ИИ государством безопасна, — гораздо более сложная техническая проблема.
- Стимулы сильнее. Преимущество от мягких правил в сфере ИИ (решающее превосходство в возможностях) может перевесить репутационные издержки серого списка, в отличие от более сбалансированного расчёта в финансах.
FATF показывает, что можно сдвинуть почти все страны мира без договора, если за несоблюдение заставить платить реальную цену. Для ИИ таким рычагом могла бы стать цепочка поставок вычислительных мощностей. Вопрос в том, хватит ли репутационного давления для риска, в котором ошибиться можно только раз.
Мост, а не пункт назначения
Модель FATF лучше всего понимать как мост на период до появления обязательного договора. Она могла бы установить детальные стандарты безопасности ИИ, создать механизм взаимной оценки, формирующий привычку и инфраструктуру проверок, и оказывать реальное давление через узкое место вычислительных ресурсов — и всё это без тех лет, которые требует договор. Её слабость в том, что репутационное и рыночное давление может оказаться недостаточно быстрым и сильным перед лицом катастрофического, необратимого риска и игроков с огромными стимулами к нарушению. Поэтому она ценна как промежуточный инструмент и дополнение к более жёсткому управлению, а не как его замена. FATF доказывает, что мягкое право может «кусаться». Для ИИ задача — сделать его зубы достаточно острыми для таких ставок и продолжать движение к обязательному соглашению, которого одного репутационного давления гарантировать не может.