그레이 리스트에 의한 통치:
FATF의 인공지능 모델.

FATF는 1989년 G7이 자금 세탁 방지를 위한 소규모 정부 간 기구로 만들었습니다. 구속력 있는 법을 만들 권한은 없습니다. 그러나 상호 평가와 회색 목록이라는 메커니즘으로 인해 권고안은 200개 이상의 관할 구역에서 이행되는 세계 표준이 되었습니다. 구속력이 없는 기구가 거의 보편적인 준수를 달성한 방식을 이해하는 것은 조약을 기다리지 않고 AI를 규제하는 데 직접적으로 관련됩니다.

국제자금세탁방지기구는 기준, 상호 심사, 평판 압력을 통해 세계 금융을 관리하며, 이는 인공지능에 surprisingly 강력한 모델이다.

FATF가 실제로 작동하는 방식

모델이 강력한 이유

FATF의 장점은 조약 없이도 조약 수준의 준수를 이끌어낸다는 점이다. 구속력 있는 법을 협상하고 비준하는 느리고 거부권이 많은 과정을 피하면서도, 낮은 평가가 가져오는 결과가 실제적이고 경제적이기 때문에 행동 변화를 확보한다. 신속하게 기준을 갱신할 수 있으며(비준 없이도 기준 개정이 가능), 상호 연결된 세계 체제를 활용해 미준수 비용을 높인다. 공식 조약이 수년이 걸릴 수 있는 빠르게 움직이는 분야에서, 적응 가능한 기준과 시장 주도 집행의 조합은 과도기적으로 활용할 수 있는 정확한 도구다.

인공지능에 어떻게 적용될 수 있는가

AI를 위한 FATF 스타일 기구는 책임 있는 최전선 개발(안전 평가, 사고 보고, 보안 통제)에 대한 상세 기준을 설정하고 동료 검토를 통해 각국의 이행을 평가한 결과를 발표할 것입니다. 압력은 공식 제재가 아니라 다른 국가들의 반응에서 나옵니다. AI 감독이 약한 국가는 첨단 칩 접근, 협력 연구, 시장 접근에 제한을 받을 수 있으며, 이는 이러한 병목을 통제하는 국가들이 적용합니다. 컴퓨트 공급망은 AI 체제에 금융 시스템이 FATF에 제공하는 것과 같은 종류의 지렛대를 제공합니다.

유추의 한계

• 이해관계가 다르다. 자금 세탁은 시간이 지나며 관리하는 만성적 피해입니다. 인공지능 재앙 위험은 한 번으로 끝나고 되돌릴 수 없는 사건일 수 있습니다. 점진적인 평판 압력에 기반한 모델은 두 번 다시 넘을 수 없는 문턱에는 너무 느릴 수 있습니다.
• 검증이 더 어렵습니다. 금융 흐름은 평가자가 감사할 수 있는 기록을 남깁니다. 한 국가의 최전선 AI 개발이 진정으로 안전한지 평가하는 것은 훨씬 더 어려운 기술적 문제입니다.
• 인센티브가 더 강력하다. 느슨한 인공지능 규칙에서 얻는 이점(결정적 능력 우위)은 금융에서보다 균형 잡힌 계산과 달리, 회색 명단에 오르는 평판 비용을 압도할 수 있습니다.

FATF는 거의 모든 국가를 조약 없이 움직일 수 있음을 보여줍니다. 단, 미준수가 실질적인 비용을 초래하게 만든다면 말입니다. AI의 경우 컴퓨트 공급망이 그 비용을 제공할 수 있습니다. 문제는 한 번 잘못하면 끝나는 위험에 대해 평판 압력이 충분히 빠른가입니다.

목적지가 아닌 다리

FATF 모델은 구속력 있는 조약이 존재하기 전 기간을 위한 가교로 가장 잘 이해됩니다. 상세한 AI 안전 기준을 수립하고, 평가 습관과 인프라를 구축하는 동료 검토 메커니즘을 만들며, 컴퓨트 병목을 통해 실질적인 압력을 가할 수 있습니다. 모두 조약이 요구하는 수년 없이 가능합니다. 약점은 평판과 시장 압력이, 막대한 탈퇴 유인을 가진 행위자에 대한 재앙적이고 비가역적인 위험에 대해 충분히 빠르거나 강력하지 않을 수 있다는 점입니다. 따라서 이는 가치 있는 중간 수단이자 더 강력한 거버넌스의 보완재이지 대체재가 아닙니다. FATF는 연성법도 물릴 수 있음을 증명합니다. AI의 경우 과제는 지분에 맞게 이를 날카롭게 만드는 것이며, 평판 압력만으로는 보장할 수 없는 구속력 있는 협정을 계속 추구하는 것입니다.