2023년 11월 블레츨리 AI 안전 정상회의, 2024년 5월 서울 AI 안전 정상회의, 2025년 2월 파리 AI 행동 정상회의는 새로운 패턴을 보여준다. 정부와 AI 기업이 참석해 선언과 약속을 내놓는 정기적인 고위급 국제 회의가 반복되는 것이다. 이는 기후변화 당사국총회 과정과 구조적으로 비슷하며, 그 비교는 옹호자와 비판자 모두 제대로 짚지 못하는 점에서 교훈적이다.
그 패턴이 구속력 있는 거버넌스로 이어질지는 기후 모델이 일관되게 미뤄 온 집행 선택에 전적으로 달려 있습니다.
COP 과정을 통한 기후 거버넌스는 비판자들이 말하는 실패도 아니고, 설계자들이 의도한 성공도 아닙니다. 그것이 무엇을 이루었고 이루지 못했으며 그 이유를 이해하는 것이, 초지능에 대해 유사한 과정이 작동할 수 있는지 결정하는 출발점입니다.
COP 구조가 실제로 어떻게 작동하는가
당사국 총회는 조약의 통치 기구입니다. 조약을 비준한 모든 국가로 구성되며 이행을 검토하고 진전을 평가하며 새로운 약속을 협상하기 위해 정기적으로 회합합니다. 기후 당사국 총회는 1992년에 채택된 기후변화 기본협약에서 기원하며 주기적 검토와 점진적 약속의 기본 구조를 확립했습니다. 교토의정서(1997)와 파리협정(2015)은 모두 당사국 총회 과정의 산물입니다.
파리협정의 핵심 혁신은 교토의정서가 사용한 하향식 국제 배출 목표를, 상당한 미준수와 탈퇴를 낳았던 방식을 버리고 국가가 스스로 정하는 기여로 대체한 것이다. 각국은 자체 배출 감축 목표를 설정해 UNFCCC 사무국에 제출하고, 국제적으로 부과된 기준이 아닌 자국이 밝힌 야심에 따라 평가받는다. 파리 COP는 산업화 이전 대비 1.5도 상승으로 제한한다는 전 지구적 온도 목표에 대한 총체적 진전을 검토하며, 각 검토 주기는 국가 야심을 높이는 것을 목표로 한다.
이 설계의 구조적 매력은 실현 가능하다는 점입니다. 각국이 자체 목표를 설정하고, 자체 야심에 따라 평가하며, 처벌 대신 투명성 메커니즘을 사용하는 과정은 광범위한 참여를 확보할 수 있습니다. 세계 주요 경제국 모두가 파리협정 당사국입니다. 비준수에 대한 명확한 결과를 수반하는 구속력 있는 국가 목표를 설정한 교토의정서는 미국을 잃었고 결국 캐나다, 일본, 러시아도 잃었습니다.
이 설계의 구조적 문제는 참여와 실효성이 같지 않다는 점입니다. 파리협정 아래 제출된 국가별 기여는 종합적으로 IPCC가 1.5도 목표 달성에 필요하다고 평가한 수준에 크게 못 미쳤습니다. 준수 메커니즘은 투명성과 정치적 압력일 뿐 공식적인 처벌이 아닙니다. 자체 목표를 달성하지 못한 국가는 다음 검토 주기에서 공개적인 비판을 받을 뿐 법적 결과는 없습니다.
기후 모델의 세 가지 구조적 약점
기후 COP의 효과를 제한한 세 가지 특징은 동일한 설계를 채택한 ASI 거버넌스 COP에도 그대로 이전될 것입니다.
합의 요건. 대부분의 COP 결정은 모든 당사국의 동의를 요구하며, 단일 국가에 실질적인 거부권을 부여한다. 이는 가장 저항하는 당사국이 받아들일 야심 수준으로 협상된 언어를 만들어내며, 연속된 기후 COP에서는 화석연료를 "단계적 폐지"가 아닌 "단계적 축소", 순 제로를 향한 "경로"가 아닌 구속력 있는 일정, 과학적 발견을 "공식 채택"이 아닌 "주목"하는 식의 언어가 나왔다. 합의 기반 국제 협상은 참석 당사국들 사이의 정치적 실현 가능성 최저 공통분모 수준에서 결과를 체계적으로 생산한다.
약속의 자율 결정. 국가 결정 기여 모델은 교토가 만든 참여 문제를 해결했지만 야심 문제를 만들었다. 국가들이 구속력 있는 하한선 없이 스스로 목표를 설정할 때, 그들이 설정한 목표는 기초 목표의 기술적 요구 사항만큼이나 국내 정치적 제약을 반영한다. 강력한 화석 연료 산업을 가진 국가들은 산업이 달성할 수 있는 목표를 설정한다. 단기 선거를 앞둔 국가들은 단기적으로 정치적으로 방어 가능한 목표를 설정한다. 총체적 결과는 명시된 야심과 필요한 총체적 감축 사이의 격차이며, COP 검토는 이를 문서화하지만 더 높은 야심을 강제할 메커니즘 없이 이를 해소할 수 없다.
파리협정은 교토의정서의 참여 문제를 각국이 스스로 목표를 정할 수 있게 함으로써 해결했다. 교토의정서의 구속력 있는 국가별 목표 때문에 미국, 캐나다, 일본, 러시아가 탈퇴했다. 파리협정은 거의 전 세계가 참여하게 만들었다. 그러나 국가별로 정하고 구속력이 없는 약속으로 거의 전 세계가 참여한 결과, 거버넌스가 가장 필요한 지점에서 거버넌스 공백이 생겼다. 즉 명시된 야심과 필요한 행동 사이의 격차가 가장 클 때 공백이 생겼다. ASI 거버넌스도 같은 딜레마에 직면해 있다.
집행 공백. 파리 협정의 준수 메커니즘(제15조에 따라 설립)은 명시적으로 비적대적·비처벌적이다. 이는 투명성을 통해 작동한다. 국가들은 진척 상황을 보고하고, COP가 보고서를 검토하며, 공개 평가의 정치적·평판적 압력이 미달에 대한 주요 결과다. 기후의 경우 수십 년간 기록된 미달과 제한된 대응이 이어졌다. AI의 경우, 단 1년의 비감시 최전선 개발이 어떤 거버넌스 대응보다 앞서는 역량을 만들어낼 수 있으므로, 투명성만을 통한 집행 메커니즘은 구조적으로 불충분하다.
COP 구조가 작동하는 곳
기후 COP의 약점은 잘 알려져 있습니다. 강점은 덜 자주 언급되지만 ASI 거버넌스 설계에 실제로 유용합니다.
정기적인 소집 자체가 거버넌스 메커니즘이다. 연례 COP 회의는 매년 근본적인 거버넌스 문제에 주의를 집중시키는 정치 일정을 만든다. 시민사회, 언론인, 정책 입안자들은 공식 집행이 없더라도 COP 회의를 책임 추궁의 순간으로 여긴다. 매년 COP 검토에서 전 세계 언론에 기록된 가시적 비준수에 대한 정치적 비용은 일부 정부가 국가 공약을 강화하도록 동기를 부여했다. 정기적인 소집은 또한 반복되는 글로벌 모임 없이는 조직하기 어려운 부수 협정, 기술 작업반, 양자 협상을 위한 장을 제공한다.
점진적 약속 구조는 장기간에 걸쳐 작동할 수 있다. 파리협정에 내장된 래칫 메커니즘은 각 후속 국가 결정 기여가 이전보다 덜 야심차지 않아야 한다는 것을 요구하며, 구속력 있는 하한선 없이도 방향성 개선에 대한 법적 의무를 만든다. 수십 년에 걸쳐 이는 정치적 기준선인 '현재 정책'이 점진적으로 더 야심차게 됨에 따라 상당한 총체적 움직임을 만들어낼 수 있다. 정책 실패의 결과가 수십 년에 걸쳐 축적되는 기후와 같은 거버넌스 문제의 경우, 이 느린 래칫은 충분할 수 있다. 재앙적 결과가 수십 년이 아닌 수년 단위로 도래할 수 있는 ASI 거버넌스의 경우, 이는 너무 느리다.
COP 과정은 국내 기후 정치가 전 세계적으로 작동하는 규범적 틀을 확립하는 데 가장 효과적이었습니다. 파리 협정의 1.5도 목표는 이제 거의 모든 국가에서 국내 기후 정책을 공개적으로 평가하는 기준점이 되었습니다. 국내 정치가 스스로를 정당화해야 하는 공유 기준을 만드는 이 규범적 기능은 AI 안전 정상회의 과정이 달성하기 시작했고 계속해야 하는 것입니다.
더 강력한 ASI 거버넌스 COP에 필요한 것
기후 COP의 집행 공백을 피하도록 설계된 COP 구조를 본뜬 미국 거버넌스 절차는 파리 협정이 의도적으로 생략한 세 가지 요소를 필요로 한다.
의무적 최소 이행 사항. 구속력 없는 국가별 자율 공약 대신, ASI 거버넌스 조약은 모든 당사국이 반드시 준수해야 할 의무적 최소 의무를 설정하고, 그 이상의 조치는 국가별 자율 공약으로 보완하는 구조를 취할 수 있다. 의무적 최소 의무는 최고 위험 활동을 대상으로 하며, 정의된 컴퓨트 임계값을 초과하는 최전선 모델 학습, 특정 고위험 영역에서의 인공지능 시스템 배포, 배포 전 의무적 안전 평가를 포함한다. 국가는 더 나아갈 수는 있으나, 그보다 덜할 수는 없다.
독립 검증 기구. 기후 COP는 자국이 보고한 국가 인벤토리에 의존하며, UNFCCC 산하 기술 전문가팀이 독립 검토를 수행합니다. OPCW 사찰단과 유사하게 관련 정보에 직접 접근할 수 있는 ASI 거버넌스 검증 기구는 자가 보고보다 신뢰할 수 있는 준수 평가를 산출할 것입니다. 이것이 CWC와 생물무기협약의 효과 기록 차이를 가장 명확히 설명하는 단일 구조적 차이입니다.
실질적인 결과. 미준수에 대한 결과가 투명성을 넘어설 경우 조약의 시장 접근 혜택을 안전 의무 준수와 연계해야 합니다. 의무 최소 요건을 충족하지 못한 국가는 조약 회원국이 제공하는 우대 시장 접근과 기술 공유 협정을 상실합니다. 이는 안전보장이사회 승인을 필요로 하지 않으며 인공지능 개발을 촉진하는 경쟁 이해관계에 직접적으로 관련된 결과 구조를 만듭니다.
"기후 COP는 정기적인 국제 모임이 거버넌스 문제에 규범적 틀과 정치적 일정을 만들 수 있음을 보여줍니다. 그러나 기본 약속에 구속력 있는 하한선이 없고 집행 메커니즘에 공식적 결과가 없다면 이것만으로는 충분하지 않다는 점도 드러냅니다. ASI 거버넌스는 COP 구조를 활용하되 이러한 설계 결함에서 배워야 합니다."
블레츨리에서 시작된 인공지능 안전 정상회의 과정은 포기할 것이 아니라 발전시켜야 합니다. 연례 또는 격년 정상회의는 거버넌스가 요구하는 정기적 국제적 관심을 정확히 만듭니다. 문제는 정상회의가 자발적 공약 행사 장소로 남을지, 아니면 구속력 있는 의무와 기능적 검증·집행 체계를 갖춘 조약의 통치 기구가 될지입니다. 그 질문은 정상회의 자체가 아니라 정부들이 그 사이에 무엇을 협상하기로 결정하느냐에 따라 답이 나옵니다.