국제 세계 거버넌스가 불가능하다고 주장할 때 가장 흔히 드는 구조적 근거 중 하나는 유엔 안전보장이사회입니다. 중국과 러시아가 인공지능 개발에 대한 구속력 있는 제한에 거부권을 행사할 것이라는 주장입니다. 유엔은 행동할 수 없습니다. 따라서 구속력 있는 세계 거버넌스는 불가능하다는 것입니다.
ASI 거버넌스 집행을 안전보장이사회를 통해 돌리는 어떤 체계든, 어느 한 나라에 완전한 거부권을 부여한다. 이 제약을 아는 것은 효과적인 ASI 거버넌스 구조가 어떤 모습이어야 하고, 어떤 모습일 수 없는지를 결정한다.
이 주장은 국제 거버넌스가 실제로 작동하는 방식을 오해한다. 안전보장이사회의 거부권은 실재하고 중요하지만, 대부분의 사람들이 생각하는 것보다 훨씬 좁은 결정 집합에만 적용된다. 거부권이 무엇을 포괄하고 무엇을 포괄하지 않는지를 정확히 이해하는 것이, 중국과 러시아가 자발적으로 AI 개발을 제한하지 않을 세계에서 실제로 기능할 수 있는 ASI 거버넌스 구조를 설계하는 전제 조건이다.
안전보장이사회 거부권이 실제로 다루는 것
UN 안전보장이사회는 UN 헌장 제7장에 따라 국제 평화와 안보가 위협받는다고 판단할 때 집행 조치를 승인할 권한이 있습니다. 이러한 조치에는 경제 제재, 무기 금수, 군사력 사용 승인이 포함됩니다. 5개 상임이사국인 미국, 영국, 프랑스, 중국, 러시아는 각각 이 제7장 결의에 거부권을 행사할 수 있습니다.
거부권이 적용되지 않는 것은 조약의 협상과 비준입니다. 국가는 별도의 절차를 통해 조약을 협상합니다. 양자 또는 다자 조약에 서명합니다. 국내 입법 절차를 통해 조약을 비준합니다. 안전보장이사회는 이 과정에서 아무런 역할을 하지 않습니다. 중국은 화학무기금지협약을 거부할 수 없습니다. 러시아는 핵확산금지조약을 거부할 수 없습니다. 어느 나라도 다른 국가들이 인공지능 안전 조약을 협상하고 비준하는 것을 막을 수 없습니다.
거부권은 조약 단계가 아니라 집행 단계에서 중요하다. 한 국가가 조약을 위반하고 피해 당사국들이 안전보장이사회에 집행 조치를 승인해 달라고 요청할 때, P5 거부권이 그 승인을 막을 수 있다. 이는 조약 설계에 실질적인 문제다. 안전보장이사회 집행에 의존하는 거버넌스 구조는 집행이 필요할 바로 그 순간 P5 방해에 취약해진다.
해결책은 안전보장이사회 집행에 의존하지 않는 것입니다.
성공적인 조약이 거부권을 우회하는 방법
화학무기금지협약(1993)이 가장 유익한 선례입니다. 헤이그에 본부를 둔 화학무기금지기구는 회원국의 화학 시설을 정기적으로 사찰하고 위반 혐의를 조사합니다. 그 통치 기구인 당사국 회의는 위반 책임을 규명하고 위반국의 권리·특권 정지를 포함한 결과 조치를 결정할 수 있습니다. 이 과정 중 어느 것도 안전보장이사회 승인을 필요로 하지 않습니다.
2013년, 그리고 2017년·2018년에 시리아가 화학무기를 사용했을 때 G7은 조사하고 책임을 규명한 뒤 시리아의 기구 내 권리를 정지시켰습니다. 러시아는 시리아의 화학무기 사용에 관한 안전보장이사회 결의에 반복적으로 거부권을 행사했습니다. 그러나 러시아의 거부권은 G7의 사실 조사 결과나 당사국회의가 자체 절차로 부과한 제재를 되돌릴 수 없었습니다. G7의 안전보장이사회로부터의 운영 독립성이 바로 P5 방해 속에서도 기능을 유지하게 만든 요인이었습니다.
OPCW의 창설 조약은 검증·귀속·제재 권한을 안전보장이사회가 아닌 기구 자체의 통치 기구 안에 의도적으로 배치했다. 러시아가 시리아의 화학무기 사용에 대한 안전보장이사회의 조치를 막았을 때에도 OPCW의 조사와 책임 추궁 절차는 자체 절차를 통해 계속 진행됐다. 이 설계 선택 덕분에 화학무기금지협약 체제는 안전보장이사회 의존 설계였다면 붕괴했을 정치적 상황에서도 작동할 수 있었다.
국제원자력기구도 유사한 이중 구조를 사용한다. IAEA 이사회는 국가가 안전조치 의무를 위반했다고 판단하고 그 판단을 안전보장이사회에 보고할 수 있다. 그러나 이사회의 판단은 안전보장이사회가 어떻게 하든 상관없이 성립한다. 2005년 이란이 위반으로 판단되었을 때 IAEA 이사회의 결의는 안전보장이사회가 조치를 취하기 전에도 법적·정치적으로 중요한 사실이었다. IAEA는 UN 총회에도 위반을 보고하며, 총회는 집행을 승인할 수는 없지만 자체 결의를 통해 정치적 압력을 증폭할 수 있다.
총회 대안
UN 총회는 193개 회원국을 두고 있으며, 그 결의안은 거부권을 행사할 수 없다. 총회 결의안은 안전보장이사회 결의안처럼 법적 구속력이 없지만, 그렇다고 무의미하지도 않다. 국제사회의 합의 입장을 대표하며, 조약 협상, 국내법, 관습 국제법상 국가 의무에 관한 사법적 결정에 규범적 틀을 제공한다.
총회는 이미 ASI 거버넌스에 관여하기 시작했다. 2024년 3월 총회는 지속 가능한 개발을 위한 안전하고 보안이 확보되며 신뢰할 수 있는 인공지능의 기회를 포착하는 결의안을 만장일치로 채택했다. 이는 구속력 있는 거버넌스 문서는 아니었으나, 책임 있는 AI 개발의 성격에 관해 국제적으로 합의된 언어를 처음으로 확립한 총회 결의안이었다. 이 결의안들의 언어는 조약 협상이 시작되는 기준선이 된다.
유엔 평화단결 절차(1950)는 안전보장이사회가 거부권으로 교착 상태에 빠질 때 총회가 긴급 특별 회의를 소집하여 국제 평화와 안전 문제를 심의할 수 있음을 확립했다. 이 절차는 여러 차례 발동되었으며, 가장 최근에는 2022년 러시아의 우크라이나 침공과 관련해 발동되었다. 이론적으로 안전보장이사회 교착이 AI 관련 재앙에 대한 대응을 막을 경우, 유엔 평화단결 절차는 총회로 심의를 옮길 수 있다. 이는 구속력 있는 집행 권한을 만들지는 않겠지만, 실질적인 무게를 지닌 정치적·규범적 대응을 만들어낼 것이다.
거부권 문제를 피하는 조약 구조는 무엇인가
유엔 안전보장이사회 거부권 장애가 있는 세계에서 작동하도록 설계된 미국 거버넌스 조약은 기존의 가장 효과적인 군비 통제 및 군축 체제와 여러 특징을 공유할 것이다.
검증 권한은 안전보장이사회가 아니라 조약 기구에 있어야 한다. 조약은 독립 기구를 설립할 것이며, OPCW나 IAEA와 유사하게 자체 이사회, 사찰단, 위반 판정 및 결과 부과를 위한 의사결정 절차를 갖추게 된다. 조약 기구가 활용할 수 있는 결과에는 회원국 권리 정지, 공개 귀속 보고서를 통한 지명 및 비난, 기술 협력 프로그램 배제가 포함된다. 이 결과들은 안전보장이사회 승인을 필요로 하지 않는다.
조약 기구는 조사 결과를 안전보장이사회에 보고하지만, 그 보고서는 독립적인 의미를 갖는다. ASI 거버넌스 조약 기구가 한 국가가 의무를 위반했다고 공식적으로 판단하면, 안전보장이사회가 이후 집행을 승인하든 하지 않든 중요한 정치적·법적 사실이 된다. 이것이 IAEA 모델이다. 이사회가 안전보장이사회에 회부하는 것은 단순한 절차가 아니라, 이사회가 행동하든 하지 않든 독립적으로 작동하는 정치적 압력을 발생시킨다.
조약을 비준하는 국가는 독립적 분쟁 해결 메커니즘의 관할권을 수용합니다. 무역법이 유용한 모델을 제공합니다. 세계무역기구의 분쟁 해결 시스템은 보복 무역 조치를 승인할 수 있으며 안전보장이사회와 독립적으로 운영됩니다. 세계무역기구 회원국은 회원 자격 조건으로 이 관할권을 수용합니다. ASI 거버넌스 조약도 유사한 조항을 포함하여 안전보장이사회 거부권이 미치지 않는 무역 제재를 통한 집행 메커니즘을 만들 수 있습니다.
"거부권 문제는 실재합니다. 그러나 사람들이 생각하는 것보다 더 좁은 거버넌스 영역에 적용됩니다. 가장 효과적인 군비 통제 체제는 안전보장이사회 승인과 독립적으로 작동하는 검증, 귀속, 결과 메커니즘을 구축했습니다. ASI 거버넌스도 동일한 구조 논리를 따를 수 있습니다."
더 어려운 문제: 비참가국 통치
안전보장이사회 거부권을 우회하는 것은 조약 당사국이 의무를 위반할 때 책임을 묻는 문제를 해결합니다. 그러나 애초에 조약에 가입하지 않는 국가를 규율하는 더 어려운 문제는 해결하지 못합니다.
중국이나 러시아가 ASI 거버넌스 조약 비준을 거부한다면, 그들의 AI 프로그램은 조약 의무의 적용을 전혀 받지 않습니다. 비당사국에는 사찰 체제, 조약 기구, 분쟁 해결 메커니즘이 전혀 적용되지 않습니다. 안보리 거부권 문제는 해당 국가들이 조약 체제 밖에 있다는 점에서 이 경우와 무관해집니다.
이것이 안보리 거부권 문제와 때때로 혼동되는 AI 거버넌스의 진정한 구조적 과제입니다. 다른 해결책 세트가 필요합니다. 시장 접근 조건(AI 수출 또는 수입의 조건으로 안전 기준 준수 요구), 불참을 비용이 들게 만드는 연합 구축, 그리고 체제 밖에 남는 정치적 비용을 높이는 총회 및 기타 다자 포럼을 통한 규범 설정 과정입니다. 이는 지뢰 금지 조약과 국제형사재판소를 미국, 중국, 러시아의 참여 없이도 의미 있는 도구로 만든 전략입니다.
안전보장이사회의 거부권은 구속력 있는 국제 ASI 거버넌스가 어떤 형태를 취할 수 있는지에 대한 실질적인 제약이다. 그러나 구속력 있는 국제 ASI 거버넌스 자체가 가능한지 여부에 대한 제약은 아니다. 대량살상무기를 성공적으로 통제해 온 제도들은 신중한 조약 설계, 독립 검증 기구, 안전보장이사회 승인에 의존하지 않는 집행 메커니즘을 통해 이 제약을 우회해 왔다. ASI 거버넌스 설계자들은 그러한 설계를 연구해야 하며, 거부권을 달성 가능한 목표의 영구적 상한선으로 받아들여서는 안 된다.