글로벌 사우스가
국제 사회의 요구
ASI 거버넌스.

2023년 블레츨리 AI 안전 정상회의가 frontier AI 위험에 대한 공동 선언으로 마무리되었을 때 28개국이 서명했다. 서명국에는 인도, 브라질, 인도네시아, 멕시코, 사우디아라비아, 나이지리아, 그리고 아프리카 대륙 대부분이 빠져 있었다. 이 국가들은 세계 인구, 경제 생산, 국제 기구에서의 정치적 비중에서 상당한 비율을 차지한다. 서방 국가와 중국의 참여를 확보하면서 이 집단을 배제하는 ASI 거버넌스 체계는 불완전한 권한과 시간이 지날수록 커질 정당성 문제를 안고 있다.

설계 중인 체계, 제안되는 기구, 초안 작성 중인 조약 문구는 동시에 선도적 AI 개발국이자 거버넌스 옹호국인 나라들의 우선순위를 반영합니다. 나머지 세계는 대체로 나중에 고려됩니다. 역사적으로 이런 접근은 지속되지 않는 체계를 낳았습니다.

이것은 새로운 문제가 아닙니다. 모든 주요 기술 거버넌스 조약이 이 문제에 직면했으며, 진정으로 폭넓은 참여를 달성한 조약들은 이 틀을 주로 설계하지 않은 국가들의 우려를 명시적으로 수용함으로써 해결했습니다.

개발도상국들이 기술 거버넌스에 대해 일관되게 말해온 내용

개발도상국이 핵에너지, 오존층 파괴, 지적재산권 등 여러 영역에서 국제 기술 거버넌스 틀에 대해 제기한 우려는 일관되었다. 그 우려는 비합리적이지 않으며, 모든 버전에 동의할 필요 없이 그 정치적 중요성을 인식할 수 있다.

형평성 문제는 기술 거버넌스 체계가 다루는 문제는 주로 부유하고 기술적으로 선진화된 국가들이 일으킨다는 점입니다. 이 체계가 부과하는 제한은 모든 국가에 적용됩니다. 그 결과 개발도상국은 자신이 일으키지 않은 문제에 대한 비용을 부담하고, 부유한 국가들이 제한 이전에 이미 행사했던 개발 옵션을 포기하게 됩니다. NPT는 1968년 당시의 핵 보유 현황을 동결시켰으며, 비핵 국가는 핵 보유국이 이미 보유한 것을 개발하지 않기로 동의했습니다. 몬트리올 의정서는 모든 국가가 염화불화탄소를 단계적으로 폐지하도록 요구했으나, 부유한 국가들은 이미 염화불화탄소 의존형 냉장 및 에어컨으로 경제를 구축한 상태였습니다. ASI 거버넌스 체계는 같은 역학을 초래할 위험이 있습니다. 거버넌스 제약 없이 개발한 인공지능 응용으로 경제를 구축한 부유한 국가들이, 개발도상국에 그 응용에 적용되었을 제한을 받아들이라고 요구하는 것입니다.

접근성 우려가 함께 따른다. 개발도상국은 기술 거버넌스 협상에서 거버넌스 대상 기술의 유익한 응용에 대한 보장된 접근을 요구해왔다. 비핵 NPT 당사국은 평화적 핵 기술에 대한 보장된 접근을 받았다. 몬트리올 의정서 당사국은 CFC 대체재를 보조금 가격으로 받았다. ASI 거버넌스 참여를 고려하는 개발도상국은 회원 자격이 어떤 긍정적 혜택을 제공하는지 물을 것이다.

대표성 문제는 구조적이다. 국제 기구는 이를 소집한 국가들이 설계한다. 그들이 만드는 거버넌스 체계는 그 국가들의 우선순위와 위협 모델을 반영한다. 개발도상국은 자신들의 우선순위(기술 접근·개발 경로·국가 규제 주권)가 자신들이 참여하지 않고 설계된 체계에서 충분히 반영되지 않는다고 일관되게 주장해 왔다.

몬트리올 의정서가 형평성 문제를 어떻게 해결했는가

개발도상국 참여에 대한 몬트리올 의정서의 접근 방식은 ASI 거버넌스에 가장 직접적인 선례다. 관련 기술이 진정으로 이중 용도였고 전환 비용이 문제에 가장 적게 기여한 국가들에 집중되었기 때문이다.

의정서는 제5조를 통해 차등 의무를 확립했으며, 오존층 파괴 물질을 1인당 기준치 미만으로 소비하는 개발도상국에 선진국이 요구받는 단계적 폐지 일정에서 10년 유예를 주었다. 이는 기존 대기 중 CFC 축적에 거의 기여하지 않은 국가들이 상당히 기여한 국가들과 동일한 즉각적 비용을 부담해서는 안 된다는 점을 인정한 것이다.

다자간 기금은 1990년에 설립되어 제5조 국가들이 의정서를 준수하는 데 드는 추가 비용을 충당할 재원을 제공했다. 또한 기술 이전을 지원해 개발도상국이 CFC 대안을 확보하고 이를 활용할 기술 역량을 갖추도록 했다. 설립 이후 기금은 40억 달러 이상을 지출했다. 몬트리올 의정서가 거의 전 세계적인 비준을 얻은 이유도 바로 이 기금 때문이다. 그렇지 않았다면 준수 비용이 감당하기 어렵다고 주장했을 국가들이 준수에 필요한 자원을 받았기 때문이다.

그 결과 197개 당사국, 모든 UN 회원국이 비준한 의정서가 만들어졌다. 처음에 반대했던 국가들도 조정 메커니즘이 마련되고, 오존층 파괴에 대한 과학적 합의가 무기한 불참을 정치적으로 불가능하게 만들자 참여했다.

NPT의 대타협과 그 관련성

핵확산금지조약의 참여 구조는 다른 모델을 제시한다. NPT의 거래는 명확하고 상호적이었다. 비핵 보유국은 무기를 개발하지 않기로 약속하는 대신, IAEA의 안전 조치 아래 평화적 핵 기술에 대한 보장된 접근권, 핵 보유국의 안보 보장, 그리고 핵 보유국의 군축 추구 약속을 받았다. 비핵 보유국은 능력을 포기하고 그 대가로 긍정적인 혜택을 얻었으며, 단순히 위협받지 않겠다는 약속만 받은 것이 아니다.

이 상호적 구조는 조약의 폭넓은 참여에 필수적이었다. 핵무기를 기술적으로 개발할 수 있었던 국가(서독·일본·스웨덴·이집트·브라질)는 평화적 이용 조항이 제공하는 핵에너지 기술 접근 때문에 독자 개발하거나 포기하는 대신 개발하지 않기로 동의했다. 거버넌스 체계는 동시에 기술 공유 장치이기도 했다.

이 모델에 기반한 거버넌스 프레임워크는 개발도상국에 인공지능 기술, 훈련 자원, 개발 지원에 대한 보장된 접근을 제공하며 그 대가로 그들이 개발하는 모든 최첨단 인공지능 프로그램에 대한 안전 모니터링 의무를 수용하게 합니다. 모니터링 의무를 수용한 국가는 조약 당사국이 다른 당사국에 우선적으로 제공하는 인공지능 시스템과 인프라에 대한 접근을 포함한 공유 거버넌스 체제의 혜택을 받을 자격이 있습니다.

인도와 참여 문제

인도는 세계에서 가장 인구가 많고, 상당하고 성장하는 기술 부문을 보유하며, 인도 공과대학을 포함한 기관에서 상당한 AI 연구 역량을 갖추고 있으며, 2023년 블레츨리 선언에 서명하지 않았고, 주요 거버넌스 프레임워크에 현재 참여하지 않는 ASI 거버넌스 참여에 가장 중요한 국가입니다. 인도는 주요 강대국이 설계하고 위한 것으로 인식하는 국제 거버넌스 프레임워크에 불참하는 일관된 비동맹 역사를 갖고 있으며, 이는 핵확산금지조약 불참으로 거슬러 올라갑니다.

ASI 거버넌스에 대한 인도의 입장은 여러 우려를 반영한다. 인도는 다양한 국제 포럼에서 ASI 거버넌스가 추측적 미래 위험이 아니라 현재 피해에 집중해야 한다고 주장해 왔으며, 이는 최첨단 AI 안전 옹호를 이끄는 위험 평가와 다르다. 인도는 자국 기술 개발을 제약할 수 있는 ASI 거버넌스 틀에 대한 우려를 제기했다. 그리고 구속력 있는 국제 틀을 국내에서 정치적으로 어렵게 만드는 국가 규제 주권에 대한 원칙적 헌신을 갖고 있다.

인도를 실질적으로 참여시키려면 이런 우려를 직접 다뤄야 하며, 인도가 관여하지 않은 채로 설계된 체계에 단순히 비준을 요청해서는 안 된다. 즉 초기 단계부터 인도 대표를 설계 과정에 포함하고, 현재 피해와 미래 위험에 대한 인도의 다른 우선순위를 진지하게 받아들이며, 어떤 거버넌스 체계든 인도에 실질적 이익(기술 접근, 역량 강화, 거버넌스 기구 내 대표성)을 제공해 참여가 외부에 머무는 것보다 나은 선택이 되도록 해야 한다.

참여를 포함하는 ASI 거버넌스 프레임워크가 제공할 것

몬트리올 의정서와 NPT 모델을 바탕으로, 광범위한 참여를 목표로 설계된 최전선 ASI 거버넌스 체계에는 현재 제안들이 대부분 빠뜨린 여러 요소가 포함될 것입니다.

차별화된 준수 일정. 초기 단계의 AI 개발 프로그램을 가진 국가들은 모니터링 의무가 적용되기까지 더 긴 기간을 받게 되며, 이는 그들이 조약이 해결하려는 최전선 AI 위험의 원천이 아니라는 점을 인정하는 것입니다.

기술 접근 기금. 몬트리올 의정서의 다자 기금을 본뜬 전용 재정 메커니즘으로, 개발도상국에 AI 시스템, 클라우드 컴퓨트, AI 개발에 참여할 기술 역량을 제공한다. 접근은 조약 가입을 조건으로 하며, 가입에 대한 긍정적 유인을 만든다.

거버넌스 기관에서의 의미 있는 대표성. 글로벌 AI 감시 기구의 거버넌스 구조는 개발도상국에 인구와 경제적 비중에 비례하는 투표권과 지도부 직위를 부여해야 하며, 현재 AI 개발 능력만으로 결정해서는 안 됩니다. 주요 AI 개발국 5~6개국이 이사회를 장악한 기구는 세계 나머지 국가로부터 정당하다고 인식되지 않을 것입니다.

"부유한 국가들이 스스로 설계한 뒤 나머지 세계에 그 조건으로 참여하라고 요구하는 거버넌스 체제는 국제관계 역사에서 제국주의라는 이름을 갖고 있으며, 지속 가능한 합의를 만들어내지 못한다."

최전선 AI로부터의 실존적 위험은, 만약 현실화된다면, 어느 나라를 해칠지 선택하지 않을 것입니다. 세계 인구 대부분의 우려를 무시했기 때문에 광범위한 참여를 달성하지 못하는 거버넌스 체제는 충분히 오래 유지되어 의미를 가질 수 없습니다. AI 거버넌스의 기술적 설계는 진정으로 어렵습니다. 정치적 설계(체제가 필요한 참여를 구축하기 위해 충분한 나라들에게 충분히 제공하도록 보장하는 것)는 똑같이 어렵고 훨씬 적은 주목을 받습니다. 몬트리올 의정서 설계자들은 두 문제 모두를 이해했습니다. 최전선 AI 거버넌스 논의는 아직 두 번째 문제를 진지하게 다루지 않았습니다.

가장 강력한 반발

가장 공정한 반론은 최전선 인공지능이 US-중국 문제이며 나머지 세계는 관전자라는 것입니다. 관전자도 연산 자원과 인재, 국제 기구에서의 표를 보유하고 있습니다. 세계 나머지 지역을 유익한 좁은 인공지능에서 배제하는 체제는 정치적으로 실패할 것입니다. 도구는 공유하면서 ASI 경로는 차단하는 체제는 성공할 수 있습니다.