국제 ASI 거버넌스에 대한 주권 반대는 한 국가가 개발하고 배포할 수 있는 기술에 대한 결정은 자국 시민에게 책임이 있는 국가 정부가 내리는 국내 결정이라는 것입니다. AI 개발을 제한하는 구속력 있는 국제 조약은 그러한 결정에 대한 실질적인 권한을 국제 기구나 다른 국가의 거부권으로 이전할 것입니다. 이는 주권을 침해합니다. 이 주장은 AI 논쟁에 원래의 것으로 제시됩니다. 그렇지 않습니다. 동일한 주장이 NPT, 화학무기협약, 몬트리올 의정서 및 위험한 기술에 대한 국가의 행동 자유를 제한하는 다른 주요 국제 조약에 대해 제기되었습니다. 각 경우에 그 주장은 결국 극복되었습니다. 그 방법을 이해하는 것은 유용합니다.
NPT는 어쨌든 1968년에 62개국에 의해 서명되었다. 그것이 어떻게 일어났는지, 그리고 AI에 어떤 의미인지 여기 있다.
주권 논증이 실제로 주장하는 것
이 주장은 군사 기술에 적용할 때 가장 강력합니다. 실질적인 안보 위협에 직면한 국가들은 군사 능력에 대한 행동의 자유를 유지하는 데 구체적인 이해관계를 가집니다. 군사 분야 AI 개발에 대한 국제적 제한에 이들을 묶는 것은 적대국이 받아들이지 않을 수도 있는 제약을 수용하는 것을 의미하며, 능력이 국가 생존에 직접적으로 영향을 미치는 영역입니다. 이것이 주권 반대의 가장 어려운 버전이며, 냉전 기간 핵 보유국들의 입장과 유사합니다.
민간 AI 개발에 적용할 경우 그 주장은 상당히 약해집니다. 어떤 국가의 안보도 감시받지 않는 상업 AI 훈련을 실행할 능력에 달려 있지 않습니다. 대규모 민간 AI 개발 프로그램을 선언하고 감시하는 데 따른 주권 비용은 낮습니다. 주권 주장을 정치적으로 이용하는 경우는 근본적 우려가 진정으로 정당한 사례를 훨씬 넘어서는 경우가 많습니다.
사례를 구분하는 일은 조약 설계에 중요하다. 주권 문제가 실제로 존재하는 특정 활동, 즉 문명 규모의 영향을 미칠 수 있는 대규모 AI 개발 프로그램을 다루는 거버넌스 체계는 민간 및 상업 AI는 거의 건드리지 않도록 설계할 수 있어 반대 의견의 힘을 크게 줄일 수 있다.
핵 주권 논쟁은 어떻게 해결되었나
NPT는 주권 반대를 없애지 않았다. 그것을 재구성했다. 조약은 주권 선택의 공식 아키텍처를 만들었다. 국가는 가입하여 안전조치 의무를 수락하거나, 조약 밖에 남아 국제 체제 밖에 있다는 정치적·경제적 결과를 감수할 수 있다. 다섯 개의 공식 핵보유국은 비확산과 군축에 관한 의무를 수락하는 대가로 무기를 보유하는 것이 허용되었다. 비핵 국가는 민간 핵 프로그램에 대한 감시를 수락하는 대가로 평화적 핵 기술에 대한 보장된 접근과 안보 보장을 받았다.
이 제도가 작동하게 만든 핵심은 주권이 형식적으로는 유지되면서 실질적으로 크게 제약된 점이었다. NPT 가입국은 원칙적으로 조약에서 탈퇴할 수 있으며, 제10조는 90일 전 통보로 탈퇴를 허용한다. 북한이 2003년에 이를 적용했다. 그러나 탈퇴의 정치·경제적 비용은 상당하다. 주권 논리는 각국이 핵 선택에 대한 외부 제약을 받아들일 수 없다고 주장했다. NPT는 선택을 형식적이고 가시적으로 만들면서도 잘못된 선택의 비용을 충분히 높여 거의 모든 나라가 가입하는 편이 낫다고 판단하게 만들었다.
그 결과 오늘날 191개국이 당사국인 조약이 만들어졌다. 아홉 나라가 핵무기를 보유하고 있다. 인도, 파키스탄, 이스라엘 세 나라만이 이 조약에 가입하지 않았다. 북한은 탈퇴한 뒤 지금 핵무기를 가지고 있다. 1960년대 초에 어떤 구속력 있는 핵 거버넌스도 막을 만큼 강력해 보였던 주권 반대 논리는, 결국 191개 정부가 자국 핵 프로그램에 대한 구속력 있는 감시 의무를 받아들이는 세계를 만들었다.
화학무기 주권 논쟁은 어떻게 해결되었는가
화학무기금지협약(1993)은 다른 모델을 제시한다. 핵 보유국과 비보유국이라는 공식적 이중 세계를 만드는 NPT와 달리 화학무기금지협약은 협상에 참여한 주요 강대국을 포함해 모든 국가에 화학무기를 금지한다. 세계 최대 화학무기 비축량을 보유했던 미국과 소련은 국제 감독 아래 이를 신고하고 폐기하는 구속력 있는 의무를 받아들였다.
화학무기금지협약에서 주권 수용은 민간 목적의 국가 화학 산업이 감시를 받으며 계속 운영될 권리이다. 국가는 화학 산업을 유지할 수 있다. 화학 무기는 유지할 수 없다. 화학무기금지기구는 신고 시설을 사찰하고 위반 의혹을 조사한다. 국가는 자국 민간 화학 부문에 대한 주권을 유지하며, 그 부문의 특정 용도 하나에 대한 주권을 포기했다.
이 모델은 AI에 NPT 모델보다 더 적용 가능할 수 있다. AI 개발은 주로 민간이며 이중 용도이기 때문이다. 지정된 능력 또는 연산 임계값을 초과하는 가장 강력한 최첨단 AI 시스템의 개발을 제한하면서 상업용·소비자용 AI는 전혀 규제하지 않는 조약은 NPT 논리가 아닌 화학무기협약 논리를 따를 것이다. 이런 유형의 조약이 수반하는 주권 비용은 NPT보다 낮다. 조약 서명 당시 누가 무엇을 보유했는지에 따라 영구적인 허용·금지 능력 계층을 만들지 않기 때문이다.
오존층 모델과 과학적 합의
오존층 파괴 물질에 관한 몬트리올 의정서(1987)는 다른 메커니즘으로 주권 반대를 해결했습니다. 과학적 합의가 불참을 정치적으로 유지 불가능하게 만든 것입니다. 염화불화탄소가 오존층에 측정 가능한 피해를 일으키고, 오존 파괴가 지구상의 모든 나라에 측정 가능한 해를 끼친다는 것이 분명해지자, 의정서 가입에 반대하는 주권 주장은 국내 정치에서 유지하기 어려워졌습니다. CFC 제한을 피하기 위해 주권을 내세운 정부는 자외선으로 자국민에게 해를 끼치는 결과를 초래하면서 어떤 주권을 보호하는지 질문받게 되었습니다.
몬트리올 의정서에는 기술 이전 메커니즘도 포함됐다. CFC 단계적 폐지로 경제적 비용을 부담할 개발도상국에 준수를 돕기 위한 재정·기술 지원을 제공했다. 이는 국제 환경 협정이 부유한 나라가 만든 문제를 해결하기 위해 개발도상국에 부담을 지운다는 주권 논란을 다룬 것이었다. 2009년까지 몬트리올 의정서는 197개 당사국, 즉 모든 UN 회원국의 보편적 비준을 달성했다.
AI 병렬은 불완전합니다. AI 실존 위험에 대한 과학적 합의는 1987년 오존 과학만큼 통일되어 있지 않기 때문입니다. 그러나 몬트리올 의정서 모델은 AI 위험에 대한 더 명확하고 공개적인 전문가 합의가 주권 반대의 정치 역학을 상당히 바꿀 수 있음을 시사합니다. 위험이 더 구체적으로 이해될수록 주권 주장은 더 지속 불가능해집니다.
진정으로 어려운 것으로 남아 있는 것
주권 반대론은 정부가 불편한 의무를 피하기 위한 핑계에 불과한 것이 아닙니다. 이는 실제 정치적 제약을 반영합니다. 정부는 국내 지지층에 책임이 있으며, 그들은 국가 역량과 행동의 자유 유지를 기대합니다. 경쟁국이 수용하지 않은 제약을 자국에 강요하는 조약은 지속적인 국내 반대에 부딪힙니다. 1979년 소련의 아프가니스탄 개입 이후 미국에서 이미 서명된 SALT II 조약이 상원의 비준을 거부당한 사례처럼 말입니다.
AI의 경우 US-중국 관계에서 제약이 가장 뚜렷하다. 미국은 구속하되 중국은 구속하지 않거나, 중국이 의미 있는 집행 없이 비준하는 ASI 거버넌스 조약은 일방적 제약으로 작용할 것이다. 이 우려는 주권이라는 이름으로 자주 제기되지만, 더 정확히는 참여 문제다. 주권 반대는 조약 설계로 해결할 수 있다. 참여 문제는 외교로만 해결할 수 있으며, US과 중국 모두 구속력 있는 체제에 참여하는 편이 외부에 남는 것보다 낫다고 판단할 조건을 만들어야 한다.
군비 통제에 반대하는 주권 논리는 역사상 모든 주요 조약 이전에 제기되었습니다. 그것이 최종 결론이 된 적은 없습니다.
역사는 ASI 거버넌스에 대한 주권 반대가 설계로 우회해야 할 현실적 정치적 제약이지, 근본적 장벽이 아님을 시사합니다. 성공한 조약 구조는 주권 선택의 형식을 유지하면서 잘못된 선택의 비용을 충분히 높이는 방식으로 작동했습니다. 같은 접근이 ASI 거버넌스에도 가능합니다. 과제는 정부가 가입이 올바른 선택이라고 결론 내리게 만드는 정치적 조건을 만드는 일이며, 이는 공공 이해, 과학적 합의, 지속적인 외교 노력의 문제이지, 구속력 있는 국제 거버넌스가 주권과 양립 가능한지의 문제가 아닙니다.