인공지능 안전 조약이 국내에서 실패하는 이유,
비준의 국내 정치

인공지능 안전에 관한 거버넌스 문헌은 국제 협상 문제에 크게 집중합니다. US, 중국, EU 및 기타 주요 행위자들이 구속력 있는 합의에 동의하게 하려면 어떻게 해야 하는가? 이는 진짜이고 어려운 문제입니다. 그에 합당한 관심을 받지 못하고 있지만, 유일한 문제는 아닙니다. 국내 비준 문제는 거의 주목받지 못합니다. 군비 통제 역사에서 국내 비준 단계는 실패한 국제 협상보다 더 많은 조약을 죽였습니다.

포괄적 핵실험 금지 조약은 1996년 미국이 서명했으나 30년째 비준되지 않은 채 남아 있다. 국제 조약 협상은 문제의 쉬운 절반이다. 국내 비준이 조약을 죽이는 곳이다.

AGI 거버넌스 전략을 설계하는 사람은 국제 문제뿐 아니라 국내 정치 싸움까지 대비해야 합니다.

비준이 작동하는 방식과 그것이 어려운 이유

국제 조약은 각국의 헌법 절차를 통한 비준을 거쳐 국내법으로 구속력을 갖는다. 미국의 경우 상원 3분의 2 찬성, 현재 의석으로는 67표가 필요하다. 헌법 제2조가 정한 이 기준은 조약이 광범위한 초당적 합의를 반영한 뒤에야 구속력 있는 법이 되도록 설계됐다. 실제로는 소수당이 강력한 초당적 지지가 없는 조약을 막을 수 있게 하고, 조직화된 산업계가 비준을 저지하기 위해 소수의 의원을 설득할 수 있게 한다.

다른 민주국가들도 비준 요건은 다르지만 본질적으로 같은 문제를 겪습니다. 정부가 조약을 협상한 시점과 비준을 추진하는 시점 사이에 의회 다수가 바뀔 수 있습니다. 조약 의무로 피해를 본다고 느끼는 국내 집단은 강하게 반대 운동을 벌입니다. 불리하다고 보는 산업은 비준을 막기 위해 막대한 자금을 쏟아붓습니다.

US의 조약 비준 역사는 상당 부분 서명했으나 비준하지 않은 조약의 역사다. SALT II, CTBT, 유엔해양법협약(US이 서명했으나 주요 해양 국가임에도 비준하지 않음), 아동권리협약(UN 회원국 중 미국을 제외한 모든 국가가 비준)은 국제 협상은 성공했으나 국내 비준은 실패한 조약들이다.

전략무기제한협정 II 사례

SALT II는 7년 동안 협상되었고, 두 국가 원수의 개인적 헌신이 있었으며, 양측에 진정한 전략적 가치가 있었음에도 불구하고, 협정 체결 후 바뀐 국내 정치 상황 때문에 비준에 실패할 수 있음을 보여주는 사례입니다.

카터는 1979년 6월 SALT II를 상원에 제출했다. 상원 논쟁에서 공화당의 상당한 반대가 드러났으며, 그 반대는 세 가지 주장에 집중되었다. 조약의 검증 조항이 불충분하다는 것, 조약이 소련에 중미사일에서 유리한 조건을 준다는 것, 군비 통제 자체가 소련 의도에 대한 순진한 관점을 반영한다는 것이었다. 이 주장은 협상 기간 내내 제기되었고 조약 문안에서 어느 정도 다루어졌다. 그러나 1979년 12월 소련의 아프가니스탄 침공으로 정치 환경이 바뀌면서 결정적인 정치적 힘을 얻었다. 카터는 1980년 1월 조약을 상원 심의에서 철회했으며, 결국 표결에 부쳐지지 않았다.

양측은 이후 수년간 SALT II의 대부분 제한을 자발적으로 준수했으나, 조약은 법적 효력을 얻지 못했다. 비준을 위한 정치적 기회가 상원 표결 전에 닫혔고, 다시 열리지 않았다.

CTBT 사례

포괄적 핵실험 금지 조약은 수년간의 협상 끝에 1996년에 서명을 위해 개방되었다. 클린턴 대통령은 1996년 9월에 서명했다. 1999년 10월 상원은 51대 48로 비준을 거부했으며, 이는 1920년 베르사유 조약 이후 상원이 주요 국제 안보 조약을 거부한 최초의 사례였다.

반대 논점은 검증 가능성과 군사적 필요성에 집중되었습니다. 비준에 반대표를 던진 상원의원들은 감시 체계가 특정 임계값 이상의 모든 핵 실험을 신뢰할 수 있게 탐지할 수 없으며, 미국이 핵무기고의 안전과 신뢰성을 유지하기 위해 핵무기를 시험할 선택지를 필요로 한다고 주장했습니다. 클린턴 행정부는 비준 캠페인을 위한 충분한 정치적 기반을 구축하지 못했고, 상원 다수당 대표가 일반적인 본회의 토론 절차 없이 표결을 예정한 것에 대비하지 못했으며, 표결에서 결정적으로 패배했습니다.

조약은 그 이후로 법적 공백 상태에 있다. 미국은 서명국이지만 당사국은 아니며, 빈 협약에 따른 선의의 의무로만 조약의 목적과 취지에 반하는 행동을 하지 않을 뿐이다. 서명을 위해 개방된 지 30년이 지났지만, CTBT는 아직 발효되지 않았다. 발효에는 미국, 중국, 인도, 파키스탄을 포함한 8개 특정 국가의 비준이 필요하기 때문이다.

인공지능 산업의 반대가 어떤 모습일지

미국이 최첨단 AI 개발에 구속력 있는 제약을 받아들이도록 요구하는 AI 안전 조약은 AI 산업과, 제약이 중국에 비해 미국을 불리하게 만든다고 주장하는 국가 안보 세력의 조직적 반대에 직면할 것입니다.

경쟁 열위 주장이 정치적으로 가장 강력할 것이다. 논리는 이러하다. US AI 기업을 안전 평가 요건과 개발 제약으로 묶는 조약이 중국 기업에는 적용되지 않는다면, 이는 US 능력에 대한 일방적 제한으로 작용한다는 것이다. 이 주장은 조약이 실제로 중국을 구속하든 말든 제기될 것이며, 그 정치적 효과는 정확성에 의존하지 않는다. 상원이 SALT II에 반대표를 던진 것도 조약이 양측을 대칭적으로 구속했음에도 불구하고였다.

경제적 피해 논리도 함께 제기될 것이다. 상당한 수익을 내고 수만 명의 고임금 노동자를 고용하는 AI 기업들은 개발 규제의 경제적 결과를 보여주는 데이터를 제시할 것이다. AI 산업이 큰 주를 이루는 지역의 의원들은 유권자들의 직접적인 압력을 받아 비준에 반대하게 될 것이다.

CTBT에서 결정적 역할을 했던 검증 가능성 논쟁은 ASI 거버넌스에서도 다시 등장할 것이다. 인공지능 학습 데이터, 모델 구조 정보, 하드웨어 구성을 공개해야 하는 검증 메커니즘은 경쟁 노출을 우려하는 기업과 기밀 인공지능 프로그램을 우려하는 국가 안보 기관의 반대에 직면할 것이다. 검증 체계가 정교한 위반을 탐지하지 못하면서 준수 당사자에게만 부담을 준다는 주장은 어떤 검증 설계에도 구조적으로 적용될 수 있다.

성공적인 비준 캠페인이 해온 일

US 상원 비준을 성공적으로 통과한 조약들은 비준에 실패한 조약들과 구별되는 몇 가지 공통점을 지닙니다.

그들은 본회의 표결 전에 상원에서 초당적 지지를 구축했다. 1997년 74대 26으로 비준된 화학무기협약은 공화당 상원의원들이 (거의 보편적인 화학무기 금지 조약 밖에 있는 US라는) 대안이 조약의 불완전함보다 더 나쁜 결과라고 확신했기 때문에 지속적인 공화당 지지를 받았다. 행정부는 본회의 표결 몇 달 전부터 개별 상원의원을 설득했고, 토론을 시작하기 전에 표를 이미 집계해 두었다.

그들은 정부 밖의 지지층을 동원했습니다. 화학무기협약 비준 캠페인에는 미국화학회가 적극 참여했고, 조약 참여가 상업적 이익이라고 결론 내린 주요 US 화학 기업들과 인도주의적 근거로 화학무기 금지를 지지한 재향군인 단체들도 참여했습니다. 조약 반대 운동은 비교할 만한 제도적 무게가 없는 이념적 반조약 목소리에 국한됐습니다.

대통령의 관심이 서명뿐 아니라 비준까지 지속됐다. 카터 대통령이 이란과 아프가니스탄 사태로 임기가 소모되면서 SALT II 비준에서 관심을 철회한 것은 조약 실패에 기여한 요인이었다. 화학무기협약 비준은 클린턴 대통령과 고위 국가안보 관료들의 개인적 로비를 포함한 백악관의 지속적인 관여를 받았다.

수년간의 국내 연합 구축 없이 상원에 제출된 인공지능 안전 조약은 살트 II와 같은 운명을 맞을 것입니다. 정치적 작업은 조약 서명 훨씬 이전부터 시작되어야 합니다.

ASI 거버넌스에서 국내 비준 과제와 국제 협상 과제는 별개의 문제가 아니라 같은 문제를 다른 각도에서 접근하는 것이다. US 상원 비준을 염두에 두고 작성된 조약 문안, 검증 가능성 반대를 해소하는 내용, 경쟁 불리 주장을 약화하는 조항, 초당적 지지를 끌어낼 수 있는 설계는 가장 까다로운 비준 환경의 제약을 반영하기 때문에 국제적으로도 성공 가능성이 높다. 조약 체결 전에 이미 국내 연합 구축 활동이 진행 중이라면, 행정부는 비준을 약속할 수 없는 상태에서 협상할 때보다 국제 협상에서 더 큰 신뢰를 얻는다.