NPT의 대타협, 그리고
ASI 거버넌스가 배울 수 있는 것

1963년 6월 10일, 워싱턴의 아메리칸 대학교에서 존 F. 케네디는 보좌관들이 미리 작성하지 않은 연설을 했다. 그는 35분 동안 핵 위협에 대해 말하다가, 미국과 소련이 기술 확산을 막지 않고 무기고를 쌓아 만든 문제를 끝부분에서 지목했다. “나는 이것을 인류에 대한 가장 큰 위협으로 여긴다”고 말한 뒤 경고했다. 1970년까지 핵 보유국이 15개국, 10년 말까지 20~25개국이 될 수 있다고 구체적인 국가명을 들며 말했다. 그는 3개월 뒤 모스크바에서 서명될 부분 핵실험 금지 조약을 제안했다.

NPT은 확산을 완전히 막지는 못했지만, 스물 이상의 핵보유국으로 이어질 것으로 예측되던 물결을 가늘게 줄였습니다. 이는 ASI 거버넌스가 다시 발명해야 할 거래를 통해 이루어졌습니다.

예측된 세계는 오지 않았습니다. 오늘날 핵무기를 보유한 국가는 9개국이며, 25개국이 아닙니다. 그 이유는 케네디가 보지 못한 조약 때문입니다. 핵확산금지조약은 연설 후 약 5년, 그의 사망 후 3년 뒤인 1968년 7월 1일 서명을 위해 개방되었습니다. 현재 191개국이 가입했으며, 역사상 가장 널리 가입된 군비 통제 협정입니다. 그 메커니즘은 핵무기를 넘어 중요합니다. 최전선 AI는 같은 구조적 문제를 제시하기 때문입니다. 소수의 행위자가 위험한 능력을 보유하고, 거버넌스는 그 확산을 막는 데 의존하며, 제약받는 다수는 억제가 자신의 이익이라는 것을 설득해야 합니다.

세 가지 기둥

NPT은 세 가지 약속 사이의 거래에 기반합니다. 각 기둥이 서로를 지탱합니다. 핵보유국은 무기 이전을 하지 않고 성실하게 군축을 추구하기로 했습니다. 비핵국은 무기를 획득하지 않고 자국 핵 프로그램에 IAEA 안전조치를 수용하기로 했습니다. 모든 당사국은 평화적 핵 에너지의 권리를 확인하고, 비핵을 유지하는 국가에 협력과 기술 공유를 제공하기로 했습니다.

협상 구조가 AI에 중요한 이유

전해지는 교훈은 구조적이지 기술적이지 않습니다. 비확산 체제는 강대국이 약소국에만 부과하는 제한의 집합일 수 없습니다. 제약을 받는 다수에게 가치 있는 것(여기서는 평화적 핵 기술과 신뢰할 수 있는 궁극적 군축 약속)을 제공해야 그들이 참여하며, 관련 국가가 참여하지 않은 조약은 아무것도 규율하지 않습니다. 양면 구조가 거의 보편적인 NPT 가입을 만들었습니다. 일방 구조가 남아 있는 네 국가(이스라엘, 인도, 파키스탄, 2003년 이후 북한의 탈퇴)를 만들었습니다.

ASI 거버넌스도 동일한 분열에 직면한다. 최전선 인공지능 조약은 최전선 연구소를 가진 소수 국가와 그렇지 않은 대다수 국가 사이에서 협상될 것이다. 만약 그 합의가 인공지능 보유국이 영구적 우위를 고착화하고 나머지 국가가 자국 연산과 인프라 감시를 받아들이는 모습처럼 보인다면, 참여율은 낮을 것이고 조약의 권위는 첫 번째 실제 시험에서 무너질 것이다. NPT의 답, 즉 유익한 기술에 대한 공유 접근과 선도국이 상호 제약을 받아들이겠다는 신뢰할 만한 약속은, 서명을 요청받는 국가들이 받아들일 수 있는 인공지능 타협을 만드는 틀이다.

NPT의 실패들, 설계 경고로 읽기

조약은 무조건적인 성공이 아니며, 그 약점은 정확히 ASI 거버넌스가 더 잘해야 하는 부분입니다. 제6조의 군축 약속은 천천히 그리고 마지못해 지켜졌습니다. 핵무기의 총 수는 조약 서명 이후 냉전 절정인 6만 개 이상에서 현재 약 1만 2천 5백 개로 감소했지만, 실제 감소는 모두 제6조의 주요 외교가 아닌 부수적 합의(START I, START II, New START)를 통해 이루어졌습니다. 비핵 국가들은 오랫동안 거래가 일방적이라고 느껴왔습니다. 가장 최근의 검토 회의인 2022년 회의는 우크라이나와 이란의 불만으로 합의 결과 없이 종료되었습니다. 원한은 주변의 성가심이 아닙니다. 그것은 조약이 군축에 대한 신뢰할 수 있는 진전 없이 매년 직면하는 구조적 위험입니다.

세 국가는 가입하지 않았고(인도, 파키스탄, 이스라엘), 네 번째(북한)는 2003년 탈퇴한 뒤 그 10년 후 첫 핵실험을 했습니다. 패턴은 일관됩니다. 비용이 제약 수용 비용보다 낮다면 결의한 국가는 무기한으로 빠져나갈 수 있습니다. 그리고 평화적 이용 기둥은 핵 문턱에 이르게 하는 이중 용도 기술을 정확히 확산시킵니다. 이란은 NPT 체제 내 타협이 그 체제가 막으려던 프로그램을 진전시키는 데 어떻게 이용될 수 있는지 보여주었습니다.

각 실패는 설계 경고를 담고 있다. AI 조약에서 군축에 해당하는 것(다른 나라의 자제 대가로 선도 국가들이 제공하는 것)은 신뢰할 수 있고 실제로 이행되어야 하며, 그렇지 않으면 같은 방식으로 부식될 것이다. 조약은 탈퇴를 결과 없는 것이 아니라 비용이 큰 것으로 만들어야 한다. 그리고 NPT가 완전히 다루지 못했던 이중 용도 모호성과 씨름해야 한다. 날씨 모델과 신약 발견 시스템을 훈련하는 것과 동일한 GPU 클러스터가 다음 세대 최첨단 모델을 훈련할 수 있다. 계량기는 두 숫자를 동시에 읽어야 한다.

정치적 구조, 기술적 측면과 구별되는

NPT은 ASI 거버넌스에 문제의 한쪽 절반인 정치 구조에 대한 구체적인 청사진을 제공합니다. 기술 구조(측정할 역량, 정의할 임계값, 검증 방법)는 별도의 설계 과제이며 어떤 유용한 형태로도 이전되지 않습니다. 이전되는 것은 합의의 형태입니다.

역사상 가장 많은 국가가 가입한 군비 통제 조약은 타협입니다. 인공지능 버전도 그렇게 되어야 합니다. 작업은 법이 결국 표현해야 할 타협을 구축하는 더 어려운 작업이지, 새로운 국제법이 아닙니다. 교훈은 모든 반복되는 특징을 가로지릅니다. 어떤 유능한 행위자라도 세계적 재앙 위험을 초래할 수 있는 능력 경계를 식별한 다음, 이탈에 강건한 중단을 협상하십시오. 덮는 대신 정면으로 다루십시오.

그리고 NPT가 해체된 지점에서 배우되, 지도자들의 양보는 실제적이고 눈에 보이게 하며, 탈퇴는 시장과 공급망 병목을 통해 비용이 비싸게 만들고, 이중 용도 문제를 정면으로 다루어야 합니다.

케네디의 1963년 6월 연설은 조약을 만들어내지 않았습니다. 양측 정부들 사이에 조약을 협상하려는 의지를 충분히 만들어냈습니다. 그 작업은 문서에 서명하기 전에 이루어지며, 재단의 조직 활동이 하려는 부분입니다. 관련 국가들이 참여하지 않은 조약은 아무것도 규율하지 않습니다. 그들을 참여시키는 것이 정치적 문제이며, 그 답이 이후 모든 것을 가능하게 합니다.

가장 강력한 반발

가장 공정한 반론은 NPT가 불평등을 고착시키고 여전히 누출되었으므로, 이를 복제하면 나쁜 거래를 고착시킨다는 것이다. 그 싸움에서 배워라. 눈에 보이는 지도자 자제, 비용이 큰 탈출, 이중 용도에 대한 정직. 문구를 숭배하지 마라. 비확산을 가능하게 만든 대타협 구조를 훔쳐라.