국제 ASI 거버넌스에 대한 가장 흔한 반대는 “불가능하다”는 것입니다. 그러나 1세기 동안의 조약들은 그렇지 않다고 말합니다. 공유된 멸종 위험에 대한 조율은 이미 일어난 바 있으며, 진지한 국가들의 기록된 습관이지 유토피아가 아닙니다.
핵무기. 화학무기. 오존층. 실존적 위협에 대한 전 세계 조율은 기록된 인류의 성취입니다. ASI에 대한 질문은 그것이 가능한지 여부가 아닙니다. 이전 사례들이 요구했던 정치적 의지를 가지고 제때에 실행할지 여부입니다.
인류가 협력된 실존적 위협에 직면할 때마다 같은 반대가 제기되었다. 문제는 너무 복잡하고, 적대자는 너무 많으며, 검증은 너무 어렵고, 이탈은 너무 가능성이 높다는 것이다. 매번 그 반대를 넘어선 이들은 불완전하더라도 재앙적 결과를 막은 틀을 만들었다.
위협이 명확하고, 과학이 신뢰할 수 있으며, 옹호가 조직화되면 국제 협력이 가능해진다는 일관된 패턴은 법칙이라고 부를 만합니다. 쉽지는 않습니다. 보장되지도 않습니다. 하지만 가능합니다.
ASI 위협은 명확하다. 과학은 신뢰할 만하다. 옹호 활동은 커지고 있다. 지금 필요한 것은 조율을 가능할 뿐 아니라 필수로 만드는 정치적 압력이다.
아래 네 가지 사례는 단일 국가가 해결할 수 없는 위협에 직면했을 때 인간 문명이 이룰 수 있는 것을 정의하는 사례들입니다. 각 사례는 오늘날 ASI 거버넌스 비판자들이 내놓는 것과 같은 반대에 직면하며 시작됐습니다.
핵무기는 1945년 전쟁에서 사용되었습니다. 수년 안에 여러 국가가 핵무기를 개발했거나 개발 중이었습니다. 수십 개국이 핵무기를 보유할 가능성은 문명 종말 위험을 나타냈습니다. 비판자들은 핵확산금지조약이 불가능하다고 말했습니다: 너무 많은 행위자, 너무 많은 국가 이익, 준수 여부를 검증할 방법이 없다고.
핵확산금지조약은 1968년에 서명을 위해 개방되어 1970년에 발효되었다. 이는 대부분의 국가가 민간 핵 기술에 대한 접근을 대가로 핵무기를 개발하지 않기로 합의하는 틀을 만들었다. 국제원자력기구를 통한 검증 체제가 준수를 감시했다.
오늘날 아홉 개국이 핵무기를 보유하고 있지만 수백 개국이 만들 수 있었다. 1945년 이후 핵무기는 전쟁에서 사용되지 않았다. NPT는 불완전하고 모든 확산을 막지는 못했지만, 비판자들이 불가피하다고 말했던 재앙적 시나리오는 막았다. 80년의 핵 평화는 우연히 일어나지 않았다.
국제원자력기구는 1957년에 평화적 핵에너지 촉진과 무기 전용 방지를 위한 권한으로 설립되었습니다. 그 검사 및 안전장치 체제는 국제 사찰관이 신고된 시설의 핵 물질이 민간 목적을 넘어 농축되지 않았는지 확인할 수 있게 합니다.
이 감시 체제가 작동하는 이유는 핵 물질이 AI 연산처럼 식별 가능한 병목을 통과하기 때문이다. 우라늄은 특정 시설에서 농축해야 하고, 원심분리기는 추적 가능하다. IAEA는 실존적 위험을 초래할 이중 용도 기술을 감시하기 위한 기술적 메커니즘을 개발했다.
AI와의 유사점은 직접적입니다. 최전선 AI 모델을 훈련하는 데 필요한 하드웨어, 특히 엔비디아가 생산하는 GPU 클러스터와 ASML 리소그래피 장비를 사용하는 TSMC가 제조하는 첨단 반도체는 모니터링이 기술적으로 가능한 방식으로 집중되어 있습니다. 소수의 기업이 병목 지점을 통제합니다. 수출 통제는 이미 이 칩들을 추적하려 시도합니다.
IAEA가 보여주는 것은 이중 용도 기술에 대한 국제 감시가 이미 작동하는 관행이라는 점입니다. 이 기관은 거의 70년 동안 운영되며 수십 개국에서 수천 건의 사찰을 수행했습니다. AI 컴퓨트에 대해 동일한 작업을 수행하기 위한 기반은 존재합니다. 필요한 것은 기술 혁신이 아니라 정치적 의지입니다.
1970년대 중반 과학자들은 냉매, 에어로졸, 산업 공정에 쓰이는 염화불화탄소(CFC)가 지구를 자외선으로부터 보호하는 오존층을 파괴하고 있음을 확인했습니다. 오존층이 없으면 지구 생명체는 재앙적 결과에 직면합니다. 업계는 CFC를 없애는 것이 경제적으로 불가능하다고 주장했습니다.
1987년 46개국이 서명하고 1989년 발효된 몬트리올 의정서는 오존층 파괴 물질의 생산과 소비를 구속력 있는 국제 일정에 따라 단계적으로 폐지했습니다. 개발도상국에는 유예 기간과 재정 지원이 제공되었습니다. 이 조약은 지구상의 모든 국가가 비준한 유일한 국제 조약입니다.
오존층은 회복되고 있습니다. 과학적 평가들은 금세기 중반까지 1980년 수준으로 돌아올 것이라고 전망합니다. 몬트리올 의정서는 역사상 가장 성공적인 환경 조약으로 널리 평가됩니다. 처음에 반대했던 화학 산업은 대체 화합물을 개발하고 수익성 있게 계속 운영했습니다. "불가능한 것"은 결국 그렇지 않았습니다.
화학무기는 제1차 세계대전, 식민지 분쟁, 1980년대 이란-이라크 전쟁에서 사용되었다. 1993년 서명을 위해 개방되어 1997년 발효된 화학무기금지협약은 화학무기의 개발, 생산, 비축, 사용을 금지하고 기존 비축물의 검증된 폐기를 요구했다.
190개 이상의 국가가 협약을 비준했습니다. 미국과 러시아를 포함해 상당한 화학무기 비축량을 보유한 국가들은 2013년 노벨 평화상을 수상한 화학무기금지기구의 국제 감독 아래 이를 폐기했습니다.
화학무기협약은 국가들이 수십 년과 수십억 달러를 투자해 개발한 무기를 검증된 방식으로 파괴하는 국제 협정이 가능함을 보여줍니다. 조약이 요구하면 국가들이 전략적 우위를 포기하지 않을 것이라는 반론은 현대사에서 가장 적대적인 관계들에서 반복적으로 반박되었습니다.
협약 위반이 발생하면 국제적 대응이 뒤따른다. 이 체제는 완벽한 도구가 아니다. 그러나 협약 이전에 화학무기 사용이 논쟁의 여지가 있는 군사적 선택지였던 것과 달리, 이제는 국제 규범을 위반하는 행위로 규정되어 전 세계의 비난과 대응을 촉발한다. 국제 규범의 이러한 변화 자체가 거버넌스 성공의 한 형태다.
이 네 가지 사례는 구조를 공유한다. 각 경우 위협은 처음에 국제 거버넌스에는 너무 추측적이거나 기술적으로 복잡하다는 이유로 일축됐다. 각 경우 관련 산업은 규제가 경제적으로 불가능하다고 주장했다. 각 경우 검증은 환상으로 묘사됐다. 각 경우 결국 합의가 이뤄지고, 검증 메커니즘이 구축됐으며, 위협은 실질적으로 줄었다.
ASI 거버넌스는 오늘날에도 같은 형태로, 같은 유형의 행위자들로부터 이 모든 반대에 직면해 있습니다. 기술 기업들은 규제가 혁신을 억제할 것이라고 말합니다. 국가 안보 기관은 적대국이 이탈할 것이라고 말합니다. 논평가들은 문제가 입법자들이 이해하기에는 너무 기술적으로 복잡하다고 말합니다. 이는 새로운 주장이 아닙니다. 오래전에 잘못된 것으로 드러난 주장들이며, 이를 내세우는 사람은 어떤 전례를 무시하고 있는지 물어야 합니다.
ASI 거버넌스를 이 선례들과 구별하는 특징은 긴급성입니다. NPT는 핵무기가 여전히 인간이 통제하는 동안 수년에 걸쳐 협상되었습니다. 몬트리올 의정서는 오존층이 계속 얇아지지만 회복 가능했던 수십 년 동안 시행되었습니다. AI 개발은 더 빠르게 진행되고 있으며, 충분히 발전한 시스템은 오존 분자나 핵탄두가 할 수 없는 방식으로 거버넌스에 저항할 수 있습니다.
이것은 비관적일 이유가 아닙니다. 오히려 전례보다 더 빠르게 행동해야 할 이유입니다. 조율이 가능하다는 것을 우리는 압니다. 검증이 가능하다는 것도 압니다. 산업계의 반대가 국제 협정을 막지 못한다는 것도 압니다. 지금 필요한 것은 일정을 압축할 정치적 의지이며, 그 의지는 무엇이 걸려 있는지 이해하고 기다리기를 거부하는 사람들이 만들어 냅니다.
ASI 거버넌스를 가능하게 할 정치 연합을 구축하는 사람들에 합류하세요.