국제원자력기구는 1957년에 설립되었으며 그 권한은 단순하게 들렸습니다: 핵 에너지의 평화적 이용을 촉진하면서 무기 프로그램으로 전용되지 않도록 보장하는 것입니다. 이후 수십 년 동안 구축한 검증 시스템은 국제법에 전례가 없는 것이 되었습니다. 지구상에서 가장 위험한 기술을 감시하는 기능하는 시스템으로, 국제 기구가 운영하고 세계에서 가장 강력한 국가들이 받아들입니다.

여기 IAEA 검증이 실제로 하는 일, 실패한 지점, 그리고 AI 문제로 전이되는 것이 있다.

국제 ASI 거버넌스에 대한 모든 진지한 제안은 지금 IAEA 모델을 연구하고 있습니다. 핵 검증 구조를 인공지능 맥락에 그대로 복사할 수 있는지가 문제가 아닙니다. 복사할 수 없습니다. 문제가 되는 것은 어떤 요소가 전이되는지, 어떤 요소를 재설계해야 하는지, 그리고 핵에는 전혀 해당하지 않는 문제가 무엇인지입니다.

검증이 실제로 의미하는 것

검증은 신뢰를 만드는 체계이지, 일상적 의미의 사찰이 아니다. 목표는 위반을 적발하는 것이 아니라 위반이 처음부터 시도되지 않을 만큼 비용이 크고 눈에 띄게 만드는 것이다. 이 구분이 중요한 이유는 성공의 기준을 올바르게 설정하기 때문이다. 위반을 한 번도 발견하지 않는 검증 체계는 실패가 아니라 성공일 수 있다.

IAEA 접근 방식은 함께 작동하는 네 가지 구성 요소에 기반합니다. 첫째는 국가 선언입니다. 핵확산금지조약에 가입한 국가는 모든 핵 물질과 시설을 IAEA에 선언해야 합니다. 이 선언은 이후 모든 모니터링의 기준이 됩니다. 한 국가가 시설을 선언하지 않으면 단순히 검사를 실패한 것이 아니라 첫 번째 사찰관이 도착하기 전에 조약의 기본 요건을 위반한 것입니다.

두 번째는 안전조치 협정입니다. 각 NPT 서명국은 IAEA와 양자 안전조치 협정을 체결하여 기구의 사찰 권한, 국가가 제공해야 할 정보, 불이행 시 결과를 명시합니다. 1990년대 초 이라크의 미신고 핵 프로그램이 드러난 후 도입된 추가의정서는 이러한 권한을 크게 확대했습니다. 이를 통해 IAEA는 신고되지 않았으나 기구가 사찰할 이유가 있는 장소를 모든 출처의 정보에 근거해 사찰할 수 있습니다.

세 번째는 정기 사찰이다. IAEA 사찰관은 신고된 핵시설을 정기 방문한다. 사찰관은 변조 방지 봉인, 원격 카메라, 물질 시료를 사용해 방문 사이에도 시설을 감시한다. 신고 재고와 사찰관이 발견한 것 사이의 불일치는 설명이 필요한 중대한 발견이다.

네 번째 요소이자 ASI 거버넌스와 가장 관련 있는 요소는 환경 시료 채취입니다. 1990년대 중반부터 IAEA은 신고되지 않은 핵 활동의 증거를 찾기 위해 환경 감시(공기, 물, 토양 시료)를 사용해 왔습니다. 환경 시료에서 특정 동위원소의 미량만으로도 해당 시설에 사찰관이 들어간 적이 없더라도 신고되지 않은 핵 처리가 있었음을 알 수 있습니다. 이는 활동의 불가피한 물리적 흔적에서 얻은 간접적인 물리적 증거입니다.

핵 모델의 한계

핵 검증 체제는 실질적인 성과를 냈다. 1960년대 가장 비관적인 예측보다 훨씬 적은 국가만 핵무기를 보유하게 됐다. NPT는 불완전하지만 확산을 상당히 억제했다. 그러나 실패한 사례는 성공한 사례만큼이나 교훈적이다.

이라크의 핵무기 프로그램은 1980년대와 1990년대 초 이라크가 NPT 가입국이었음에도 무기 프로그램을 신고하지 않은 채 진행되었다. 이 프로그램은 걸프전과 이후 UNSCOM 사찰로 드러났으며, 일상적인 IAEA 감시로는 발견되지 않았다. IAEA 사찰관은 이라크의 신고 시설을 방문했으나 아무 이상을 찾지 못했는데, 이라크의 무기 프로그램이 신고된 민간 프로그램과 완전히 분리되어 있었기 때문이다. 북한은 2003년 검증 체제가 설명할 수 없는 불일치를 감지한 후 NPT에서 탈퇴했으며, 현재 핵무기를 보유하고 있다. 이란의 미신고 농축 프로그램은 2002년 반체제 단체에 의해 IAEA에 공개되었으며, 일상 감시를 통해 발견된 것이 아니다.

이 사례들이 공통으로 갖는 점은 검증이 기술적으로 실패했다는 것이 아니라, 결의된 국가 행위자들이 조약 위반 비용을 감수하겠다는 정치적 결정을 내렸다는 것입니다. 검증은 비용-편익 계산을 바꾸지만, 계산 자체를 없애지는 않습니다. 무기 프로그램이 발각 시 정치·경제적 결과에 상응할 가치가 있다고 판단한 국가는 검증 장치와 무관하게 그 프로그램을 추진할 것입니다. 거버넌스 기구의 역할은 발각 가능성을 높이고 정치적 결과를 더 가혹하게 만드는 것이지, 위반을 불가능하게 만드는 것이 아닙니다.

ASI 거버넌스로 무엇이 이전되는가

핵 검증 모델의 여러 요소는 의미 있는 적응을 통해 ASI 거버넌스로 번역됩니다.

신고 요건은 그대로 이전된다. 최전선 유럽연합 거버넌스 체제는 국가들이 지정된 연산 임계값을 초과하는 대규모 인공지능 개발 프로그램을 신고하도록 요구할 수 있다. 신고는 법적 기준선을 만든다. 신고한 내용과 관측된 내용 사이의 후속 불일치는 단순한 정책 불일치가 아니라 조약 위반이 된다. 입증 책임이 이동한다. 신고가 없으면 감시 기구가 신고되지 않은 활동이 있었다는 것을 입증해야 한다. 신고가 있으면 국가는 신고 내용과 관측 증거 사이의 불일치를 설명해야 한다.

보호 조치 협정 모델도 전환된다. 감시 기구와 서명국 사이의 양자 ASI 거버넌스 협정은 감시 기구의 접근 권한, 국가가 제공해야 할 정보, 미준수 시 결과를 명시할 것이다. 이 구조는 국제법에서 잘 이해되고 있으며, 상당한 법적 혁신을 요구하지 않는다.

환경 시료 채취에는 AI 분야에서 연산 모니터링이 대응한다. 반도체 제조는 지리적으로 집중돼 있고 특수 장비가 필요하다. 첨단 AI 칩은 공급망 흔적을 남긴다. 소수의 시설에서 생산되고, 통관 서류로 수출되며, 특정 전력 신호를 가진 식별 가능한 데이터센터 구성으로 설치된다. 이 중 어느 것도 동위원소 신호만큼 명확하지는 않지만, 함께 모이면 국가의 자체 보고에 전적으로 의존하지 않는 AI 개발 활동에 대한 간접적 물리적 증거를 만든다.

추가 의정서 혁신은 직접 적용 가능합니다. 이라크 프로그램 이후 검사 권한 확대는 검증 체제가 조약 틀을 포기하지 않고도 실패 후 개혁될 수 있음을 보여주었습니다. ASI 거버넌스 조약은 초기 준수 실패를 겪을 것입니다. 위반을 단지 제재 근거로 취급하는 대신 탐지된 위반에 대응하여 모니터링 권한을 확대하는 메커니즘을 내장하는 것은 핵 체제가 수십 년에 걸쳐 배운 교훈입니다.

인공지능에서 진정으로 다른 점은 무엇인가

핵 물질은 물리적으로 구별되고 비교적 희귀합니다. 무기급 우라늄과 플루토늄은 위조하기 어려운 동위원소 신호로 탐지할 수 있습니다. 우라늄 농축 시설은 환경 흔적을 남기는 특정 산업 장비를 필요로 합니다. 민간 핵 응용과 무기 관련 핵 활동 사이의 간격은 결심한 국가가 메울 수는 있지만, 모니터링을 뒷받침하는 방식으로 측정하고 검증할 수 있습니다.

인공지능 개발에는 이에 상응하는 구분이 없다. 소비자 인공지능 응용을 만드는 데 쓰이는 동일한 하드웨어, 소프트웨어 기반, 공학 인재가 문명적 영향을 미칠 수 있는 최전선 인공지능 시스템을 만들 수 있다. 상업 인공지능 서비스를 실행하는 대형 연산 클러스터와 최전선 인공지능 연구를 수행하는 대형 연산 클러스터는 외부에서 보면 동일해 보인다. 중요한 구분은 시설이나 장비의 물리적 특성이 아니라 무엇을 위해, 어떤 규모로 훈련되었는지에 있다.

이 차이는 실제로 중요하다. 따라서 ASI 거버넌스 검증은 핵의 동위원소 서명 대신 칩 제조 단계의 하드웨어 모니터링, 컴퓨트 클러스터 보고, 에너지 소비 데이터, 소프트웨어 감사 권한 등을 조합해 이뤄져야 한다. 또한 관련 임계값 문제(AI 개발 규모가 어느 수준 이상일 때 모니터링 의무가 적용되는가)는 핵의 경우보다 훨씬 규정하기 어렵고, 컴퓨트 비용 변화에 따라 정기적인 기술적 개정이 필요하다.

이것들은 설계 문제이지, 검증이 불가능하다는 결론을 내릴 이유가 아니다. 1957년의 IAEA는 이라크 프로그램 이후 추가의정서 개혁을 거친 1997년의 IAEA와 달랐다. 1960년대에 쓰인 감시 방법은 1990년대 환경 시료 채취 능력과 거의 닮지 않았다. 검증 체제는 실패와 성공을 통해 점진적으로 구축되며, 유지·개혁하려는 정치적 의지가 지속된다면 시간이 지남에 따라 개선된다.

군비 통제의 목표는 위반 비용을 충분히 높여 대부분의 행위자가 대부분의 경우 위반할 가치가 없다고 판단하게 만드는 것이지, 확실성을 보장하는 것이 아닙니다.

ASI 거버넌스에서 핵심 질문은 핵 검증 모델이 그대로 이식되는지가 아닙니다. 그것은 불가능합니다. 질문은 ASI 거버넌스 과제에 충분한 검증 시스템을 선언, 안전 조치 협정, 사찰 권한, 물리적 증거에 대한 기술적 감시라는 동일한 논리로 설계할 수 있는지입니다. IAEA의 70년 역사는 정치적 의지만 있다면 답이 긍정적임을 시사합니다. 그 정치적 의지가 기술 설계가 아니라 결정적 제약입니다.

가장 강력한 반발

가장 타당한 반론은 소프트웨어는 우라늄이 아니므로 핵 검증 교훈은 시적이라는 것이다. 소프트웨어는 복사하기 쉽지만 칩과 전력은 그렇지 않다. 물리적 병목을 감시하는 검증은 여전히 효과적이다. 인공지능을 순수 추상으로 여기는 태도가 유일하게 작동하는 수단을 스스로 포기하게 만든다.