구축에 필요한 것
국제 인공지능
감시 기관.

거버넌스 옹호자들이 글로벌 AI 감시 기구를 요구할 때, 그들은 종착점을 설명하고 있다. 더 어려운 질문은 그 종착점으로 가는 길이 무엇인지, 프론티어 AI 개발을 감시할 권한, 인력, 예산, 법적 권한, 기술적 역량을 갖춘 국제기구가 실제로 어떻게 만들어지는지이다. 다른 위험 기술에 대해 이 일을 하는 기관들의 역사는 유용한 정보를 주며, 거버넌스 문헌이 시사하는 것보다 일관되게 더 복잡하다.

기관은 선언되는 것이 아니라 구축됩니다. 글로벌 AI 모니터링 기구를 구축하는 데 실제로 필요한 것은 다음과 같습니다.

IAEA가 기능을 갖추기 위해 필요한 것은 무엇인가

IAEA는 1957년 국제법으로 설립되었으며, 이는 아이젠하워 대통령이 1953년 UN 총회 연설에서 원자력의 평화적 이용 프로그램을 제안한 지 2년 뒤였다. 창립 규정은 원자력이 무기로 전용되지 않도록 보장하면서 평화적 이용을 촉진한다는 임무를 정의하고, 이사회와 총회를 기구의 통치 기관으로 설립했다.

1961년 설립 4년 만에 첫 안전장치 사찰을 실시했으며, 서유럽의 소수 연구용 원자로를 대상으로 했습니다. 당시 적용한 안전장치 체계는 이후 기준으로 보면 초보적이었고, 시설 기록을 검토하고 핵 물질 계량을 수행했으나 물리적 접근 권한은 제한적이었으며 환경 모니터링 기능은 없었습니다. 1950~60년대 기술 환경에서 평화적 핵 연구를 대상으로는 적절했으나, 결의된 무기 프로그램을 탐지하기에는 부족했습니다.

IAEA 능력의 결정적 확장은 기구 설립 법령이 아니라 실패 이후에 이루어졌다. 1991년 걸프전 중과 이후에 드러난 이라크의 비밀 핵무기 프로그램은 IAEA의 일상적 사찰이 핵무기로 향하는 프로그램을 완전히 놓쳤음을 보여주었다. 대응으로 1997년 채택된 추가의정서는 미신고 장소에 대한 사찰 권한을 확대하고 환경 시료 채취를 표준 도구로 추가했다. 1997년 이전 IAEA과 이후 IAEA는 탐지할 수 있는 범위에서 실질적으로 다른 기관이다.

국제 감시 기구는 초기 설계의 한계를 드러내는 실패에 대응하며 실제 역량을 키운다는 교훈이다. 창립 구조는 기본 틀을 세우고, 운영 효과성은 수십 년에 걸쳐 실패가 촉발한 개혁을 통해 축적된다.

OPCW가 기능을 갖추기 위해 필요한 것은 무엇인가

OPCW는 1997년 화학무기금지협약이 발효되면서 설립되었습니다. 주요 조약 체계보다 앞선 IAEA과 달리, OPCW는 정의된 의무가 있는 기존 조약의 검증 기구로 처음부터 설계되었습니다. 이로 인해 기관은 초기 권한이 더 명확하고 운영 범위가 더 집중되었습니다.

OPCW는 첫 사찰을 수행하기 전에 상당한 준비 작업이 필요했다. 수백 페이지에 달하는 조약 검증 부속서는 다양한 사찰 유형의 절차, 사찰관의 권리, 사찰 대상국의 의무, 기밀 정보 처리 등을 상세히 규정한다. 이 절차를 운영 프로토콜로 전환하고, 사찰관 팀을 훈련하며, 보안 통신 시스템을 구축하고, 환경 시료에서 화학 작용제를 식별할 수 있는 분석 실험실을 세우고, 최초 주요 비축국과 시설 협정을 협상하는 데는 조약 발효 후 수년이 걸렸다.

OPCW의 첫 파괴 검증 임무는 US과 러시아 화학무기 비축량 제거를 감시하는 것으로 1990년대 후반에 시작되어 20년 이상 지속되었습니다. 안전한 화학무기 파괴의 기술적 복잡성과 그것이 제기한 검증 과제는 그 기간 동안 지속적인 기관 적응을 요구했습니다. OPCW이 오늘날 하는 일은 창립 사무총장이 취임했을 때 존재하지 않았던 25년간의 운영 경험을 반영합니다.

가장 중요한 설계 결정들

국제 AI 감시 기구는 장기적 효과를 결정할 일련의 기본 제도 설계 결정을 마주하게 된다. 이 결정들은 기술적이지 않으며 정치적·조직적이며 기구가 문을 열기 전에 올바르게 내려져야 한다.

위임 범위가 첫 번째 결정이다. 감시 기구는 특정 연산 임계값을 초과하는 최전선 AI 훈련 신고를 검증하는 데 초점을 맞춘 좁은 범위로 설계하거나, AI 시스템의 안전 특성을 평가하고 전 세계 AI 안전 현황에 대한 결과를 발표할 권한을 가진 넓은 범위로 설계할 수 있다. 좁은 위임은 정치적으로 합의하기 쉽고 실행도 straightforward하다. 넓은 위임은 기구에 더 큰 거버넌스 영향력을 주지만, 더 큰 예산, 더 다양한 인력, 기구가 말할 수 있는 내용에 대한 더 많은 정치적 합의가 필요하다. IAEA의 위임은 처음에 좁았다가 확대되었고, OPCW의 위임은 집중된 상태를 유지했다. 두 모델 모두 각자의 맥락에서 성공했다.

독립성 구조가 두 번째 결정이다. 국제기구는 주요 강대국의 정치적 압력으로부터 얼마나 격리되어 있는지에 따라 크게 다르다. UN 안전보장이사회의 거부권 구조는 5개 상임이사국이 안보리 행동을 모두 차단할 수 있게 한다. IAEA 이사회는 가중 투표 구조로 주요 국가에 과도한 영향력을 부여한다. OPCW는 모든 당사국이 당사국 총회에서 동등한 표를 가지는 더 민주적인 거버넌스 구조를 갖고 있다. 주요 AI 프로그램을 보유한 국가가 주요 결정을 차단할 수 있는 AI 감시 기구는, 독립적인 사무총장과 기술 직원이 전문적 판단에 따라 행동할 수 있는 기구보다 약한 기관이다.

자금 조달 모델이 세 번째 결정입니다. 국제기구는 회원국의 GDP와 기타 요인에 비례하는 분담금으로 자금을 조달하며, 특정 프로그램에 대한 자발적 기부가 분담 예산을 보완합니다. 분담금 예산은 매년 협상되며 정치적 압력을 받습니다. 기구 활동에 반대하는 회원국은 기부를 보류하거나 예산 삭감을 표결할 수 있습니다. IAEA의 정규 예산은 연간 약 5억 USD이며, OPCW의 예산은 약 7천만 유로입니다. 의미 있는 기술 역량을 갖춘 AI 모니터링 기구는 이 범위 또는 그 이상의 예산이 필요하며, 주요 기부국의 정치 주기를 통해 기구 예산을 유지하는 방법이라는 자금 안정성 문제는 설계 답변을 요구합니다.

사찰관의 법적 권한은 네 번째 결정 사항이다. 사찰관은 조약이 허용하는 일만 할 수 있다. IAEA의 초기 안전조치 협정은 사찰관에게 제한된 접근권을 부여했고, 추가의정서로 확대되었다. 추가의정서가 없는 구 협정 아래에서 활동하는 사찰관은 여전히 더 적은 권한을 가진다. 인공지능 감시 기구의 사찰관은 시설, 기록, 하드웨어 로그, 인원에 대한 명확히 규정된 접근권이 필요하며, 기구를 설립하는 조약은 그 권한을 명확히 명시해야 한다. 모호함은 실제로 피사찰국에 유리하게 해석될 것이기 때문이다.

조약 이전에 기술 역량 구축

IAEA과 OPCW 모두에서 얻을 수 있는 교훈은 기술 역량은 기구가 설립된 뒤에 즉흥적으로 만들 수 없다는 것입니다. 두 기구 모두 기존의 과학·기술 공동체 덕분에 인력을 충원할 수 있었습니다. 핵 비확산 약속을 검증하거나 토양 시료에서 화학무기 작용제를 식별하는 데 필요한 전문 지식은 국제 검증 기구가 필요로 하기 전에 이미 대학과 국립 연구소에 존재했습니다.

국제 감시 기구가 모집할 수 있는 전문성 기반을 구축하는 것 자체가 기구 설립에 앞서는 거버넌스 과제입니다.

이것이 UK의 인공지능보안연구소(2023년 인공지능안전연구소로 설립)와 같은 국가 인공지능 안전 기관이 장기 거버넌스 프로젝트에 중요한 이유 중 하나다. 이 기관들은 미래 국제 감시 기구가 활용할 평가 방법론, 제도적 경험, 전문가 공동체를 구축하고 있다. 국제 감시를 위한 기술적 기반은 조약과 기구를 위한 정치적 조건이 갖춰지기 전에 부분적이고 불완전하게나마 마련되고 있다.

"검증 기구는 1년 안에 만들 수 없습니다. 기술적 방법, 훈련된 인력, 운영 절차, 법적 틀은 시간이 걸려 개발해야 합니다. 지금 시작해야 하며 조약 서명 이후가 아닙니다."

글로벌 AI 감시 기구는 특정 설계 결정, 특정 자원 투입, 특정 법적 권한, 특정 기술 역량이 있어야 작동하는 기관이지, 먼 유토피아적 목표가 아니다. IAEA과 OPCW는 그러한 기관이 건설될 수 있고 작동할 수 있음을 보여 준다. 또한 건설에는 조약 문안이 시사하는 것보다 더 오랜 시간이 걸리고, 여러 지도부 교체를 거친 지속적인 정치적 투자가 필요하며, 초기 설계의 한계를 드러내는 실패에 대응해 실제 역량이 발전한다는 점도 보여 준다. 이러한 제도 설계 문제를 다루지 않고 감시 기구를 요구하는 거버넌스 옹호자들은 열망을 설명하는 것이지 계획을 제시하는 것이 아니다.

가장 강력한 반발

가장 공정한 반론은 국가들이 가장 가치 있는 연산 자원 근처에 사찰관을 받아들이지 않을 것이라는 점입니다. 핵 안전 조치 이전에도 비슷한 주장이 있었습니다. 돌발 상황에 대한 공동의 두려움과, 이탈자에게 하드웨어를 주지 않겠다는 결의가 마지못해 참여하는 당사자들도 눈을 뜨게 만드는 방법입니다. 접근권이 없는 기관은 로고일 뿐입니다. 접근권 확보가 해결해야 할 설계 문제입니다.