가상의 조약 해부를 진행하는 것은 학술적 연습이 아닙니다. 모호한 열망을 구체적이고 논쟁 가능한 설계 결정으로 바꾸고, ASI 거버넌스의 장애물이 개념적이지 않고 정치적이라는 것을 드러냅니다. 법적 장치는 이미 존재합니다. 아래의 모든 조항은 기존 조약에 선례가 있습니다. 이어지는 내용은 인공지능 안전 조약이 해결해야 할 구조적 개요일 뿐 완성된 문서가 아닙니다.
조약은 범위, 정의, 의무, 검증, 기구, 집행으로 이루어진 구조화된 법적 도구입니다. 여기서는 안전하지 않은 초지능을 방지하기 위한 합의가 필요로 하는 조항들과 각 조항이 강요하는 선택지를 구체적으로 살펴봅니다.
전문과 목적
모든 조약은 서두에서 목적과 기본 원칙을 밝힌다. 여기서 목적은 인공 초지능 개발을 영구히 막는 것이다. 초지능은 통제할 수 없지만, 그 문턱 아래 AI의 이점은 보존하고 공평하게 공유해야 한다. 전문은 예방 원칙을 환기하고, 위험이 인류 공동의 관심사임을 확인하며, 조약을 기존 국제법 안에 위치시킨다. 이는 이후 모든 조항의 해석 틀을 정한다.
범위와 임계값
가장 어려운 초안 작성 문제는 조약이 다루는 범위를 정의하는 것입니다. 핵 물질과 달리 AI 능력은 연속 스펙트럼이며 자연스러운 경계가 없습니다. 실행 가능한 접근은 측정 가능한 대리 지표를 사용하는 것입니다. 훈련 연산 임계값을 넘는 시스템이 조약 의무의 대상이 되도록 하고, 지정된 위험 능력을 보이는 시스템에 대한 능력 기반 기준을 결합하는 것입니다. 정확한 수치는 기술 기구에 위임해 개정할 수 있도록 해야 합니다. 본문에 고정된 수치는 몇 년 안에 구식이 될 것이기 때문입니다.
핵심 의무
레드라인을 넘는 것에 대한 금지
핵심 의무: 당사국은 합의된 안전 조건이 충족될 때까지 정의된 위험 임계값을 초과하는 시스템을 개발하거나 배포하지 않기로 합의하며, 이는 조약에서 금지 행위에 대한 금지와 동일합니다.
선언 및 통지
당사국은 대규모 연산 시설을 신고하고, 적용 대상 학습 실행 전에 조약 기구에 통보해야 합니다. 이는 검증이 기반을 두는 투명성 기준을 만듭니다.
의무적인 배포 전 평가
해당 시스템은 배포 전에 정의된 기준에 따라 독립적인 안전 평가를 받아야 하며, 결과는 조약 기구에 보고해야 합니다.
국내 이행
각 당사국은 자국 영토 내 공공 및 민간 개발자에게 이 의무를 적용하는 국내법을 제정해야 합니다. 조약은 국가를 구속할 뿐 기업을 직접 구속하지 않기 때문입니다.
인증
아무도 확인할 수 없는 금지는 무가치하므로, 조약에는 검증 체제가 필요하다. IAEA와 화학무기 선례를 바탕으로, 대형 컴퓨트 클러스터에 대한 신고 시설 모니터링, 공급망을 통한 첨단 칩 추적, 훈련 및 평가 기록에 대한 감사 권한, 정의된 접근 권한을 가진 현장 사찰, 그리고 (가장 새로운 요소로) 은밀한 대규모 훈련을 탐지 가능하게 하는 칩 내장 하드웨어 보증을 결합할 것이다. 핵 안전조치에서처럼 설계 목표는 상업적 또는 안보 비밀을 모두 공개하지 않으면서 중요한 사항을 검증하는 것이다.
기관
조약은 이를 관리할 국제 기구(AI 안전 기구라고 부를 수 있음)를 설립할 것입니다. 기술 사무국과 사찰 기구, 임계값을 정하고 수정하는 과학 패널, 의사결정 기구로서의 당사국 회의, 몬트리올 의정서 모델처럼 전체 재비준 없이 부속서를 갱신할 수 있는 메커니즘 등이 포함됩니다. 이는 정적인 문서를 기술 변화에 발맞출 수 있는 지속적인 체제로 바꾸는 상설 기구입니다.
집행, 발효 및 개정
- 집행. 위반에 대한 단계적 대응, 비준수 판정부터 공유 혜택과 연산 자원 접근권 상실, 심각한 위반 시 안전보장이사회 회부까지. 검증은 증거를 생성하지만 결과는 정치적 지지가 필요하다는 점을 인식합니다.
- 발효. 선도 연구소와 칩 생산을 보유한 국가들이 조약이 구속력을 갖기 전에 비준해야 한다는 요건입니다. 그래서 중요한 행위자들을 규율하면서도, 단 한 국가라도 무기한으로 존재 자체를 거부할 수 있는 구조를 피합니다.
- 수정과 조정. 자격을 갖춘 다수결로 임계값과 기술 부속서를 신속히 강화하는 메커니즘을 통해 조약이 서명 당시의 기술 수준에 고정되지 않고 기술 발전에 따라 진화할 수 있게 합니다.
AI 조약의 장벽은 법적 도구가 부족해서가 아닙니다. 필요한 모든 조항이 이미 어떤 조약에 존재합니다. 장벽은 정치적 의지이며, 명확한 초안이 바로 그 의지를 키우는 데 도움이 될 수 있습니다.
스케치하는 것이 중요한 이유
이 조항들을 이렇게 구체적으로 제시하면 두 가지 효과가 있다. 조약을 신비에서 벗어나게 하여, 각 조항이 선례가 있는 잘 알려진 부분들의 조합이지 미지의 영역으로의 도약이 아님을 보여준다. 그리고 진짜 어려움이 어디에 있는지 명확히 한다. 법적 구조는 해결 가능하지만, 문턱값, 검증 침투성, 조약을 구속력 있게 만들 대국 간 타협에 관한 정치적 선택이 문제다. 초안은 서명 의지를 만들어내지는 못한다. 그러나 '조약이 필요하다'는 말을 '여기가 조약이고, 우리가 합의해야 할 것이 정확히 이것이다'로 바꾸며, 이는 진지한 외교가 시작되는 지점이다.