냉전 시대에 서로를 신뢰하지 않던 경쟁국들도 여전히 통지, 관찰자, 핫라인을 교환했습니다. 그 관행들은 군비 경쟁을 끝내지 않았습니다. 두려움만으로 전쟁이 시작될 가능성을 줄였습니다. AI 정책도 더 어려운 조약 작업이 진행되는 동안 같은 투박한 장치가 필요합니다.
아직 군비통제에 합의하지 못한 냉전 적대국들도 위기가 재앙으로 번지지 않도록 하는 장치를 만들었습니다. 이러한 '신뢰 구축 조치'는 저렴하고 빠르며 지금 당장 가능하며, 조약이 결국 가능해지는 방법입니다.
냉전 도구 키트
US와 소련은 상호 적대가 절정에 달했을 때도 놀라울 정도로 많은 이런 인프라를 구축했다. 1963년 핫라인은 오해로 인한 신호가 확대되는 것을 막기 위해 지도자 간 직통선을 제공했다. 1972년 해상사고방지협정은 해상 조우가 확대되는 것을 막는 규칙을 정했다. 이후 조치들은 미사일 시험과 대규모 군사 훈련에 대한 사전 통보, 24시간 운영되는 핵위험감축센터 설치를 요구했다. 이 중 어떤 것도 단 하나의 무기를 제한하지 않았지만, 모두 양측이 원하지 않는 재앙을 두려움과 오해가 촉발할 가능성을 줄였다.
인공지능에 대한 신뢰 구축 조치가 어떤 모습일지
사고 통지 및 공유 보고
심각한 AI 안전 사고, 아차사고 또는 위험한 능력 발견을 서로(그리고 공동 기구에) 신속히 알리기로 한 합의로서, 두려운 사건이 어둠 속에서 최악의 가정으로 해석될 필요가 없도록 합니다.
위기 소통 채널
라이벌 국가의 관련 당국 사이에 인공지능 관련 비상 상황을 위한 전용·검증된 직통 회선. 통제 상실 의심 사건이나 모호한 능력 도약을 오해하지 않고 직접 논의할 수 있게 한다.
의도와 레드라인에 대한 투명성
자발적인 국가 AI 전략, 안전 관행, 그리고 국가가 용납할 수 없다고 여기는 능력 한계의 선언은 군비 경쟁을 부추기는 오해를 줄이고, 레드 라인이 어디서 겹칠 수 있는지를 드러냅니다.
주요 훈련 실행에 대한 사전 통지
최대 규모 개발 노력 전에 감시 기구에 통보하겠다는 약속으로, 미사일 시험 및 훈련 통보를 본뜬 것이며, 나중에 검증이 공식화할 선언 습관을 기르기 위한 것이다.
과학자 간 대화
국경을 넘어 안전 연구자들 사이의 지속적인 기술 교류는, 공식 관계가 얼어붙었을 때에도 역사적으로 군비 통제 돌파구를 마련해 온 채널을 열어 둡니다.
그것들이 보기보다 중요한 이유
CBM은 조약을 가능하게 만드는 세 가지 일을 한다. 조약 전 기간 동안 사고와 오해가 급성 위험인 시기에 즉각적 위험을 줄인다. 구속력 있는 검증이 의존하는 협력의 실질적 경험(공유 보고 형식, 테스트된 채널, 업무 관계)을 쌓는다. 그리고 더 큰 약속을 협상 가능하게 만드는 작고 상호적인 선의의 시범을 생성한다. 수년간 사건 통보를 지켜온 국가는 처음부터 시작하는 국가보다 더 신뢰할 수 있는 조약 파트너다.
그들은 또한 정치적으로 저렴합니다. 신뢰 구축 조치는 국가가 능력을 포기할 것을 요구하지 않기 때문에, 구속력 있는 합의를 무너뜨리는 주권 및 경쟁 반대를 피합니다. 정부는 AI 개발 권리에 대해 아무것도 양보하지 않고도 위기 핫라인이나 사고 보고 채널에 동의할 수 있습니다. 그 낮은 비용이 바로 더 어려운 협상이 아직 손에 닿지 않는 동안 현실적인 첫 번째 움직임이 되는 이유입니다.
신뢰는 요구한다고 생기지 않습니다. 비용이 적고 신뢰성을 증명하는 작고 검증 가능한 단계들을 쌓아야 합니다. 역사상 모든 군비통제 조약은 먼저 수년간의 신뢰 구축에 바탕을 두었습니다.
합의가 가능한 곳에서 시작하기
신뢰 구축 조치의 전략적 가치는, 조약과는 거리가 먼 경쟁국 사이에서도 지금 당장 시작할 수 있다는 점이다. 요구하는 것이 거의 없기 때문이다. 그것은 현재 US-중국 인공지능 대화, 정상회담 과정, 안전 연구소 네트워크의 자연스러운 내용이다. 신뢰 구축 조치를 진지한 경로(단순한 위로 상품이 아닌)로 대우하는 것이, 조약 이전 기간을 생산적으로 만드는 방법이며, 단지 위험한 상태로 두지 않는 방법이다. 포괄적 합의가 목적지다. 신뢰 구축 조치는 길이며, 오늘도 열려 있다. 피할 수 있는 사고가 협력의 필요성을 힘들게 증명하기 전에 그 길을 걷기 시작하는 것이 과제다.