미국과
중국이 인공지능 안전에 동의할까?

US-중국 AI 경쟁을 ASI 거버넌스의 장벽으로 보는 틀은 실제로 구별되는 두 가지를 동일시한다. 경쟁과 공유된 재앙적 위험에 대한 협력은 상호 배타적이지 않다. 미국과 소련은 40년 동안 국가 권력의 모든 차원에서 치열하게 경쟁하면서도 동시에 문명을 종식시킬 수 있는 무기를 제약하는 일련의 군비 통제 협정을 협상하고 유지했다. 그러한 협력이 가능했던 조건은 AI 안전 문제에 대해 무엇을 말해줄 수 있는지 이해할 가치가 있다.

재앙적인 공동 위험에 대해 경쟁자들이 협력해 온 역사는 인공지능 안전 문제와 직접적으로 관련이 있습니다.

US-소련 협력을 가능하게 한 것은 무엇인가

두 냉전 강대국 사이의 군비 통제 협정에는 몇 가지 조건이 필요했습니다. 그중 어느 것도 경쟁이 끝나거나 양측이 일반적인 의미에서 서로를 신뢰할 것을 요구하지 않았습니다.

불신은 정상입니다. 그럼에도 검증은 존재합니다.

첫째는 상호 재앙에 대한 공유되고 구체적인 이해였다. 미국과 소련은 모두 핵무기의 효과를 관찰했다. US는 사용과 실험을 통해, 소련은 실험과 히로시마·나가사키에 대한 정보 수집을 통해 관찰했다. 1950년대 후반까지 양측은 전면적인 핵 교환이 양쪽 모두에게 재앙이 될 것임을 이해했다. 이는 이론적 평가가 아니라 핵무기가 무엇을 하는지에 대한 물리적 증거에 기반했다. 1962년 쿠바 미사일 위기는 수년간의 전략 분석이 하지 못했던 방식으로 이 이해를 정치 지도자들에게 즉각적이고 생생하게 만들었다.

두 번째는 정치적 분단을 넘어 지적·인적 연결을 유지한 지속적인 비공식 대화였습니다. 1957년부터 시작된 퍼그워시 과학·세계문제 회의는 공식 협상이 가능하기 전에 양 진영 과학자들을 모아 군비 통제를 논의했습니다. 이 비공식 네트워크는 나중에 공식 협상에서 구체화된 아이디어와 관계를 쌓았습니다. 1963년 US와 소련 관리가 제한적 핵실험 금지 조약을 협상할 때 그들은 제로에서 시작하지 않았습니다.

세 번째는 신중한 범위 설정이었습니다. 부분 핵실험 금지 조약(1963)은 대기권, 우주, 수중에서의 핵실험을 금지했으나 지하 실험은 허용했습니다. 양측이 진정으로 해결에 공통 이익을 가진 문제인 대기권 낙진을 다루면서, 어느 쪽도 무기 프로그램이나 비축량 검증에 제약을 받을 필요가 없었습니다. 이는 더 큰 합의를 위한 신뢰를 쌓는 좁은 첫 합의였습니다. SALT I(1972), ABM 조약(1972), 화학무기금지협약이 그 뒤를 이었으며, 각각 이전 구조를 바탕으로 구축되었습니다.

네 번째는 검증이 처음부터 내장됐지 나중에 추가되지 않았다는 점이다. 각 합의는 명시적 검증 메커니즘으로 설계됐다. 위성 정찰을 위한 국가 기술 수단이 SALT 체계에 포함됐고, 양측은 서로의 감시 위성을 방해하지 않기로 합의했다. 이는 각 측이 상대의 선언을 신뢰하지 않고도 준수를 검증할 수 있게 했다. 신뢰에 의존해야 작동하는 합의는 채택되지 않았고, 신뢰 없이 검증할 수 있는 합의만 채택됐다.

US과 중국 비교가 성립하는 지점

미국과 중국은 US-소련 역학과 구조적으로 유사한 특징을 공유하며, 이는 ASI 거버넌스와 관련이 있습니다.

양측 모두 군사적·경제적 응용 가능성이 있는 최전선 AI 시스템을 개발 중이며, 어느 쪽도 상대방이 이를 갖는 것을 원하지 않는다. 양측 모두 공식적으로 충분한 안전 장치 없이 개발된 ASI의 위험에 대한 우려를 표명했다. 양측 모두 (치명적인 의도치 않은 결과를 초래하는 AI 시스템)이라는 시나리오에 직면해 있으며, 이는 어느 나라의 시스템이 만들었든 양국 모두에 해롭다. 중국 연구소가 개발한 비정렬 초지능은 미국만큼 중국에도 위험하며, 그 반대도 마찬가지다. AI 안전 연구에서 가장 우려하는 위험 범주는 핵무기 능력처럼 경쟁적이지 않다. 이는 공유 이익을 위한 진정한 구조적 기반을 만든다.

비공식 대화도 점점 늘어나고 있습니다. 2023년 11월 블레츨리 AI 안전 정상회의에는 중국 정부 대표가 참석해, 중국 관리가 다자 포럼에서 처음으로 최전선 AI 안전을 주제로 논의했습니다. 중국 AI 연구자들도 국제 안전 논의에 참여해 왔습니다. 2024년 말에는 G7과 중국이 AI 위험에 관한 양자 대화를 시작하기로 합의했습니다. 이는 아직 초기 단계이며 취약해서 양자 관계의 다른 측면에 쉽게 흔들릴 수 있지만, 대화의 기반은 존재합니다.

비교가 무너지는 지점

US-소련 관계는 현재 US-중국 관계에 없는 명확성을 가졌다. 냉전 양대 강국은 공식적으로 핵무기가 무기이며 전면 핵교환이 재앙적이라는 데 동의했다. 핵무기의 물리적 효과는 기록되고 목격되었으며 이해되었다. 위협은 구체적이었다.

AI 재앙적 위험은 대부분의 정치 지도자에게 경험된 것이 아니라 예측된 것이다. 어떤 정부도 1945년 이후 핵 위험이 차지해 온 무게와 같은 무게로 인공 초지능으로 인한 실존적 위험을 국가 안보 틀에 통합하지 않았다. 정렬되지 않은 초지능 AI가 문명에 해를 끼치는 시나리오는 역사적 사례가 없다. 이 때문에 예방을 둘러싼 정치적 동원이 더 어렵다. 정치인은 예측된 피해가 아니라 입증된 피해에 더 확실하게 반응하기 때문이다.

US-중국 관계의 경제적 측면도 냉전에는 없었던 방식으로 문제를 복잡하게 만든다. US와 소련은 경제가 대체로 분리되어 있었다. US와 중국은 공급망, 기술 이전, 투자 흐름이 양방향으로 흐르는 경제적 상호 의존 관계다. 인공지능 능력은 이 관계에서 군사 경쟁뿐 아니라 경제 경쟁의 중심이다. 따라서 인공지능 개발에 대한 제한은, 예를 들어 중거리 핵미사일에 대한 제한과 달리 경제 전망에도 영향을 미치기 때문에 일반 경쟁 관계에서 분리해 별도로 협상하기가 더 어렵다.

대화의 현재 상태

2026년 중반 현재 US-중국 AI 대화는 신중하고 간헐적이다. 2024년에 시작된 양자 논의는 주로 AI 위험 평가에 대한 정보 공유에 초점을 맞춰 실무 수준에서 이어지고 있다. 양국 정부는 모두 재앙적 AI 결과를 방지한다는 목표를 공개적으로 지지하면서도 경쟁적인 AI 개발 프로그램을 유지하고 있다. 다자 수준에서는 2023년 블레츨리 정상회의와 2024년 서울 정상회의에 모두 참석해 프런티어 AI 위험에 대한 공동 우려를 인정하는 선언에 서명했으나 구속력 있는 의무는 만들지 않았다.

US의 첨단 반도체 기술 수출 통제는 양자 간 긴장의 지속적 원인이었다. 최전선 인공지능 학습에 사용되는 가장 첨단 칩에 대한 중국의 접근을 제한하는 이 통제는 안전보다는 경쟁적 고려에서 주로 비롯된다. 거버넌스 관점에서 이는 조약 기반 컴퓨트 제한과 실질적 효과가 일부 유사한 일방적 컴퓨트 거버넌스 형태이지만, 조약 기반 거버넌스가 제공하는 상호적 제약이나 검증 메커니즘은 전혀 없다.

어떤 조건이 진전을 가능하게 할 것인가

경쟁국 사이에서 의미 있는 군비 통제 진전이 historically 앞서 있었던 세 가지 조건이 있으며, 각각은 AI에 적용되는 동등한 조건이 있습니다.

위험을 구체적이고 정치적으로 만드는 결정적 순간이다. 대기권 핵실험 금지 조약은 양측의 대기권 실험이 측정 가능한 전 지구적 낙진을 일으켜 여론이 실험 지속에 반대하도록 집중된 후에 이루어졌다. 유럽연합 거버넌스의 동등한 사건은 심각한 사고, 즉 고도로 유능한 시스템이 대규모로 의도하지 않은 방식으로 작동한 배치가 양국 국내 여론에 위험을 동시에 정치적으로 가시화하는 것일 수 있다. 예방 조치에 저항해 온 정부는 아차 하는 경험 이후 더 수용적으로 변한다.

구속력 있는 약속 이전의 기술적 신뢰 구축 조치. SALT I 이전에 양측은 상대방의 미사일 프로그램을 감시하기 위해 위성 정찰을 사용했으며 이 감시가 진행 중이라는 것을 암묵적으로 수용했습니다. AI에 해당하는 것은 훈련 실행 알림, 공유 평가 기준 또는 협력적 안전 연구에 대한 투명성 합의일 수 있습니다. 이러한 조치는 상대방이 선의로 참여하고 있다는 신뢰를 구축하여 더 큰 약속을 위한 정치적 기반을 만듭니다.

양측이 서로 양보하는 것처럼 보이지 않고 참여할 수 있게 하는 제3자 중재. 여러 성공적인 군비 통제 이니셔티브는 다자간 틀에서 이익을 얻었습니다. 양측은 서로에 대한 양자 간 양보가 아닌 국제 프로세스에 참여할 수 있었습니다. 중립 기구가 주최하는 ASI 거버넌스 프로세스가 US과 중국을 모두 포함한다면 US-중국 만남으로 틀이 잡힌 양자 협상에서는 도출되지 않을 합의를 위한 경로가 될 수 있습니다.

"US와 중국은 인공지능 안전을 위해 협력하기 위해 서로를 신뢰할 필요가 없습니다. 그들은 재앙적인 인공지능 결과가 그러한 결과를 방지하는 데 필요한 제약보다 둘 모두에게 더 나쁘다는 데 동의해야 합니다."

US와 중국이 인공지능 안전에 합의할 수 있는지는, 결국 양국 정부가 충분히 강력한 인공지능 시스템이 존재하기 전에 구속력 있는 상호 제약이 무제한 경쟁보다 낫다고 결론 내릴지 여부에 달려 있다. 역사는 적절한 조건이 주어지면 이 결론에 도달할 수 있음을 시사한다. 역사는 또한 정부가 사전의 차분한 숙고를 통해 그 결론에 도달하는 경우가 드물다는 점도 보여 준다. 대안이 정치적 계산을 바꿀 만큼 충분히 생생해졌을 때 도달한다. 정책적 질문은 거버넌스 창이 그 변화가 일어날 만큼 충분히 오래 열려 있을지다.

가장 강력한 반발

가장 공정한 반론은 경쟁 때문에 협력이 환상이라는 것입니다. 핵무기 통제는 더 심한 증오 속에서 신뢰 대신 검증으로 이루어졌습니다. 통제 상실에 대한 공동의 취약성이 공동의 이해관계입니다. 그것이 없으면 양측 모두 통제할 수 없는 시스템으로의 경쟁에 빠집니다.