할 수 있는 중간 강대국들
ASI 거버넌스에서 균형을 기울이세요.

국제 기술 거버넌스의 성공 여부를 역사적으로 결정해 온 국가는 항상 가장 강력한 국가가 아니다. 오존층 파괴에 관한 몬트리올 의정서는 처음에 반대했던 미국이 아니라 주로 캐나다, 북유럽 국가, 유럽공동체가 주도했다. 대인지뢰를 금지한 지뢰금지조약(1997)은 주요 강대국 틀 밖에서 전적으로 협상되었으며, 캐나다와 시민사회 조직 연합이 주도해 미국·중국·러시아의 불참에도 164개국이 비준했다. 국제형사재판소는 지속적인 US 반대에도 설립되었다.

지뢰 금지 조약은 주요 강대국 체제 밖에서 캐나다가 주도해 만들었다. 중견국도 기술 거버넌스를 형성할 수 있다. 인공지능에 대해 그들이 할 수 있는 방법은 다음과 같다.

중견국은 국제 거버넌스에서 중요하다. 이들은 아직 ASI 거버넌스에 대한 영향력을 효과적으로 사용하지 않고 있다. 그 영향력이 무엇이며 역사적으로 어떻게 작동했는지 이해하는 것이 이를 바꾸기 위한 출발점이다.

관련 중간 강대국은 누구인가

ASI 거버넌스 맥락에서 중견국은 미국이나 중국이 아닌, 상당한 AI 규제 역량이나 상당한 AI 시장 영향력, 또는 둘 다를 가진 국가를 의미하며 단순히 중간 규모 국가를 뜻하지 않습니다.

유럽연합은 가장 큰 규제 행위자다. 2024년 발효된 유럽연합 인공지능법은 유럽연합 시장에 배포되는 인공지능 시스템에 구속력 있는 의무를 부과하며, 유럽연합 단일 시장에서 활동하려는 모든 기업에 준수 의무를 발생시킨다. 이것이 브뤼셀 효과다. 기업이 여러 시장별 기준을 따르기보다 단일한 글로벌 준수 체계를 유지하는 편을 선호하기 때문에 유럽연합 규제 기준이 사실상 세계 기준이 된다. 미국이나 중국이 조약 수준에서 무엇을 하든, 유럽연합의 인공지능 거버넌스 영향력은 이미 상당하다.

영국은 2023년 인공지능 안전 연구소로 설립된 인공지능 보안 연구소를 보유하고 있으며, 이는 최전선 인공지능 시스템의 안전 특성을 평가하기 위해 특별히 설립된 최초의 국가 기구다. 미국은 2023년 11월 블레츨리 인공지능 안전 정상회의를 개최했으며, 이는 최전선 인공지능 안전 위험에 초점을 맞춘 최초의 주요 다자간 모임이었다. 브렉시트 이후 영국은 인공지능 안전을 미국과 별개로 국제적 영향력을 행사하는 영역으로 자리매김했으며, 규제 시장 규모가 아닌 과학 외교와 제도 혁신을 통해 그 역할을 추구해 왔다.

일본, 한국, 호주는 미국과 긴밀히 연계된 주요 기술 경제국이다. 일본은 히로시마 AI 프로세스 원칙을 도출한 G7 ASI 거버넌스 과정을 주최하고 있다. 한국은 2024년 서울에서 후속 AI 안전 정상회의를 공동 주최했다. 호주는 국가 AI 안전 프레임워크 개발에 적극적이다. 이 세 나라는 아시아·태평양 지역에서 상당한 AI 시장 점유율과 규제 역량을 대표하며, US과 더 신중하게는 중국과도 서방 국가가 직접 이용할 수 없는 대화 채널을 유지하고 있다.

캐나다는 다자간 기술 거버넌스 참여의 오랜 전통을 가지고 있으며, 최근 역사에서 중견국 연합이 강대국의 반대에도 불구하고 구속력 있는 국제 규범을 수립한 가장 성공적인 사례인 지뢰에 관한 오타와 프로세스의 중심이었습니다. 캐나다는 ASI 거버넌스 논의에 적극적이지만, 프론티어 AI 안전을 둘러싼 비교할 만한 연합 구축 노력은 아직 모으지 않았습니다.

중간 강대국이 가진 영향력

ASI 거버넌스에서 중견국은 네 가지 구체적인 영향력을 행사할 수 있으며, 이 중 어느 것도 US과 중국이 합의하기를 기다릴 필요가 없습니다.

규제적 시장 접근이 가장 즉각적이다. 주요 AI 시장을 가진 국가들은 안전 기준 준수를 시장 접근 조건으로 삼을 수 있다. UK, 캐나다, 일본, 한국, 호주가 자국 AI 규제 체계를 서로 그리고 EU와 일치시킨다면, 이들은 중국과 US를 제외한 세계 주요 선진국 시장을 포괄하게 된다. 그 시장에서 영업하려는 기업은 해당 국가들이 정한 거버넌스 기준을 충족해야 하는 규제 압력을 받게 된다. 이는 조약 기반이 아닌 시장 기반 거버넌스지만, 국내법을 통해 기업에 구속력을 갖는다.

연합 신호는 US-중국 논의의 협상 환경을 바꾼다. 1980년대 캐나다·북유럽 국가·EU가 오존 거버넌스에서 일치된 입장을 보였을 때, 미국이 몬트리올 의정서 밖에 남아 있을 정치적 비용은 측정 가능한 수준으로 증가했다. 국내 이해관계자(불참으로 영향을 받는 기업, 과학계, 동맹국 정부)가 불참 입장의 대가를 높였다. AI 안전에 대한 신뢰할 수 있고 일치된 중견국 연합은 US과 중국 모두 거버넌스 체제 밖에 남는 데 비슷한 정치적 비용을 부과할 것이다.

기술 역량 구축은 공식 검증 체제가 필요로 하는 제도적 인프라를 만든다. UK의 AI 보안 연구소, US 기구인 NIST(일부는 UK 모델 이후 설립되어 현재 AI 표준 및 혁신 센터가 됨), 그리고 다른 국가의 동등한 기구들이 평가 방법론과 최전선 AI 안전 평가에 대한 제도적 경험을 구축하고 있다. 공유된 평가 기준과 데이터 공유 협정을 갖춘 국가 AI 안전 연구소 네트워크는 조약 협상을 요구하지 않고도 사실상의 검증 인프라로 기능할 것이다. 공식 거버넌스 의무가 도래할 때 이를 이행할 제도적 역량이 이미 존재할 것이다.

국제 기구 본부 유치는 중견국이 거버넌스 기구에 지속적인 영향력을 행사할 수 있게 한다. OPCW는 헤이그에, IAEA은 빈에 있다. 위치는 우연이 아니다. 주최국은 이 기관들과 지속적인 관계를 맺고 있으며 발전 과정에서 어느 정도 영향력을 갖는다. 글로벌 AI 모니터링 기구가 설립된다면 어디에 본부를 둘지가 중요하다. 신뢰할 수 있는 중립적 주최국으로 자리 잡는 국가는 자국의 AI 개발 역량을 넘어서는 장기 거버넌스 영향력을 얻을 수 있다.

오타와 조약 모델

1997년 지뢰 금지 조약은 주요 강대국의 방해를 우회하기 위해 명시적으로 설계된 과정을 통해 협상됐다. 캐나다 외무장관 로이드 액스워디는 1996년 10월 오타와에서 협상 회의를 소집해 미국·중국·러시아가 진전을 가로막고 있던 군축 회의를 의도적으로 우회했다. 조약은 1년 정도 만에 뜻을 같이하는 국가 연합과 시민사회 캠페인의 지원으로 완성됐다. 164개국이 비준했다.

미국, 중국, 러시아, 인도, 파키스탄은 가입하지 않았다. 그러나 조약은 강력한 규범을 확립했다. 대인지뢰 사용은 비서명국에서도 군사 교리와 조달에 영향을 미칠 정도로 국제적으로 낙인찍혔다. US의 후속 군사 계획은 US가 법적으로 구속되지 않는 상황에서도 규범의 영향을 보여주었다. 주요 강대국 없이도 조약은 주요 강대국의 행동을 바꾸었다.

오타와 협약을 모델로 한 최첨단 인공지능 안전 절차는 US과 중국의 초기 불참을 받아들이면서도 참여 의사가 있는 국가들 사이에 상업적 행동을 규율할 만큼 충분한 구속력 있는 규범을 확립할 것이다. 이는 가장 많은 최첨단 인공지능 개발을 수행하는 조직을 구속하지 않는 조약은 결정적 공백을 지니기 때문에, 그 자체만으로 최첨단 ASI 거버넌스 문제를 해결하지는 못할 것이다. 그러나 지뢰 금지 조약이 지뢰 사용 비용을 점진적으로 높이는 규범 환경을 조성한 것처럼, 제도적 기반과 정치적 동력, 실현 가능성을 입증해 결국 주요 강대국을 끌어들일 수 있을 것이다.

중간 강대국 연합이 지금 할 수 있는 일

포괄적인 다자 조약을 기다리지 않고, 처음부터 US나 중국의 참여를 요구하지 않고도 여러 단계가 가능하다.

최전선 AI 시스템을 위한 공통 안전 평가 표준. UK의 AI Security Institute, EU의 AI 규제 기관, 캐나다·일본·한국·호주의 동등한 기관이 최전선 AI 모델 평가를 위한 공유 표준을 채택하면 기업은 해당 시장에서 운영하기 위해 그 표준을 충족해야 합니다. 이는 조약 의무가 아니라 시장 접근을 통한 거버넌스를 만들며 외교적 돌파구 없이 단기간에 달성 가능합니다.

국가 인공지능 안전 연구소 간의 데이터 공유 협정입니다. 인공지능 보안 연구소는 공개되지 않은 정부 접근 결과를 통해 최첨단 인공지능 모델에 대한 평가를 수행했습니다. 동맹 안전 연구소 간의 데이터 공유 협정은 최첨단 인공지능 안전 특성에 대한 집단 지능을 증가시키고 거버넌스 결정에 대한 공유 증거 기반을 만들 것입니다. 이 협정에 필요한 기관 관계는 이미 부분적으로 마련되어 있습니다.

검증 설계를 위한 기술 실무 그룹의 위촉. 거버넌스 조약 설계에서 가장 어려운 문제는 선언된 의무의 준수를 어떻게 검증하느냐이다. 중견국 연합은 검증 시스템 설계에 관한 권위 있는 기술 연구를 위촉하여, 정치적 여건이 허락할 때 조약 협상을 가속할 분석 결과를 만들 수 있다. 이 작업은 협상이 시작된 후가 아니라 시작되기 전에 이루어져야 한다.

US-중국 틀을 요구하지 않는 양자 채널을 통한 중국과의 직접 관여. 일본과 한국은 중국과 복잡하지만 지속적인 기술 관계를 맺고 있습니다. EU은 디지털 시장법 및 관련 틀을 통해 중국 기술 기업과 규제 관여를 하고 있습니다. 이러한 채널은 US-중국 역학과 독립적으로 작동하는 ASI 거버넌스 규범에 대한 대화를 제공하며, 현재 양자 US-중국 논의와는 다른 종류의 관여를 낳을 수 있습니다.

"효과적인 ASI 거버넌스로 가장 많은 이득을 얻을 나라들이 현재 경쟁에서 가장 큰 권력을 가진 나라들은 아닙니다. 중견국들은 주요 강대국들이 아직 합의하지 못한 거버넌스 구조를 구축할 유인과 역량을 모두 갖고 있습니다."

ASI 거버넌스에 대한 양강 프레임은 가능한 선택지를 과소평가합니다. US과 중국이 구속력 있는 AI 안전 의무에 합의하지 않은 세계는, 오존 거버넌스, 지뢰, 화학무기, 국제형사재판소에서 그랬듯이 그 사이 국가들이 더 많은 일을 해야 하는 세계이지, 거버넌스가 불가능한 세계가 아닙니다. 선례는 존재합니다. 문제는 거버넌스가 필요한 능력이 이미 거버넌스할 수 있는 기관의 손이 닿지 않는 곳으로 가기 전에 연합이 형성되느냐입니다.