ASI 거버넌스에서 반복되는 문제는 정부가 규제해야 할 시스템을 평가할 내부 전문성을 역사적으로 부족했다는 점입니다. 안전 연구소는 그 격차를 메우기 위해 존재합니다. 이들은 프런티어 모델의 능력과 위험을 평가하는 기술 연구원으로 구성된 정부 또는 정부 지원 기관으로, 연구소가 구축하는 것을 연구소의 말만 듣는 대신 국가가 마침내 볼 수 있는 능력을 구축하는 것입니다.
2023년 말 UK과 US부터 시작하여, 국가 AI 안전 연구소들이 증가하고 국제 네트워크로 연결되었습니다. 그들은 화려하지 않지만, 지금까지 만들어진 가장 중요한 거버넌스 인프라일 수 있습니다.
네트워크가 어디서 왔는지
영국은 2023년 11월 블레츨리 정상회의를 계기로 AI 안전 연구소를 발표했으며, 이는 최초의 사례였다. 미국은 곧이어 NIST에 자체 연구소를 설립했다. 2024년 5월 서울 정상회의에서 일본, 싱가포르, 캐나다, 한국, EU 등 더 많은 국가들이 연구소를 설립하고 이를 국제 네트워크로 연결하여 작업을 조율하기로 합의했다. 두 개의 국가 기구로 시작된 것이 협력 시스템의 씨앗이 되었다.
이름에 대한 참고: 두 설립 기관은 이후 이름을 바꾸었습니다. UK는 현재 AI 보안 연구소가 되었고, US 기관은 2025년에 AI 표준 및 혁신 센터(CAISI)가 되었습니다. 네트워크와 평가 작업은 새 이름 아래에서 계속되고 있습니다.
연구소들이 실제로 하는 일
- 최첨단 모델 평가. 고급 시스템을 위험한 능력(고위험 영역 포함)에 대해 테스트하며 모델이 실제로 할 수 있는 일을 측정하는 방법을 개발합니다.
- 평가 과학을 발전시키다. 인공지능에 대한 엄격하고 표준화된 테스트는 해결되지 않은 기술 문제입니다. 연구소들은 신뢰할 수 있는 거버넌스가 요구하는 방법론을 구축하고 있습니다.
- 정부에 조언하세요. 이들은 국가에 AI 위험에 대한 독립적인 기술적 판단을 제공하여 개발사 자체 평가에 대한 의존도를 줄입니다.
- 국경을 넘어 협력하라. 네트워크를 통해 연구소들은 방법론을 공유하고, 시험을 조율하며, 공통 기준을 향해 나아간다. 상호 운용 가능한 국제 평가의 시작이다.
그것들이 조약에 중요한 이유
연구소와 미래 구속력 있는 협정 사이의 연결은 직접적이면서도 충분히 평가받지 못하고 있습니다. 모든 진지한 AI 조약 제안은 시스템이 위험한 문턱을 넘는지 평가하고 안전 의무 준수를 검증할 능력에 의존합니다. 그 능력은 기본적으로 존재하지 않으며, 구축해야 합니다. 안전 연구소들이 바로 그것을 구축하고 있습니다. 사실상 검증 체제가 나중에 사용할 기술 기관을 건설하는 셈입니다.
또한 순서 문제를 해결합니다. 평가 요건을 명시한 조약은 독립 기구가 평가를 수행할 수 없다면 무용지물이 됩니다. 지금 그 역량을 개발함으로써(조약이 존재하기 전에) 연구소들은 정치적 합의가 도래했을 때 도구가 준비되도록 보장합니다. 이 네트워크는 결국 구속력 있는 거버넌스가 설 수 있는 실질적인 기반이며, 고위급 외교가 병행되는 동안 조용히 깔리고 있습니다.
솔직히 인정해야 할 한계
연구소는 구속력 있는 거버넌스를 대체할 수 없으며, 그렇게 취급하는 것은 실수입니다. 연구소가 모델에 접근하는 것은 일반적으로 개발사의 자발적 협조에 의존하며, 회사가 공유를 거부하는 시스템을 강제로 테스트할 수 없습니다. 연구소의 권한과 자원은 국가마다 크게 다르며, 네트워크 조율은 아직 초기 단계이고 구속력이 없습니다. 또한 평가는 여전히 과학적으로 미성숙하며, 모델이 위험한지 신뢰성 있게 판단하는 것은 진정으로 어렵고 현재 방법에는 실제 한계가 있습니다.
안전 평가를 요구하는 조약은 아무도 평가를 수행할 수 없다면 공허하다. 안전 연구소들은 진정한 검증 체제가 필요로 할 눈을 만들고 있다. 그 작업은 조약 이후가 아니라 이전에 이루어져야 한다.
집행 가능한 거버넌스의 인프라
안전 연구소는 AI 위험에 대해 말하는 단계에서 위험을 측정할 역량을 구축하는 단계로의 전환을 의미한다. 이 전환은 중요하다. 측정 없는 거버넌스는 단지 열망일 뿐이기 때문이다. 현실적인 경로는 네트워크가 성숙해 법적 권한으로 최전선 모델에 대한 보장된 접근을 확보하고, 공통 기준에 수렴하며, 검증 체제에 필요한 독립적이고 충분한 자원을 갖춘 평가 역량을 구축하는 것이다. 연구소만으로 세상을 구할 수는 없다. 그러나 연구소는 구속력 있는 조약이 작동하는 데 반드시 필요한 도구를 조립하고 있으며, 더 큰 합의가 아직 협상 중인 동안 정부가 할 수 있는 가장 구체적이고 즉각적으로 유용한 일 중 하나는 이들을 강화하는 것이다.