이 열한 가지 항목은 히로시마 AI 프로세스의 두 가지 주요 산출물 중 하나인 첨단 AI 시스템을 위한 국제 지침 원칙에 포함되어 있다. 다른 하나는 원칙을 개발자를 위한 운영 지침으로 전환하는 자발적 국제 행동 강령이다. 2023년 5월 G7 정상들이 모인 일본 도시 이름을 딴 이 프로세스는 세계 주요 산업 민주주의 국가(미국, 영국, 프랑스, 독일, 이탈리아, 캐나다, 일본, 유럽연합)가 구속력 있는 규제가 아직 수년 남은 시점에 공유된 기대를 설정하려는 시도였다.

히로시마 프로세스가 낳은 결과

단순한 정치적 선언과 달리 히로시마는 실무로 내려갔습니다. 기업과 규제 당국은 업계 대부분을 보유한 국가들 사이에서 책임 있는 최전선 개발이 무엇을 포함해야 하는지에 대한 공통 참조를 받았습니다. 2023년 말 기준으로 이는 주요 민주주의 국가들 사이에서 가장 상세한 국제 합의 문서였습니다.

행동 강령은 법적 의무를 만들지 않는다. 조직은 자발적으로 이를 따른다. 그 힘은 평판과 정치적 성격이다. 다른 이들이 연구소의 행동이 미흡할 때 인용할 수 있는 점검 목록이자, 국내 규정이 나중에 높일 수 있는 최소 기준이다.

모임 모델의 강점

G7 형식은 빠르고 일관적입니다. 이미 협력하는 소규모 선진 민주주의 국가들은 보편적 협상보다 훨씬 빠르게 합의에 도달할 수 있으며, 회원국들이 최첨단 산업을 상당 부분 보유하고 있기 때문에 기준이 무게를 가집니다. 많은 국제 체제가 이렇게 시작합니다. 핵심 그룹이 기준을 작성하면 나머지가 시간이 지나며 수렴합니다.

히로시마의 결과물은 더 넓은 생태계에도 영향을 주었습니다. OECD 작업에 정보를 제공했고 나중에 블레츨리와 서울에서 취한 방향과도 일치했습니다. 인공지능 개발에 가장 중요한 국가들 사이에 초기 규범을 심는 방법으로서 클럽 모델은 효율적이며 여전히 저평가되어 있습니다.

클럽 모델의 상한

  • 중국을 배제한다. G7 밖에서 가장 중요한 인공지능 개발자는 회의에 참석하지 않습니다. 민주주의 국가들만 구속하는 규범은 프런티어 개발의 전체 영역을 제약할 수 없으며, 그 자체로 보편적 거버넌스가 될 수 없습니다.
  • 이는 자발적입니다. 서울 기업들의 서약처럼, 이 강령에는 검증도 강제력도 없다. 좋은 관행을 설명할 뿐, 그것을 강제하지는 않는다.
  • 그것은 천장이 아니라 바닥이다. 가이드 원칙은 최소한의 기대치를 설정합니다. 구속력 있는 임계값, 독립적인 모니터링, 위반에 대한 결과는 더 어려운 과정으로 남습니다.

민간의 반대 의견은 UN 조약 수준에 못 미치는 어떤 모임도 공허한 상징에 불과하다는 것입니다. 한도를 인정하고 사용을 유지하라는 뜻입니다. 모임은 규칙서를 빠르게 작성합니다. 다른 주요 당사자가 서명하지 않고, 아무도 확인하지 않으며, 무시해도 처벌이 없는 규칙서는 초안에 머무릅니다. 나중에 누군가 그 초안을 확대하고 강화한다면 초안은 여전히 의미가 있습니다.

더 큰 그림 속에서 그것이 차지하는 위치

히로시마는 초기 AI 규범이 구축되는 여러 병행 경로(정상 회담 시리즈, OECD, UN) 중 하나입니다. 그 기여는 기존 신뢰를 활용해 주요 민주주의 국가 간 책임 있는 관행에 대한 상세하고 합의된 성명을 도출한 점입니다. 한계는 구조적입니다. 같은 생각을 가진 모임은 보편적이고 구속력 있으며 검증된 거버넌스를 단독으로 제공할 수 없습니다. 왜냐하면 배제된 행위자들이야말로 포괄적 체제가 반드시 포함해야 할 대상이기 때문입니다.

G7 모델의 현실적 역할은 기준을 정하고 더 넓은 합의가 나중에 형식화할 수 있는 동력을 만드는 것입니다. 그 출발점은 확대되고 실질적인 권한이 주어질 때만 효과를 발휘합니다. 재앙적 최전선 위험의 경우, 실질적인 권한이란 경성법: 검증된 의무이지, 자발적 모범 사례의 영구적인 규범이 아닙니다. 또한 어떻게 소수 국가 클럽 더 넓은 전략에 맞춥니다.