책임과 귀속
ASI 통치에서.

다리가 무너지면 변호사들은 이미 책임자를 찾아내는 방법을 압니다. 그러나 AI 스택이 모델, 클라우드, 통합자에 걸쳐 실패할 경우 추적은 멈춰 버립니다. 피고를 지목할 수 없는 책임 규정으로는 다음 실패를 막을 수 없습니다. 이는 형이상학적 문제가 아니라 거버넌스 문제입니다.

위반에 대한 책임을 할당할 수 없는 조약은 집행할 수 없는 조약이며, 이러한 질문들은 AI 같은 기술에 대해 진정으로 어렵습니다.

두 가지 별개의 문제

흔히 혼동되는 두 가지를 구분하는 데 도움이 됩니다. 책임 는 피해가 발생했을 때 누가 책임을 지고 비용을 부담해야 하는지에 관한 법적 문제로, 개발자에서 배포자, 사용자에 이르는 사슬에서 책임을 배분하는 사안이다. 저작자 표시 는 실제로 무슨 일이 일어났고 누가 했는지 확인하고, 유해한 행동을 특정 시스템, 모델 또는 행위자로 추적하는 사실적·기술적 질문입니다. 거버넌스는 두 가지 모두에 대한 답이 필요합니다. 책임을 부여하는 규칙과, 그 규칙을 적용할 사실을 밝혀낼 수 있는 법의학적 역량입니다.

인공지능이 둘 다 어렵게 만드는 이유

• 인과 관계 사슬은 길고 분산되어 있다. 단 하나의 유해한 결과도 기초 모델 개발자, 모델을 개조한 회사, 배포자, 최종 사용자를 연루시킬 수 있으며, 각자는 다른 쪽을 가리킬 수 있습니다.
• 행동은 창발적이며 불투명합니다. 시스템이 제작자들이 구체적으로 의도하거나 예측하지 않은 일을 할 때 전통적인 과실과 과실 개념이 긴장합니다.
• 귀속은 기술적으로 파악하기 어렵습니다. 주어진 출력이나 행동을 어떤 시스템이 생성했는지 판별하는 일(특히 모델이 복사, 미세 조정 또는 비공개로 실행되는 경우)은 의도적인 추적 가능성 조치 없이는 실제로 어려울 수 있습니다.
• 피해는 국경을 넘을 수 있다. 한 국가에서 개발되어 다른 국가에 배포되고 세 번째 국가에서 피해를 일으키는 시스템은 일반적인 책임법이 대처할 수 없는 관할권 문제를 제기합니다.

국제적 차원

국가 수준에서 국제법은 이미 책임에 대한 틀을 갖추고 있다. 오랜 국가책임 규칙(국제법위원회 조항에 성문화)에 따라 국가는 국제적 위법 행위에 대해, 특정 상황에서는 자신이 지시·통제하거나 규제하지 못한 민간 행위자의 행위에 대해서도 책임을 진다. AI 조약은 이를 기반으로 할 것이다. 국가는 자국 영토 내 행위자들이 준수하도록 보장하고, 준수하지 못한 결과에 대해 책임진다. 이는 국가를 구속하는 조약이 실제로 최전선 AI를 만드는 민간 기업에 대한 책임으로 이어지는 방식이다.

그러나 국가 책임은 귀속에 의존하며, 위반이 발생했고 특정 국가의 관할권 내에서 발생했음을 증명해야 합니다. 여기서 거버넌스가 검증과 만납니다: 비준수를 탐지하는 동일한 모니터링 및 추적 도구가 귀속, 따라서 책임을 가능하게 합니다. 조약의 집행 조항은 누가 무엇을 했는지 확립하는 능력만큼만 신뢰할 수 있습니다.

거버넌스 체제가 필요로 하는 것

아무도 지킬 수 없는 규칙은 규칙이 아닙니다. 위험한 인공지능에 대한 제한을 집행하려면 먼저 두 가지 질문에 답할 수 있어야 합니다. 누가 책임지는가, 그리고 어떻게 증명하는가. 이 답변들은 모든 신뢰할 수 있는 조약의 숨겨진 토대입니다.

조약 아래의 토대

책임과 귀속은 ASI 거버넌스에 대한 주요 요구에서 거의 다뤄지지 않지만, 그것이 작동하는지 여부를 결정합니다. 임계값과 금지 사항이 있지만 위반에 대한 책임을 할당할 방법이 없는 조약은 의도의 선언이지 집행 가능한 규칙이 아닙니다. 따라서 AI 공급망을 따라 책임을 할당하는 법적 프레임워크를 구축하고 피해를 출처로 추적하는 기술적 역량을 갖추는 것은 조약 프로젝트의 기반의 일부이며, 별개가 아닙니다. 이는 또한 국내 책임법과 추적 가능성 표준을 통해 국제 합의에 앞서 지원하는 방식으로 지금 진전을 이룰 수 있는 영역이기도 합니다. 거버넌스의 가시적 구조(레드라인, 모니터링 기구)는 이 조용한 기반 위에 서 있습니다. 그것 없이는 집행은 누구도 지킬 수 없는 약속입니다.