현재 AI 개발은 하드웨어 집약적입니다. 능력 최전선에 있는 모델을 훈련하려면 수천 개의 특수 칩이 수주에서 수개월 동안 작동하는 클러스터가 필요하며, 전력 소비는 수십 메가와트 규모에 이릅니다. 칩은 소수 기업이 설계하고, 더 적은 수의 기업이 만든 장비로 제작되며, 특정 국가 관할권을 거치는 공급망을 통해 판매됩니다. 이 하드웨어 집중은 단기 규제를 현실적으로 만드는 프런티어 AI 개발의 몇 안 되는 특징 중 하나입니다.
그 집중은 거버넌스 병목을 만들며, 이는 프런티어 AI 개발 규제가 단기적으로 실질적으로 실행 가능한 몇 안 되는 지점 중 하나입니다.
컴퓨트 거버넌스는 이 집중을 지렛대로 활용하려는 인공지능 규제 접근법입니다. 어떤 인공지능 시스템을 만들 수 있고 만들 수 없는지를 직접 규제하는 대신(대부분의 규제 기관이 내릴 수 없는 기술적 판단이 필요한 문제), 컴퓨트 거버넌스는 시스템을 만드는 데 필요한 하드웨어를 규제합니다. 컴퓨트를 통제하면 프런티어 인공지능을 누가, 어떤 규모로, 어떤 보고와 투명성으로 개발할 수 있는지에 대해 어느 정도 통제할 수 있습니다.
하드웨어 병목 지점
이러한 병목은 영구적이지 않다. 중국은 서구 공급망 의존도를 줄이기 위해 국내 반도체 생산에 적극 투자하고 있다. 현재 국내 칩은 여전히 최전선에서 크게 뒤처져 있으며, 이 격차는 중국 인공지능 개발에 실질적인 비용을 부과하지만 충분한 시간과 자원이 있으면 최전선 인공지능 개발을 불가능하게 만들지는 않는다. 기존 하드웨어 집중이 만들어낸 거버넌스 창은 실재하지만 유한하다.
이미 존재하는 연산 거버넌스 조치들
US 정부는 현재까지 가장 중요한 컴퓨트 거버넌스 조치로 첨단 인공지능 칩에 대한 수출 통제를 시행했다. 2022년 10월 발표된 통제는 엔비디아의 A100과 H100 칩을 중국, 러시아 및 기타 지정 국가에 판매하는 것을 제한했다. 2023년과 2024년 후속 통제 라운드는 원래 임계값 이하로 떨어지도록 특별히 설계된 칩까지 제한을 확대해 가장 명백한 우회 경로를 차단했다. 이 통제는 중국 인공지능 연구소에 실질적인 비용을 부과했다. 문서화된 칩 밀수 시도, 암시장 가격, 중국 훈련 클러스터의 감소된 능력 모두 제한이 효과를 발휘했음을 보여준다.
바이든 행정부의 2023년 10월 인공지능 행정명령에는 개발자가 약 10^26 플로팅 포인트 연산 이상의 훈련 실행에 대해 정부에 보고해야 한다는 요건이 포함되었다. 이는 대략 GPT-4 규모 모델을 훈련하는 데 필요한 연산량이다. 이 보고 요건은 배포 후가 아니라 대규모 훈련 실행을 누가 실행하는지에 대한 정부의 가시성을 제공하는 연산 기반 감독을 향한 첫걸음이었다.
최전선 훈련 실행에는 여전히 특수 칩으로 가득 찬 건물과 궤도에서 보이는 전력 요금이 필요하다. 그 물리적 더미가 정부가 가진 가장 좋은 손잡이다. 연산 거버넌스는 그 건물들을 허가받고 검사 가능한 기반시설로 바꾸는 평범한 과제다.
컴퓨트 거버넌스가 할 수 없는 것
컴퓨트 거버넌스가 안전 도구로서 효과를 제한하는 세 가지 주요 한계가 있습니다. 첫째, 우회: 칩은 규제가 발효되기 전에 제3국을 통해 구매하거나 비축하거나 규제 기준 이하의 약간 덜 강력한 칩으로 대체할 수 있습니다. US 통제는 문서화된 사례에서 우회되었으며 밀수와 제3국 경유 패턴이 광범위하여 여러 차례 규제를 강화하게 만들었습니다.
둘째, 알고리즘 효율성입니다. AI 훈련이 더 효율적으로 변함에 따라, 특정 수준의 성능을 훈련하는 데 필요한 연산량은 줄어듭니다. 오늘 적정 수준으로 설정된 연산량 기준이 효율이 향상되면서 3년 후에는 너무 관대해질 수 있습니다. 고정된 연산량 기준을 중심으로 구축된 거버넌스 체계에는 연산량과 성능 간 관계가 변함에 따라 기준을 조정하는 메커니즘이 필요합니다.
셋째, 그리고 가장 중요하게, 연산 거버넌스는 정렬 문제를 다루지 않습니다. 적절히 허가된 하드웨어를 사용하여 훈련되고, 관련 당국에 보고되며, 승인된 연산 한도 내에 있는 시스템도 여전히 정렬되지 않을 수 있습니다. 연산 거버넌스는 최전선 AI 개발의 속도와 규모를 통제하고 누가 무엇을 훈련하는지에 대한 가시성을 제공할 수 있습니다. 그것은 그들이 훈련하는 것이 정렬되어 있는지 보장할 수 없습니다.
이것이 바로 컴퓨트 거버넌스가 정렬 검증 요건과 국제 조약 의무와 함께 더 넓은 프레임워크의 한 구성 요소로 가장 잘 이해되는 이유이며, 독립적인 해결책이 아닙니다. 재단의 세 가지 정책 제안 연산 거버넌스를 단기적 지렛대로 보고, 더 어려운 기술적·외교적 작업인 정렬 검증과 국제 조약 협상이 진행되는 동안 시간을 벌고 가시성을 확보하는 수단으로 삼습니다.