수출 규정은 누가 칩을 살 수 있는지 정할 수 있습니다. 실리콘 안에 라이선스 조건을 강제하는 칩은 한 걸음 더 나아갑니다. 하드웨어 기반 거버넌스는 일부 규칙이 PDF가 아니라 금속 안에 살아야 한다는 내기입니다.
이 아이디어는 AI를 unusually 통제하기 쉽게 만드는 사실에 기반한다. 최전선 모델 훈련에는 대량의 특수 칩이 필요하며, 이는 대규모 데이터 센터에 집중되어 있고, 소수의 기업이 심각한 병목이 있는 공급망을 통해 생산한다. 소프트웨어는 보이지 않게 즉시 복제되지만, 수만 개의 고성능 프로세서가 메가와트 규모의 전력을 끌어들이는 것은 그렇지 않다. 그 물리적 발자국이 거버넌스가 붙잡을 수 있는 표면이며 연산 거버넌스, 칩 수준까지 내려간.
하드웨어에 무엇을 구축할 수 있을까
제안들은 소박한 것부터 야심찬 것까지 다양하다.
- 사용 검증. 칩은 수행 중인 작업의 속성, 예를 들어 훈련 실행이 소비한 컴퓨트 양을 변조 방지되고 프라이버시를 보호하는 방식으로 증명할 수 있어 검사관이 모델이나 데이터를 읽지 않고도 준수 여부를 확인할 수 있게 합니다.
- 사용 제한. 하드웨어는 상한선을 강제할 수 있습니다. 정해진 규모를 초과하는 훈련 실행에 승인 없이 참여하지 않도록 하여 법적 한계를 물리적 한계로 바꿉니다.
- 위치와 무결성. 칩이 선언된 위치에 있으며 변조되지 않았음을 확인할 수 있는 메커니즘은 수출 통제를 지원하고 감시되지 않는 시설로의 전용을 막는 데 도움이 됩니다.
이 중 일부는 다른 이유로 현대 프로세서에 이미 존재하는 보안 하드웨어 기능을 기반으로 한다. 공학은 어렵고 부분적으로 미해결이지만, 공상과학이 아니며 이를 현실화하기 위한 진지한 작업이 진행 중이다.
왜 이것이 그렇게 매력적인 지렛대인지
대부분의 ASI 거버넌스를 약화시키는 문제를 해결한다는 점이 매력입니다. 확인할 수 없는 조약은 생물무기협약, 수십 년 동안 탐지되지 않은 채 위반되어 온 실제 금지 조치입니다. 조약이 실제로 준수를 확인할 수 있는 거버넌스, 즉 핵 사찰 체제 핵분열 물질에 대해 확인하는 것처럼, 이는 유지될 수 있는 거버넌스다. 하드웨어 기반 메커니즘은 물리학에 뿌리를 두고 신뢰가 아닌 검증을 가능하게 하는 경로를 AI에 제공한다. 이를 통해 국가들은 한도를 합의하고 서로가 이를 지키는지 확인할 수 있으며, 이는 거의 모든 국제 제안에서 빠진 핵심 요소다.
어떤 AI 협정에서든 가장 어려운 부분은 규칙을 작성하는 것이 아니라 규칙이 지켜지고 있음을 증명하는 일입니다. 증거는 하드웨어에 있을 수 있습니다.
양날의 검
정직하려면 위험을 명확히 밝혀야 합니다. 합법적 당국이 연산 자원을 확인하고 제한할 수 있게 하는 장치는 통제 장치이기도 하며, 통제는 남용될 수 있습니다. 안전 제한을 강제하기 위해 구축된 기반 시설은 잘못된 손에 들어가면 독점을 강제하거나 열쇠를 쥔 자를 공고히 하거나 감시와 강압의 도구가 될 수 있습니다. 공정한 국제 중단을 뒷받침할 수 있는 바로 그 지렛대가 권력 집중 재단이 다른 곳에서 경고하는 것입니다.
이것은 기술 자체를 반대하는 주장이 아닙니다. 거버넌스의 거버넌스를 갖추고 기술을 구축하자는 주장입니다. 즉, 메커니즘이 무엇을 하는지 투명하게 공개하고, 누가 통제할지 제한하며, 일방적 권한이 아닌 국제적 권한을 두자는 것입니다. 그렇게 다룬다면 하드웨어 기반 거버넌스는 검증 문제를 근본에서 공격하는 가장 유망한 도구 중 하나입니다. 재단이 신뢰할 수 있고 검증 가능한 국제 체제가 유토피아가 아니라 실현 가능하다고 믿는 구체적 근거 중 하나이며, 이는 우리의 계획.