조약이 어떻게 검증될 수 있는가

"그저 어딘가 서버에 있는 소프트웨어일 뿐입니다." 가장 흔한 집행 반대 의견입니다. 잘못된 접근입니다.

가중치를 통제하지 않습니다. 당신이 하드웨어를 감시합니다. 최전선 모델을 훈련하려면 소수의 제조사에서 나온 특수 칩이 필요하며, 대규모 클러스터에 장착되어 산업용 전력을 소비하고 기록을 남깁니다.

칩 추적

고성능 가속기는 고가치·저물량 상품입니다. 수출 기록, 일련번호 추적, 최종 사용 확인은 이미 인접 체제에 존재합니다. 이를 대규모 학습 실행까지 확장하십시오.

연산량 기준을 초과하는 시설은 허가와 보고, 점검 권한을 요구합니다. 소규모 연구소와 일반 클라우드 사용자는 적용 범위에서 제외됩니다.

IAEA 방문에 착안: 대형 데이터센터, 전력 소비, 하드웨어 재고에 대한 정기 및 도전 검사. 소프트웨어는 숨길 수 있습니다. GPU로 가득 찬 창고는 숨길 수 없습니다.

주요 클라우드 제공자와 칩 제조사는 보고 노드가 됩니다. 비밀리에 급하게 진행되는 프로그램이라도 팹과 전력, 냉각 시설이 필요하며, 그것들은 흔적을 남깁니다.

핵 검증은 전지전능을 주장한 적이 없습니다. 주요 강대국이 협정 안에 머무르도록 부정 행위의 비용과 위험을 충분히 높였을 뿐입니다. 초지능 금지에도 같은 실질적 기준이 필요합니다. 대규모 불법 훈련이 숨기기 어렵고 시도하기 비싸도록 충분한 가시성을 확보하는 것입니다.

더 깊이 살펴보기: nakadafoundation.org/blog/compute-governance-ai/