1946년 미국은 핵무기를 보유한 유일한 국가였고, 잠시 동안 다른 어떤 나라도 핵무기를 만들지 않을 수 있을 것처럼 보였다. 6월, 미국의 금융가 버나드 바루크는 새로 설립된 유엔에 계획을 제출했다. 모든 위험한 형태의 원자력을 국제 기구 아래 두자는 내용이었다. 그 기구는 전 세계의 채굴, 물질, 기술을 통제하고 위반을 검사하며, 과학이 전력이 아니라 폭탄에 사용되지 않도록 보장할 것이다. 체계가 자리 잡으면 미국은 원자력 무기를 포기할 것이다.
서류상으로는 이례적인 제안이었습니다. 유일한 핵보유국이 독점을 국제 통제에 넘기고 이용하지 않겠다고 제안한 것입니다. 실패했습니다. 몇 년 안에 소련이 핵을 보유했고, 그 계획이 막으려던 군비 경쟁은 이후 40년 동안 이어졌으며 완전히 끝나지 않았습니다.
그것이 왜 붕괴했는가
실패는 아무도 신경 쓰지 않았기 때문이 아닙니다. 그것은 전략적 기술의 거버넌스가 충족해야 하는 조건들로 귀결되었으며, 바로크 계획이 충족할 수 없었던 조건들이었습니다.
- 신뢰와 순서. 이 계획은 소련이 침투적인 국제 사찰을 받아들이고 자체 무기 프로그램을 먼저 포기하며, 미국은 체제가 완전히 작동할 때까지 폭탄을 보유하는 것을 요구했습니다. 모스크바는 전환 기간 동안 미국의 우위를 고착시키는 방안을 받아들이지 않았습니다.
- 집행과 거부권. 제안된 계획은 원자력 문제에 대한 강대국 거부권을 제거하여 위반을 처벌할 수 있게 했습니다. 소련은 자국 안보에 대해 표결에서 밀리는 것을 원하지 않아 거부했습니다. 실제 집행과 국가 주권이 충돌한 것이며, 이는 주권 반대.
- 경쟁은 이미 시작되었다. 계획이 논의되는 동안에도 양국은 기저 능력을 추구하고 있었습니다. 거버넌스는 이미 진행 중인 경쟁을 쫓고 있었습니다.
AI와의 유사점, 신중하게 진술된
유사점이 불편하다. 변혁적이고 위험한 기술이 등장한다. 짧은 기간 동안 참여자가 적고 원칙적으로는 여전히 통제 가능한 상황이다. 통제되지 않는 경쟁이 고착화되기 전에 기술을 집단 통제 아래 두려는 제안이 존재한다. 그러나 그 노력은 상호 불신, 검증 가능한 집행의 어려움, 이미 진행 중인 경쟁에 부딪힌다. 원자를 AI로 바꾸면 형태가 익숙하다. 그래서 바루흐 계획은 ASI 거버넌스에 대한 진지한 논의를 계속 따라다닌다.
바루흐 계획은 잠시 열려 있던 창문의 이야기이며, 그 후 닫혔습니다. 교훈은 타이밍에 관한 것입니다.
하나가 아닌 두 가지 교훈
쉬운 해석은 절망입니다. 전략 기술에 대한 국제 통제는 가장 좋은 시기에 시도되었으나 실패했으니, 인공지능에 대해 더 나은 결과를 기대할 이유가 없다는 것입니다. 그 해석은 불완전합니다.
첫 번째 진짜 교훈은 창구에 관한 것이다. 바루흐 계획은 불신이 굳어지고 양측이 경쟁에 돌입한 뒤에 나왔기 때문에 부분적으로 실패했다. 기술을 통제할 수 있는 창구는 경쟁이 굳어지기 전에 가장 넓고, 그 창구는 닫힌다. AI의 경우 그 창구는 지금이며, 경쟁이 완전히 자리 잡은 뒤가 아니다. 이것이 재단이 하는 모든 일의 배경에 있는 긴급성이다.
두 번째 교훈은 설계에 관한 것이다. 바루흐 계획은 검증과 집행 문제, 즉 1946년 당시 준수를 확인할 방법 없이 신뢰할 수 없다는 불가능성 때문에 좌초했다. 바로 그 문제가 현대 도구들이 검증 체제 하드웨어 기반 모니터링으로 이어지는 것들은 해결해야 할 문제이며, 바루흐 계획의 실패 이후 나온 후속 군비통제 조약이 성공한 이유이기도 합니다. 그 계획은 거버넌스가 불가능하다는 것을 증명하지 못했습니다. 어떤 문제들을 해결해야 하는지, 그리고 그것들을 일찍 해결해야 한다는 것을 보여주었습니다. 우리의 답은 우리의 계획.