핵 물질이라면
쉬웠다

핵무기는 물질 문제에 둘러싸인 설계다. 보통 고농축 우라늄이나 원자로 경로로 얻은 플루토늄 같은 핵분열성 물질이 필요하며, 그 양과 순도는 하늘에서 떨어지지 않는다. 농축 시설은 크고 전력 소모가 크며, 정보 기관이 70년 동안 찾아내는 법을 익힌 장비로 가득하다. 그 어려움이 비확산 이야기의 전부는 아니지만, 물리학이 공짜로 제공한 부분이다.

슬로건이 생략한 사고 실험을 실행해 보십시오. 폭탄을 만드는 정확한 원자 배열이 쉬웠다고 가정해 보십시오. 투입물이 저렴하고 이중 용도이며 팔레트 단위로 판매된다고 가정해 보십시오. 완성된 설계가 파일처럼 복사될 수 있다고 가정해 보십시오. 인류는 몇 년이나 버틸 수 있을까요?

그렇지 않습니다. 조약은 여전히 중요할 것입니다. 규범과 두려움도 마찬가지입니다. 그것들은 현재 자재의 어려움이 수행하는 모든 역할을 수행해야 하며, 어떤 집행 체계도 지금까지 관리해 본 적 없는 규모로 수행해야 합니다. 20세기의 핵무기에 대한 부분적 성공은 공급망의 마찰 없이는 이해할 수 없습니다. 우리는 우라늄이 까다롭다는 점에 운이 좋았습니다.

엄격함이 가져다준 것

아홉 개 국가가 핵무기를 보유한 것으로 알려져 있다. 그 숫자는 스캔들이면서 동시에 일종의 자비이기도 하다. 수백 개 국가가 물리학을 이해할 과학 인재를 갖고 있다. 제재와 감시, 비용 속에서 산업 마라톤을 완주한 국가는 훨씬 적다. 핵확산금지조약과 수출통제 체제, IAEA 안전장치 체계는 모두 한 가지 단순한 사실에 의존한다. 병목이 충분히 눈에 띄어 감시할 수 있다는 점이다.

병목을 제거하면 조금 더 어려운 외교 문제가 생기는 것이 아니다. 한계 행위자, 즉 약소국, 자금이 풍부한 집단, 분열한 사령부가 도시를 인질로 잡을 수 있는 세계가 생긴다. 소수의 신중한 강대국 사이에서 간신히 작동하는 억지 논리는 시간 지평이 짧은 수십 명의 행위자 사이에서는 작동하지 않는다. 폭탄은 두렵다. 쉬운 폭탄은 완전히 다른 종류의 문제다.

우리는 더 나은 연설로 핵 물질을 쉽게 다루며 살아남지 않습니다. 우리는 검사 위에 놓인 단단한 핵 물질로 살아남습니다. 초지능은 쉬운 방향으로 흘러가고 있습니다.

인공지능은 어느 방향으로 움직이는가?

최전선 훈련에는 여전히 상당한 자금, 상당한 칩, 상당한 엔지니어링이 필요합니다. 최전선을 밀어 올릴 만큼 큰 클러스터는 건물 안의 물리적 객체이며 전기 요금이 발생합니다.

추세선은 우라늄의 추세선이 아니다. 모델은 달러당 더 유능해진다. 기술은 개선된다. 한 번 훈련된 가중치는 거의 무 비용으로 복사될 수 있다. 공개 배포와 유출은 능력을 수평으로 퍼뜨린다. 인재는 전 세계적이다. 그 어느 것도 핵 비확산을 가능하게 한 우연한 물질 관문을 우연한 선물로 만들지는 않는다. 모든 것은 그 방향을 가리킨다.

두 체계를 솔직하게 비교하라. 두 번째 핵무기고를 만들려면 여전히 공장과 원료, 망원경 아래의 시간이 필요하다. 훈련된 모델의 두 번째 복사본을 만들려면 드라이브만 있으면 된다. 위험한 대상이 탄두가 아니라 에이전트라면, 복제는 동위원소 패턴이 아니라 소프트웨어 패턴에 유리하다. 우리는 비유의 한계를 인정한다 다른 곳에서 진지하게.

잘못된 교훈과 올바른 교훈

잘못된 교훈은 숙명론이다. 입력이 쉬워지니 거버넌스는 희망이 없다는 것이다. 이는 더 많은 능력만이 우리를 구할 수 있다는 연구소의 슬로건만큼이나 거울상이다. 둘 다 우리가 아직 머물러 있는 구간을 건너뛰는데, 그 구간에서는 최전선 실행이 눈에 보이고 진지한 행위자의 수가 적다.

올바른 교훈은 우리가 발명해야 하는 어려움에 대한 긴급성입니다. 물리학이 문을 좁게 유지하지 않는다면, 법과 산업 표준이 그렇게 해야 합니다. 고급 칩에 대한 고객 확인 규칙. 훈련 실행에 대한 보고 임계값. 감사 권한. 대규모 은밀한 훈련을 숨기기 어렵게 만드는 하드웨어 기능. 초지능은 허용된 제품이 아니라는 조약. 초지능은 통제될 수 없습니다 NPT 그리고 모델 조약 스케치 그 어려움을 쉬운 길이 완전히 열리기 전에 문서로 정리하려는 시도입니다.

사고 실험을 닫다

1960년에 대통령에게 검증된 설계와 폭탄 재료가 비료처럼 팔리는 세상을 브리핑한다고 상상해 보십시오. 방 안의 모든 본능은 원천 통제를 외칠 것입니다. 누구도 그 본능을 반과학이라고 부르지 않을 것입니다. 누구도 첫 번째 폭탄을 감시하기 위해 더 똑똑한 폭탄을 발명하는 것이 답이라고 말하지 않을 것입니다.

우리는 폭탄보다 재료 관문이 약한 능력을 향해 구축하면서 속도가 안전이라고 스스로에게 말하고 있다. 사고 실험은 미묘하지 않다. 위험한 것이 만들기 쉽다면, 세계는 두 번째 기회를 얻지 못한다. 아직 어렵게 만들 수 있을 때 의도적으로 어렵게 만들어라. 그렇지 않으면 생존자 화석 기록 없이 쉬운 것이 어떤 느낌인지 알게 될 것이다.