Vũ khí hạt nhân là một thiết kế bao quanh vấn đề vật liệu. Bạn cần vật liệu phân hạch, thường là uranium làm giàu cao hoặc plutonium từ lộ trình lò phản ứng, với số lượng và độ tinh khiết không rơi từ trên trời xuống. Nhà máy làm giàu quy mô lớn, ngốn điện và chứa đầy thiết bị mà các dịch vụ tình báo đã dành bảy mươi năm học cách phát hiện. Độ khó ấy không phải toàn bộ câu chuyện không phổ biến hạt nhân, nhưng là phần vật lý đóng góp miễn phí.
Bây giờ hãy thực hiện thí nghiệm tư duy mà khẩu hiệu bỏ qua. Giả sử cấu hình nguyên tử chính xác tạo nên một quả bom lại dễ dàng. Giả sử nguyên liệu đầu vào rẻ, đa dụng và bán theo pallet. Giả sử thiết kế hoàn chỉnh có thể sao chép như một tập tin. Loài người còn được bao nhiêu năm?
Không nhiều. Các hiệp ước vẫn sẽ quan trọng. Cũng như các chuẩn mực và nỗi sợ. Chúng sẽ phải làm tất cả công việc mà độ khó vật liệu hiện đang làm, ở quy mô mà chưa hệ thống thực thi nào từng quản lý. Thành công một phần của thế kỷ XX với vũ khí hạt nhân không thể hiểu được nếu thiếu ma sát trong chuỗi cung ứng. Chúng ta may mắn vì uranium khá kén chọn.
Độ cứng nhắc mang lại cho chúng ta những gì
Chín quốc gia được biết là có vũ khí hạt nhân. Con số đó vừa là một scandal vừa là một loại ân huệ. Hàng trăm quốc gia có tài năng khoa học để hiểu vật lý. Ít hơn nhiều quốc gia đã hoàn thành cuộc đua công nghiệp dưới sự trừng phạt, giám sát và chi phí. Hiệp ước Không phổ biến vũ khí hạt nhân, các chế độ kiểm soát xuất khẩu, và hệ thống bảo vệ IAEA đều dựa vào một sự thật đơn giản: nút thắt cổ chai đủ rõ ràng để theo dõi.
Loại bỏ nút thắt cổ chai và bạn không gặp một vấn đề ngoại giao khó khăn hơn một chút. Bạn gặp một thế giới mà tác nhân biên, một quốc gia mỏng manh, một nhóm được tài trợ tốt, một phe phái chỉ huy, có thể bắt giữ các thành phố làm con tin. Toán học răn đe barely hoạt động giữa một vài cường quốc thận trọng sẽ không hoạt động giữa hàng chục bên với tầm nhìn ngắn hạn hơn. Bom hạt nhân đáng sợ. Bom dễ chế tạo là một loài vấn đề khác.
Chúng ta không sống sót nhờ vật liệu hạt nhân dễ dàng với những bài diễn văn hay hơn. Chúng ta sống sót nhờ vật liệu hạt nhân khó khăn với sự thanh tra trên hết. Siêu trí tuệ đang trôi về phía dễ dàng.
AI đang di chuyển theo hướng nào?
Huấn luyện mô hình tiên phong vẫn đòi hỏi tiền lớn, chip lớn và kỹ thuật nghiêm ngặt. Một cụm máy đủ mạnh để đẩy biên giới là một vật thể vật lý trong tòa nhà kèm hóa đơn điện.
Đường xu hướng không phải là đường xu hướng của uranium. Mô hình ngày càng mạnh theo mỗi đô la chi. Kỹ thuật cải thiện. Trọng số, sau khi huấn luyện, có thể sao chép với chi phí gần như bằng không. Bản phát hành mở và rò rỉ lan truyền năng lực theo chiều ngang. Nhân tài là toàn cầu. Không điều nào trong đó khiến siêu trí tuệ xuất hiện miễn phí vào sáng mai. Tất cả đều chỉ ra xa khỏi món quà ngẫu nhiên đã khiến việc không phổ biến hạt nhân khả thi: một cổng vật liệu cứng nhắc.
Hãy so sánh hai chồng bài một cách trung thực. Để có kho vũ khí hạt nhân thứ hai, bạn vẫn cần nhà máy, nguyên liệu và thời gian dưới kính thiên văn. Để có bản sao thứ hai của một mô hình đã huấn luyện, bạn chỉ cần một ổ đĩa. Nếu vật nguy hiểm là tác nhân chứ không phải đầu đạn, thì sự sao chép sẽ ưu ái mẫu phần mềm hơn là mẫu đồng vị. Chúng ta chấp nhận giới hạn của phép ẩn dụ nghiêm túc ở nơi khác.
Bài học sai và bài học đúng
Bài học sai lầm là chủ nghĩa định mệnh: đầu vào đang dễ dàng hơn, nên quản trị là vô vọng. Đó là hình ảnh phản chiếu của khẩu hiệu phòng thí nghiệm rằng chỉ có năng lực cao hơn mới cứu được chúng ta. Cả hai đều bỏ qua khoảng thời gian chúng ta vẫn đang ở trong đó, khi các lần chạy tiên phong vẫn còn nhìn thấy được và số lượng tác nhân nghiêm túc còn ít.
Bài học đúng là sự khẩn cấp về độ khó mà chúng ta phải tự tạo ra. Nếu vật lý không giữ được cổng hẹp, luật pháp và tiêu chuẩn ngành phải làm điều đó. Quy tắc biết-khách-hàng trên chip tiên tiến. Ngưỡng báo cáo trên các lần chạy huấn luyện. Quyền kiểm toán. Các tính năng phần cứng khiến việc huấn luyện bí mật quy mô lớn khó che giấu hơn. Một hiệp ước tuyên bố siêu trí tuệ không phải là sản phẩm được phép. Siêu trí tuệ không thể bị kiểm soát. The NPT và bản phác thảo hiệp ước mẫu là những nỗ lực ghi lại độ khó đó trên giấy trước khi con đường dễ dàng hoàn toàn mở ra.
Kết thúc thí nghiệm tư duy
Hãy tưởng tượng báo cáo cho một tổng thống năm 1960 với một thiết kế đã được chứng minh và một thế giới mà vật liệu bom được bán như phân bón. Mọi bản năng trong phòng họp đều sẽ kêu gọi kiểm soát ngay từ nguồn. Không ai gọi bản năng đó là phản khoa học. Không ai nói câu trả lời là phát minh ra một quả bom thông minh hơn để kiểm soát quả bom đầu tiên.
Chúng ta đang xây dựng hướng tới một khả năng mà rào chắn vật liệu tự nhiên yếu hơn bom nguyên tử, trong khi tự nhủ rằng tốc độ chính là an toàn. Thí nghiệm tư duy không hề tinh tế. Nếu thứ nguy hiểm dễ chế tạo, thế giới sẽ không có lần thử lại. Hãy cố tình làm cho nó khó khăn, khi việc đó còn khả thi, hoặc trải nghiệm cảm giác dễ dàng mà không có hồ sơ hóa thạch của những người sống sót để tranh luận.