Năm 1946 Hoa Kỳ là quốc gia duy nhất có vũ khí hạt nhân, và trong một thời gian ngắn dường như không ai khác sẽ bao giờ cần chế tạo chúng. Tháng 6, nhà tài chính người Mỹ Bernard Baruch trình bày một kế hoạch trước Liên Hợp Quốc mới thành lập. Năng lượng nguyên tử, trong mọi hình thức nguy hiểm của nó, sẽ được đặt dưới một cơ quan quốc tế. Cơ quan đó sẽ kiểm soát khai thác, vật liệu và công nghệ trên toàn thế giới, thanh tra vi phạm, và đảm bảo khoa học được dùng cho năng lượng chứ không phải bom. Một khi hệ thống được thiết lập, Hoa Kỳ sẽ từ bỏ kho vũ khí nguyên tử của mình.

Trên giấy tờ, đó là một lời đề nghị phi thường: cường quốc hạt nhân duy nhất đề xuất từ bỏ độc quyền của mình cho sự kiểm soát quốc tế thay vì khai thác nó. Kế hoạch thất bại. Trong vòng vài năm, Liên Xô đã có bom, và cuộc chạy đua vũ trang mà kế hoạch nhằm ngăn chặn đã kéo dài bốn thập kỷ sau đó và chưa bao giờ thực sự kết thúc.

Tại sao nó sụp đổ

Thất bại không phải vì không ai quan tâm. Nó xuất phát từ những điều kiện mà quản trị công nghệ chiến lược phải đáp ứng, những điều kiện Kế hoạch Baruch không thể đáp ứng.

  • Niềm tin và trình tự. Kế hoạch yêu cầu Liên Xô chấp nhận thanh tra quốc tế xâm phạm và từ bỏ chương trình vũ khí của mình trước, trong khi Hoa Kỳ giữ bom cho đến khi hệ thống hoạt động đầy đủ. Moskva, không có gì lạ, sẽ không chấp nhận một kế hoạch khóa chặt lợi thế của Mỹ trong giai đoạn chuyển tiếp.
  • Thực thi và quyền phủ quyết. Kế hoạch đề xuất bỏ quyền phủ quyết của các cường quốc trong vấn đề nguyên tử, để vi phạm có thể bị trừng phạt. Liên Xô, không muốn bị bỏ phiếu trên chính an ninh của mình, đã từ chối. Thực thi thực sự và chủ quyền quốc gia xung đột, cùng căng thẳng được phân tích trong bài của chúng tôi về phản đối về chủ quyền.
  • Cuộc đua đã bắt đầu từ trước. Ngay khi kế hoạch còn đang tranh luận, cả hai cường quốc đều đang theo đuổi năng lực nền tảng. Quản trị đang đuổi theo một cuộc cạnh tranh đã diễn ra.

Các điểm tương đồng với AI, được trình bày cẩn thận

Sự tương đồng này thật khó chịu. Một công nghệ mang tính chuyển đổi và nguy hiểm xuất hiện. Trong một khoảng thời gian ngắn, số lượng người chơi còn ít và tình hình về nguyên tắc vẫn có thể quản trị được. Có một đề xuất đưa công nghệ dưới sự kiểm soát tập thể trước khi một cuộc chạy đua không kiểm soát khóa chặt mọi thứ. Và nỗ lực vấp phải sự nghi ngờ lẫn nhau, khó khăn trong việc thực thi có xác minh, và một cuộc chạy đua đã bắt đầu. Thay "nguyên tử" bằng "AI" và hình dạng quen thuộc, đó là lý do Kế hoạch Baruch ám ảnh các cuộc thảo luận nghiêm túc về quản trị ASI.

Kế hoạch Baruch là câu chuyện về một cửa sổ từng mở ra, trong chốc lát, rồi khép lại. Bài học nằm ở thời điểm.

Hai bài học, không phải một

Cách đọc dễ dàng nhất là tuyệt vọng: kiểm soát quốc tế một công nghệ chiến lược đã được thử vào thời điểm tốt nhất mà vẫn thất bại, vậy sao kỳ vọng tốt hơn với AI. Cách đọc đó chưa đầy đủ.

Bài học thực sự đầu tiên là về cửa sổ cơ hội. Kế hoạch Baruch thất bại một phần vì nó đến hơi muộn, sau khi sự nghi ngờ đã cứng nhắc và cả hai bên đã lao vào cuộc chạy đua. Cửa sổ quản trị một công nghệ rộng nhất trước khi cạnh tranh trở nên cố thủ, và nó khép lại. Đối với AI, cửa sổ ấy là hiện tại, chứ không phải sau khi cuộc chạy đua đã hoàn toàn định hình, đó là lý do khẩn cấp đằng sau mọi hoạt động của Quỹ.

Bài học thứ hai liên quan đến thiết kế. Kế hoạch Baruch thất bại vì xác minh và thực thi, vì sự bất khả thi năm 1946 trong việc tin tưởng tuân thủ mà không có cách kiểm tra. Đó chính xác là vấn đề mà các công cụ hiện đại, từ chế độ xác minh đến giám sát dựa trên phần cứng, tồn tại để giải quyết, và đó là lý do các hiệp ước kiểm soát vũ trang sau này ra đời sau khi Kế hoạch Baruch thất bại đã thành công ở nơi kế hoạch đó không làm được. Kế hoạch không chứng minh quản trị là bất khả thi. Nó cho thấy những vấn đề nào cần được giải quyết, và chúng phải được giải quyết sớm. Câu trả lời của chúng tôi cho cả hai là kế hoạch của chúng tôi.