Thỏa thuận lớn của NPT, và
Những gì Quản trị ASI Có Thể Học

Ngày 10 tháng 6 năm 1963, tại Đại học Mỹ ở Washington, John F. Kennedy đã có bài phát biểu không được soạn trước bởi trợ lý. Ông nói trong ba mươi lăm phút về mối đe dọa hạt nhân, và gần cuối ông nêu tên vấn đề mà Hoa Kỳ và Liên Xô đã tạo ra khi xây dựng kho vũ khí mà không ngăn sự lan truyền công nghệ. “Tôi coi đây là mối đe dọa lớn nhất đối với nhân loại,” ông nói, rồi đưa ra cảnh báo: đến năm 1970 có thể có mười lăm cường quốc hạt nhân; đến cuối thập niên, hai mươi hoặc hai mươi lăm. Ông nêu tên các quốc gia cụ thể. Ông đề xuất lệnh cấm thử nghiệm một phần sẽ được ký tại Moscow ba tháng sau.

NPT không ngăn chặn hoàn toàn sự phổ biến, nhưng đã làm chậm làn sóng dự báo hơn hai mươi quốc gia hạt nhân xuống còn một dòng nhỏ. Nó làm được điều đó thông qua một thỏa thuận mà quản trị ASI sẽ phải tái tạo.

Thế giới được dự đoán đã không đến. Chín quốc gia có vũ khí hạt nhân ngày nay, không phải hai mươi lăm. Lý do là một hiệp ước Kennedy không sống để thấy. Hiệp ước Không phổ biến Vũ khí Hạt nhân được mở ký ngày 1 tháng 7 năm 1968, khoảng năm năm sau bài phát biểu và ba năm sau khi ông qua đời. Hiện nó có 191 quốc gia thành viên: thỏa thuận kiểm soát vũ trang được tham gia rộng rãi nhất trong lịch sử. Cơ chế của nó có ý nghĩa vượt ra ngoài vũ khí hạt nhân, vì AI tiền biên đặt ra cùng vấn đề cấu trúc. Một số ít tác nhân nắm giữ năng lực nguy hiểm, quản trị phụ thuộc vào việc ngăn chặn sự lan truyền, và đa số bị ràng buộc phải được thuyết phục rằng sự kiềm chế là lợi ích của họ.

Ba trụ cột

NPT dựa trên một thỏa thuận giữa ba cam kết, mỗi trụ dựa vào các trụ khác. Các quốc gia có vũ khí hạt nhân đồng ý không chuyển giao vũ khí và theo đuổi giải trừ quân bị một cách thiện chí. Các quốc gia không có vũ khí hạt nhân đồng ý không thu thập vũ khí và chấp nhận các biện pháp bảo đảm IAEA đối với chương trình hạt nhân của họ. Tất cả các bên khẳng định quyền sử dụng năng lượng hạt nhân vì mục đích hòa bình, kèm theo hợp tác và chia sẻ công nghệ cho những bên giữ cam kết không có vũ khí hạt nhân.

Tại sao cấu trúc thỏa thuận lại quan trọng đối với AI

Bài học có thể áp dụng là về cấu trúc, không phải kỹ thuật. Một chế độ không phổ biến không thể chỉ là tập hợp các hạn chế áp lên kẻ yếu do kẻ mạnh áp đặt. Nó phải mang lại cho đa số bị ràng buộc điều gì đó họ coi trọng (ở đây là công nghệ hạt nhân hòa bình và cam kết giải trừ vũ khí cuối cùng đáng tin cậy) nếu không họ sẽ không tham gia, và một hiệp ước mà các quốc gia liên quan chưa tham gia thì không quản trị được gì. Cấu trúc hai bên là yếu tố tạo ra thành viên gần như phổ quát của NPT. Cấu trúc đơn phương là yếu tố tạo ra bốn quốc gia vẫn ở ngoài: Israel, Ấn Độ, Pakistan và (sau 2003) việc Triều Tiên rút lui.

Quản trị ASI đối mặt với sự chia rẽ tương tự. Một hiệp ước AI biên giới sẽ được đàm phán giữa một số ít quốc gia có phòng thí nghiệm biên giới và đa số lớn không có. Nếu thỏa thuận trông giống như những nước có AI đang khóa chặt lợi thế vĩnh viễn trong khi mọi nước khác chấp nhận giám sát compute và hạ tầng của mình, tỷ lệ tham gia sẽ thấp và thẩm quyền của hiệp ước sẽ sụp đổ ngay khi gặp thử thách thực tế đầu tiên. Câu trả lời của NPT (chia sẻ tiếp cận công nghệ có lợi cùng cam kết đáng tin cậy của các nước dẫn đầu chấp nhận ràng buộc có đi có lại) là khuôn mẫu để tạo ra thỏa thuận AI có thể chấp nhận được đối với các quốc gia được yêu cầu ký.

Những thất bại của NPT, đọc như cảnh báo thiết kế

Hiệp ước không phải là thành công tuyệt đối, và những điểm yếu của nó chính là nơi quản trị ASI phải làm tốt hơn. Lời hứa giải trừ vũ khí trong Điều VI được thực hiện chậm chạp và miễn cưỡng. Tổng số vũ khí hạt nhân đã giảm kể từ khi hiệp ước được ký, từ mức cao nhất thời Chiến tranh Lạnh trên 60.000 xuống còn khoảng 12.500 ngày nay, nhưng mọi sự giảm thực tế đều đến từ các thỏa thuận phụ (START I, START II, New START) chứ không phải qua ngoại giao chính của Điều VI. Các quốc gia phi hạt nhân từ lâu cảm thấy thỏa thuận nghiêng về một bên. Hội nghị rà soát gần đây nhất, năm 2022, kết thúc mà không có kết quả đồng thuận vì các khiếu nại của Ukraine và Iran. Sự bất mãn không phải là phiền toái bên lề. Đó là rủi ro cấu trúc mà hiệp ước phải đối mặt mỗi năm mà không có tiến bộ đáng tin cậy về giải trừ vũ khí.

Ba quốc gia chưa bao giờ tham gia (Ấn Độ, Pakistan, Israel), và quốc gia thứ tư (Triều Tiên) rút lui năm 2003 rồi thử nghiệm thiết bị đầu tiên sau đó trong thập niên. Mô hình nhất quán. Một quốc gia quyết tâm có thể ở ngoài vô thời hạn nếu chi phí làm vậy thấp hơn chi phí chấp nhận các ràng buộc. Và trụ cột sử dụng hòa bình chính xác lan truyền công nghệ kép đưa một quốc gia đến ngưỡng hạt nhân. Iran đã cho thấy cách các thỏa hiệp trong khuôn khổ NPT có thể bị lợi dụng để thúc đẩy chương trình mà khuôn khổ vốn nhằm ngăn chặn.

Mỗi thất bại mang theo một cảnh báo thiết kế. Tương đương với giải trừ vũ trang trong một hiệp ước AI (bất kể các quốc gia dẫn đầu đưa ra điều gì để đổi lấy sự kiềm chế của bên kia) phải đáng tin cậy và được thực hiện, nếu không nó sẽ bị ăn mòn theo cách tương tự. Hiệp ước cần khiến việc rút lui tốn kém thay vì không có hậu quả. Và nó phải đối mặt, như NPT chưa từng làm triệt để, với sự mơ hồ kép dụng. Cùng các cụm GPU dùng để huấn luyện mô hình thời tiết và khám phá thuốc cũng là những cụm có thể huấn luyện thế hệ mô hình tiên phong tiếp theo. Đồng hồ phải đọc được hai con số cùng lúc.

Kiến trúc chính trị, khác biệt so với kỹ thuật

NPT cung cấp cho quản trị ASI một bản thiết kế cụ thể cho một nửa vấn đề: kiến trúc chính trị. Kiến trúc kỹ thuật (những năng lực cần đo lường, ngưỡng cần xác định, cách xác minh chúng) là bài tập thiết kế riêng và không thể chuyển giao dưới bất kỳ hình thức hữu ích nào. Điều chuyển giao được là hình dạng của thỏa thuận.

Hiệp ước kiểm soát vũ trang được tham gia nhiều nhất trong lịch sử là một thỏa hiệp. Phiên bản AI cũng sẽ phải như vậy.Công việc là công việc khó khăn hơn: xây dựng thỏa hiệp mà luật cuối cùng phải thể hiện, chứ không phải luật quốc tế mới. Bài học lan tỏa qua mọi đặc điểm lặp lại: xác định ranh giới năng lực mà bất kỳ tác nhân nào có năng lực cũng có thể gây rủi ro thảm họa toàn cầu, sau đó đàm phán một lệnh dừng vững chắc trước sự phản bội. Đối đầu thay vì che đậy.

Và học hỏi từ nơi NPT đã rạn nứt, với những nhượng bộ thực sự và rõ ràng của lãnh đạo, việc rút lui trở nên tốn kém qua các điểm nghẽn thị trường và chuỗi cung ứng, đồng thời đối mặt trực diện với vấn đề lưỡng dụng.

Bài phát biểu tháng 6/1963 của Kennedy không tạo ra hiệp ước. Nó tạo ra sự sẵn sàng giữa đủ số chính phủ, ở cả hai bên, để đàm phán một hiệp ước. Công việc đó diễn ra trước khi bất kỳ văn bản nào được ký, và đó chính là phần mà việc tổ chức của Foundation được thiết kế để thực hiện. Một hiệp ước mà các quốc gia liên quan chưa tham gia thì không chi phối được gì. Việc khiến họ tham gia là câu hỏi chính trị, và đó là câu trả lời khiến mọi thứ sau đó trở nên khả thi.

Sự phản đối mạnh mẽ nhất

Phản biện công bằng nhất là NPT đã đóng băng bất bình đẳng và vẫn rò rỉ, nên sao chép nó cũng sẽ đóng băng một thỏa thuận tồi. Hãy học từ những sai lầm: sự kiềm chế rõ ràng của lãnh đạo, chi phí rời bỏ cao, sự trung thực về công nghệ kép. Đừng sùng bái văn bản. Hãy lấy cấu trúc thỏa thuận lớn đã khiến việc không phổ biến vũ khí hạt nhân trở nên khả thi.