Khi Hiệp ước Thất bại:
Bài học cho Quản trị ASI.

Tài liệu quản trị về an toàn AI có thiên kiến hướng tới các phép loại suy thành công. Công ước Vũ khí Hóa học được trích dẫn thường xuyên. Nghị định thư Montreal xuất hiện trong hầu hết các cuộc thảo luận nghiêm túc. Hệ thống bảo đảm hạt nhân của IAEA được coi là mô hình cho một cơ quan giám sát AI có thể trông như thế nào. Đây là những tài liệu tham khảo có giá trị, nhưng chúng tạo ra một bức tranh chưa đầy đủ về những gì quản trị quốc tế có thể và không thể đạt được.

Hai trường hợp nổi bật: Hiệp ước Cấm Thử Nghiệm Toàn diện, chưa bao giờ có hiệu lực, và Công ước Vũ khí Sinh học, không có cơ chế kiểm chứng và bị vi phạm quy mô lớn trong hai thập kỷ.

Các thất bại cũng mang tính hướng dẫn, và ở một số khía cạnh còn hơn thế. Chúng tiết lộ các lựa chọn thiết kế cụ thể và điều kiện chính trị khiến các chế độ quản trị sụp đổ hoặc không đạt mục tiêu. Đối với quản trị ASI, vốn chưa được thiết kế, việc hiểu các chế độ thất bại này có tính hành động hơn là nghiên cứu các câu chuyện thành công, vì các lựa chọn thiết kế sẽ quyết định thành công hay thất bại vẫn còn mở.

Chế độ thất bại một: bẫy có hiệu lực

Hiệp ước Cấm Thử Nghiệm Toàn Diện được mở ký vào tháng 9/1996. Đến năm 2026, 187 quốc gia đã ký và 178 quốc gia đã phê chuẩn. Hiệp ước vẫn chưa có hiệu lực.

Lý do là Điều XIV, quy định hiệp ước chỉ có hiệu lực sau khi được tất cả 44 quốc gia có nhà máy điện hạt nhân hoặc lò phản ứng nghiên cứu vào thời điểm đàm phán phê chuẩn. Danh sách 44 quốc gia Phụ lục 2 này được thiết kế để đảm bảo hiệp ước bao gồm các quốc gia liên quan nhất đến thử nghiệm hạt nhân. Thay vào đó nó trở thành quyền phủ quyết vĩnh viễn do tám quốc gia nắm giữ: Trung Quốc, Ai Cập, Ấn Độ, Iran, Israel, Triều Tiên, Pakistan và Hoa Kỳ. Cho đến khi cả tám quốc gia phê chuẩn, CTBT không thể có hiệu lực bất kể bao nhiêu quốc gia khác đã làm vậy.

CTBT chưa phải vô dụng. Tổ chức Hiệp ước Cấm Thử Nghiệm Hạt nhân Toàn diện vận hành hệ thống giám sát toàn cầu gồm các trạm địa chấn, thủy âm, hạ âm và phóng xạ có thể phát hiện thử nghiệm hạt nhân với độ tin cậy cao. Giám sát này đã tạo ra tình báo thực tế về các chương trình hạt nhân của các quốc gia không ký kết, bao gồm sáu thử nghiệm hạt nhân của Triều Tiên từ 2006 đến 2017. Hệ thống giám sát của CTBTO sẽ không tồn tại nếu không có khuôn khổ hiệp ước, ngay cả trong tình trạng áp dụng tạm thời hiện tại. Nhưng nghĩa vụ cốt lõi của hiệp ước, cấm thử nghiệm hạt nhân, không có hiệu lực pháp lý đối với các quốc gia có khả năng tiến hành thử nghiệm nhiều nhất, vì nó chưa bao giờ có hiệu lực.

Đối với quản trị ASI, thất bại của CTBT chỉ ra một lựa chọn thiết kế cụ thể: các điều khoản về hiệu lực. Một hiệp ước yêu cầu sự tham gia của tất cả các quốc gia phát triển AI lớn trước khi nó có hiệu lực trao cho mỗi quốc gia đó quyền chặn đơn phương toàn bộ chế độ. US, Trung Quốc, EU, UK và có lẽ năm hoặc mười quốc gia khác có thể được liệt kê là bên bắt buộc, và bất kỳ bên nào trong số họ có thể ngăn hiệp ước có hiệu lực vô thời hạn.

Thiết kế chắc chắn hơn cho phép hiệp ước có hiệu lực giữa một khối lượng tới hạn các bên sẵn sàng, tạo ra một chế độ quản trị đang hoạt động, đồng thời để ngỏ cửa cho các bên không tham gia gia nhập sau. Các bên không tham gia phải đối mặt với việc bị loại trừ khỏi lợi ích của hiệp ước (chia sẻ công nghệ, ưu đãi tiếp cận thị trường, nghiên cứu an toàn hợp tác), tạo động lực để gia nhập. Đồng thời, hiệu quả của hiệp ước giữa các bên hiện có tạo ra một mô hình quản trị đã được chứng minh, giảm sự không chắc chắn về việc gia nhập sẽ đòi hỏi điều gì. Hiệp ước Cấm mìn và Tòa án Hình sự Quốc tế đều sử dụng cách tiếp cận này.

Chế độ thất bại thứ hai: lệnh cấm mà không có xác minh

Công ước Vũ khí Sinh học được mở ký năm 1972 và có hiệu lực năm 1975. Nó cấm phát triển, sản xuất và tích trữ vũ khí sinh học, đồng thời yêu cầu các quốc gia tiêu hủy mọi kho dự trữ hiện có. Nó có 183 quốc gia thành viên. Nó không có cơ chế xác minh, không có cơ quan thanh tra, và không có cơ quan chính thức có thẩm quyền điều tra các vi phạm bị cáo buộc hay đưa ra kết luận về việc không tuân thủ.

Liên Xô phê chuẩn BWC năm 1975. Năm 1973, hai năm trước khi phê chuẩn, Hội đồng Bộ trưởng Liên Xô đã phê duyệt việc thành lập Biopreparat, một mạng lưới các viện nghiên cứu dân sự trên danh nghĩa tạo thành chương trình vũ khí sinh học tấn công lớn nhất thế giới. Ở đỉnh cao vào những năm 1980, Biopreparat tuyển dụng khoảng 60.000 nhà khoa học và sản xuất vũ khí dịch hạch, đậu mùa và than trên quy mô công nghiệp, cùng với các tác nhân được biến đổi gen để kháng kháng sinh và vắc-xin. Chương trình này hoạt động vi phạm trực tiếp và toàn diện BWC suốt những năm 1970 và 1980, cho đến khi bị tiết lộ bởi những người đào tẩu Liên Xô sau khi USSR sụp đổ. Chế độ BWC không có cách nào phát hiện nó.

Đây là thất bại nghiêm trọng nhất trong việc kiểm chứng kiểm soát vũ trang thời hậu chiến. Một lệnh cấm không thể kiểm chứng chỉ là một chuẩn mực, không phải cơ chế trách nhiệm giải trình. Nó tạo ra tiêu chuẩn công khai về hành vi chấp nhận được, có tác động thực sự đến hành vi của quốc gia trong nhiều trường hợp, nhưng về mặt cấu trúc không thể phát hiện vi phạm có hệ thống của các quốc gia có phương tiện và động cơ vi phạm bí mật.

Các cuộc đàm phán để thêm giao thức xác minh vào BWC diễn ra từ năm 1995 đến 2001. Hoa Kỳ đã bác bỏ giao thức đề xuất vào tháng 7 năm 2001, lập luận rằng các thủ tục thanh tra vừa quá xâm phạm đối với công nghệ sinh học thương mại hợp pháp vừa quá yếu để phát hiện vi phạm một cách đáng tin cậy. Các cuộc đàm phán sụp đổ và chưa được khôi phục dưới bất kỳ hình thức nào có thể tạo ra cơ chế xác minh ràng buộc. BWC vẫn có hiệu lực như một chuẩn mực mà không có cơ quan xác minh.

Thất bại của BWC có ý nghĩa gì đối với quản trị ASI

Sự tương đồng giữa vũ khí sinh học và AI không hoàn hảo, nhưng một số đặc điểm của thất bại BWC có thể chuyển trực tiếp sang quản trị ASI.

Dual-use là thách thức xác minh trung tâm. Vũ khí sinh học được sản xuất bằng thiết bị, kiến thức và quy trình phòng thí nghiệm gần như giống hệt với nghiên cứu dược phẩm và y tế công cộng hợp pháp. Phân biệt nghiên cứu tấn công với nghiên cứu phòng thủ, hoặc ứng dụng dân sự với ứng dụng vũ khí, đòi hỏi các thanh tra được đào tạo chuyên sâu tiếp cận thông tin thương mại và kỹ thuật mật, và vẫn tạo ra sự mơ hồ thực sự trong nhiều trường hợp. Tính chất dual-use này khiến một giao thức xác minh cho BWC vừa đòi hỏi kỹ thuật cao vừa gây tranh cãi chính trị theo cách mà việc xác minh vũ khí hóa học hoặc hạt nhân, vốn có dấu hiệu rõ ràng hơn, không gặp phải.

AI có cùng tính chất hai mặt ở mức độ cơ bản hơn. Một mô hình ngôn ngữ lớn được huấn luyện để tạo ngôn ngữ tự nhiên về mặt kỹ thuật không thể phân biệt với mô hình được huấn luyện để thuyết phục quy mô lớn. Một mô hình được huấn luyện hỗ trợ nghiên cứu khoa học về mặt kỹ thuật giống hệt mô hình được huấn luyện để hành động tự chủ trong môi trường rủi ro cao. Những năng lực khiến AI tiên phong có giá trị thương mại cũng chính là những năng lực khiến nó có khả năng nguy hiểm. Việc xác minh quản trị ASI đối mặt với thách thức tương tự đã đánh bại việc xác minh BWC: nó phải phân biệt ứng dụng nguy hiểm với ứng dụng hợp pháp của các hệ thống kỹ thuật giống hệt nhau.

"Công ước Vũ khí Sinh học cho thấy chính xác điều mà một lệnh cấm không có xác minh tạo ra theo thời gian. Một chuẩn mực được chấp nhận rộng rãi, bị một cường quốc vi phạm quy mô lớn trong hai mươi năm mà không có cơ chế phát hiện hay phản ứng. Đối với quản trị ASI, đây là kết quả mặc định nếu xác minh bị hoãn sang một nghị định thư tương lai có thể không bao giờ đến, không phải mối lo ngại lý thuyết."

Bài học không phải là xác minh là không thể đối với AI, mà là xác minh phải được xây dựng vào hiệp ước ngay từ đầu thay vì trì hoãn đến một nghị định thư sau. Các cuộc đàm phán xác minh của BWC đã thất bại sau hai mươi sáu năm nỗ lực. Một hiệp ước quản trị ASI thiết lập lệnh cấm trước rồi trì hoãn kiến trúc xác minh có nguy cơ kết quả tương tự: một chuẩn mực không có cơ chế trách nhiệm giải trình, hoạt động song song với các chương trình phát triển mà nó không thể nhìn thấy.

Chế độ thất bại ba: rút lui không tốn kém

Triều Tiên gia nhập Hiệp ước Không phổ biến vũ khí hạt nhân năm 1985, tuyên bố rút lui năm 1993 và một lần nữa năm 2003, và tiến hành thử nghiệm hạt nhân đầu tiên năm 2006. Điều khoản rút lui của NPT, Điều X, cho phép bất kỳ quốc gia nào rút lui sau chín mươi ngày thông báo nếu quốc gia đó quyết định các sự kiện phi thường đã đe dọa lợi ích quốc gia tối cao. Việc rút lui của Triều Tiên diễn ra sau khi IAEA phát hiện quốc gia này không tuân thủ nghĩa vụ bảo đảm, và việc rút lui thực chất chấm dứt khả năng của IAEA trong việc giám sát chương trình hạt nhân của Triều Tiên.

Đối với quản trị ASI, tiền lệ NPT/Triều Tiên chỉ ra tầm quan trọng của chi phí rút lui. Một hiệp ước có thể được thoát ra chỉ sau chín mươi ngày thông báo mà không có hình phạt nào cung cấp sự đảm bảo yếu ớt, vì một quốc gia muốn theo đuổi các hoạt động bị hiệp ước cấm có thể đơn giản rời đi trước khi những hoạt động đó trở nên rõ ràng. Các điều khoản rút lui trong một hiệp ước quản trị ASI nên bao gồm: một khoảng thời gian thông báo được xác định đủ dài để các cơ quan hiệp ước và các bên khác phản ứng; giữ quyền thanh tra trong một khoảng thời gian xác định sau khi thông báo rút lui; và tự động đình chỉ các lợi ích khi thông báo ý định rút lui thay vì khi rút lui có hiệu lực.

Những lựa chọn thiết kế này sẽ không ngăn được việc rút lui, nhưng chúng sẽ đảm bảo rằng việc rút lui trở nên tốn kém và dễ thấy thay vì thường xuyên và im lặng. Mục tiêu không phải là nhốt các quốc gia vào các cam kết hiệp ước mà họ phản đối, mà là đảm bảo hành động rời khỏi chế độ trở thành sự kiện có ý nghĩa chính trị, thu hút sự chú ý quốc tế và phản ứng ngoại giao.

Các nhà thiết kế quản trị ASI có lợi thế là có thể nghiên cứu những thất bại này trước khi viết các điều khoản liên quan. Các thất bại của CTBT, BWC và NPT đều đã được ghi chép, phân tích và sẵn có. Các lựa chọn thiết kế dẫn đến những thất bại đó có thể tránh được. Vấn đề là liệu quy trình chính trị tạo ra một hiệp ước quản trị ASI có cho phép các hiểu biết thiết kế kỹ thuật từ những thất bại này sống sót sau khi tiếp xúc với các vị trí đàm phán của các cường quốc lớn hay không.

Sự phản đối mạnh mẽ nhất

Phản biện công bằng nhất là các hiệp ước thất bại chứng minh hiệp ước không bao giờ hiệu quả. Các thiết kế thất bại chứng minh các điều khoản tồi. Bẫy hiệu lực, thiếu xác minh và rút lui dễ dàng là những lựa chọn soạn thảo có thể sửa được. Bài học là viết ngược lại, không phải từ bỏ luật pháp.