Cơ quan Năng lượng Nguyên tử Quốc tế được thành lập năm 1957 với nhiệm vụ nghe có vẻ đơn giản: thúc đẩy sử dụng hòa bình năng lượng hạt nhân đồng thời đảm bảo nó không bị chuyển hướng sang chương trình vũ khí. Hệ thống kiểm chứng mà cơ quan xây dựng trong các thập niên sau trở thành điều chưa từng có tiền lệ trong luật quốc tế, một hệ thống hoạt động giám sát công nghệ nguy hiểm nhất trên trái đất, do một cơ quan quốc tế vận hành, được chấp nhận bởi các quốc gia mạnh nhất thế giới.

Đây là những gì xác minh IAEA thực sự làm được, nơi nó đã thất bại, và những gì có thể áp dụng cho vấn đề AI.

Mọi đề xuất nghiêm túc về quản trị ASI quốc tế hiện đang nghiên cứu mô hình IAEA. Vấn đề không phải là liệu kiến trúc xác minh hạt nhân có thể sao chép nguyên vẹn sang bối cảnh AI hay không. Nó không thể. Vấn đề là yếu tố nào chuyển giao được, yếu tố nào cần thiết kế lại, và vấn đề nào hoàn toàn không có tương đương hạt nhân.

Xác minh thực sự nghĩa là gì

Xác minh là một hệ thống tạo ra sự tin cậy, không phải thanh tra theo nghĩa thông thường. Mục tiêu không chủ yếu là bắt quả tang vi phạm mà là khiến vi phạm trở nên đủ tốn kém và dễ thấy để chúng không bị thử nghiệm ngay từ đầu. Sự phân biệt này quan trọng vì nó đặt ra tiêu chuẩn đúng cho thành công trông như thế nào: một hệ thống xác minh chưa bao giờ phát hiện vi phạm có thể đang thành công, chứ không phải thất bại.

Cách tiếp cận IAEA dựa trên bốn thành phần hoạt động cùng nhau. Thành phần đầu tiên là các tuyên bố của nhà nước. Các quốc gia tham gia Hiệp ước Không phổ biến vũ khí hạt nhân phải khai báo toàn bộ vật liệu và cơ sở hạt nhân cho IAEA. Các khai báo này trở thành đường cơ sở để đo lường mọi giám sát sau đó. Một quốc gia không khai báo một cơ sở không chỉ đơn thuần trượt kiểm tra; nó đã vi phạm yêu cầu nền tảng của hiệp ước trước khi thanh tra viên đầu tiên đến.

Thứ hai là các thỏa thuận bảo đảm. Mỗi bên ký kết NPT ký một thỏa thuận bảo đảm song phương với IAEA quy định quyền thanh tra của cơ quan, thông tin mà quốc gia phải cung cấp, và hậu quả của việc không tuân thủ. Nghị định thư bổ sung, được đưa ra sau khi phát hiện chương trình hạt nhân chưa khai báo của Iraq vào đầu những năm 1990, đã mở rộng đáng kể các quyền này. Nó cho phép IAEA thanh tra các địa điểm chưa được khai báo nhưng cơ quan có lý do để thanh tra, dựa trên thông tin từ bất kỳ nguồn nào.

Thứ ba là thanh tra định kỳ. Thanh tra viên IAEA thực hiện các chuyến thăm theo lịch trình đến các cơ sở hạt nhân đã khai báo. Thanh tra viên sử dụng niêm phong chống giả mạo, camera từ xa và mẫu vật liệu để giám sát các cơ sở giữa các chuyến thăm. Sự chênh lệch giữa hàng tồn kho đã khai báo và những gì thanh tra viên tìm thấy là một phát hiện quan trọng cần giải thích.

Thành phần thứ tư, và thành phần liên quan nhất đến quản trị ASI, là lấy mẫu môi trường. Từ giữa những năm 1990, IAEA đã sử dụng giám sát môi trường (mẫu không khí, nước và đất) để phát hiện bằng chứng về các hoạt động hạt nhân không được khai báo. Lượng vết các đồng vị cụ thể trong mẫu môi trường có thể chỉ ra quá trình xử lý hạt nhân chưa từng được khai báo, bất kể thanh tra viên có được phép vào cơ sở liên quan hay không. Đây là bằng chứng vật lý gián tiếp về một hoạt động, được suy ra từ các dấu vết vật lý không thể tránh khỏi của hoạt động đó.

Những giới hạn của mô hình hạt nhân

Chế độ xác minh hạt nhân có những thành tựu thực sự. Số quốc gia có vũ khí hạt nhân ít hơn nhiều so với dự báo bi quan nhất của những năm 1960. NPT đã kiềm chế sự phổ biến đáng kể, dù chưa hoàn hảo. Nhưng các trường hợp thất bại cũng mang tính hướng dẫn như các trường hợp thành công.

Chương trình vũ khí hạt nhân của Iraq đang tiến triển vào những năm 1980 và đầu những năm 1990 trong khi Iraq là quốc gia ký kết NPT và tuyên bố không có chương trình vũ khí. Chương trình bị tiết lộ bởi Chiến tranh Vùng Vịnh và các cuộc thanh tra UNSCOM sau đó, chứ không phải qua giám sát thường xuyên của IAEA. Các thanh tra viên IAEA đã đến thăm các cơ sở được khai báo của Iraq và không phát hiện điều gì bất thường, vì chương trình vũ khí của Iraq hoàn toàn tách biệt khỏi chương trình dân sự được khai báo. Triều Tiên rút khỏi NPT năm 2003 sau khi chế độ xác minh phát hiện những bất nhất không thể giải thích; quốc gia này hiện có vũ khí hạt nhân. Chương trình làm giàu uranium không khai báo của Iran được phát hiện qua tình báo quốc gia và tiết lộ cho IAEA bởi một nhóm bất đồng chính kiến năm 2002, chứ không phải qua giám sát thường xuyên.

Điều các trường hợp này chia sẻ không phải là xác minh thất bại về mặt kỹ thuật mà là các quốc gia có quyết tâm đã đưa ra quyết định chính trị có chủ đích chấp nhận chi phí vi phạm hiệp ước. Xác minh thay đổi phép tính chi phí-lợi ích; nó không loại bỏ phép tính đó. Một quốc gia quyết định chương trình vũ khí đáng giá hậu quả chính trị và kinh tế khi bị phát hiện sẽ tiến hành chương trình đó bất kể cơ chế xác minh. Nhiệm vụ của IAEA là làm cho việc phát hiện dễ xảy ra hơn và hậu quả chính trị nghiêm trọng hơn, chứ không phải làm cho vi phạm trở nên bất khả thi.

Những gì chuyển giao cho quản trị ASI

Một số yếu tố của mô hình xác minh hạt nhân chuyển sang quản trị ASI với sự thích nghi có ý nghĩa.

Yêu cầu khai báo được chuyển giao trực tiếp. Một chế độ quản trị ASI biên giới có thể yêu cầu các quốc gia khai báo các chương trình phát triển AI quy mô lớn vượt ngưỡng tính toán quy định. Việc khai báo tạo ra một đường cơ sở pháp lý: những khác biệt sau này giữa những gì đã khai báo và những gì được quan sát là vi phạm hiệp ước, chứ không chỉ là bất đồng chính sách. Điều này chuyển gánh nặng chứng minh. Không có khai báo, cơ quan giám sát phải chứng minh hoạt động chưa khai báo đã xảy ra. Có khai báo, quốc gia phải giải thích sự khác biệt giữa khai báo của mình và bằng chứng quan sát được.

Mô hình thỏa thuận bảo đảm cũng chuyển đổi được. Một thỏa thuận quản trị song phương ASI giữa một cơ quan giám sát và một quốc gia ký kết sẽ quy định quyền tiếp cận của cơ quan giám sát, thông tin mà quốc gia phải cung cấp, và hậu quả của việc không tuân thủ. Kiến trúc này đã được hiểu rõ trong luật quốc tế và không đòi hỏi đổi mới pháp lý đáng kể.

Lấy mẫu môi trường có tương đương AI trong giám sát compute. Sản xuất chất bán dẫn tập trung về mặt địa lý và đòi hỏi thiết bị chuyên dụng. Chip AI tiên tiến để lại dấu vết chuỗi cung ứng: chúng được sản xuất tại một số ít cơ sở, xuất khẩu theo chứng từ hải quan, và lắp đặt trong cấu hình trung tâm dữ liệu có thể nhận diện với chữ ký công suất cụ thể. Không có cái nào trong số này rõ ràng như chữ ký đồng vị, nhưng cùng nhau chúng tạo ra bằng chứng vật lý gián tiếp về hoạt động phát triển AI không hoàn toàn phụ thuộc vào tự báo cáo của quốc gia.

Sự đổi mới Additional Protocol có thể áp dụng trực tiếp. Việc mở rộng quyền thanh tra sau chương trình của Iraq chứng minh rằng các chế độ xác minh có thể được cải cách sau các thất bại mà không từ bỏ khuôn khổ hiệp ước. Các hiệp ước quản trị ASI sẽ gặp các thất bại tuân thủ sớm. Xây dựng cơ chế mở rộng quyền giám sát để đáp ứng các vi phạm được phát hiện, thay vì coi vi phạm chỉ là lý do để trừng phạt, là bài học mà chế độ hạt nhân mất hàng thập kỷ mới học được.

Điều gì thực sự khác biệt ở AI

Vật liệu hạt nhân có tính chất vật lý riêng biệt và tương đối hiếm. Uranium và plutonium cấp vũ khí có thể được phát hiện qua chữ ký đồng vị theo cách khó làm giả. Một cơ sở làm giàu uranium đòi hỏi thiết bị công nghiệp đặc thù để lại dấu vết môi trường. Khoảng cách giữa ứng dụng hạt nhân dân sự và hoạt động hạt nhân liên quan vũ khí, dù có thể vượt qua bởi một quốc gia quyết tâm, vẫn có thể đo lường và xác minh được theo cách hỗ trợ giám sát.

Phát triển AI không có sự phân biệt tương đương. Cùng một phần cứng, hạ tầng phần mềm và nhân tài kỹ thuật tạo ra ứng dụng AI tiêu dùng cũng có thể tạo ra hệ thống AI tiên phong có tiềm năng tác động văn minh. Một cụm tính toán lớn chạy dịch vụ AI thương mại và một cụm tính toán lớn tiến hành nghiên cứu AI tiên phong trông giống hệt nhau từ bên ngoài. Sự phân biệt có liên quan nằm ở việc chúng được huấn luyện làm gì và ở quy mô nào, chứ không phải ở bất kỳ tính chất vật lý nào của cơ sở hoặc thiết bị.

Sự khác biệt này là có thật và quan trọng. Nó có nghĩa là việc xác minh quản trị ASI sẽ cần dựa vào sự kết hợp giữa giám sát phần cứng ở cấp độ sản xuất chip, báo cáo cụm máy tính, dữ liệu tiêu thụ năng lượng và quyền kiểm toán phần mềm, thay vì dấu hiệu đồng vị. Nó cũng có nghĩa là câu hỏi ngưỡng liên quan (trên quy mô phát triển AI nào thì nghĩa vụ giám sát mới áp dụng) khó xác định hơn nhiều so với tương đương hạt nhân, và sẽ cần sửa đổi kỹ thuật thường xuyên khi chi phí tính toán thay đổi.

Đây là vấn đề thiết kế, không phải lý do để kết luận rằng xác minh là không thể. IAEA năm 1957 trông khác với IAEA năm 1997, sau các cải cách Additional Protocol theo sau chương trình của Iraq. Các phương pháp giám sát dùng trong thập niên 1960 hầu như không giống với khả năng lấy mẫu môi trường của thập niên 1990. Chế độ xác minh được xây dựng dần dần, qua thất bại cũng như thành công, và chúng cải thiện theo thời gian nếu có ý chí chính trị duy trì và cải cách.

Mục tiêu của kiểm soát vũ trang là nâng chi phí vi phạm đủ cao để hầu hết các bên quyết định không đáng làm, hầu hết thời gian, chứ không phải chắc chắn tuyệt đối.

Câu hỏi đối với quản trị ASI không phải là liệu mô hình xác minh hạt nhân có thể áp dụng trực tiếp hay không. Nó không thể. Câu hỏi là liệu một hệ thống xác minh đủ để giải quyết thách thức quản trị ASI có thể được thiết kế dựa trên cùng logic nền tảng: tuyên bố, thỏa thuận bảo đảm, quyền thanh tra và giám sát kỹ thuật đối với bằng chứng vật lý. Lịch sử 70 năm của IAEA cho thấy câu trả lời là có, miễn là có ý chí chính trị để xây dựng và duy trì hệ thống đó. Ý chí chính trị, chứ không phải thiết kế kỹ thuật, là ràng buộc then chốt.

Sự phản đối mạnh mẽ nhất

Phản biện công bằng nhất là phần mềm không phải uranium, nên bài học xác minh hạt nhân chỉ là thơ ca. Phần mềm dễ sao chép; chip và điện năng thì không. Việc xác minh giám sát các nút thắt vật lý vẫn có hiệu lực. Giả vờ AI là sự trừu tượng thuần túy là cách bạn tự thuyết phục mình bỏ qua những công cụ duy nhất có tác dụng.