Khi những người ủng hộ quản trị kêu gọi một Cơ quan Giám sát AI Toàn cầu, họ đang mô tả một trạng thái cuối cùng. Câu hỏi khó hơn là con đường đến trạng thái đó trông như thế nào, làm thế nào một cơ quan quốc tế với nhiệm vụ, nhân sự, ngân sách, thẩm quyền pháp lý và năng lực kỹ thuật để giám sát phát triển AI tiên phong thực sự được xây dựng. Lịch sử của các thể chế thực hiện công việc này cho các công nghệ nguy hiểm khác mang tính thông tin, và luôn phức tạp hơn những gì tài liệu quản trị gợi ý.
Các thể chế được xây dựng chứ không phải tự tuyên bố. Đây là những gì thực sự cần để xây dựng một Cơ quan Giám sát AI Toàn cầu.
Những gì IAEA cần để trở nên hoạt động được
IAEA được thành lập theo luật quốc tế năm 1957, hai năm sau khi Tổng thống Eisenhower đề xuất chương trình Atoms for Peace trong bài phát biểu trước Đại hội đồng UN năm 1953. Điều lệ thành lập xác định nhiệm vụ (thúc đẩy sử dụng năng lượng hạt nhân vì mục đích hòa bình đồng thời đảm bảo nó không bị chuyển hướng sang vũ khí) và thiết lập Hội đồng Thống đốc cùng Hội nghị Chung làm các cơ quan quản lý của cơ quan.
IAEA đã tiến hành đợt thanh tra bảo đảm đầu tiên vào năm 1961, bốn năm sau khi thành lập, bao gồm một số lượng nhỏ lò phản ứng nghiên cứu ở Tây Âu. Hệ thống bảo đảm được áp dụng lúc đó còn thô sơ theo tiêu chuẩn sau này: thanh tra viên xem xét hồ sơ cơ sở và kiểm kê vật liệu hạt nhân, nhưng có quyền tiếp cận vật lý hạn chế và không có khả năng giám sát môi trường. Hệ thống đủ cho nghiên cứu hạt nhân hòa bình trong môi trường công nghệ những năm 1950 và 1960; nó không đủ để phát hiện một chương trình vũ khí có chủ đích.
Sự mở rộng mang tính quyết định của năng lực IAEA không đến từ luật thành lập cơ quan mà từ hậu quả của thất bại. Chương trình vũ khí hạt nhân bí mật của Iraq, được phát hiện trong và sau Chiến tranh Vùng Vịnh 1991, cho thấy các cuộc thanh tra thường xuyên của IAEA đã hoàn toàn bỏ lỡ một chương trình đang tiến tới vũ khí hạt nhân. Phản ứng là Nghị định thư Bổ sung, được thông qua năm 1997, mở rộng quyền thanh tra đến các địa điểm không khai báo và thêm lấy mẫu môi trường như công cụ tiêu chuẩn. IAEA tồn tại trước 1997 và IAEA tồn tại sau 1997 là hai tổ chức khác biệt đáng kể về những gì họ có thể phát hiện.
Bài học là các tổ chức giám sát quốc tế phát triển năng lực thực sự khi phản ứng với những thất bại bộc lộ giới hạn của thiết kế ban đầu. Kiến trúc sáng lập thiết lập khung; hiệu quả vận hành tích lũy qua nhiều thập kỷ nhờ cải cách do thất bại thúc đẩy.
Những gì OPCW cần để trở nên hoạt động được
OPCW được thành lập khi Công ước Vũ khí Hóa học có hiệu lực năm 1997. Khác với IAEA, vốn có trước khuôn khổ hiệp ước chính của mình, OPCW được thiết kế ngay từ đầu như cơ quan xác minh cho một hiệp ước hiện hữu với các nghĩa vụ đã xác định. Điều này mang lại cho tổ chức nhiệm vụ ban đầu rõ ràng hơn và phạm vi hoạt động tập trung hơn.
OPCW đòi hỏi công việc chuẩn bị đáng kể trước khi có thể tiến hành kiểm tra đầu tiên. Phụ lục xác minh của hiệp ước, dài hàng trăm trang, chỉ định chi tiết các thủ tục cho các loại kiểm tra khác nhau, quyền của thanh tra viên, nghĩa vụ của các quốc gia được kiểm tra và xử lý thông tin mật. Việc chuyển đổi các thủ tục này thành giao thức vận hành, đào tạo đội ngũ thanh tra, thiết lập hệ thống liên lạc an toàn, xây dựng phòng thí nghiệm phân tích có khả năng xác định tác nhân hóa học trong mẫu môi trường, và đàm phán thỏa thuận cơ sở với những người nắm giữ kho dự trữ lớn đầu tiên đều mất nhiều năm làm việc sau khi hiệp ước có hiệu lực.
Các nhiệm vụ xác minh phá hủy đầu tiên của OPCW, giám sát việc loại bỏ kho dự trữ vũ khí hóa học của US và Nga, bắt đầu vào cuối những năm 1990 và tiếp tục hơn hai thập kỷ. Độ phức tạp kỹ thuật của việc phá hủy vũ khí hóa học an toàn, và các thách thức xác minh mà nó đặt ra, đòi hỏi sự thích nghi thể chế liên tục trong suốt thời kỳ đó. Những gì OPCW làm ngày nay phản ánh hai mươi lăm năm kinh nghiệm vận hành không tồn tại khi tổng giám đốc sáng lập nhậm chức.
Các quyết định thiết kế quan trọng nhất
Một cơ quan giám sát AI quốc tế sẽ đối mặt với một tập hợp các quyết định thiết kế thể chế nền tảng quyết định hiệu quả dài hạn của nó. Những quyết định này không mang tính kỹ thuật; chúng mang tính chính trị và tổ chức, và cần được đưa ra đúng đắn trước khi tổ chức mở cửa.
Phạm vi ủy quyền là quyết định đầu tiên. Một cơ quan giám sát có thể được thiết kế hẹp, tập trung vào việc xác minh các tuyên bố về huấn luyện AI tiên phong vượt ngưỡng compute được chỉ định, hoặc rộng, với thẩm quyền đánh giá các hệ thống AI về các đặc tính an toàn và công bố các phát hiện về bối cảnh an toàn AI toàn cầu. Ủy quyền hẹp dễ đồng ý về mặt chính trị và dễ thực hiện hơn. Ủy quyền rộng mang lại cho tổ chức ảnh hưởng quản trị lớn hơn nhưng đòi hỏi ngân sách lớn hơn, nhân viên đa dạng hơn và sự đồng thuận chính trị lớn hơn về những gì cơ quan được phép nói. Ủy quyền của IAEA ban đầu hẹp và sau đó được mở rộng; ủy quyền của OPCW vẫn tập trung. Cả hai mô hình đều thành công trong bối cảnh tương ứng của họ.
Kiến trúc độc lập là quyết định thứ hai. Các tổ chức quốc tế khác nhau đáng kể về mức độ cách ly khỏi áp lực chính trị của cường quốc. Cấu trúc phủ quyết của Hội đồng Bảo an UN có nghĩa là năm thành viên thường trực có thể chặn mọi hành động của Hội đồng Bảo an. Hội đồng Thống đốc IAEA có cấu trúc có trọng số mang lại ảnh hưởng không cân xứng cho các quốc gia lớn. OPCW có cấu trúc quản trị dân chủ hơn trong đó tất cả các quốc gia thành viên có quyền biểu quyết ngang nhau tại Hội nghị Các Quốc gia Thành viên. Một cơ quan giám sát AI mà các quyết định lớn có thể bị chặn bởi các quốc gia có chương trình AI lớn nhất là một thể chế yếu hơn so với một thể chế có tổng giám đốc độc lập và nhân viên kỹ thuật có thể hành động theo phán đoán chuyên môn của họ.
IAEA có khoảng 2.500 nhân viên, trong đó có vài trăm thanh tra viên có chuyên môn sâu về kỹ thuật hạt nhân. OPCW có vài trăm nhân viên, trong đó có các nhà hóa học có thể thực hiện phân tích hiện trường mẫu hóa học. Một cơ quan giám sát AI cần nhân viên có chuyên môn mà hiện đang được trả lương cao ở khu vực tư nhân. Xây dựng và giữ chân đội ngũ này trong cơ cấu lương của công chức quốc tế là một trong những vấn đề thiết kế khó nhất mà cơ quan này sẽ phải đối mặt.
Mô hình tài trợ là quyết định thứ ba. Các tổ chức quốc tế được tài trợ thông qua các đóng góp được đánh giá từ các quốc gia thành viên, tỷ lệ với GDP và các yếu tố khác, với các đóng góp tự nguyện bổ sung ngân sách được đánh giá cho các chương trình cụ thể. Ngân sách đóng góp được đánh giá được đàm phán hàng năm và chịu áp lực chính trị: các quốc gia thành viên phản đối các hoạt động của cơ quan có thể giữ lại đóng góp hoặc bỏ phiếu cho việc giảm ngân sách. Ngân sách thường xuyên của IAEA khoảng 500 triệu USD mỗi năm; của OPCW khoảng 70 triệu euro. Một cơ quan giám sát AI với năng lực kỹ thuật có ý nghĩa sẽ yêu cầu ngân sách trong phạm vi này hoặc cao hơn, và câu hỏi về sự ổn định tài trợ (cách duy trì ngân sách của cơ quan qua các chu kỳ chính trị ở các quốc gia đóng góp chính) đòi hỏi một câu trả lời thiết kế.
Thẩm quyền pháp lý của thanh tra viên là quyết định thứ tư. Thanh tra viên chỉ có thể làm những gì hiệp ước cho phép họ làm. Các thỏa thuận bảo đảm ban đầu của IAEA trao cho thanh tra viên quyền tiếp cận hạn chế, sau được mở rộng bởi Nghị định thư Bổ sung; thanh tra viên hoạt động theo các thỏa thuận cũ không có Nghị định thư Bổ sung vẫn có ít quyền hơn. Thanh tra viên của cơ quan giám sát AI sẽ cần quyền tiếp cận được chỉ định rõ ràng (đến cơ sở vật chất, hồ sơ, nhật ký phần cứng và nhân sự) và hiệp ước thành lập cơ quan cần chỉ rõ những quyền đó, vì sự mơ hồ sẽ trên thực tế được giải quyết có lợi cho bên bị thanh tra.
Xây dựng năng lực kỹ thuật trước khi có hiệp ước
Một bài học từ cả IAEA và OPCW là năng lực kỹ thuật không thể ứng biến sau khi tổ chức đã được thành lập. Cả hai cơ quan đều hưởng lợi từ các cộng đồng khoa học và kỹ thuật đã tồn tại trước đó có thể cung cấp nhân sự: vật lý hạt nhân và kỹ thuật hạt nhân cho IAEA, hóa học phân tích cho OPCW. Chuyên môn cần thiết để xác minh cam kết không phổ biến hạt nhân hoặc xác định tác nhân vũ khí hóa học trong mẫu đất đã tồn tại ở các trường đại học và phòng thí nghiệm quốc gia trước khi các cơ quan xác minh quốc tế cần đến nó.
Cộng đồng kỹ thuật tương đương cho việc xác minh quản trị ASI, những người có khả năng đánh giá các hệ thống AI biên giới về các đặc tính an toàn, kiểm toán hồ sơ huấn luyện, và thiết kế giao thức giám sát phần cứng cho các cụm máy tính lớn, là nhỏ và gần như hoàn toàn nằm trong các công ty AI tư nhân cùng một số ít tổ chức học thuật. Xây dựng cơ sở chuyên môn mà một cơ quan giám sát quốc tế có thể tuyển dụng chính là nhiệm vụ quản trị phải thực hiện trước khi thành lập tổ chức.
Đây là một lý do tại sao các viện an toàn AI quốc gia, chẳng hạn như Viện An ninh AI của UK (thành lập năm 2023 với tên Viện An toàn AI), quan trọng đối với dự án quản trị dài hạn. Họ đang xây dựng phương pháp đánh giá, kinh nghiệm thể chế và cộng đồng chuyên môn mà một cơ quan giám sát quốc tế tương lai sẽ cần dựa vào. Nền tảng kỹ thuật cho giám sát quốc tế đang được đặt ra, một phần và chưa hoàn hảo, trước khi các điều kiện chính trị cho một hiệp ước và một thể chế sẵn sàng.
"Bạn không thể xây dựng một cơ quan xác minh trong một năm. Các phương pháp kỹ thuật, nhân viên được đào tạo, quy trình vận hành và khuôn khổ pháp lý phải được phát triển theo thời gian. Thời điểm bắt đầu là bây giờ, chứ không phải sau khi hiệp ước được ký."
Cơ quan Giám sát AI Toàn cầu là một tổ chức đòi hỏi các quyết định thiết kế cụ thể, các cam kết nguồn lực cụ thể, các thẩm quyền pháp lý cụ thể và các năng lực kỹ thuật cụ thể để hoạt động, chứ không phải là một mục tiêu không tưởng xa vời. IAEA và OPCW chứng minh rằng các tổ chức như vậy có thể được xây dựng và có thể hoạt động. Họ cũng chứng minh rằng việc xây dựng chúng mất nhiều thời gian hơn văn bản hiệp ước gợi ý, đòi hỏi đầu tư chính trị bền vững qua nhiều chu kỳ lãnh đạo, và phát triển năng lực thực sự của mình để đáp ứng những thất bại bộc lộ giới hạn của thiết kế ban đầu. Các nhà vận động quản trị kêu gọi một cơ quan giám sát mà không giải quyết các câu hỏi thiết kế thể chế này đang mô tả một khát vọng, chứ không phải một kế hoạch.
Sự phản đối mạnh mẽ nhất
Phản đối công bằng nhất là các quốc gia sẽ không bao giờ chấp nhận thanh tra viên gần compute có giá trị nhất của họ. Họ đã nói những điều tương tự trước khi có các biện pháp bảo vệ hạt nhân. Nỗi sợ chung về việc bị phá vỡ, cùng với việc từ chối phần cứng cho những bên vi phạm, là cách các bên miễn cưỡng vẫn xây dựng được đôi mắt. Một cơ quan không có quyền tiếp cận chỉ là một biểu tượng. Quyền tiếp cận là vấn đề thiết kế đáng giải quyết.