Liệu Các Cuộc Họp COP Phong cách Khí hậu
Làm việc cho Quản trị ASI?

Hội nghị thượng đỉnh An toàn AI Bletchley tháng 11 năm 2023, Hội nghị thượng đỉnh An toàn AI Seoul tháng 5 năm 2024 và Hội nghị thượng đỉnh Hành động AI Paris tháng 2 năm 2025 tạo thành một mô hình mới nổi: các cuộc họp quốc tế cấp cao định kỳ về quản trị ASI, có sự tham gia của chính phủ và các công ty AI, tạo ra các tuyên bố và cam kết. Điều này trông giống về cấu trúc với quy trình Hội nghị các Bên về khí hậu, và sự so sánh này mang tính gợi ý theo những cách mà cả người ủng hộ lẫn người chỉ trích thường đánh giá thấp.

Liệu mô hình đó có tạo ra quản trị có tính ràng buộc hay không hoàn toàn phụ thuộc vào những lựa chọn về thực thi mà mô hình khí hậu luôn trì hoãn.

Quản trị khí hậu qua quy trình COP không phải là thất bại như giới phê bình mô tả, cũng không phải thành công như các kiến trúc sư của nó từng kỳ vọng. Hiểu những gì nó đã và chưa làm được, và tại sao, là điểm khởi đầu để quyết định liệu một quy trình tương tự có thể hoạt động với siêu trí tuệ hay không.

Cấu trúc COP thực sự hoạt động như thế nào

Hội nghị các Bên là cơ quan quản trị của một hiệp ước. Nó bao gồm tất cả các quốc gia đã phê chuẩn hiệp ước và họp định kỳ để xem xét việc thực hiện, đánh giá tiến độ và đàm phán các cam kết mới. COP khí hậu bắt nguồn từ Công ước khung của UN về Biến đổi Khí hậu, được thông qua năm 1992, đã thiết lập cấu trúc cơ bản của việc xem xét định kỳ và cam kết tiến bộ. Nghị định thư Kyoto (1997) và Thỏa thuận Paris (2015) đều là sản phẩm của quy trình COP.

Điểm mới trung tâm của Hiệp định Paris là thay thế các mục tiêu phát thải do quốc tế xác định theo cách tiếp cận từ trên xuống — vốn đã được Kyoto sử dụng và dẫn đến tình trạng không tuân thủ cũng như rút lui đáng kể — bằng các đóng góp do quốc gia tự xác định. Mỗi quốc gia tự đặt mục tiêu giảm phát thải của mình, gửi cho ban thư ký UNFCCC, rồi được đánh giá dựa trên mức độ tham vọng mà chính quốc gia ấy đã tuyên bố thay vì theo tiêu chuẩn do quốc tế áp đặt. Hội nghị COP Paris rà soát tiến độ tổng hợp so với mục tiêu nhiệt độ toàn cầu là hạn chế mức nóng lên ở 1,5 độ C so với mức tiền công nghiệp, và mỗi chu kỳ rà soát nhằm tạo ra mức độ tham vọng quốc gia cao hơn.

Sức hấp dẫn về cấu trúc của thiết kế này nằm ở chỗ nó có thể thực hiện được. Một quy trình cho phép các quốc gia tự đặt mục tiêu của mình, được đánh giá dựa trên tham vọng của chính họ, với các cơ chế minh bạch thay vì hình phạt khi thiếu hụt, có thể đảm bảo sự tham gia rộng rãi. Tất cả các nền kinh tế lớn trên thế giới đều là thành viên Thỏa thuận Paris. Kyoto, với các mục tiêu quốc gia ràng buộc và hậu quả xác định khi không tuân thủ, đã mất Hoa Kỳ và cuối cùng là Canada, Nhật Bản và Nga.

Vấn đề cấu trúc với thiết kế này là sự tham gia và hiệu quả không phải là một. Các đóng góp do quốc gia tự xác định theo Paris, tổng hợp lại, đã thiếu đáng kể so với những gì IPCC đánh giá là cần thiết để đạt mục tiêu 1,5 độ. Cơ chế tuân thủ là minh bạch và áp lực chính trị, không phải hình phạt chính thức. Các quốc gia không đạt mục tiêu của mình phải đối mặt với sự giám sát công khai trong chu kỳ đánh giá tiếp theo nhưng không có hậu quả pháp lý.

Ba điểm yếu cấu trúc trong mô hình khí hậu

Ba đặc điểm của COP khí hậu đã hạn chế hiệu quả của nó sẽ chuyển trực tiếp sang một COP quản trị ASI nếu áp dụng cùng thiết kế.

Yêu cầu đồng thuận. Hầu hết quyết định COP đòi hỏi sự đồng ý của tất cả các bên, trao cho bất kỳ quốc gia nào quyền phủ quyết hiệu quả đối với kết quả. Điều này tạo ra ngôn ngữ được đàm phán ở mức độ tham vọng mà bên phản đối nhất sẽ chấp nhận, nghĩa là trong các COP khí hậu liên tiếp, ngôn ngữ về "giảm dần" thay vì "loại bỏ dần" nhiên liệu hóa thạch, về "lộ trình" hướng tới net zero thay vì lịch trình ràng buộc, và về "ghi nhận" các phát hiện khoa học thay vì chính thức thông qua các hàm ý của chúng. Các cuộc đàm phán quốc tế dựa trên đồng thuận có hệ thống tạo ra đầu ra ở mức mẫu số chung thấp nhất về khả năng chính trị giữa các bên tham dự.

Tự xác định cam kết. Mô hình đóng góp do quốc gia tự quyết định đã giải quyết vấn đề tham gia mà Kyoto tạo ra, nhưng nó tạo ra vấn đề tham vọng. Khi các nước tự đặt mục tiêu mà không có sàn ràng buộc, các mục tiêu họ đặt phản ánh các ràng buộc chính trị trong nước cũng như yêu cầu kỹ thuật của mục tiêu cơ bản. Các nước có ngành công nghiệp nhiên liệu hóa thạch mạnh mẽ đặt mục tiêu ngành công nghiệp của họ có thể đạt được. Các nước đang đối mặt bầu cử gần kề đặt mục tiêu có thể bảo vệ chính trị trong ngắn hạn. Kết quả tổng hợp là khoảng cách giữa tham vọng đã nêu và mức giảm cần thiết tổng thể, mà các đánh giá COP ghi nhận nhưng không thể thu hẹp nếu không có cơ chế bắt buộc tham vọng cao hơn.

Khoảng trống thực thi. Cơ chế tuân thủ của Thỏa thuận Paris, được thiết lập theo Điều 15, rõ ràng mang tính phi đối đầu và phi trừng phạt. Nó hoạt động thông qua minh bạch: các quốc gia báo cáo tiến độ, COP xem xét các báo cáo, và áp lực chính trị cùng danh tiếng từ đánh giá công khai là hậu quả chính cho những thiếu hụt. Với khí hậu, điều này đã tạo ra hàng thập kỷ thiếu hụt được ghi nhận với phản ứng hạn chế. Với AI, nơi chỉ một năm phát triển tiên phong không được giám sát có thể tạo ra năng lực vượt xa mọi phản ứng quản trị, một cơ chế thực thi chỉ dựa vào minh bạch sẽ về mặt cấu trúc là không đủ.

Nơi cấu trúc COP hoạt động

Những điểm yếu của COP khí hậu đã được ghi nhận rõ ràng. Điểm mạnh của nó ít được nhắc đến hơn và thực sự có liên quan đến thiết kế quản trị ASI.

Việc triệu tập thường xuyên chính là một cơ chế quản trị. Các cuộc họp COP hàng năm tạo ra một lịch chính trị tập trung sự chú ý vào vấn đề quản trị cơ bản mỗi năm. Xã hội dân sự, nhà báo và nhà hoạch định chính sách coi các cuộc họp COP là những khoảnh khắc trách nhiệm giải trình bất kể có thực thi chính thức hay không. Chi phí chính trị của việc không tuân thủ rõ ràng, được ghi nhận trên báo chí toàn cầu trong một cuộc đánh giá COP hàng năm, đã thúc đẩy một số chính phủ tăng cường cam kết quốc gia. Việc triệu tập thường xuyên cũng cung cấp địa điểm cho các thỏa thuận phụ, nhóm làm việc kỹ thuật và đàm phán song phương khó tổ chức hơn nếu không có một cuộc tụ họp toàn cầu định kỳ.

Các cấu trúc cam kết tiến bộ có thể hoạt động qua các khung thời gian dài. Cơ chế bánh cóc được xây dựng trong Thỏa thuận Paris, yêu cầu mỗi đóng góp do quốc gia xác định tiếp theo không được ít tham vọng hơn cái trước, tạo ra nghĩa vụ pháp lý về cải thiện theo hướng ngay cả khi không có sàn ràng buộc. Qua nhiều thập kỷ, điều này có thể tạo ra sự chuyển động tổng hợp đáng kể, khi đường cơ sở chính trị cho "chính sách hiện hành" trở nên tham vọng hơn theo thời gian. Đối với một vấn đề quản trị như khí hậu, nơi hậu quả của thất bại chính sách tích lũy qua nhiều thập kỷ, bánh cóc chậm này có thể đủ. Đối với quản trị ASI, nơi kết quả thảm khốc có thể đến trong khoảng thời gian năm thay vì thập kỷ, nó quá chậm.

Quy trình COP hiệu quả nhất trong việc thiết lập khuôn khổ chuẩn mực mà chính trị khí hậu trong nước vận hành trên toàn cầu. Mục tiêu 1,5 độ của Thỏa thuận Paris giờ là điểm tham chiếu để đánh giá chính sách khí hậu quốc gia công khai ở hầu hết mọi quốc gia. Chức năng chuẩn mực này, tạo ra tiêu chuẩn chung mà chính trị trong nước phải tự biện minh, là điều mà quy trình thượng đỉnh an toàn AI đã bắt đầu thực hiện và nên tiếp tục.

Những gì một COP quản trị ASI mạnh mẽ hơn sẽ cần

Một quy trình quản trị ASI được mô phỏng theo cấu trúc COP nhưng được thiết kế để tránh khoảng trống thực thi của COP khí hậu sẽ cần ba đặc điểm mà Thỏa thuận Paris cố tình bỏ qua.

Các cam kết tối thiểu bắt buộc. Thay vì các đóng góp do quốc gia tự xác định mà không có ngưỡng ràng buộc, một hiệp ước quản trị ASI có thể thiết lập các nghĩa vụ tối thiểu bắt buộc mà tất cả các bên phải tuân thủ, kết hợp với cấu trúc đóng góp do quốc gia tự xác định cho các biện pháp vượt ngưỡng đó. Nghĩa vụ tối thiểu bắt buộc sẽ bao gồm các hoạt động rủi ro cao nhất: huấn luyện mô hình tiên phong vượt ngưỡng tính toán xác định, triển khai hệ thống AI trong các lĩnh vực rủi ro cao được chỉ định, và đánh giá an toàn bắt buộc trước khi triển khai. Các quốc gia có thể đi xa hơn, nhưng không được ít hơn.

Một cơ quan xác minh độc lập. Hội nghị COP khí hậu dựa vào các bản kiểm kê quốc gia tự báo cáo, với đánh giá độc lập do các đội chuyên gia kỹ thuật thực hiện theo UNFCCC. Một cơ quan xác minh quản trị ASI với quyền tiếp cận trực tiếp thông tin liên quan, tương tự thanh tra viên của OPCW, sẽ tạo ra đánh giá tuân thủ đáng tin cậy hơn so với tự báo cáo. Đây là khác biệt cấu trúc duy nhất giữa CWC và Công ước Vũ khí Sinh học giải thích rõ nhất sự khác biệt về hiệu quả của hai hiệp ước.

Hậu quả có răng. Hậu quả cho việc không tuân thủ vượt ra ngoài minh bạch sẽ đòi hỏi ràng buộc lợi ích tiếp cận thị trường của hiệp ước với việc tuân thủ các nghĩa vụ an toàn. Các quốc gia không đáp ứng các yêu cầu tối thiểu bắt buộc sẽ mất quyền tiếp cận thị trường ưu đãi và các thỏa thuận chia sẻ công nghệ mà tư cách thành viên hiệp ước mang lại. Điều này tạo ra cấu trúc hậu quả không cần ủy quyền của Hội đồng Bảo an và trực tiếp liên quan đến lợi ích cạnh tranh thúc đẩy phát triển AI.

"COP khí hậu cho thấy các cuộc họp quốc tế thường xuyên có thể xây dựng khuôn khổ chuẩn mực và lịch trình chính trị quanh một vấn đề quản trị. Nó cũng cho thấy điều đó là chưa đủ nếu các cam kết cơ bản thiếu sàn ràng buộc và cơ chế thực thi thiếu hậu quả chính thức. Quản trị ASI có thể sử dụng cấu trúc COP và học hỏi từ những khoảng trống thiết kế cụ thể này."

Quy trình thượng đỉnh an toàn AI bắt đầu tại Bletchley đáng được xây dựng tiếp, thay vì bỏ qua. Các thượng đỉnh hàng năm hoặc hai năm một lần tạo ra đúng loại sự chú ý quốc tế thường xuyên mà quản trị đòi hỏi. Câu hỏi là liệu các thượng đỉnh vẫn là nơi tổ chức các buổi cam kết tự nguyện hay trở thành cơ quan quản trị của một hiệp ước với nghĩa vụ ràng buộc và kiến trúc xác minh, thực thi chức năng. Câu hỏi đó sẽ không được trả lời bởi chính các thượng đỉnh mà bởi những gì chính phủ quyết định đàm phán giữa các kỳ họp.