Quản trị thiếu nền tảng khoa học chung giống như đàm phán không có bản đồ chung. Các cuộc đàm phán khí hậu trước năm 1990 minh họa vấn đề này: các chính phủ tranh cãi liệu sự nóng lên do con người gây ra có đang xảy ra hay không thì không thể thống nhất về mức độ phản ứng phù hợp, vì họ tranh luận từ những tiền đề thực tế không tương thích. Báo cáo đánh giá đầu tiên của IPCC, công bố năm 1990, xác lập rằng sự nóng lên đang xảy ra và có thể quy cho hoạt động con người. Nó không chấm dứt các tranh chấp chính trị về việc phải làm gì, nhưng đã thay đổi tính chất của những tranh chấp đó từ tranh cãi về việc liệu có vấn đề hay không sang tranh cãi về cách phản ứng với một vấn đề.
Trước IPCC, khoa học khí hậu là địa hạt tranh cãi. Sau ba thập kỷ các báo cáo đánh giá của IPCC, nền tảng khoa học cho chính sách khí hậu gần như đã được giải quyết, bất kể tranh cãi chính trị còn lại về cách ứng phó. Rủi ro AI cần loại tổng hợp có thẩm quyền tương tự. Những gì cần để xây dựng một cơ quan tương đương là câu hỏi có câu trả lời cụ thể.
Chính trị của rủi ro AI vẫn đang ở trạng thái tiền-IPCC. Chưa có cơ quan quốc tế có thẩm quyền nào tổng hợp bằng chứng về rủi ro AI tiên phong, đánh giá xác suất và tính chất của các kết cục thảm khốc, rồi đưa ra các kết luận mà chính phủ coi là cơ sở sự kiện chung cho quyết định quản trị. Khoảng trống này không phải là bất tiện nhỏ. Các cuộc đàm phán quản trị bắt đầu mà không có tiền đề sự kiện chung thường tạo ra các khuôn khổ bị định hình bởi lợi ích chiến lược nhiều hơn là bởi tính chất của rủi ro đang được quản trị.
Cách IPCC thực sự xây dựng sự đồng thuận
IPCC không tiến hành nghiên cứu gốc. Nó tổng hợp nghiên cứu đã được đánh giá đồng cấp hiện có, do hàng nghìn nhà khoa học tại các trường đại học và viện nghiên cứu trên khắp thế giới tạo ra, thành các báo cáo đánh giá toàn diện. Quá trình tổng hợp liên quan đến hàng trăm tác giả chuyên gia xem xét và tóm tắt tài liệu đã xuất bản trong lĩnh vực chuyên môn của họ. Tóm tắt cho các nhà hoạch định chính sách, phần mà chính phủ và nhà báo thực sự đọc, được tạo ra thông qua đàm phán từng dòng giữa các tác giả khoa học và đại diện chính phủ từ tất cả 195 quốc gia thành viên IPCC.
Quy trình đàm phán này là nguồn gốc của thẩm quyền chính trị của IPCC, nhưng cũng là nguồn gốc của tính chất bảo thủ của nó. Bất kỳ chính phủ nào cũng có thể phản đối ngôn ngữ cụ thể trong tóm tắt, và quy trình yêu cầu các phản đối phải được giải quyết trước khi tóm tắt được thông qua. Điều này có nghĩa là tóm tắt phản ánh mẫu số chung thấp nhất mà tất cả các chính phủ tham gia sẵn sàng chấp nhận, gần như luôn thận trọng hơn những gì khoa học cơ bản sẽ hỗ trợ nếu đọc mà không có bộ lọc chính trị. Các tóm tắt của IPCC liên tục đánh giá thấp tính cấp bách so với các báo cáo đánh giá đầy đủ mà chúng tóm tắt, vì ngôn ngữ tóm tắt phải vượt qua sự xem xét của chính phủ.
Dù có thiên kiến bảo thủ này, các đánh giá của IPCC vẫn có ảnh hưởng đáng kể. Sự tiến triển từ báo cáo đánh giá đầu tiên năm 1990, thiết lập cơ sở khoa học cơ bản cho sự nóng lên do con người gây ra, đến chu kỳ đánh giá thứ sáu hoàn thành năm 2022, mô tả bằng chứng là không thể chối cãi và rủi ro là nghiêm trọng và lan rộng, đã tạo ra sự dịch chuyển chuẩn mực tích lũy khiến các chính phủ ngày càng khó phủ nhận công khai các sự kiện cơ bản về biến đổi khí hậu. Chi phí chính trị của việc phủ nhận đã tăng lên qua mỗi chu kỳ đánh giá vì thẩm quyền của IPCC được công nhận trên hầu hết mọi hệ thống chính trị.
Giải pháp thay thế Pugwash
Trước IPCC, giao diện khoa học-chính sách có ảnh hưởng nhất đối với rủi ro tồn tại là Các Hội nghị Pugwash về Khoa học và Các Vấn đề Thế giới. Pugwash bắt đầu năm 1957 để đáp lại Tuyên ngôn Russell-Einstein, một tuyên bố năm 1955 được Albert Einstein, Bertrand Russell và chín nhà khoa học nổi tiếng khác ký tên cảnh báo về nguy cơ vũ khí hạt nhân và kêu gọi các chính phủ giải quyết tranh chấp bằng các biện pháp hòa bình. Hội nghị Pugwash đầu tiên, được tổ chức tại làng Pugwash, Nova Scotia vào tháng 7 năm 1957, đã quy tụ hai mươi hai nhà khoa học từ mười quốc gia, bao gồm Hoa Kỳ, Liên Xô và Vương quốc Anh, để thảo luận về rủi ro vũ khí hạt nhân.
Điều khiến Pugwash khác biệt so với các quy trình liên chính phủ chính thức là tính chất phi chính thức. Các thành viên tham gia với tư cách cá nhân, không phải đại diện chính phủ. Các cuộc thảo luận được giữ kín. Các nhà khoa học từ các quốc gia đối địch có thể trao đổi quan điểm và ý tưởng mà chính phủ họ chưa cho phép công khai. Tính phi chính thức này cho phép trao đổi thẳng thắn vượt ranh giới Chiến tranh Lạnh, điều không thể thực hiện trong các bối cảnh ngoại giao chính thức.
Pugwash không tạo ra các hiệp ước. Nó tạo ra nền tảng trí tuệ mà các cuộc đàm phán chính thức sau này chính thức hóa. Khái niệm hủy diệt lẫn nhau đảm bảo như cơ sở cho sự ổn định răn đe được tinh chỉnh trong các cuộc thảo luận Pugwash trước khi trở thành chính sách chính thức của US. Hiệp ước Cấm Thử nghiệm Một phần (1963) và Hiệp ước Không phổ biến Vũ khí Hạt nhân (1968) đều dựa trên các ý tưởng được phát triển trong các cuộc thảo luận Pugwash. Tổ chức được trao Giải Nobel Hòa bình năm 1995, cùng với Joseph Rotblat, tổng thư ký lâu năm của nó, để ghi nhận đóng góp này cho kiểm soát vũ trang.
IPCC và Pugwash đại diện cho hai chức năng khác nhau mà một giao diện khoa học-chính sách có thể thực hiện. IPCC tổng hợp nghiên cứu hiện có thành các đánh giá đồng thuận có thẩm quyền với tính chính đáng chính trị bắt nguồn từ sự xem xét liên chính phủ. Pugwash tạo ra đối thoại không chính thức vượt qua các đường lối chính trị cho phép các ý tưởng phát triển trước khi chúng khả thi về mặt chính trị. Quản trị rủi ro AI cần cả hai: tổng hợp bằng chứng có hệ thống để thiết lập các tiền đề thực tế chung cho chính sách, và đối thoại xuyên địa chính trị không chính thức để phát triển các khái niệm quản trị trước khi các cuộc đàm phán chính thức bắt đầu. Các chức năng này có thể do một cơ quan duy nhất hoặc hai cơ quan riêng biệt thực hiện.
Một hội đồng rủi ro AI cần làm gì khác biệt
Một hội đồng quốc tế về rủi ro AI mô phỏng theo IPCC sẽ đối mặt với một số thách thức không có tương đương trong khoa học khí hậu.
Vấn đề tri thức độc quyền. Hầu hết những gì được biết về năng lực và rủi ro của các hệ thống AI tiên phong đều nằm trong tay một số ít công ty tư nhân. Tài liệu nghiên cứu về an toàn AI tiên phong được công bố một phần, nhưng thông tin liên quan nhất, bao gồm kết quả đánh giá năng lực nội bộ, kết quả kiểm tra an toàn và báo cáo sự cố, là độc quyền. IPCC tổng hợp nghiên cứu ngang hàng công khai. Một hội đồng rủi ro AI sẽ cần tiếp cận thông tin không công khai để tổng hợp bằng chứng liên quan nhất, điều này đòi hỏi các nhà phát triển AI tiên phong cung cấp thông tin đó cho hội đồng theo các thỏa thuận bảo mật được xác định. Thiết kế các thỏa thuận đó là một thách thức quản trị đáng kể không có tiền lệ IPCC.
Vấn đề nhịp độ. IPCC đưa ra các báo cáo đánh giá lớn cách năm đến bảy năm, kèm cập nhật ở giữa. Nhịp độ này phù hợp với hiện tượng vật lý thay đổi theo thang thời gian thập niên. Năng lực AI đang tiến bộ theo thang thời gian tháng. Một hội đồng rủi ro AI cần đưa ra đánh giá thường xuyên hơn nhiều, hoặc thiết lập chức năng giám sát thường trực theo dõi diễn biến năng lực gần như thời gian thực, để vẫn phù hợp với các quyết định quản trị. Các báo cáo thường xuyên hơn sẽ khó tạo ra qua quy trình xem xét liên chính phủ từng dòng của IPCC, vì quy trình đó vốn chậm theo thiết kế.
Vấn đề tri thức kép. Khoa học khí hậu là tri thức công khai không mang rủi ro an ninh nội tại. Nghiên cứu an toàn AI đôi khi liên quan đến việc hiểu chính xác cách các năng lực nguy hiểm có thể bị lạm dụng, tạo ra xung đột giữa sự minh bạch giúp đánh giá có thẩm quyền và các lo ngại an ninh đòi hỏi hạn chế một số phát hiện. Một hội đồng rủi ro AI sẽ cần các quy trình xử lý các phát hiện năng lực nhạy cảm mà IPCC chưa bao giờ phải phát triển.
Tại sao sự vắng mặt của một cơ quan như vậy đã gây tốn kém
. Việc thiếu một cơ quan quốc tế có thẩm quyền tổng hợp bằng chứng rủi ro AI đang gây ra những chi phí quản trị cụ thể mà ta thấy rõ ngay bây giờ.
Các cuộc đàm phán quản trị xuất phát từ những tiền đề sự kiện không tương thích. Các chính phủ khác nhau, và các phe phái khác nhau trong chính phủ, vận hành với những đánh giá cơ bản khác nhau về thời điểm siêu trí tuệ nhân tạo có thể gây rủi ro thảm khốc, bản chất của những rủi ro đó là gì, và những biện pháp quản trị nào sẽ giải quyết chúng. Không có đường cơ sở sự kiện chung, các cuộc đàm phán này có xu hướng tạo ra các khuôn khổ được thiết kế quanh quan điểm rủi ro thuận tiện nhất về mặt chính trị thay vì quanh đánh giá chính xác nhất về rủi ro đó.
Truyền thông rủi ro bị phân mảnh và không nhất quán. Các cảnh báo về rủi ro ASI đến từ một tập hợp nguồn không đồng nhất bao gồm nhà nghiên cứu học thuật, đội an toàn nội bộ công ty AI, think tank và tổ chức vận động, không có phương pháp luận chung, không có từ vựng chung và không có quy trình giải quyết bất đồng. Kết quả là diễn ngôn công chúng dao động giữa sự coi thường và báo động mà không có điểm tham chiếu có thẩm quyền đáng tin cậy. Giá trị của IPCC đối với truyền thông khí hậu chính là đã cung cấp cho nhà báo, nhà hoạch định chính sách và công chúng một nguồn có thẩm quyền duy nhất có thể được trích dẫn chống lại cả sự bác bỏ lẫn phóng đại.
"IPCC đã không tạo ra ý chí chính trị để giải quyết biến đổi khí hậu. Nó tạo ra nền tảng sự kiện chung khiến việc phớt lờ vấn đề trở nên tốn kém về mặt chính trị. Quản trị ASI cần điều tương tự: một cơ quan có thẩm quyền và phương pháp luận để xác lập bằng chứng thực sự cho thấy gì về rủi ro AI tiên phong, để các cuộc tranh luận quản trị xuất phát từ sự kiện chung thay vì từ sự không chắc chắn được tạo ra vì lợi ích chiến lược."
Tiền lệ quan trọng nhất mà IPCC cung cấp cho AI không phải là phương pháp luận mà là chính trị. IPCC được thành lập năm 1988, hai năm trước báo cáo đánh giá đầu tiên và ba mươi tư năm trước khi các phát hiện của chu kỳ đánh giá thứ sáu được mô tả là tạo ra tác động đã lan rộng, nhanh chóng và gia tăng. Đầu tư thể chế vào tổng hợp bằng chứng có hệ thống bắt đầu từ lâu trước khi ý chí chính trị hành động dựa trên bằng chứng đó đến. Đối với rủi ro AI, tương đương thể chế cần bắt đầu trước khi cửa sổ cho quản trị hiệu quả đóng lại, chứ không phải sau.
Một hội đồng về rủi ro AI với thành viên liên chính phủ, nhiệm vụ tổng hợp nghiên cứu an toàn đã công bố và, theo các thỏa thuận bảo mật phù hợp, chưa công bố, nhịp độ báo cáo nhanh hơn IPCC, và tiếp cận chuyên môn kỹ thuật độc lập từ các cộng đồng nghiên cứu an toàn AI sẽ có thể xây dựng trong khuôn khổ thể chế quốc tế hiện có. Nó sẽ không đòi hỏi một hiệp ước. Nó đòi hỏi cam kết chính trị từ một liên minh chính phủ đủ mạnh để thành lập và tài trợ. Đây là loại thể chế có thể được tạo ra trước, và hỗ trợ cho, các nghĩa vụ quản trị ràng buộc. Liệu nó có được tạo ra trước khi công nghệ mà nó đánh giá khiến các đánh giá ban đầu trở nên lỗi thời hay không là câu hỏi với cửa sổ câu trả lời đang khép lại.
Sự phản đối mạnh mẽ nhất
Lập luận công bằng nhất là một ủy ban khoa học khác sẽ chỉ là nơi nói suông trong khi các phòng lab vẫn đang đẩy sản phẩm ra. Rủi ro có thật. Mô hình IPCC hữu ích khi nó buộc các sự kiện chung vào những phòng soạn thảo luật. Một ủy ban không có đường dẫn đến ngưỡng và thực thi chỉ là sân khấu. Hãy ghép đánh giá với các cơ chế kích hoạt.