Cơ quan tư vấn quy tụ các chuyên gia từ chính phủ, ngành công nghiệp, học thuật và xã hội dân sự trên mọi khu vực, chính nhằm mang lại cho đề xuất quản trị toàn cầu tính chính danh mà một câu lạc bộ phương Tây hay một chính phủ đơn lẻ không thể có. Báo cáo cuối cùng của cơ quan, được trình bày trước Hội nghị Thượng đỉnh Tương lai 2024 của UN, đã chẩn đoán khoảng trống quản trị và đề xuất một loạt chức năng và thể chế để lấp đầy. Dù có hạn chế, nó vẫn là thứ gần nhất với một điểm khởi đầu chính thức, mang tính phổ quát cho cuộc tranh luận.

Báo cáo năm 2024 của nó, 'Governing AI for Humanity', là nỗ lực có thẩm quyền nhất cho đến nay nhằm phác thảo một kiến trúc toàn cầu, và cũng là một nghiên cứu hé lộ khoảng cách giữa cuộc trò chuyện chính thống với rủi ro tiên phong.

Những gì báo cáo khuyến nghị

Thay vì đề xuất một cơ quan quyền lực duy nhất, báo cáo khuyến nghị một tập hợp các chức năng nhẹ nhàng theo từng lớp được thiết kế để có thể đạt được về mặt chính trị. Các khuyến nghị chính bao gồm một hội đồng khoa học quốc tế về AI để xây dựng sự hiểu biết chung có liên quan đến chính sách; một đối thoại chính sách thường xuyên giữa các chính phủ; một sàn giao dịch để giúp phát triển các tiêu chuẩn tương thích; một mạng lưới phát triển năng lực để giúp Nam bán cầu tham gia; và một văn phòng điều phối nhỏ trong Ban Thư ký UN để kết nối các mảnh lại với nhau. Báo cáo cũng đề cập đến một quỹ toàn cầu và một khuôn khổ quản trị dữ liệu.

Logic đằng sau sự khiêm tốn

Sự thận trọng của báo cáo là có chủ đích và đáng được hiểu. Nó phản ánh phán đoán rằng, khi các quốc gia còn chia rẽ như vậy, bước đầu tiên có thể đạt được không phải là một cơ quan quản lý có tính ràng buộc mà là hạ tầng kết nối (khoa học chung, đối thoại và tiêu chuẩn) trên đó có thể xây dựng quản trị mạnh mẽ hơn sau này. Đặc biệt, hội đồng khoa học lấy cảm hứng từ kinh nghiệm ozone và khí hậu, nơi một đánh giá chung có thẩm quyền (IPCC là mô hình) đã tạo ra cơ sở sự kiện chung khiến thỏa thuận trở nên khả thi. Theo cách đọc này, báo cáo đang đặt nền móng chứ không phải xây tường.

  • Một hội đồng khoa học để cung cấp cho thế giới một bức tranh chung, đáng tin cậy về khả năng và rủi ro của AI, cơ sở thực tế mà mọi quản trị đều phụ thuộc vào.
  • Một cuộc đối thoại chính sách để giữ cho các chính phủ tiếp tục nói chuyện và ngăn chặn sự phân mảnh của các cách tiếp cận khu vực đối thủ.
  • Một sàn trao đổi tiêu chuẩn để hướng tới khả năng tương tác thay vì một mảng vá của các quy tắc quốc gia không tương thích.
  • Xây dựng năng lực để đưa Global South vào quản trị như một bên tham gia, không phải là điều được nghĩ đến sau, một điều kiện tiên quyết cho tính hợp pháp.

Khoảng trống về rủi ro thảm khốc

Dù có thẩm quyền, báo cáo vẫn có một hạn chế rõ rệt từ góc nhìn an toàn: nó coi quản trị ASI chủ yếu là vấn đề quản lý phổ rộng các tác hại xã hội (thiên kiến, thông tin sai lệch, bất bình đẳng, gián đoạn lao động) và dành tương đối ít trọng lượng cho nguy cơ cụ thể là mất kiểm soát một hệ thống siêu trí tuệ. Không có đường đỏ đề xuất, không có ngưỡng tính toán, không có chế độ xác minh, không có lệnh cấm. Các công cụ nó khuyến nghị dành cho phối hợp và hiểu biết, chứ không phải để ràng buộc.

Khoảng cách này quan trọng vì cơ sở hạ tầng kết nối mà báo cáo đề xuất, dù có giá trị, không được thiết kế để làm điều mà an toàn tiên phong cần nhất: ngăn chặn phát triển các hệ thống quá nguy hiểm để kiểm soát. Một hội đồng khoa học và đối thoại chính sách có thể xây dựng sự hiểu biết chung khiến thỏa thuận ràng buộc trở nên khả thi, nhưng chúng không thể thay thế cho nó. Quy trình UN là nền tảng cần thiết và tự nó chưa đủ, một mô tả phù hợp với phần lớn bối cảnh quản trị hiện tại.

Bản thiết kế của UN xây dựng bàn mà mọi người có thể ngồi vào, và điều đó thực sự có giá trị. Nhưng một cái bàn không phải là một thỏa thuận. Câu hỏi khó nhất (làm thế nào để dừng phát triển các hệ thống mà không ai kiểm soát được) là điều mà quy trình chính thống chưa sẵn sàng đặt lên bàn.

Tại sao nó vẫn quan trọng

Công việc của cơ quan tư vấn quan trọng chính xác vì tính hợp pháp và tầm với của nó. Nó thiết lập, ở cấp độ cao nhất của hệ thống quốc tế, rằng quản trị ASI là mối quan tâm toàn cầu đòi hỏi các thể chế toàn cầu, và nó đề xuất các cơ chế khoa học chung và đối thoại có thể, theo thời gian, xây dựng sự hiểu biết chung mà một hiệp ước ràng buộc đòi hỏi. Con đường thực tế là coi khuôn khổ UN là nền tảng bao trùm mà trên đó quản trị tập trung hơn vào an toàn được xếp lớp: sử dụng bảng khoa học và đối thoại chính sách mà nó đề xuất để chuyển cuộc trò chuyện chính thống hướng tới các rủi ro thảm khốc mà nó hiện đang đánh giá thấp, và hướng tới các đường đỏ và kiểm chứng mà chỉ một thỏa thuận ràng buộc mới có thể cung cấp. UN đã xây dựng diễn đàn. Nhiệm vụ là nâng cao tham vọng của những gì diễn ra bên trong nó.