Khái niệm này xuất phát từ nhà khoa học chính trị Peter Haas, người đã nghiên cứu cách một mạng lưới các nhà khoa học khí quyển xuyên quốc gia định hình phản ứng với sự suy giảm tầng ozone. Cộng đồng nhận thức luận là mạng lưới các chuyên gia có chuyên môn được công nhận và cùng chia sẻ một hệ thống quan điểm về một vấn đề, nguyên nhân, mức độ nghiêm trọng cũng như các chính sách giải quyết. Khi cộng đồng này đạt được đồng thuận và được các nhà hoạch định chính sách lắng nghe, họ có thể cung cấp cơ sở sự kiện chung giúp các quốc gia vốn không tin tưởng lẫn nhau vẫn có thể đạt được thỏa thuận quốc tế.

Các nhà khoa học chính trị gọi đây là 'cộng đồng nhận thức luận', và dấu ấn của họ nằm trên hiệp ước ozone, kiểm soát vũ khí hạt nhân và nhiều hơn nữa. Việc quản trị ASI có xây dựng được cộng đồng như vậy hay không có thể quyết định thành bại.

Các cộng đồng chuyên gia thúc đẩy hiệp ước ra sao

Cơ chế không phải là các chuyên gia có quyền lực chính thức; họ không có. Ảnh hưởng của họ đến từ việc cung cấp thứ mà chính phủ cần khi đối mặt với sự không chắc chắn: một tài khoản đáng tin cậy, được chia sẻ về một vấn đề phức tạp. Khi đối mặt với mối đe dọa kỹ thuật mới, các nhà hoạch định chính sách thiếu kiến thức nội bộ để xác định vấn đề hoặc đánh giá giải pháp, và một cộng đồng nhận thức lấp đầy khoảng trống đó. Vì cộng đồng mang tính xuyên quốc gia và bị ràng buộc bởi các tiêu chuẩn nghề nghiệp thay vì lợi ích quốc gia, sự hiểu biết mà nó cung cấp có thể được chấp nhận qua biên giới, mang lại cho các chính phủ đối thủ một điểm khởi đầu chung mà các chuyên gia quốc gia — bị nghi ngờ phục vụ chính phủ của họ — không thể cung cấp.

  • Họ định khung vấn đề. Bằng cách xác định mối đe dọa là gì và nghiêm trọng đến mức nào, các chuyên gia định hình chương trình nghị sự mà chính phủ phản hồi.
  • Họ xây dựng sự đồng thuận xuyên biên giới. Một sự hiểu biết chuyên môn chung vượt qua ranh giới quốc gia mang lại cơ sở sự kiện chung cho các quốc gia nghi kỵ lẫn nhau để đàm phán.
  • Họ thiết kế các lựa chọn. Các chuyên gia chuyển hóa chẩn đoán thành các đề xuất chính sách cụ thể, khả thi mà các nhà ngoại giao sau đó có thể thương lượng.
  • Họ hợp pháp hóa hành động. Khi một đồng thuận chuyên gia đáng tin cậy cho rằng mối đe dọa là có thật và có thể kiểm soát, chính phủ càng khó biện minh cho việc không hành động.

Các tiền lệ

Chế độ ozone là trường hợp kinh điển: các nhà khoa học khí quyển đạt được đồng thuận về cơ chế và nguy cơ suy giảm ozone, và đồng thuận đó, được đưa vào quy trình chính sách, đã khiến Nghị định thư Montreal trở nên khả thi. Kiểm soát vũ trang hạt nhân có phong trào Pugwash, các nhà khoa học từ cả hai khối Chiến tranh Lạnh duy trì đối thoại và xây dựng sự hiểu biết kỹ thuật chung trực tiếp đưa vào các thỏa thuận kiểm soát vũ trang, công việc được công nhận bằng Giải Nobel Hòa bình. Chế độ khí hậu có IPCC, một cộng đồng nhận thức được thể chế hóa mà các đánh giá của họ là cơ sở sự kiện được đồng ý cho đàm phán. Trong mỗi trường hợp, mạng lưới chuyên gia đã thực hiện công việc thiết yếu mà chính phủ không thể tự làm.

Cộng đồng tri thức AI đang đứng ở đâu

Tình hình của AI khá hỗn hợp. Một mặt, đã tồn tại một cộng đồng nghiên cứu an toàn nghiêm túc, và cộng đồng này đã tạo ra những tuyên bố đồng thuận mang tính cột mốc: tuyên bố năm 2023 về rủi ro tuyệt chủng do AI ký bởi các nhà nghiên cứu hàng đầu, lời kêu gọi năm 2025 cấm siêu trí tuệ không an toàn, và Báo cáo An toàn AI Quốc tế đầu tiên, một tổng hợp kiểu IPCC do một nhân vật cao cấp trong lĩnh vực chủ trì. Đây chính là những sản phẩm mà một cộng đồng nhận thức luận tạo ra. Mặt khác, lĩnh vực này còn trẻ hơn, nội bộ phân hóa nhiều hơn và kết nối với các nhà hoạch định chính sách yếu hơn nhiều so với cộng đồng khoa học khí quyển hay vật lý hạt nhân ở giai đoạn tương đương.

Những khoảng trống này có hậu quả. Cộng đồng an toàn AI vẫn chia rẽ về các câu hỏi then chốt về thời gian và mức độ nghiêm trọng, làm suy yếu tín hiệu thống nhất cần để thúc đẩy chính phủ. Nó tập trung nặng ở một số quốc gia và tổ chức, hạn chế chiều rộng xuyên quốc gia đã mang lại uy tín xuyên biên giới cho chuyên môn ozone và hạt nhân, và đáng chú ý là các mối liên hệ với đối tác Trung Quốc còn mỏng, đúng nơi mà sự hiểu biết chung cần thiết nhất. Và nó mới chỉ bắt đầu xây dựng những cầu nối thể chế bền vững với các nhà hoạch định chính sách để biến đồng thuận chuyên gia thành hành động chính trị.

Mọi hiệp ước quản lý một mối nguy kỹ thuật đều dựa trên nền tảng hiểu biết chuyên gia chung được xây dựng trước. Với AI, việc xây dựng cộng đồng ấy (đồng thuận đủ để nói rõ ràng, và kết nối đủ để được lắng nghe, vượt biên giới) là một phần của việc xây dựng hiệp ước, không phải dự án phụ.

Xây dựng cộng đồng như công việc quản trị

Bài học là việc củng cố cộng đồng nhận thức luận của AI chính là một chiến lược quản trị, không phải là điều kiện tiên quyết cần được giả định. Các tuyên bố đồng thuận và Báo cáo An toàn AI Quốc tế là loại công việc đúng đắn, và chúng cần được làm sâu sắc hơn: mở rộng cộng đồng qua biên giới, đặc biệt là đến Trung Quốc; xây dựng các kênh thể chế mang các phát hiện của nó vào quy trình chính sách; và tạo ra đủ sự hiểu biết chung về các rủi ro cốt lõi để trình bày cho các chính phủ tín hiệu rõ ràng, đáng tin cậy đã giúp các thỏa thuận trong quá khứ trở nên khả thi. Lịch sử cho thấy hiệp ước và cộng đồng chuyên gia làm cho nó trở nên khả thi được xây dựng cùng nhau. Đối với AI, đầu tư vào cộng đồng (sự đồng thuận, sự rộng lớn và kết nối với quyền lực của nó) là một trong những đóng góp bền vững nhất cho thỏa thuận cuối cùng. Các chuyên gia không ký hiệp ước. Nhưng không có họ, có thể sẽ không có hiệp ước để ký.