Tài liệu là Tuyên bố Bletchley. Nó ra đời từ Hội nghị Thượng đỉnh An toàn AI của Vương quốc Anh, cuộc họp đầu tiên của các chính phủ được triệu tập riêng để bàn về rủi ro từ các hệ thống tiên phong mạnh nhất. Văn bản ngắn gọn, không ràng buộc và được cân nhắc kỹ lưỡng. Đọc nó để hiểu những gì nó ghi nhận và những gì nó né tránh vẫn là thước đo rõ ràng nhất về vị trí của quản trị ASI quốc tế vào cuối năm 2023.

Lần đầu tiên, các chính phủ đối thủ cùng ghi nhận rằng AI tiên phong có thể gây ra thiệt hại thảm khốc.

Tuyên bố nói gì

Động thái cốt lõi là một sự thừa nhận. Tuyên bố nêu rõ các mô hình AI biên giới mang tiềm năng gây hại nghiêm trọng, thậm chí thảm họa. Nó chỉ tên các rủi ro có thể là cố ý hoặc vô tình, và chỉ ra thiệt hại nghiêm trọng từ các hệ thống đa năng có năng lực cao nhất. Các chính phủ gần như không đồng ý về điều gì khác, kể cả Washington và Bắc Kinh, đều chấp nhận khung diễn đạt đó trước công chúng.

Ngoài sự thừa nhận, các bên ký kết cam kết hai hướng: xác định rủi ro an toàn AI được quan tâm chung và xây dựng sự hiểu biết khoa học chung về chúng; và phát triển chính sách quốc gia dựa trên rủi ro, hợp tác khi phù hợp. Văn bản ủng hộ đối thoại quốc tế tiếp tục và hoan nghênh loạt hội nghị thượng đỉnh tiếp theo. Nó không giả vờ những hội nghị đó đã có câu trả lời.

Những gì nó không làm

  • Không có nghĩa vụ ràng buộc. Nothing requires any country to act on a timetable, report a metric, or prohibit a capability.
  • Không có tổ chức. Không có cơ quan, ban thư ký hay cơ quan giám sát nào, chỉ có thỏa thuận tiếp tục nói chuyện và triệu tập lại.
  • Không có đường đỏ. Tuyên bố không xác định những năng lực nào là không thể chấp nhận hay điều gì sẽ kích hoạt hành động tập thể.
  • Không có xác minh hay thực thi. Việc tuân thủ không được đo lường vì không có gì cụ thể để tuân thủ.

Tại sao một tuyên bố không ràng buộc vẫn quan trọng

Bác bỏ một tuyên bố không có răng dễ dàng. Nhưng đó cũng là cách hiểu sai về cách các công nghệ nguy hiểm đi vào luật pháp quốc tế. Mô hình công ước khung được dùng cho ozone và khí hậu bắt đầu bằng việc thiết lập các nguyên tắc chung và nghĩa vụ hợp tác, vì việc đặt tên cho vấn đề là điều kiện tiên quyết để đàm phán cách xử lý nó. Bletchley đã thực hiện công việc ngoại giao khó khăn đầu tiên: khiến các cường quốc đối thủ ghi nhận rằng rủi ro là có thật và chung.

Nó cũng mở ra một quy trình. Hội nghị thượng đỉnh không phải sự kiện một lần. Nó khởi động một loạt sự kiện định kỳ, tiếp tục tại Seoul vào tháng 5 năm 2024, mang đến cho các chính phủ một diễn đàn thường trực để phát triển khoa học, thể chế và cuối cùng là các cam kết mà một tuyên bố đơn lẻ không thể duy trì. Giá trị nằm ít ở cách diễn đạt hơn ở con đường mà cách diễn đạt ấy mở ra.

Lý lẽ dân gian cho rằng những tuyên bố mang tính tượng trưng chỉ là màn trình diễn. Điều đó đúng khi chúng là kết thúc câu chuyện. Khi chúng là bước mở đầu cho một chế độ sau này bổ sung ngưỡng, xác minh và chế tài, thì đó chính là cách các quốc gia bắt đầu nói về những ràng buộc mà họ chưa sẵn sàng chấp nhận. Bletchley chỉ thất bại nếu quy trình dừng lại ở buổi chụp ảnh.

Bài kiểm tra tiếp theo

Tiêu chí đánh giá Bletchley là liệu sự thừa nhận có trở thành kiến trúc hay không. Mối quan tâm chung nếu không được củng cố thành các quy tắc ràng buộc, kiểm tra độc lập và các tổ chức thì chỉ là lời nói suông. Các hội nghị tiếp theo, quốc gia các viện an toàn AI, và đánh giá khoa học là bộ máy hoặc biến tuyên bố thành quản trị hoặc để nó phai nhạt. Văn bản mua được một điểm khởi đầu. Công việc là chuyển đổi nó trước khi năng lực nó cảnh báo vượt quá quy trình nó bắt đầu. Đối với Foundation, sự chuyển đổi đó nghĩa là một con đường ràng buộc để ngăn chặn siêu trí tuệ, không phải là một chu kỳ hội nghị thượng đỉnh vĩnh viễn không bao giờ lập pháp.