Thế Giới Có Hiệp Ước AI Đầu Tiên.
Đây là những gì nó không bao gồm.

Vào ngày 5 tháng 9 năm 2024, tại Vilnius, Litva, đại diện của Hoa Kỳ, Vương quốc Anh, Liên minh Châu Âu và hàng chục quốc gia khác đã ký Công ước khung về Trí tuệ Nhân tạo và Nhân quyền, Dân chủ và Pháp quyền. Đây là hiệp ước quốc tế đầu tiên mang tính ràng buộc pháp lý về trí tuệ nhân tạo từng được ký kết. Nó xứng đáng được hiểu rõ ràng, cả về những gì nó đạt được lẫn vấn đề nó chưa bao giờ được thiết kế để giải quyết.

Những gì hiệp ước thực sự bao gồm

Công ước khung là văn kiện nhân quyền. Nghĩa vụ pháp lý của nó tập trung vào việc đảm bảo hệ thống AI không làm suy yếu dân chủ, nhân quyền hay pháp quyền. Trên thực tế, điều này có nghĩa là:

• Yêu cầu minh bạch: người ta phải được thông báo khi hệ thống AI ảnh hưởng đến quyết định về họ
• Cơ chế trách nhiệm giải trình: các quốc gia phải đảm bảo nhà phát triển và triển khai AI chịu trách nhiệm về mọi thiệt hại gây ra
• Không phân biệt đối xử: Các hệ thống AI không được tạo ra kết quả vi phạm luật bình đẳng hiện hành
• Biện pháp khắc phục hiệu quả: những người bị hại bởi AI phải có quyền tiếp cận bồi thường pháp lý
• Bảo vệ dân chủ: AI không được sử dụng để phá hoại các quy trình bầu cử hoặc pháp quyền

Đây là những cam kết có ý nghĩa. Một thuật toán tuyển dụng AI phân biệt đối xử dựa trên chủng tộc, hệ thống nhận diện khuôn mặt triển khai không minh bạch, chiến dịch thông tin sai lệch do AI tạo ra, tất cả đều được giải quyết trực tiếp bởi khuôn khổ của hiệp ước. Các bên ký kết đã chấp nhận nghĩa vụ ràng buộc để ngăn chặn chúng.

Cơ chế thực thi là Conference of the Parties, cơ quan này xem xét việc thực hiện và có thể đưa ra khuyến nghị. Nó mềm hơn chế độ xác minh của Công ước Vũ khí Hóa học hay các giao thức thanh tra của Hiệp ước Không phổ biến Vũ khí Hạt nhân, nhưng nó thiết lập nguyên tắc rằng AI chịu sự điều chỉnh của luật quốc tế có tính ràng buộc; nguyên tắc này chưa được thiết lập trước tháng 9 năm 2024, và việc thiết lập nó là một bước tiến thực sự.

Những gì hiệp ước không bao gồm

Công ước khung điều chỉnh cách AI được sử dụng trong xã hội. Nó không điều chỉnh việc có nên phát triển các hệ thống AI có thể gây rủi ro văn minh hay không.

Khung rủi ro của hiệp ước được hiệu chỉnh cho các tác hại AI hiện tại và gần hạn, những tác hại thật và nghiêm trọng mà hệ thống AI ngày nay đã gây ra. Đây là phạm vi đúng cho một công cụ nhằm bảo vệ quyền con người trong xã hội bị ảnh hưởng bởi AI. Đây là phạm vi sai cho một công cụ nhằm ngăn thảm họa văn minh từ siêu trí tuệ nhân tạo.

Không có từ "superintelligence" nào xuất hiện trong văn bản hiệp ước. Hiệp ước cũng không áp đặt nghĩa vụ nào đối với cuộc đua phát triển AI tiên phong. Nó không nói gì về quản trị compute, về quy mô training run, về vấn đề alignment, hay về kịch bản mà Geoffrey Hinton, Yoshua Bengio và các nhà nghiên cứu khác đang lo ngại, những cảnh báo đã tích tụ trong thập kỷ qua.

Tại sao sự phân biệt này quan trọng

Nguy cơ nhầm lẫn Khung Công ước là quản trị đầy đủ là kết quả tự nhiên của quy trình chính trị tạo ra các thỏa thuận quốc tế, chứ không phải giả thuyết: một khi hiệp ước tồn tại, áp lực chính trị để tạo ra nó đã được thỏa mãn. Các nước đã ký Khung Công ước có thể chỉ vào nó như bằng chứng rằng AI đang được quản trị. Cuộc trò chuyện khó khăn hơn (về việc liệu các hệ thống AI tiên tiến nhất đang được phát triển có nên chịu ràng buộc quốc tế về phát triển, chứ không chỉ triển khai) không dễ dàng hơn sau khi một cột mốc quản trị đã được tuyên bố.

Công ước khung điều chỉnh cùng AI mà luật nhân quyền và bình đẳng hiện hành đã điều chỉnh, nó mở rộng các nguyên tắc ấy vào bối cảnh AI và khiến chúng có tính ràng buộc quốc tế. Điều này có giá trị. Nó không phải là phản ứng trước rủi ro rằng một hệ thống AI đủ năng lực, theo đuổi mục tiêu lệch lạc tinh vi với phúc lợi con người, có thể gây hại ở quy mô không có biện pháp pháp lý nào giải quyết được vì thiệt hại là không thể đảo ngược.

"Mục tiêu là để phát triển AI diễn ra tốt đẹp cho cả AI lẫn con người. Điều đó đòi hỏi coi nó là vấn đề văn minh chứ không phải câu hỏi trách nhiệm sản phẩm."

Một hiệp ước an toàn AI tiên phong sẽ đòi hỏi những gì

Một hiệp ước được thiết kế để giải quyết rủi ro từ trí tuệ siêu nhân tạo sẽ trông khá khác so với Công ước Khung. Khung đề xuất của Nakada Foundation phác thảo những gì một hiệp ước như vậy cần bao gồm:

• Quản trị compute: giới hạn ràng buộc về tài nguyên tính toán có thể áp dụng cho một lần huấn luyện duy nhất, được hỗ trợ bởi xác minh ở mức phần cứng. Compute là nút thắt trong phát triển AI biên giới và là biến duy nhất hiện có thể đo lường và thực thi ở cấp độ quốc tế.
• Xác minh độc lập: một cơ chế giám sát tương tự thanh tra hạt nhân, cho phép các bên xác minh việc tuân thủ thay vì dựa vào tự báo cáo của các tổ chức có lợi nhất khi không tuân thủ.
• Phủ sóng AI tiên phong: các nghĩa vụ áp dụng cụ thể cho việc phát triển các hệ thống AI có năng lực nhất, không chỉ việc triển khai chúng trong các bối cảnh xã hội.
• Sự bao gồm US-Trung Quốc: bất kỳ hiệp ước nào không ràng buộc hai quốc gia phát triển AI hàng đầu sẽ về cấu trúc là không đủ, bất kể bao nhiêu nước khác ký.

Khung Công ước là bước đầu tiên cần thiết. Việc công nhận AI chịu sự điều chỉnh của luật quốc tế ràng buộc là một tiền lệ quan trọng. Nhưng lịch sử quản trị công nghệ mang tính tồn vong (hạt nhân, hóa học, sinh học) cho thấy hiệp ước đầu tiên trong một lĩnh vực hiếm khi giải quyết rủi ro nghiêm trọng nhất. Cần nỗ lực chính trị bền bỉ, kéo dài nhiều năm, để xây dựng các khuôn khổ thực sự kiềm chế những gì nguy hiểm nhất.

Nỗ lực chính trị đó cần bắt đầu ngay bây giờ, không phải sau khi Công ước Khung được tuyên bố đã giải quyết vấn đề, và không phải sau khi các năng lực tồn tại khiến các ràng buộc ràng buộc không thể thực thi.