Động lực Cuộc đua AI:
Cách cạnh tranh
Làm suy yếu An toàn

Hiện đã có nhiều tài liệu chứng minh rằng các nhà phát triển AI biết rõ rủi ro của hệ thống mình hơn những gì họ công khai. Các đội an toàn nội bộ tại các phòng thí nghiệm AI lớn đã ghi nhận nhiều lo ngại nghiêm trọng. Các nhà nghiên cứu rời khỏi các phòng lab này kể lại những tranh luận nội bộ về việc hệ thống hiện tại đang được triển khai quá nhanh. Những lo ngại an toàn này đã được biết đến và trong nhiều trường hợp được xử lý một phần trong khi phát triển vẫn tiếp tục, chứ không phải là chưa biết.

Không phòng thí nghiệm hay quốc gia nào có thể tự giải quyết động lực đó chỉ bằng cách đưa ra lựa chọn tốt hơn. Điều đó đòi hỏi quản trị đa phương.

Đây là câu chuyện về một vấn đề phối hợp trong đó ngay cả những tác nhân có ý thức an toàn cũng phải đối mặt với các động lực cấu trúc đẩy họ hướng tới phát triển và triển khai nhanh hơn so với đánh giá rủi ro của chính họ, chứ không chủ yếu là câu chuyện về các tác nhân xấu. Hiểu những động lực đó (động lực chạy đua AI) là điều cần thiết để hiểu tại sao các cam kết an toàn của từng tổ chức riêng lẻ là chưa đủ và cần những cấu trúc quản trị nào thực sự.

Cấu trúc của cuộc đua

Cấu trúc cơ bản của động lực chạy đua AI khá đơn giản. Nhiều bên (công ty trong một quốc gia, các quốc gia trên thế giới) đang cạnh tranh để phát triển các hệ thống AI mạnh nhất và triển khai chúng trước tiên. Đầu tư vào an toàn tốn thời gian và nguồn lực mà lẽ ra có thể dùng để đẩy nhanh phát triển năng lực. Bên nào chậm lại để đầu tư nghiêm túc vào an toàn sẽ tụt hậu so với bên không làm vậy. Bên thắng cuộc đua, theo động lực cấu trúc, rất có thể là bên đã đánh đổi an toàn một cách hung hăng nhất.

Điều này tạo ra một động lực trong đó các tác nhân có ý thức an toàn phải đối mặt với lựa chọn giữa hai phương án xấu. Họ có thể duy trì tiêu chuẩn an toàn và bị tụt lại phía sau, khiến biên giới bị định hình bởi các tác nhân ít quan tâm đến an toàn hơn. Hoặc họ có thể giảm đầu tư an toàn để duy trì khả năng cạnh tranh, khiến tiêu chuẩn của chính họ suy giảm. Dù cách nào, áp lực cạnh tranh đều có hệ thống tạo ra kết quả tồi tệ hơn bất kỳ tác nhân cá nhân nào mong muốn nếu họ có thể phối hợp.

Chiều kích quốc gia

Động lực chạy đua ở cấp độ phòng lab về nguyên tắc có thể giải quyết qua quy định trong nước: một chính phủ có thể áp đặt yêu cầu an toàn cho tất cả phòng lab AI trong thẩm quyền của mình cùng lúc, loại bỏ bất lợi cạnh tranh của việc đầu tư an toàn trong thẩm quyền đó. Đây là lý do quy định AI trong nước quan trọng. Nó có thể giải quyết vấn đề phối hợp trong nước, ngay cả khi không giải quyết vấn đề giữa các quốc gia.

Động lực chạy đua cấp quốc gia về mặt cấu trúc khó khăn hơn. Cuộc cạnh tranh US-Trung Quốc trong lĩnh vực AI thường được khung như một cuộc chạy đua chiến lược với hậu quả địa chính trị đáng kể, và cách khung này tạo ra cùng cấu trúc khuyến khích ở cấp quốc gia: bất kỳ quốc gia nào chậm lại vì an toàn sẽ tụt hậu so với các quốc gia không làm vậy. Lo ngại rằng quy định an toàn tạo bất lợi chiến lược so với đối thủ ít quy định hơn là một vấn đề phối hợp thực sự, không phải phản đối thiếu thiện chí.

Đây là lý do tại sao quy định AI thuần túy trong nước (thậm chí là quy định trong nước nghiêm ngặt) không đủ để ứng phó với động lực chạy đua AI khoảng trống quản trị quốc tế là vấn đề phối hợp mang tính cấu trúc đòi hỏi các khuôn khổ đa phương kèm theo cơ chế thực thi, tương tự các hiệp ước kiểm soát vũ trang từng giải quyết một phần cuộc chạy đua vũ trang hạt nhân, chứ không phải vấn đề kỹ thuật về việc quốc gia nào có quy định tốt hơn.

Các tiền lệ để giải quyết động lực chủng tộc

Lo ngại rằng việc phối hợp trong các cuộc đua công nghệ nguy hiểm là không thể về mặt chính trị không khớp với hồ sơ lịch sử. US và Liên Xô, ở đỉnh cao Chiến tranh Lạnh, đã đàm phán SALT I và SALT II, các hiệp ước hạn chế vũ khí chiến lược áp đặt giới hạn ràng buộc lên vũ khí nguy hiểm nhất của cả hai bên, bất chấp sự nghi ngờ sâu sắc và cạnh tranh chiến lược đang diễn ra. Công ước Vũ khí Hóa học cấm một toàn bộ loại vũ khí trên hầu hết các quốc gia trên thế giới. Công ước Vũ khí Sinh học làm điều tương tự với vũ khí sinh học. Nghị định thư Montreal phối hợp loại bỏ toàn cầu các chất phá hủy tầng ozone.

Không có cái nào trong số này đạt được mà không có khó khăn, phản bội và thách thức thực thi. Tất cả đều đại diện cho những cải thiện thực sự so với các cuộc chạy đua không phối hợp tiền lệ lịch sử cho sự phối hợp quốc tế về các công nghệ nguy hiểm rộng hơn khung bi quan của các cuộc thảo luận quản trị ASI gợi ý.

Lý do “các phòng thí nghiệm coi trọng an toàn nên thắng cuộc đua” đang diễn ra bất kể sở thích của những người ủng hộ an toàn, việc có các tác nhân coi trọng an toàn ở tuyến đầu vẫn tốt hơn là có những tác nhân thờ ơ với an toàn, nhưng chưa đủ

Một phản ứng phổ biến với lo ngại về động lực chạy đua AI là giải pháp nằm ở việc các phòng lab chú trọng an toàn thành công, để biên giới được định hình bởi những tác nhân quan tâm đến an toàn.

Lập luận này có giới hạn cần nêu rõ. Thứ nhất, ở vị trí biên giới không loại bỏ động lực chạy đua. Nó khiến phòng thí nghiệm coi trọng an toàn giờ phải đối mặt với áp lực cạnh tranh cắt xén để giữ vị trí biên giới. Thứ hai, lập luận về áp lực cạnh tranh có thể dùng để biện minh cho bất kỳ sự tăng tốc nào, vì luôn có đối thủ ít coi trọng an toàn hơn để viện dẫn. Thứ ba, lập luận dựa vào việc các phòng thí nghiệm coi trọng an toàn sẽ thắng, nhưng không cung cấp cơ chế để đảm bảo điều đó. Đó là một hy vọng, không phải một cấu trúc quản trị.

Giải quyết động lực chạy đua AI đòi hỏi cùng thứ đã từng giải quyết một phần cuộc chạy đua vũ trang hạt nhân: các giới hạn phối hợp áp dụng đồng thời cho mọi tác nhân lớn, kèm cơ chế xác minh để phát hiện vi phạm và cơ chế thực thi để ngăn chặn. Đó là vấn đề quản trị đa phương. Các khuôn khổ răn đe như MAIM mô tả tình trạng bế tắc giữa các quốc gia chạy đua, nhưng chúng không giải quyết chính cuộc đua đó. The Foundation's đề xuất quản trị được cấu trúc xung quanh yêu cầu này, không phải xung quanh hy vọng rằng các phòng lab đúng đắn sẽ hoàn thành trước.