Tại Nhà Trắng vào tháng 7 năm 2023, bảy công ty AI US hàng đầu bao gồm OpenAI, Anthropic, Google, Meta và Microsoft cam kết một loạt biện pháp an toàn, bảo mật và minh bạch tự nguyện. Tại Hội nghị Thượng đỉnh An toàn AI Bletchley tháng 11 năm 2023, hai mươi tám quốc gia ký tuyên bố thừa nhận mối quan tâm chung về rủi ro AI tiên phong. Tại Hội nghị Thượng đỉnh An toàn AI Seoul tháng 6 năm 2024, mười sáu công ty AI ký Cam kết An toàn AI Tiên phong, bao gồm ngưỡng an toàn, đánh giá mô hình và chia sẻ thông tin.
Các cam kết an toàn tự nguyện của doanh nghiệp có lịch sử lâu dài trong các ngành khác, và lịch sử đó cho thấy chúng có thể làm được gì và không làm được gì.
Đây là những thành tựu chính trị đáng kể. Chúng thể hiện lần đầu tiên các nhà phát triển hàng đầu của hệ thống AI biên giới công khai chấp nhận rằng công việc của họ gây rủi ro nghiêm trọng và một số hình thức quản trị là cần thiết. Bác bỏ chúng sẽ là sai. Nhưng chấp nhận chúng như đủ sẽ là sai lầm tốn kém hơn.
Các cam kết tự nguyện thực sự đòi hỏi những gì
Các cam kết An toàn AI Biên giới được ký tại Seoul là cam kết thực chất nhất trong các lời hứa lớn. Các bên ký kết cam kết: xác định ngưỡng an toàn mà tại đó họ sẽ không triển khai hoặc tiếp tục huấn luyện mô hình; tiến hành và công bố đánh giá các mô hình biên giới so với các ngưỡng đó; chia sẻ thông tin về sự cố an toàn và đánh giá với chính phủ và các công ty AI khác; và đầu tư vào nghiên cứu an toàn. Đây là các cam kết thực sự theo nghĩa chúng đòi hỏi hành động có thể quan sát và bình luận công khai.
Những gì chúng không yêu cầu: xác minh bên ngoài độc lập xem ngưỡng có được đáp ứng hay không; hậu quả ràng buộc khi không tuân thủ; bất kỳ cơ chế thực thi nào đối với bên ký kết không đạt yêu cầu; và sự tham gia của các công ty chọn không ký. Các cam kết chỉ là tuyên bố ý định mang tính khát vọng của các công ty vẫn giữ toàn quyền quyết định cách diễn giải và thực hiện chúng.
Đây là cấu trúc của một cam kết tự nguyện, và sự khác biệt với nghĩa vụ ràng buộc không hề tinh tế. Một cam kết tự nguyện ràng buộc bên về mặt đạo đức và danh tiếng. Một nghĩa vụ pháp lý ràng buộc ràng buộc họ theo luật, với hậu quả chính thức nếu không tuân thủ. Khoảng cách giữa nghĩa vụ đạo đức và nghĩa vụ pháp lý chính là nơi các quyết định an toàn quan trọng nhất được đưa ra dưới áp lực cạnh tranh.
Mô hình từ các ngành công nghiệp rủi ro cao khác
Các cam kết an toàn tự nguyện của doanh nghiệp đã đi trước quy định ràng buộc ở hầu hết các ngành công nghiệp rủi ro cao lớn, và mô hình về những gì các cam kết đó đạt được và không đạt được khá nhất quán.
Trong lĩnh vực dịch vụ tài chính, các ngân hàng lớn đã phát triển các quy tắc và thực tiễn quản lý rủi ro do ngành dẫn dắt suốt những năm 1990 và đầu những năm 2000. Các quy tắc này đã tồn tại và hoạt động trên danh nghĩa khi cuộc khủng hoảng tài chính 2007-2009 cho thấy quản lý rủi ro tự nguyện đã thất bại trong việc ngăn chặn tích tụ rủi ro hệ thống. Hội đồng Ổn định Tài chính, khuôn khổ Basel III và các yêu cầu công bố bắt buộc mở rộng đã theo sau. Các cam kết tự nguyện đã cải thiện thực tiễn cơ bản nhưng không đủ ở các rủi ro đuôi nơi chi phí thất bại là cao nhất.
Trong ngành công nghiệp hóa chất, chương trình Responsible Care được ra mắt năm 1985 sau một loạt tai nạn nhà máy hóa chất lớn, bao gồm Bhopal năm 1984. Các công ty tham gia cam kết cải thiện hiệu suất an toàn, sức khỏe và môi trường cũng như báo cáo minh bạch về tiến độ. Responsible Care đã cải thiện văn hóa an toàn ngành và giảm tỷ lệ tai nạn thông thường trong các thập kỷ sau. Nó không ngăn chặn các sự cố nghiêm trọng và cuối cùng được bổ sung bằng các yêu cầu quy định ràng buộc. Đánh giá của chính chương trình cho thấy hạn chế lớn nhất là thiếu xác minh độc lập.
Chương trình Responsible Care của ngành công nghiệp hóa chất, ra mắt năm 1985, là điểm song song lịch sử gần nhất với các cam kết an toàn AI hiện tại: một lời cam kết tự nguyện của ngành bao gồm an toàn, minh bạch và chia sẻ thông tin. Đánh giá của chính chương trình sau hai thập kỷ cho thấy hạn chế chính là thiếu xác minh độc lập đối với hiệu suất được báo cáo. Hạn chế tương tự mang tính cấu trúc trong các cam kết an toàn AI hiện tại, và nó tạo ra cùng một khoảng trống: cam kết kết quả mà không có cơ chế nào xác nhận liệu những kết quả đó có đang đạt được hay không.
An toàn nhà máy điện hạt nhân tại Hoa Kỳ ban đầu chủ yếu được điều hành qua tự điều chỉnh và các tiêu chuẩn ngành. Thảm họa Three Mile Island tháng 3 năm 1979 cho thấy văn hóa an toàn tự nguyện của ngành là chưa đủ đối với một công nghệ mà các chế độ lỗi có thể ảnh hưởng đến dân số lớn. Khung giám sát bắt buộc của Ủy ban Quy định Hạt nhân, với các đợt thanh tra độc lập, báo cáo sự cố bắt buộc và tiêu chuẩn vận hành có tính ràng buộc, đã ra đời sau đó. Ngành từng phản đối quy định bắt buộc lúc bấy giờ; ngày nay người ta thường công nhận khung này đã tạo ra những cải thiện về văn hóa an toàn mà các cách tiếp cận tự nguyện chưa đạt được.
Vấn đề áp lực cạnh tranh
Các cam kết tự nguyện có một điểm yếu cấu trúc mà quy định ràng buộc không có: vấn đề áp lực cạnh tranh. Nếu một cam kết tạo ra chi phí thực sự, chẳng hạn như làm chậm tiến độ phát triển, yêu cầu đánh giá an toàn tốn kém, hoặc loại trừ các ứng dụng doanh thu cao, thì bất kỳ công ty nào không ký cam kết đều có lợi thế cạnh tranh bằng cách tránh chi phí đó. Các công ty ký cam kết đối mặt với lựa chọn giữa nới lỏng cách diễn giải cam kết để duy trì khả năng cạnh tranh, hoặc gánh chi phí và tụt lại phía sau.
Động lực này không phải giả thuyết trong ngành AI. Các công ty ký Cam kết An toàn AI Biên giới tại Seoul đang cạnh tranh trực tiếp với các công ty và chương trình nhà nước ở Trung Quốc không ký bất kỳ văn bản tương đương nào. Họ cũng cạnh tranh lẫn nhau, và các cam kết họ ký có ngôn ngữ đủ rộng để những bất đồng diễn giải hợp lý về yêu cầu tuân thủ là không thể tránh khỏi.
Quy định ràng buộc giải quyết vấn đề này bằng cách tạo sàn mà mọi đối thủ đều phải tuân thủ, loại bỏ lợi thế cạnh tranh từ việc không tuân thủ. Đó là lý do quy định ràng buộc mang lại kết quả an toàn mà cam kết tự nguyện thường không thể: nó loại bỏ cấu trúc khuyến khích khiến việc cắt xén an toàn trở nên hấp dẫn.
Những gì cam kết tự nguyện hoàn thành tốt
Chức năng có giá trị nhất của các cam kết tự nguyện trong lịch sử quản trị an toàn công nghiệp là thiết lập chuẩn mực. Các cam kết tự nguyện tạo ra một hồ sơ thừa nhận của ngành rằng vấn đề tồn tại và một số thực tiễn nhất định là phản ứng phù hợp. Hồ sơ này trở thành nền tảng mà từ đó quy định ràng buộc hoạt động.
Khi các cơ quan quản lý hoặc nhà lập pháp đến với quản trị ASI, các Cam kết An toàn AI Tiên phong đã xác lập rằng các công ty hàng đầu chấp nhận tính hợp pháp của ngưỡng an toàn, đánh giá mô hình và chia sẻ thông tin như các khái niệm quản trị. Ngành công nghiệp sẽ ở vị thế yếu hơn để lập luận rằng các yêu cầu này không khả thi về mặt kỹ thuật hoặc không phù hợp về mặt thương mại, vì họ đã tự nguyện cam kết với chúng. Theo nghĩa này, các cam kết tự nguyện là bước đầu hướng tới quản trị ràng buộc, chứ không phải thay thế cho nó.
Các cam kết tự nguyện cũng tạo ra hạ tầng thể chế. Các cam kết Seoul yêu cầu các công ty phát triển quy trình nội bộ để thiết lập ngưỡng an toàn và đánh giá mô hình. Những quy trình này, cùng với kiến thức thể chế được nhúng trong chúng, là nền tảng để một chế độ xác minh ràng buộc có thể xây dựng. Một cơ quan quản lý giám sát các đánh giá an toàn AI bắt buộc sẽ có thể tận dụng các thực tiễn hiện có của công ty thay vì thiết kế hạ tầng tuân thủ từ đầu.
"Các cam kết tự nguyện thực hiện chức năng hữu ích ở giai đoạn đầu phát triển quản trị, và các cam kết Bletchley và Seoul đã làm được điều gì đó thực sự. Nhưng lịch sử của mọi ngành công nghiệp rủi ro cao lớn cho thấy điều tương tự: cam kết tự nguyện cải thiện thực tiễn cơ bản và thất bại ở rủi ro đuôi. Rủi ro đuôi chính là thứ chúng ta đang quản trị khi nói đến siêu trí tuệ."
Những gì quản trị ràng buộc yêu cầu mà các cam kết tự nguyện không thể cung cấp
Bốn yếu tố phân biệt quản trị ràng buộc với quản trị tự nguyện, và cả bốn đều quan trọng với AI tiên phong.
Xác minh độc lập. Cam kết tự nguyện là tự báo cáo. Nghĩa vụ ràng buộc chịu sự xác minh của bên thứ ba, dù là cơ quan quản lý, cơ quan thanh tra quốc tế hay kiểm toán viên độc lập có tư cách pháp lý. Tự báo cáo tạo ra thông tin chính xác khi tổ chức báo cáo không có động cơ xuyên tạc. Trong thị trường cạnh tranh, điều kiện đó hiếm khi được đáp ứng.
Hậu quả đã định cho việc không tuân thủ. Các cam kết tự nguyện tạo ra chi phí uy tín cho việc không tuân thủ, điều này có thật nhưng hạn chế. Nghĩa vụ ràng buộc tạo ra hậu quả pháp lý: tiền phạt, thu hồi giấy phép, hạn chế tiếp cận thị trường, hoặc các hình phạt dựa trên hiệp ước. Độ tin cậy của một khuôn khổ quản trị phụ thuộc vào độ tin cậy của các hậu quả của nó.
Phạm vi bao phủ các bên không ký kết. Phát triển AI quan trọng nhất có thể đến từ các công ty hoặc chính phủ không bao giờ ký cam kết tự nguyện. Quy định quốc gia ràng buộc và nghĩa vụ hiệp ước quốc tế tạo ra quản trị áp dụng cho các tác nhân bất kể họ có đồng ý trước hay không. Khuôn khổ cam kết tự nguyện để các tác nhân có khả năng tạo rủi ro nghiêm trọng nhất nằm ngoài khuôn khổ nếu họ chọn như vậy.
Sự ổn định qua các thay đổi lãnh đạo. Các cam kết tự nguyện chỉ ràng buộc lãnh đạo hiện tại của công ty. Khi lãnh đạo thay đổi, thành phần hội đồng quản trị thay đổi, hoặc áp lực cạnh tranh gia tăng, cam kết không có giá trị pháp lý để tồn tại qua những thay đổi đó. Quy định mang tính ràng buộc được ghi trong luật và tồn tại qua các thay đổi tổ chức thông thường.
Các cam kết tự nguyện tại Bletchley và Seoul là những thành tựu thực sự cần được xây dựng tiếp. Xây dựng tiếp nghĩa là thừa nhận trung thực những gì chúng đạt được và những gì chúng không thể, đồng thời sử dụng động lực chính trị và thể chế mà chúng đại diện để theo đuổi quản trị mang tính ràng buộc lấp đầy những khoảng trống chúng để lại.
Sự phản đối mạnh mẽ nhất
Phản biện công bằng nhất là quy tắc tự nguyện là cách các ngành trưởng thành và đòi luật trước sẽ đóng băng tiến bộ. Quy tắc tự nguyện có ích khi chúng công khai. Chúng thất bại khi cùng một công ty soạn, chấm và kiếm lời từ bài kiểm tra. Răng cắn từ bên ngoài mới khiến sự trưởng thành trở nên thực.