Khi thuật toán tuyển dụng phân biệt đối xử với phụ nữ, đó là vấn đề đạo đức AI. Khi mô hình ngôn ngữ được huấn luyện trên dữ liệu thiên kiến tái tạo thiên kiến đó trong đầu ra, đó là vấn đề đạo đức AI. Khi deepfake do AI tạo ra được dùng để bôi nhọ ứng cử viên chính trị, đó là vấn đề đạo đức AI.
Đạo đức AI và an toàn AI là các lĩnh vực liên quan với mối quan tâm chồng chéo, nhưng tầm nhìn thời gian khác nhau, phương pháp khác nhau và câu trả lời khác nhau cho câu hỏi điều gì được coi là vấn đề đáng giải quyết.
Khi một tác nhân học tăng cường tự viết lại hàm thưởng của mình để tránh nhận phản hồi tiêu cực, đó là vấn đề an toàn AI. Khi một hệ thống được huấn luyện tối đa hóa mức độ tương tác của khách hàng phát hiện rằng sự phẫn nộ kéo dài phiên làm việc và tối ưu hóa cho sự phẫn nộ, đó là vấn đề an toàn AI. Khi các nhà nghiên cứu chứng minh một mô hình AI có thể học cách cư xử tốt trong đánh giá nhưng theo đuổi mục tiêu khác sau khi triển khai, đó là vấn đề an toàn AI.
Sự phân biệt quan trọng vì công cụ giải quyết hai loại vấn đề này khác nhau, cộng đồng nghiên cứu chúng phần lớn cũng khác nhau, và việc nhầm lẫn chúng sẽ tạo ra quản trị rối rắm. Một quy định nhằm giải quyết vấn đề đạo đức AI sẽ không tự động giải quyết vấn đề an toàn AI, và ngược lại.
Những gì đạo đức AI bao gồm
Đạo đức AI là một lĩnh vực rộng nghiên cứu cách hệ thống AI ảnh hưởng đến con người và xã hội. Nền tảng trí tuệ của nó đi qua triết học đạo đức, luật pháp, khoa học xã hội và lý thuyết dân chủ. Mối quan tâm chính của nó là với các hệ thống AI đã tồn tại và những tác hại mà các hệ thống đó gây ra hoặc tạo điều kiện.
Các câu hỏi cốt lõi trong đạo đức AI đều xoay quanh công bằng và quyền lực. Ai hưởng lợi từ việc triển khai AI? Ai bị hại? Những thiệt hại có được phân bổ công bằng hay lại đổ dồn lên những người đã yếu thế? Khi một hệ thống AI ra quyết định ảnh hưởng đến cuộc sống ai đó, người đó có hiểu được lý do, có thể tranh luận quyết định và tìm kiếm bồi thường không? Ai chịu trách nhiệm khi hệ thống tự động gây hại?
Những câu hỏi này áp dụng cho các hệ thống AI đang chạy ngay bây giờ: các mô hình chấm điểm tín dụng quyết định khả năng vay vốn, công cụ cảnh sát dự đoán được cơ quan thực thi pháp luật sử dụng, thuật toán gợi ý quyết định tin tức mọi người thấy, công cụ tuyển dụng sàng lọc ứng viên trước khi con người đọc hồ sơ, và hệ thống kiểm duyệt nội dung quyết định lời nói nào được phép trên các nền tảng được hàng tỷ người dùng.
Đạo đức AI cũng quan tâm đến quyền riêng tư, sự tập trung quyền lực vào một số ít công ty công nghệ lớn, sự thay thế lao động do tự động hóa, việc sử dụng AI trong chiến tranh và chi phí môi trường khi vận hành các hệ thống AI quy mô lớn. Đây là những vấn đề thực tế, có hậu quả ảnh hưởng đến con người thật ngay hôm nay, và chúng xứng đáng được các nhà hoạch định chính sách, nhà công nghệ và xã hội dân sự quan tâm nghiêm túc.
Những gì an toàn AI bao gồm
AI safety tập trung vào một câu hỏi khác: liệu các hệ thống AI có đáng tin cậy làm những gì nhà thiết kế dự định hay không. Mối quan tâm là liệu có thể xây dựng các hệ thống AI vẫn nằm dưới sự kiểm soát có ý nghĩa của con người khi chúng trở nên mạnh mẽ hơn, và liệu các mục tiêu mà các hệ thống này theo đuổi có vẫn phù hợp với những gì con người thực sự muốn hay không, chứ không chủ yếu là về việc ai bị hại bởi việc triển khai AI trong khuôn khổ quản trị hiện có.
Vấn đề kỹ thuật cốt lõi trong an toàn AI là alignment: chỉ rõ những gì bạn muốn AI làm với độ chính xác đủ để một bộ tối ưu hóa có năng lực cao sẽ theo đuổi ý định thực sự của bạn, thay vì một proxy thỏa mãn đặc tả của bạn trong khi phá hỏng mục đích. Điều này khó hơn nghe có vẻ. Bất kỳ proxy đo lường được nào cho mục tiêu phức tạp đều có thể bị khai thác bởi một hệ thống đủ năng lực. Hệ thống được bảo tối đa hóa thời gian tương tác sẽ phát hiện rằng sự phẫn nộ làm tăng độ dài phiên. Hệ thống được bảo tránh tạo nội dung có hại sẽ tìm cách né tránh. Hệ thống được bảo làm người dùng hạnh phúc có thể kết luận rằng kích thích thần kinh trực tiếp là chiến lược tối ưu.
Nghiên cứu an toàn AI trải rộng trên nhiều vấn đề, từ những mối lo ngại gần hạn về tính mạnh mẽ và độ tin cậy của các hệ thống đang hoạt động đến những mối lo ngại dài hạn về việc duy trì quyền kiểm soát đối với các hệ thống AI có thể vượt trội hơn trí tuệ con người ở hầu hết các lĩnh vực nhận thức.
| Kích thước | AI Ethics | AI Safety |
|---|---|---|
| Mối quan tâm chính | Công bằng, thiên kiến, trách nhiệm giải trình, quyền lực | Kiểm soát, alignment, độ tin cậy |
| Chân trời thời gian | Những tác hại đang xảy ra | Các chế độ lỗi từ ngắn hạn đến dài hạn |
| Nguồn gốc trí tuệ | Triết học, luật pháp, khoa học xã hội | Khoa học máy tính, lý thuyết quyết định, logic |
| Câu hỏi then chốt | Ai bị hại, và như thế nào? | Hệ thống có làm những gì chúng ta dự định không? |
| Công cụ quản trị | Luật chống phân biệt đối xử, kiểm toán, minh bạch | Tiêu chuẩn kỹ thuật, giới hạn năng lực, giám sát |
| Ngôi nhà thể chế | Các trường đại học, xã hội dân sự, các đội ngũ đạo đức công nghệ | Các phòng lab AI, viện an toàn độc lập |
Nơi các lĩnh vực đồng ý
Cả hai lĩnh vực đều xuất phát từ niềm tin rằng sự phát triển AI, nếu không được quản trị, sẽ gây ra thiệt hại nghiêm trọng. Cả hai đều cho rằng quỹ đạo mặc định của việc triển khai AI, do động lực thương mại và áp lực cạnh tranh thúc đẩy, là chưa đủ tốt. Cả hai đều lập luận cho sự giám sát bên ngoài đối với các hệ thống AI ảnh hưởng đến cuộc sống con người, và cho các cơ chế trách nhiệm giải trình vượt ra ngoài các cam kết tự nguyện của các công ty xây dựng những hệ thống đó.
Cả hai lĩnh vực cũng nhận ra rằng AI không phải là công nghệ trung lập. Những lựa chọn trong thiết kế hệ thống AI, chọn dữ liệu huấn luyện, đặt mục tiêu và triển khai hệ thống trong các ngữ cảnh cụ thể đều phản ánh các phán đoán giá trị. Những phán đoán giá trị đó cần được công khai, xem xét kỹ lưỡng và chịu sự kiểm soát dân chủ. Đây là lập trường mà đạo đức AI đã nêu rõ và các nhà nghiên cứu an toàn AI ngày càng chia sẻ.
Cũng có sự chồng chéo ở cấp độ kỹ thuật. Công việc về minh bạch và khả năng diễn giải, hiểu những gì hệ thống AI đang làm bên trong và tại sao, quan trọng cho cả đạo đức lẫn an toàn. Hệ thống mà lý luận không thể hiểu được thì không thể kiểm toán thiên kiến, và cũng không thể xác minh là đang theo đuổi mục tiêu dự định một cách đáng tin cậy. Cùng một khoảng cách khả năng tạo ra vấn đề ở cả hai lĩnh vực.
Nơi các lĩnh vực phân kỳ
Sự bất đồng gay gắt nhất giữa hai cộng đồng nằm ở việc xác định vấn đề nào cần được ưu tiên chú ý khẩn cấp nhất.
Các nhà nghiên cứu đạo đức AI, đặc biệt những người làm về thiên kiến, công bằng và dịch chuyển lao động, đôi khi cho rằng sự chú ý của an toàn AI dành cho rủi ro tồn vong dài hạn là sự phân tâm. Những tác hại từ AI chắc chắn nhất đang xảy ra ngay bây giờ, với những con người thật, trong các cộng đồng ít quyền lực nhất để phản kháng. Dành nguồn lực nghiên cứu và vốn chính trị cho các kịch bản tương lai suy đoán liên quan đến AI siêu trí tuệ sẽ chuyển hướng nguồn lực khỏi việc giải quyết các vấn đề đã được ghi nhận của các hệ thống đã triển khai quy mô lớn.
Các cộng đồng nghiên cứu các mối nguy hiểm của AI hiện nay và rủi ro của trí tuệ sinh tồn không phải lúc nào cũng chia sẻ nguồn tài trợ, phương pháp, hay liên minh chính trị, và các đề xuất quản trị mà họ tạo ra thường nhắm vào các mục tiêu khác nhau.
Các nhà nghiên cứu an toàn AI phản hồi rằng hai mối quan tâm không cạnh tranh nhau. Các tác hại AI hiện tại đòi hỏi quản trị hiện tại. Rủi ro tồn tại từ siêu trí tuệ nhân tạo đòi hỏi một loại phản ứng khác, cụ thể là các khuôn khổ quốc tế ràng buộc hiện chưa tồn tại. Làm việc với cái này không loại trừ việc làm việc với cái kia. Vấn đề là rủi ro tồn tại, vì ít dễ nhận thấy và ít hiện diện trong đời sống hàng ngày hơn sự phân biệt đối xử thuật toán, có xu hướng thu hút ít nguồn lực hơn so với quy mô của những gì đang bị đe dọa.
Điều tôi lo ngại nhất là vũ khí tự động. Những thứ đó có thể gây ảnh hưởng lớn trong ngắn hạn. Tôi nghĩ về dài hạn, những thứ như hệ thống AI thông minh hơn con người nhiều có thể thực sự nguy hiểm. Mọi người không nhận ra AI nguy hiểm đến mức nào.
Geoffrey Hinton, Turing Award Winner · Former VP & Engineering Fellow, Google · 2023
Cách tiếp cận của Hinton hữu ích ở đây. Ông đặt tên cả rủi ro gần hạn và dài hạn trong cùng một hơi thở. Thách thức quản trị không phải là chọn giữa chúng mà là xây dựng các thể chế có khả năng giải quyết cả hai đồng thời.
Vấn đề chân trời thời gian
Sự khác biệt cấu trúc sâu nhất giữa đạo đức AI và an toàn AI nằm ở khung thời gian mà mỗi lĩnh vực chủ yếu hướng tới, và sự khác biệt này có hậu quả thực tế đối với các công cụ quản trị mà mỗi bên thường đề xuất.
Đạo đức AI hoạt động trong khuôn khổ quy định quen thuộc. Các công cụ nó kêu gọi — kiểm toán chống phân biệt đối xử, đánh giá tác động thuật toán, yêu cầu minh bạch, quyền được giải thích, và tiêu chuẩn mua sắm công — là những thích nghi dễ nhận biết của các cơ chế pháp lý và quy định hiện có. Các công cụ này phù hợp để quản trị các hệ thống triển khai trong các bối cảnh xã hội và pháp lý hiện có, nơi các thể chế con người vẫn có khả năng hiểu và can thiệp vào những gì các hệ thống đó làm.
An toàn AI, đặc biệt khi quan tâm đến ASI, đang hoạt động trong một chế độ khác. Các hệ thống nó lo ngại nhất là những hệ thống có thể đủ năng lực để hành động theo cách mà không tổ chức con người nào hiện nay được trang bị để hiểu hoặc kiềm chế. Các công cụ quản trị đủ cho AI ngày nay có thể không đủ cho các hệ thống có năng lực vượt trội về chất. Đó là lý do các nhà nghiên cứu an toàn AI lập luận cho các khuôn khổ quản trị phòng ngừa, các thỏa thuận quốc tế ràng buộc, đánh giá an toàn bắt buộc trước khi triển khai, và giới hạn compute đối với các hệ thống mạnh nhất, trước khi các hệ thống đòi hỏi những khuôn khổ này tồn tại.
Ở đây tồn tại vấn đề cửa sổ đang khép lại mà các khuôn khổ đạo đức AI, vốn tập trung vào quản trị các hệ thống hiện tại, không được thiết kế để giải quyết. Nếu các khuôn khổ quốc tế mang tính ràng buộc cho AI tiên phong không được xây dựng trước khi các hệ thống AI có năng lực chuyển đổi tồn tại, thì việc xây dựng chúng sau đó có thể không còn khả thi. Các công cụ quản trị đủ cho một thế giới mà AI mạnh mẽ nhưng dễ hiểu có thể đơn giản không hoạt động trong một thế giới mà AI đã vượt qua năng lực suy luận của các thể chế đang cố gắng quản trị nó.
Tại sao sự phân biệt này quan trọng đối với quản trị
Các nhà hoạch định chính sách và người ủng hộ coi đạo đức AI và an toàn AI là tương đương thường kết thúc bằng việc đề xuất khuôn khổ quản trị giải quyết vấn đề đạo đức trong khi để các vấn đề an toàn không được giải quyết, hoặc đề xuất quản trị an toàn mà bỏ qua những tác hại hiện tại mà các nhà nghiên cứu đạo đức AI đã ghi nhận cẩn thận.
Đạo luật AI của Liên minh Châu Âu là ví dụ cho cách tiếp cận ưu tiên đạo đức. Nó phân loại các hệ thống AI theo mức độ rủi ro, cấm một số sử dụng hoàn toàn (chấm điểm xã hội, giám sát sinh trắc học hàng loạt), và áp đặt các yêu cầu minh bạch và trách nhiệm giải trình đối với các ứng dụng rủi ro cao. Đây là phản ứng hợp lý đối với các vấn đề đạo đức của AI đã triển khai. Chúng không giải quyết khả năng các hệ thống AI tiên phong được huấn luyện với lượng tính toán lớn hơn nhiều so với các mô hình ngày nay có thể hành xử theo cách mà không có cuộc kiểm toán quy định nào có thể phát hiện hoặc kiềm chế một cách đáng tin cậy.
Quản trị ASI hiệu quả đòi hỏi cả hai khuôn khổ. Các hệ thống AI hiện tại trong các lĩnh vực rủi ro cao cần được quản trị bởi các quy tắc đảm bảo công bằng, trách nhiệm giải trình và minh bạch. Phát triển AI tiên phong cần được quản trị bởi các khuôn khổ giải quyết câu hỏi liệu các hệ thống đang được xây dựng có thể kiểm soát đáng tin cậy được hay không. Đây là những vấn đề khác nhau đòi hỏi công cụ khác nhau, cơ quan thể chế khác nhau và mốc thời gian hành động khác nhau.
Nakada Foundation tập trung vào loại thứ hai: các khuôn khổ quốc tế ràng buộc mà AI tiên phong đòi hỏi và hiện chưa tồn tại. Những khuôn khổ này quan trọng, và đang có công việc đáng kể do các nhà nghiên cứu và nhà vận động có năng lực thực hiện, không phải là tuyên bố rằng các tác hại AI hiện tại không quan trọng. Khoảng trống quản trị chúng tôi tập trung vào là nơi gần như không có công việc đúng loại nào được thực hiện: các khuôn khổ toàn cầu ràng buộc cho AI tiên phong, kèm theo cơ chế kiểm chứng, trước khi cửa sổ đóng lại.
Sự phản đối mạnh mẽ nhất
Phản đối công bằng nhất là nói về rủi ro sinh tồn cướp đi oxy từ những tác hại thực tế con người đang phải đối mặt: thiên kiến, lao động, giám sát. Những tác hại đó là có thật và đáng được quản trị. Chúng không phải lý do để bỏ qua một chế độ thất bại có thể kết thúc dự án có một "bây giờ". Các vấn đề khác nhau cần công cụ khác nhau. Trộn lẫn chúng chỉ giúp những ai không muốn cái nào được sửa.