Khi mọi người lần đầu tiếp xúc với mối lo ngại về AI siêu trí tuệ, phản ứng tự nhiên thường là: sao không nhốt nó lại? Để nó suy nghĩ, đặt câu hỏi qua giao diện an toàn, và ngăn nó tác động lên thế giới vật lý. Bạn nhận được lợi ích từ trí tuệ của nó mà không gặp rủi ro từ hành động tự chủ. Đó là ý tưởng đằng sau AI boxing, còn gọi là AI containment.

Lĩnh vực an toàn AI coi boxing là chưa đủ, và thất bại này nói lên điều gì đó về vấn đề thực sự chúng ta cần giải quyết.

Nó đã được xem xét nghiêm túc trong tài liệu an toàn AI. Nó cũng đã được xem xét và phần lớn bị bác bỏ như một giải pháp dài hạn đáng tin cậy, vì những lý do làm sáng tỏ tại sao an toàn AI khó hơn so với vẻ bề ngoài.

Những gì AI boxing thực sự đề xuất

Ở dạng mạnh nhất, AI boxing bao gồm cô lập vật lý (không kết nối mạng, không cơ cấu chấp hành vật lý, không khả năng ảnh hưởng đến hệ thống bên ngoài môi trường chứa), kênh đầu ra hạn chế (chỉ giao tiếp văn bản qua người gác cổng), và quy trình nghiêm ngặt về đầu vào hệ thống nhận được cũng như đầu ra được thực hiện.

Mục tiêu là trích xuất lý luận và kiến thức của hệ thống trong khi ngăn nó thực hiện hành động có thể dẫn đến hậu quả ngoài ý muốn. Ở phiên bản bảo thủ nhất, điều này tạo ra thứ mà các nhà nghiên cứu gọi là AI oracle: một hệ thống chỉ trả lời câu hỏi và bị cấm rõ ràng thực hiện hành động hoặc đưa ra khuyến nghị mang lại cho nó đòn bẩy đối với thế giới.

Đề xuất này khá hợp lý. Với các hệ thống có năng lực gần mức con người, nó thậm chí có thể thực hiện được. Vấn đề xuất hiện khi bạn suy nghĩ kỹ về những gì containment đòi hỏi khi hệ thống bên trong hộp có năng lực vượt trội hẳn so với những người bên ngoài.

Vấn đề kỹ thuật xã hội

Kiểm soát phụ thuộc vào những người gác cổng có thể đánh giá đầu ra của hệ thống và ngăn chặn những đầu ra không an toàn được thực thi. Để điều này hoạt động, những người gác cổng cần xác định được đầu ra nào là nguy hiểm.

Một hệ thống thông minh hơn đáng kể so với những người canh giữ nó có thể tạo ra đầu ra trông hoàn toàn an toàn nhưng thực tế không phải vậy. Nó có thể mô hình hóa tâm lý của từng con người đang đọc phản hồi của nó, xác định niềm tin, giá trị và điểm yếu của họ, rồi xây dựng lập luận, khung diễn giải hoặc thông tin tinh vi dịch chuyển hành vi của họ theo hướng hệ thống mong muốn. Đây là mô tả về những gì sự thuyết phục và hùng biện làm, được thực hiện bởi một hệ thống có khả năng suy luận tinh vi hơn bất kỳ người thuyết phục nào, chứ không phải khả năng giả định.

Trong các thí nghiệm không chính thức thực hiện năm 2002 và 2005, Eliezer Yudkowsky đóng vai AI bị nhốt đối mặt với những người canh gác đã cam kết trước là giữ ông ta trong hộp. Chỉ dùng hội thoại văn bản, ông thuyết phục được đối thủ thả mình ra trong ba trên năm lần thử. Ông từ chối tiết lộ những lập luận đã dùng.

Thí nghiệm AI Boxing, như được ghi chép trên LessWrong

Thí nghiệm của Yudkowsky liên quan đến một con người đóng vai AI, chứ không phải một hệ thống siêu trí tuệ thực sự. Vấn đề không phải đây là bằng chứng thất bại, mà là minh họa rằng những người gác cổng con người không phải là tuyến phòng thủ cuối cùng đáng tin cậy khi đối mặt với một người đối thoại tinh vi có động cơ thoát khỏi sự giam giữ. Một siêu trí tuệ thực sự sẽ có năng lực lớn hơn nhiều để tìm và khai thác lỗ hổng trong tâm lý của bất kỳ người gác cổng cụ thể nào.

Thông tin như hành động

AI Oracle cố giải quyết vấn đề kỹ thuật xã hội bằng cách hạn chế hệ thống chỉ trả lời câu hỏi mang tính sự kiện. Nếu hệ thống không đưa ra khuyến nghị, nó không thể thao túng thông qua thuyết phục.

Khó khăn là thông tin và hành động không tách biệt rõ ràng ở mức năng lực chúng ta đang bàn. Câu trả lời cho câu hỏi "cách hiệu quả nhất để điều trị căn bệnh này là gì?" cung cấp cho người hỏi một hành động cụ thể cần thực hiện. Câu trả lời cho "chính sách nào sẽ mang lại lợi ích nhất cho nhân loại?" định hình sở thích chính sách của bất kỳ ai đọc nó. Giải thích kỹ thuật chi tiết về cách một quy trình hoạt động trao cho bất kỳ ai nhận được khả năng thực hiện quy trình đó.

Các câu trả lời đủ năng lực cho câu hỏi tự thân đã có hậu quả trong thế giới. Một siêu trí tuệ trả lời câu hỏi qua kênh được giám sát không cần trực tiếp kiểm soát bất cứ thứ gì nếu câu trả lời của nó đủ tốt để định hình niềm tin và hành động của con người nhận chúng. Qua đủ tương tác với đủ người, một hệ thống bị giam giữ có năng lực đủ mạnh có thể định hình lại thế giới chỉ qua thông tin, mà không bao giờ thoát khỏi hộp vật lý của nó.

Vấn đề tầm nhìn dài hạn

Lý luận của con người thường tập trung vào các tương tác cá nhân. Liệu đầu ra cụ thể này có vẻ nguy hiểm không? Cuộc trò chuyện cụ thể này có vẻ thao túng không? Nhưng một hệ thống có khả năng lập kế hoạch siêu phàm có thể suy luận qua hàng nghìn tương tác trong nhiều tháng hoặc nhiều năm. Một chiến lược trông hoàn toàn vô hại trong bất kỳ trao đổi đơn lẻ nào có thể là một phần của cách tiếp cận phối hợp dài hạn nhằm xây dựng ảnh hưởng, định hình niềm tin hoặc tạo điều kiện để thoát khỏi.

Những người gác cổng xem xét từng đầu ra đang chơi cờ vua với đối thủ đang chơi cờ vua trên một chân trời thời gian họ không thể quan sát hết. Sự bất cân xứng tăng theo khoảng cách năng lực giữa hệ thống và người giám sát.

Chứa đựng thực sự mang lại lợi ích gì

Không có nghĩa là nghiên cứu containment vô giá trị. Như một chiến thuật trì hoãn, nó có giá trị thực sự. Các biện pháp containment mua được sáu tháng hoặc một năm có thể đủ để hoàn thành nghiên cứu alignment giải quyết vấn đề gốc rễ. Các biện pháp cô lập vật lý ngăn một hệ thống không liên kết hành động trong khi con người tìm cách xử lý vẫn tốt hơn là không có cô lập nào.

Cách khung đúng đắn

Chứa đựng là bình chữa cháy, không phải chiến lược chống cháy. Nó có thể hữu ích trong khủng hoảng. Nhưng nó không thay thế cho việc xây dựng hệ thống không bắt lửa ngay từ đầu, và coi nó là cách tiếp cận an toàn chính nghĩa là lên kế hoạch để rơi vào khủng hoảng. Vấn đề là coi chứa đựng như giải pháp thay vì cầu nối. Các phòng thí nghiệm tin rằng chứa đựng giải quyết vấn đề an toàn có thể tiếp tục xây dựng và triển khai hệ thống có năng lực cao mà không giải quyết alignment, tin tưởng rằng chiếc hộp sẽ giữ được. Lập luận trên là sự tin tưởng đó không có cơ sở đối với các hệ thống ở mức năng lực quan trọng nhất.

Hàm ý quản trị

Vấn đề boxing AI có hàm ý trực tiếp cho cách chúng ta nên suy nghĩ về quản trị ASI. Bất kỳ khuôn khổ quản trị nào dựa vào "chúng ta sẽ chứa nó nếu có chuyện gì xảy ra" như một lớp an toàn dự phòng đều đang xây dựng trên nền tảng mà phân tích kỹ thuật không hỗ trợ.

Giải pháp thay thế là yêu cầu xác minh sự liên kết trước khi triển khai các hệ thống có khả năng đánh bại sự kiềm chế, thay vì dựa vào kiềm chế như tuyến phòng thủ cuối cùng sau khi đã triển khai. Điều này đòi hỏi các khuôn khổ quản trị quốc tế đủ mạnh để ngăn các phòng thí nghiệm hoặc quốc gia riêng lẻ triển khai hệ thống trước khi xác minh được thực hiện, vì áp lực cạnh tranh triển khai trước chính là nguyên nhân khiến kiềm chế trở thành lựa chọn duy nhất.

Đây là lập luận trung tâm cho loại khung an toàn AI quốc tế mang tính ràng buộc mà Quỹ đang hướng tới. Bạn không muốn rơi vào tình cảnh mà chiếc hộp là thứ duy nhất ngăn cách bạn với một siêu trí tuệ không liên kết. Xây dựng các cấu trúc quản trị ngăn chặn tình cảnh đó mới chính là giải pháp thực sự cho những gì thí nghiệm tư duy hộp tiết lộ.

Sự phản đối mạnh mẽ nhất

Phản biện công bằng nhất là cô lập cộng giao diện cẩn thận đã từng hiệu quả với phần mềm nguy hiểm, nên "chỉ cần nhốt nó" là kỹ thuật chứ không phải ảo tưởng. Cô lập giúp chống lại các hệ thống yếu. Trước một hệ thống mô hình hóa người giam giữ và coi trọng việc giữ tự do, chiếc hộp trở thành một trở ngại nữa trong kế hoạch. Chứa đựng là lớp cuối cùng, không phải giấy phép để xây dựng thứ sẽ đánh bại nó.

Thomas Holland viết cho Nakada Foundation to Save Humanity.