Anthropic công bố Chính sách Tỷ lệ Có trách nhiệm đầu tiên vào tháng 9 năm 2023. Mở tài liệu và cấu trúc hiện ra trong các tiêu đề trước khi lời lẽ làm vậy. Các mức năng lực được đặt tên trước. Mỗi mức được ghép với các biện pháp bảo vệ được cho là sẽ bật khi đánh giá cho thấy mô hình đã vượt đường: bảo mật trọng số chặt chẽ hơn, quy tắc triển khai chặt chẽ hơn, red-teaming sâu hơn, và ở các cấp trên cùng là cam kết bằng văn bản không huấn luyện hoặc phát hành cho đến khi các biện pháp bảo vệ được chỉ định có hiệu lực. Tên ngắn ngành là RSP. Logic cơ bản thường được gọi là cam kết if-then.
Các phòng thí nghiệm biên giới hàng đầu công bố các phiên bản nổi tiếng nhất, và định dạng lan rộng. Các cấp thường chạy từ hệ thống tương đương hiện nay đến các mô hình có thể hỗ trợ đáng kể vũ khí sinh học, tấn công mạng nghiêm trọng hoặc tự hành nguy hiểm. Tài liệu nhằm trả lời một câu hỏi đơn giản trước khi khẩn cấp xảy ra: khi năng lực tăng, công ty sẽ làm chính xác điều gì?
Tại sao định dạng này là một cải tiến thực sự
So với lời hứa chung chung sẽ coi trọng an toàn, RSP cụ thể hơn. Nó nêu rõ năng lực, ngưỡng và phản ứng từ trước, biến một tâm trạng thành thứ mà người ngoài có thể chỉ ra. Nó mang tính dự báo. Phòng thí nghiệm phải quyết định một năng lực nguy hiểm sẽ khiến họ mất gì trước khi làn sóng khám phá và chu kỳ báo chí ập đến cùng lúc.
Định dạng cũng gắn từ với các bài kiểm tra qua đánh giá khả năng nguy hiểm, nên các ngưỡng có ý nghĩa vận hành thay vì chỉ là khẩu hiệu. Một số chính sách đi xa hơn và cam kết dừng phát triển nếu các biện pháp bảo vệ không theo kịp năng lực. Đặt câu đó vào một văn bản công khai tính là một bước tiến thực sự.
Phản đối dân gian, được gọi là
Lập luận mạnh nhất ủng hộ RSP là: các quy tắc công khai, cụ thể và cam kết trước là cách các ngành công nghiệp trưởng thành; đòi luật bên ngoài trước khi có bất kỳ chính sách nội bộ nào là thứ hoài nghi làm đóng băng tiến bộ. Theo quan điểm này, RSP chính là bản hiến pháp nháp của an toàn biên giới, và bước đi đúng là khuyến khích thêm nhiều tài liệu như vậy thay vì bác bỏ tác giả.
Đúng vậy, và điểm yếu vẫn mang tính cấu trúc. Cùng một phòng thí nghiệm soạn chính sách, xác định ngưỡng, chạy đánh giá, phán quyết xem đường ranh đã bị vượt qua chưa, quyết định liệu các biện pháp bảo vệ của mình có đủ không, và giữ quyền sửa đổi văn bản. Khi áp lực thương mại buộc phải giao hàng va chạm với một cam kết do chính phòng thí nghiệm soạn thảo và quản lý, không có bên thứ ba độc lập nào nắm được còi.
Lịch sử không ủng hộ cách đọc lạc quan. Hồ sơ các cam kết an toàn tự nguyện của doanh nghiệp dưới áp lực cạnh tranh, được phân tích trong bài viết của chúng tôi về các cam kết tự nguyện, là một bản ghi các tiêu chuẩn sẽ mềm đi khi chúng bắt đầu gây khó chịu. Một quy tắc if-then chỉ mạnh bằng phần then, và phần then do bên hưởng lợi từ việc làm yếu nó thực thi. Một quy tắc do bạn tự đặt ra, tự đo lường và có thể tự sửa đổi chỉ là một tuyên bố ý định. Nó không phải là một ràng buộc.
Hai khoảng trống còn lại nằm dưới tài liệu. RSP phụ thuộc vào đánh giá để phát hiện ngưỡng đã bị vượt qua, nên mọi thứ hạn chế đánh giá (bao gồm cố tình làm kém, năng lực chưa biết và khó khăn trong việc chứng minh an toàn) hạn chế chính sách được xây dựng dựa trên chúng. Và một RSP chỉ ràng buộc phòng thí nghiệm áp dụng nó. Một đối thủ cạnh tranh từ chối, hoặc một chương trình nhà nước nằm ngoài văn hóa này, sẽ không bị ảnh hưởng. Không một công ty nào có thể tự mình giải quyết vấn đề phối hợp đó.
Cách Quỹ đọc chúng
Giữ lại cơ chế tốt. Tái sử dụng logic ngưỡng, cấu trúc if-then và liên kết với đánh giá. Thay đổi người cầm bút và người thực thi lệnh dừng. Chuyển các ngưỡng kích hoạt đó từ chính sách tự nguyện sang luật ràng buộc, được hậu thuẫn bởi một cơ quan độc lập và bởi quản trị compute, để phòng thí nghiệm không thể âm thầm điều chỉnh trần của chính mình khi trần trở nên bất tiện.
Hãy coi các chính sách như bản nháp của các quy tắc có thể thực thi, sau đó hoàn thiện công việc bên ngoài phòng thí nghiệm: luật ràng buộc, thực thi độc lập, kiểm soát compute. Sự chuyển tiếp đó chính là điều kế hoạch của chúng tôi là dành cho.