Một Cái Là Gì
Trường hợp An toàn AI?

Trước khi một loại máy bay chở khách thương mại được chứng nhận chở hành khách, các cơ quan quản lý yêu cầu một lập luận an toàn có cấu trúc: các tuyên bố, lý lẽ và bằng chứng đủ dày để bác bỏ. Ở Vương quốc Anh, cấp phép địa điểm hạt nhân vẫn phải qua một hồ sơ an toàn mà Văn phòng Quy định Hạt nhân phải chấp nhận trước khi vận hành. Nhiều thiết bị y tế tuân theo cùng gánh nặng đó. Nhà vận hành không được phép chạy trước rồi giải thích sau. Sự cho phép đến sau khi một hồ sơ đã vượt qua đánh giá thù địch.

Một safety case AI mượn hình thức đó. Đó là một lập luận có cấu trúc, được chứng minh bằng bằng chứng rằng một hệ thống cụ thể đủ an toàn để huấn luyện hoặc triển khai trong một bối cảnh cụ thể. Áp dụng cho các mô hình tiên phong, nó buộc nhà xây dựng phải đưa ra lập luận khẳng định. Những người khác không còn phải chứng minh nguy hiểm trước khi ai đó nhấn phanh. Nhà xây dựng phải chứng minh an toàn, hoặc dừng lại.

Những gì một trường hợp an toàn AI thực sự sẽ chứa đựng

Một trường hợp nghiêm túc không chỉ là một danh sách kiểm tra. Nó có một hình dạng.

• Một tuyên bố: mô hình này, được sử dụng theo cách này, không gây ra rủi ro không thể chấp nhận được về các tác hại được chỉ định.
• Một lập luận: cách lập luận nối liền bằng chứng với tuyên bố, bao gồm cách xử lý các rủi ro đã xác định và lý do các biện pháp bảo vệ là đủ.
• Bằng chứng: kết quả từ đánh giá năng lực, red-teaming, các biện pháp an ninh, và phân tích mà lập luận phụ thuộc vào.

Nó cũng phải nêu rõ các giả định và điểm thất bại. Một lập luận tốt là có thể bác bỏ được. Nó cho người đánh giá biết điều gì cần đúng để kết luận giữ vững, nhờ đó họ có thể kiểm tra xem những điều kiện đó có thực sự đúng không. Không có điều đó, chỉ là diễn kịch.

Tại sao kỷ luật này có giá trị

Viết lập luận ra giấy sẽ lộ ra những khoảng trống mà một ghi chú phát hành tự tin có thể che giấu. Một rủi ro khó bị bỏ qua hơn khi bạn phải xây dựng lập luận rõ ràng giải quyết nó. Phương pháp này phù hợp với cách các lĩnh vực nguy cơ cao khác trở nên an toàn hơn: bằng cách suy luận về các mối nguy trước khi vận hành, chứ không chỉ đếm xác sau đó. Nó cũng khớp với logic ngưỡng của chính sách mở rộng có trách nhiệm, nơi một đường khả năng bị vượt qua sẽ kích hoạt một trường hợp đủ mạnh để biện minh cho bước tiếp theo.

Phản đối dân gian, được gọi là

Phản biện mang tính thực tế: hãy dành thêm vài năm đánh giá và giải thích cho khoa học, sau đó các trường hợp an toàn sẽ tự viết ra; yêu cầu chúng ngay bây giờ chỉ làm chậm các hệ thống hữu ích. Theo quan điểm này, giấy tờ phải theo kịp bằng chứng, không phải dẫn dắt nó.

Trong hàng không, lập luận có thể dựa vào khoa học trưởng thành, tỷ lệ hỏng hóc đã biết, vật lý được hiểu rõ và dữ liệu đội bay hàng thập niên. Với mô hình tiên phong, một lập luận trung thực vấp phải việc chúng ta hiện chứng minh được quá ít. Chúng ta chưa thể chứng minh một mô hình có năng lực không bị căn chỉnh lừa dối. Chúng ta chưa thể loại trừ các khả năng chưa ai nghĩ đến việc kiểm tra. Chúng ta chưa thể cho thấy hành vi trong đánh giá sẽ giữ nguyên khi triển khai, đặc biệt nếu hệ thống đang cố tình làm kém.

Một lập luận chặt chẽ cho một mô hình đủ tiên tiến sẽ cần những đảm bảo mà khoa học hiện tại không thể cung cấp. Vì vậy một nỗ lực trung thực thường tạo ra, như đầu ra thực sự, một tuyên bố rõ ràng về lý do hệ thống chưa thể chứng minh là an toàn. Hồ sơ giấy tờ đã làm đúng công việc khi nó từ chối đóng dấu cao su cho một lỗ hổng.

Giá trị của một trường hợp an toàn là quyền được từ chối.

Tại sao Quỹ hỗ trợ họ

Một chế độ quản trị dựa trên safety case từ chối coi việc không chứng minh được nguy hiểm là giấy phép tiếp tục. Gánh nặng nằm trên người xây dựng. Nếu người xây dựng không đáp ứng được, câu trả lời không phải huấn luyện bước nhảy tiếp theo và hy vọng. Safety case phải bắt buộc, được xem xét độc lập thay vì tự chấm điểm, và yêu cầu trước các lần huấn luyện lớn nhất, không phải sau khi ra mắt sản phẩm.

Được ràng buộc dưới hình thức đó, chúng trở thành một trong những công cụ mạnh mẽ hơn có sẵn. Đó là lý do chúng xuất hiện trong thiết kế rộng hơn của kế hoạch của chúng tôi.