Lý lẽ cho AI
Bảo vệ người tố cáo.

Những người đầu tiên nhìn thấy một lần chạy huấn luyện nguy hiểm thường ở bên trong phòng thí nghiệm, dưới NDA, theo dõi lịch ra mắt. Bảo vệ người tố giác là cách những người đó trở thành hệ thống cảnh báo thay vì hệ thống im lặng. Cho đến khi có thanh tra bên ngoài, người trong cuộc là những máy báo khói.

Các nhà nghiên cứu AI tiên phong có góc nhìn mà hiện nay không cơ quan quản lý hay thanh tra nào sánh kịp, và họ thường bị ràng buộc bởi hợp đồng cùng điều khoản không bôi nhọ khiến việc lên tiếng tốn kém hoặc kết thúc sự nghiệp. Bảo vệ khả năng cảnh báo của họ là một trong những đòn bẩy khả thi và bị đánh giá thấp nhất trong quản trị ASI.

Tại sao người trong cuộc lại quan trọng đến vậy đối với AI

AI tiên phong gặp vấn đề minh bạch bất thường. Những quyết định quan trọng nhất, cách huấn luyện mô hình, kiểm tra an toàn nào đã thực hiện, hành vi đáng lo nào xuất hiện, cảnh báo có bị bác bỏ hay không, đều diễn ra bên trong tổ chức tư nhân, không ai bên ngoài nhìn thấy. Cơ quan quản lý thiếu quyền tiếp cận và thường thiếu chuyên môn để đánh giá độc lập. Trong môi trường này, các nhà nghiên cứu và kỹ sư nắm thông tin trực tiếp là những người duy nhất có vị thế phát hiện và báo cáo khi có sai sót trước khi nó trở thành thảm họa công khai.

Mối lo ngại này không phải là giả định. Năm 2024, một nhóm nhân viên hiện tại và cựu nhân viên của các công ty AI hàng đầu đã công bố một bức thư ngỏ, 'A Right to Warn about Advanced Artificial Intelligence', lập luận rằng các thỏa thuận bảo mật đang ngăn cản họ nêu lên các mối lo ngại về an toàn và kêu gọi các biện pháp bảo vệ để cho phép điều đó. Việc bức thư như vậy là cần thiết chính là bằng chứng của vấn đề: những người gần gũi nhất với rủi ro cảm thấy không thể nói về nó về mặt pháp lý và nghề nghiệp.

Điều gì đang chặn họ

• Các thỏa thuận hạn chế. Các điều khoản bảo mật rộng và không bôi nhọ (đôi khi gắn với cổ phần đã được cấp trị giá hàng triệu đô la) có thể khiến việc lên tiếng trở nên tàn phá về tài chính.
• Rủi ro pháp lý. Nếu không có kênh bảo vệ rõ ràng, nhân viên tiết lộ lo ngại sẽ dễ bị kiện vì vi phạm hợp đồng hoặc tiết lộ bí mật thương mại.
• Khoảng trống trong luật hiện hành. Các đạo luật bảo vệ người tố giác truyền thống bảo vệ các báo cáo về hoạt động bất hợp pháp, nhưng phần lớn những gì nguy hiểm ở AI tiên phong hiện chưa phải là bất hợp pháp, khiến các tiết lộ về sự phát triển hợp pháp nhưng liều lĩnh không được bảo vệ.
• Rủi ro nghề nghiệp. Trong một lĩnh vực nhỏ, chi phí phi chính thức khi bị coi là không trung thành có thể chấm dứt sự nghiệp ngay cả khi sự trả đũa chính thức bị cấm.

Bảo vệ hiệu quả sẽ trông như thế nào

Cho đến khi chúng ta có thể thanh tra các phòng lab từ bên ngoài, những người bên trong chính là máy báo khói của chúng ta. Một đạo luật cho phép công ty bịt miệng các nhà nghiên cứu của chính mình về rủi ro thảm khốc chính là đạo luật vô hiệu hóa báo động.

Có thể giải quyết, và là cầu nối đến nhiều hơn

Bảo vệ người tố giác có một phẩm chất hiếm trong quản trị ASI: nó có thể đạt được thông qua luật pháp trong nước thông thường, không cần hiệp ước, không cần đồng thuận quốc tế, và không cần giải quyết các câu hỏi khó về ngưỡng và kiểm chứng. Bất kỳ khu vực tài phán nào lưu trữ các phòng thí nghiệm tiên phong đều có thể ban hành nó một cách đơn phương, và làm như vậy sẽ ngay lập tức củng cố khả năng phát hiện sự phát triển nguy hiểm của thế giới. Nó cũng là cầu nối cho quản trị khó khăn hơn: các tiết lộ được bảo vệ mà nó cho phép tạo ra chính loại thông tin nội bộ mà các cơ quan quản lý và, cuối cùng, một chế độ kiểm chứng quốc tế sẽ dựa vào. Xây dựng kiểm chứng bên ngoài sẽ mất nhiều năm. Bảo vệ những người nội bộ có thể cảnh báo chúng ta trong thời gian chờ đợi là điều các cơ quan lập pháp có thể làm ngay bây giờ, và đó là một trong những biện pháp an toàn có đòn bẩy cao nhất có sẵn trước khi có hiệp ước.