Trước khi một loại thuốc mới được bán tại Hoa Kỳ, ai đó phải chứng minh tính an toàn và hiệu quả theo các quy định có thể ngăn chặn việc tung ra thị trường. Hầu hết phần mềm vẫn tung ra trước rồi xin lỗi sau. Mô hình FDA là câu hỏi mà chính sách AI liên tục né tránh: chứng minh trước khi thiệt hại trở nên không thể đảo ngược.

Dược phẩm là ngoại lệ lớn. Một công ty dược không thể tung ra một loại thuốc rồi chờ xem có người chết hay không. Họ phải chứng minh tính an toàn và hiệu quả cho Cục Quản lý Thực phẩm và Dược phẩm thông qua các thử nghiệm lâm sàng theo giai đoạn trước nó có thể bán được sản phẩm hay không. Gánh nặng chứng minh thuộc về nhà phát triển, và nó nằm trước khi triển khai. Mô hình FDA cho AI hỏi liệu AI tiên phong, vốn chia sẻ các đặc điểm khiến y học trở thành ngoại lệ, có nên được quản lý theo cách tương tự hay không.

Tại sao sự tương tự lại hấp dẫn

Sự tương đồng gần hơn người ta nghĩ ban đầu, vì những lý do khiến thuốc phải được phê duyệt trước khi đưa ra thị trường cũng áp dụng cho AI biên giới.

  • Gánh nặng chứng minh bị đảo ngược. Nhà phát triển phải chứng minh sản phẩm an toàn, thay vì cơ quan quản lý hay công chúng phải chứng minh nó nguy hiểm sau khi đã phát hành. Sự đảo ngược đó chính là điều Nakada Foundation lập luận ở nơi khác, trong các trường hợp an toàn và chính sách mở rộng quy mô.
  • Sự phê duyệt đến trước khi triển khai. Việc kiểm tra diễn ra khi hệ thống còn bị giam giữ, chứ không phải sau khi nó đã tung hoành ngoài thế giới — và chỉ có cách này mới cho phép ngăn chặn thay vì phản ứng muộn.
  • Kiểm tra theo giai đoạn tỷ lệ với rủi ro. Các thử nghiệm lâm sàng diễn ra theo từng giai đoạn, mỗi cổng đều đòi hỏi bằng chứng trước khi chuyển sang giai đoạn sau. Điều này dễ dàng ánh xạ sang ngưỡng năng lực của AI.

Đối với một công nghệ mà một số thất bại có thể nghiêm trọng và khó đảo ngược, một chế độ từ chối cho phép các hệ thống rủi ro cao nhất ra đời cho đến khi an toàn được chứng minh rõ ràng là một đề xuất nghiêm túc và hấp dẫn.

Mô hình căng thẳng ở đâu

Sự tương tự là một hướng dẫn, không phải khuôn mẫu, và những khác biệt mang tính hướng dẫn.

Một loại thuốc là phân tử cố định thực hiện tác dụng cụ thể trong cơ thể, được nghiên cứu qua khoa học trưởng thành với rủi ro đã được định lượng. Một mô hình tiên phong có mục đích chung, được dùng cho các tác vụ mở mà không ai liệt kê đầy đủ, với các khả năng có thể xuất hiện một cách khó lường và hành vi có thể thay đổi sau khi triển khai thông qua fine-tuning hoặc công cụ mới. Bạn có thể định nghĩa thế nào là an toàn đối với một loại thuốc huyết áp. Định nghĩa thế nào là an toàn đối với một hệ thống suy luận tổng quát lại là vấn đề chưa giải quyết nằm ở trung tâm của lĩnh vực này, và khoa học mà một người đánh giá kiểu FDA cần thường còn chưa tồn tại.

Còn có vấn đề biên giới. FDA quản lý một thị trường quốc gia với ranh giới cứng. Một mô hình nguy hiểm có thể được huấn luyện ở bất kỳ đâu và sao chép đến mọi nơi, nên việc phê duyệt trước chỉ ở cấp quốc gia để lại khoảng trống mà chỉ sự phối hợp quốc tế mới lấp được, được hỗ trợ bởi các điểm nghẽn vật lý của quản trị compute.

. Mô hình FDA cho chúng ta nguyên tắc đúng đắn: chứng minh an toàn trước khi phát hành, và nhắc nhở chúng ta còn thiếu bao nhiêu khoa học an toàn nền tảng.

Những điều cần rút ra từ đó

Mô hình FDA có giá trị không phải vì là bản thiết kế để sao chép mà vì chứng minh rằng phê duyệt trước khi đưa ra thị trường là điều bình thường, khả thi và được chấp nhận đối với những sản phẩm mà hậu quả tiêu cực quá nghiêm trọng để xử lý bằng cách thu hồi. Xã hội đã đồng ý, trong trường hợp thuốc men, rằng một số thứ phải được chứng minh an toàn trước khi đến với chúng ta. Việc mở rộng nguyên tắc đã được chấp nhận đó sang các hệ thống AI biên giới mà thất bại của chúng có thể nghiêm trọng nhất là áp dụng một chuẩn mực hiện có cho một công nghệ mới rõ ràng đủ điều kiện, được thực hiện thông qua sự kết hợp giữa yêu cầu trong nước và khuôn khổ quốc tế được nêu trong kế hoạch của chúng tôi, không phải là một yêu cầu cấp tiến.