Khi một cây cầu sập, luật sư đã biết cách tìm kiếm bên chịu trách nhiệm. Khi một ngăn xếp AI sập qua mô hình, đám mây và nhà tích hợp, cuộc săn lùng bị đình trệ. Các quy tắc trách nhiệm pháp lý không thể nêu tên bị đơn thì không thể ngăn chặn thất bại tiếp theo. Đó là vấn đề quản trị, không phải vấn đề siêu hình.
Một hiệp ước không thể quy trách nhiệm cho vi phạm là một hiệp ước không thể thực thi, và những câu hỏi này thực sự khó đối với một công nghệ như AI.
Hai vấn đề riêng biệt
Việc tách biệt hai thứ thường bị nhầm lẫn sẽ rất hữu ích. Trách nhiệm pháp lý là câu hỏi pháp lý về ai phải chịu trách nhiệm và gánh chi phí khi thiệt hại xảy ra, một vấn đề phân bổ trách nhiệm dọc theo chuỗi từ nhà phát triển đến người triển khai đến người dùng. Ghi công là câu hỏi thực tế và kỹ thuật nhằm xác lập những gì thực sự đã xảy ra và ai đã làm, truy vết hành động gây hại về một hệ thống, mô hình hoặc tác nhân cụ thể. Quản trị cần câu trả lời cho cả hai: quy tắc phân định trách nhiệm, và năng lực pháp y xác định sự kiện mà các quy tắc đó áp dụng.
Tại sao AI khiến cả hai trở nên khó
- Chuỗi nhân quả dài và lan tỏa. Một kết quả có hại có thể liên quan đến nhà phát triển mô hình nền tảng, công ty đã điều chỉnh mô hình, bên triển khai và người dùng cuối, mỗi bên đều có thể chỉ trỏ vào bên kia.
- Hành vi là hiện tượng nổi lên và mờ đục. Khi một hệ thống thực hiện điều gì đó mà không ai trong số những người tạo ra nó chủ đích hay dự kiến trước, các khái niệm truyền thống về lỗi lầm và sự bất cẩn sẽ không còn phù hợp.
- Việc quy trách nhiệm có thể khó nắm bắt về mặt kỹ thuật. Xác định hệ thống nào đã tạo ra đầu ra hoặc hành động nhất định (đặc biệt khi mô hình bị sao chép, fine-tune hoặc chạy riêng tư) có thể thực sự khó khăn nếu thiếu các biện pháp truy xuất có chủ đích.
- Thiệt hại có thể vượt biên giới. Một hệ thống được phát triển ở một quốc gia, triển khai ở quốc gia khác, và gây hại ở quốc gia thứ ba sẽ đặt ra các câu hỏi về quyền tài phán mà luật trách nhiệm thông thường không được xây dựng để xử lý.
Khía cạnh quốc tế
Ở cấp độ quốc gia, luật quốc tế đã có khung trách nhiệm. Theo các quy tắc trách nhiệm quốc gia đã được thiết lập từ lâu (được pháp điển hóa trong Các điều khoản của Ủy ban Luật pháp Quốc tế) một quốc gia phải chịu trách nhiệm về các hành vi sai trái quốc tế, bao gồm, trong các trường hợp được xác định, hành vi của các tác nhân tư nhân mà quốc gia ấy chỉ đạo, kiểm soát hoặc không quy định. Một hiệp ước AI sẽ xây dựng trên nền tảng này: các quốc gia sẽ chịu trách nhiệm đảm bảo các tác nhân trên lãnh thổ của mình tuân thủ, và chịu trách nhiệm về hậu quả của việc không làm được điều đó. Đây là cách một hiệp ước ràng buộc các quốc gia chuyển thành trách nhiệm giải trình đối với các công ty tư nhân thực sự xây dựng AI tiên phong.
Nhưng trách nhiệm nhà nước phụ thuộc vào việc quy trách nhiệm, chứng minh rằng một vi phạm đã xảy ra và bắt nguồn từ thẩm quyền của một quốc gia nhất định. Đây là nơi quản trị gặp xác minh: cùng những công cụ giám sát và truy xuất nguồn gốc phát hiện việc không tuân thủ cũng là những thứ khiến việc quy trách nhiệm, và do đó trách nhiệm pháp lý, trở nên khả thi. Các điều khoản thực thi của một hiệp ước chỉ đáng tin cậy bằng khả năng xác định ai đã làm gì của nó.
Những gì một chế độ quản trị cần
Quy tắc phân bổ rõ ràng
Luật quy định rõ ai trong chuỗi phát triển và triển khai chịu trách nhiệm về những thiệt hại nào, sao cho trách nhiệm không thể bị phân tán thành lỗi của không ai. Các khuôn khổ mới nổi, như công việc của EU về trách nhiệm pháp lý AI, là những nỗ lực ban đầu.
Truy xuất nguồn gốc theo thiết kế
Các biện pháp kỹ thuật (nhật ký, nhận diện mô hình, hồ sơ ở cấp phần cứng) được tích hợp sẵn để hành động có hại có thể truy nguyên nguồn gốc, biến việc quy trách nhiệm từ phỏng đoán thành bằng chứng.
Một tiêu chuẩn chăm sóc
Nghĩa vụ được xác định cho các nhà phát triển tiên phong, để việc không đáp ứng chúng thiết lập lỗi, chuyển gánh nặng sang những người tạo ra rủi ro.
Năng lực quy trách nhiệm quốc tế
Khả năng xác minh và pháp y được chia sẻ, để vi phạm có thể được thiết lập qua biên giới và liên kết với các quốc gia và tác nhân chịu trách nhiệm.
Một quy tắc mà không ai có thể bị ràng buộc thì không phải là quy tắc. Trước khi chúng ta có thể thực thi các giới hạn đối với AI nguy hiểm, chúng ta phải có khả năng trả lời hai câu hỏi: ai chịu trách nhiệm, và làm thế nào để chứng minh điều đó. Những câu trả lời đó là nền tảng ẩn sau mọi hiệp ước đáng tin cậy.
Nền tảng dưới hiệp ước
Trách nhiệm pháp lý và việc quy trách nhiệm hiếm khi xuất hiện trong các lời kêu gọi quản trị ASI trên mặt báo, nhưng chúng quyết định liệu bất kỳ điều nào trong số đó có hiệu lực hay không. Một hiệp ước có ngưỡng và lệnh cấm nhưng không có cách nào quy trách nhiệm khi vi phạm chỉ là một tuyên bố ý định, chứ không phải quy tắc có thể thực thi. Xây dựng khung pháp lý phân định trách nhiệm dọc theo chuỗi cung ứng AI, cùng năng lực kỹ thuật để truy vết thiệt hại về nguồn gốc, do đó là một phần nền tảng của dự án hiệp ước, chứ không tách biệt với nó. Đây cũng là những lĩnh vực có thể tiến hành ngay qua luật trách nhiệm dân sự trong nước và tiêu chuẩn truy xuất nguồn gốc, trước và hỗ trợ cho bất kỳ thỏa thuận quốc tế nào. Kiến trúc quản trị hữu hình (các lằn ranh đỏ, cơ quan giám sát) dựa trên nền tảng thầm lặng này. Không có nó, việc thực thi chỉ là lời hứa không ai giữ được.