Luật mềm so với Luật cứng
trong Quản trị ASI.

Tuyên bố Bletchley (1 tháng 11 năm 2023), Các nguyên tắc chỉ đạo và Quy tắc ứng xử Hiroshima của G7 (2023), Các cam kết an toàn AI biên giới Seoul (tháng 5 năm 2024) và các nguyên tắc AI của OECD đều là luật mềm. Trong luật quốc tế các thuật ngữ này chính xác. Luật cứng nghĩa là nghĩa vụ pháp lý ràng buộc, chủ yếu là hiệp ước, mà các quốc gia phải thực hiện và có thể bị truy trách nhiệm khi vi phạm. Luật mềm nghĩa là các văn kiện thể hiện cam kết hoặc tiêu chuẩn mà không tạo ra nghĩa vụ đó: tuyên bố, nguyên tắc chỉ đạo, quy tắc ứng xử, nghị quyết. Cả hai đều định hình hành vi. Chỉ luật cứng mới có thể được thực thi.

Khoảng cách đó là sự khác biệt giữa luật mềm và luật cứng.

Những gì mỗi loại có thể và không thể làm

Tại sao luật mềm đến trước

Việc chuyển từ luật mềm sang luật cứng là chu kỳ sống bình thường của các chế độ quốc tế, không phải một chướng ngại. Các quốc gia kháng cự các ràng buộc pháp lý đối với một công nghệ họ chưa hiểu đầy đủ, nơi khoa học còn chưa ổn định và lợi ích chiến lược vẫn đang tranh chấp. Luật mềm cho phép họ bắt đầu hợp tác mà không cần cam kết toàn bộ, xây dựng định nghĩa chung, sự hiểu biết và niềm tin để sau này có thể đàm phán một thỏa thuận ràng buộc.

Lịch sử nói rõ về trình tự. Các biện pháp kiểm soát ozone ràng buộc của Nghị định thư Montreal dựa trên sự hợp tác không ràng buộc trước đó của Công ước Vienna năm 1985. Quản trị khí hậu bắt đầu bằng một công ước khung trước khi có bất kỳ mục tiêu ràng buộc nào. Luật mềm là giàn giáo. Giàn giáo là cách để xây dựng công trình; nó không phải là tòa nhà hoàn thiện.

Soft law cũng tự thực hiện công việc thực sự. Các chuẩn mực định hình những gì công ty và chính phủ coi là chấp nhận được, ảnh hưởng đến luật pháp trong nước, và cung cấp các điểm tham chiếu mà tòa án, cơ quan quản lý và công chúng có thể viện dẫn. Các nguyên tắc Hiroshima và cam kết Seoul đã thay đổi cách nhà phát triển ghi chép và mô tả hệ thống của họ. Không có cái nào trong số đó là vô nghĩa.

Tại sao luật mềm không đủ cho AI tiên phong

• Tự nguyện nghĩa là có thể đảo ngược. Một cam kết mà công ty hoặc quốc gia có thể từ bỏ dưới áp lực cạnh tranh không mang lại sự an toàn nào trước cuộc chạy đua vượt qua lằn ranh nguy hiểm.
• Không có xác minh nghĩa là không có niềm tin. Các cam kết không được xác minh khiến mọi bên phải đoán mò xem bên kia có tuân thủ hay không. Điều đó là chí mạng trong một lĩnh vực được định nghĩa bởi sự nghi ngờ lẫn nhau.
• Không có thực thi nghĩa là không có chi phí khi phản bội. Khi vi phạm lời hứa chỉ tốn danh tiếng, bên tin rằng phần thưởng mang tính quyết định sẽ vi phạm.
• Các stakes có thể không thể đảo ngược. Đối với rủi ro thảm khốc, không thể phục hồi, "chúng tôi đồng ý cố gắng hết sức" không phải là biên an toàn. Nghĩa vụ ràng buộc, được xác minh mới là.

Quan điểm dân gian cho rằng luật cứng quá chậm so với công nghệ nhanh, nên luật mềm phải là câu trả lời vĩnh viễn. Công nhận vấn đề tốc độ. Sau đó nhận ra sự đánh đổi: luật mềm vĩnh viễn là quyết định hy vọng danh tiếng sẽ giữ vững khi giải thưởng mang tính quyết định. Hy vọng không phải là hệ thống kiểm soát.

Sự chuyển đổi là nhiệm vụ

Luật mềm là giai đoạn đầu cần thiết, và nó đang làm việc hữu ích ngay bây giờ. Quản trị ASI không thể dừng lại ở đó. Các tuyên bố và bộ quy tắc có giá trị như bước tiến tới nghĩa vụ ràng buộc. Giá trị của chúng sụp đổ nếu quá trình chuyển đổi không bao giờ xảy ra.

Nhiệm vụ quản trị trung tâm của thập kỷ này là chuyển đổi giàn giáo luật mềm thành cấu trúc luật cứng: rủi ro được thừa nhận thành ngưỡng xác định, cam kết tự nguyện thành nghĩa vụ pháp lý, đối thoại hợp tác thành xác minh và thực thi. Mọi tuyên bố là một khoản đặt cọc. Liệu nó có mua được gì hay không phụ thuộc vào việc thế giới có theo kịp đến một hiệp ước trước khi công nghệ mà nó mô tả tiến xa hơn tầm với hay không. Xem của Nakada Foundation lập luận cho luật pháp quốc tế mang tính phòng ngừa về siêu trí tuệ. Liên quan con đường công ước khung và tại sao hiệp ước AI đầu tiên vẫn còn thiếu sót của rủi ro thảm khốc biên giới.