Một hiệp ước An toàn AI là gì
Đàm phán sẽ trông như thế nào.

Năm 1968, Hiệp ước Không phổ biến vũ khí hạt nhân đã đi từ ngôn ngữ dự thảo đến văn kiện được ký kết sau nhiều năm các nhóm làm việc, bế tắc và xung đột trong nước. Những người nói "chúng ta cần một hiệp ước AI" hiếm khi hình dung ra bộ máy đó. Họ nên làm vậy. Khoảng cách giữa khẩu hiệu và văn bản được phê chuẩn là nơi hầu hết các kế hoạch chết.

Các cuộc đàm phán hiệp ước quốc tế diễn ra như những quy trình kéo dài, mang tính kỹ thuật và kéo dài nhiều năm, do các phái đoàn ngoại giao, chuyên gia pháp lý và cố vấn kỹ thuật thực hiện.

Cách thức đàm phán hiệp ước quốc tế hoạt động

Hầu hết các hiệp ước đa phương hiện đại bắt đầu bằng sự ủy quyền chính trị: thường là nghị quyết của Đại hội đồng UN hoặc quyết định của một cơ quan đa phương ủy nhiệm bắt đầu đàm phán. Điều này tạo cơ sở chính thức cho hội nghị đàm phán hoặc ủy ban thường trực trong một diễn đàn hiện có như Hội nghị Giải trừ Quân bị ở Geneva. Không có ủy quyền chính trị này, các cuộc thảo luận về hiệp ước chỉ mang tính chuẩn bị và không chính thức. Có nó, chúng trở thành quá trình đàm phán chính thức với nhiệm vụ tạo ra văn bản.

Cơ quan đàm phán họp theo các phiên, thường vài tuần mỗi năm, với công việc giữa các phiên do các nhóm làm việc kỹ thuật thực hiện giữa các phiên chính thức. Các nhóm làm việc giải quyết song song các vấn đề cụ thể: định nghĩa, cơ chế xác minh, sắp xếp thể chế, nghĩa vụ thực hiện, các điều khoản tài chính. Mỗi nhóm làm việc soạn thảo văn bản mà sau đó được hợp nhất thành bản dự thảo luân chuyển của toàn bộ hiệp ước qua các phiên kế tiếp.

Hiệp ước dự thảo được đàm phán bằng sự đồng thuận, nghĩa là không có điều khoản nào được hoàn thiện cho đến khi tất cả người tham gia đồng ý với nó. Đây là ngưỡng cao hơn so với bỏ phiếu đa số, nhưng nó tạo ra các hiệp ước có tính hợp pháp bền vững hơn và sự tham gia rộng rãi hơn, vì không có quốc gia nào bị bỏ phiếu chống lại các điều khoản mà họ thấy không thể chấp nhận. Chi phí là sự đồng thuận đòi hỏi nhiều thời gian hơn, và nhịp độ được thiết lập bởi phái đoàn có nhiều phản đối nhất cần vượt qua.

Một khi văn bản được hoàn thiện, nó sẽ được mở để ký. Chữ ký là hành động chính trị mang tính ủng hộ, không phải cam kết pháp lý. Cam kết pháp lý đến khi một quốc gia phê chuẩn hiệp ước thông qua quy trình hiến pháp trong nước. Hầu hết các hiệp ước quy định số lượng phê chuẩn tối thiểu trước khi chúng có hiệu lực pháp lý.

Các nhóm làm việc mà một hiệp ước AI tiên phong cần có

Một hiệp ước được thiết kế để quản lý phát triển AI tiên phong sẽ cần các nhóm làm việc được tổ chức quanh những câu hỏi chưa có câu trả lời rõ ràng trong luật quốc tế. Những vấn đề chính là:

Định nghĩa. Hiệp ước cần chỉ rõ những hệ thống AI nào nó điều chỉnh. Việc này khó hơn định nghĩa vũ khí hạt nhân hay tác nhân hóa học, vì AI là phổ năng lực liên tục mà không có ranh giới rõ ràng giữa phiên bản nguy hiểm và an toàn. Các đề xuất tập trung vào ngưỡng tính toán như proxy: một lần huấn luyện vượt quy mô tính toán quy định sẽ kích hoạt nghĩa vụ hiệp ước. Ngưỡng này cần lý do kỹ thuật, sửa đổi thường xuyên khi chi phí tính toán giảm, và cơ chế giải quyết tranh chấp cho các trường hợp gần biên giới.

Nghĩa vụ của các nhà phát triển hệ thống được điều chỉnh. Once a system crosses the defined threshold, what are the required actions? Hầu hết các đề xuất bao gồm thông báo trước cho cơ quan giám sát trước hoặc trong quá trình huấn luyện; đánh giá bắt buộc hệ thống đã huấn luyện theo các tiêu chuẩn an toàn quy định; báo cáo kết quả đánh giá; và hạn chế triển khai các hệ thống không đạt tiêu chuẩn. Mỗi điều này đòi hỏi định nghĩa về thế nào là tuân thủ đầy đủ, vốn là tranh chấp kỹ thuật và pháp lý trước khi một phiên đàm phán duy nhất bắt đầu.

Cơ chế xác minh. How would an independent body confirm that declared activities match actual activities? This would be the most technically demanding working group. The proposals in circulation combine hardware-level monitoring through cooperation with chip manufacturers tracking sales above specified specifications, facility inspection through rights to visit large compute clusters, and audit rights over training logs and evaluation records. Each element raises questions of commercial confidentiality and national security classification that are not easily resolved.

Cấu trúc thể chế. Cơ quan nào sẽ quản lý hiệp ước? Một tổ chức mới, tương tự OPCW, được thành lập bởi chính hiệp ước mang lại giá trị quản trị cao nhất nhưng đòi hỏi nỗ lực và nguồn lực chính trị nhiều nhất để thiết lập. Ủy thác cho một cơ quan hiện có mang chi phí chính trị thấp hơn nhưng có thể không có thẩm quyền hoặc chuyên môn kỹ thuật mà nhiệm vụ đòi hỏi. IAEA có kinh nghiệm giám sát công nghệ kép; ITU có một số tuyên bố quyền tài phán đối với các vấn đề liên quan AI. Mỗi lựa chọn có hàm ý nguồn lực khác nhau và lịch sử độc lập chính trị khác nhau so với các cường quốc.

Yêu cầu có hiệu lực. Hiệp ước cần chỉ rõ quốc gia nào phải phê chuẩn trước khi nó có hiệu lực pháp lý. Một hiệp ước có hiệu lực mà không có US, Trung Quốc hay UK sẽ không ràng buộc các tổ chức chịu trách nhiệm phát triển AI biên giới. NPT yêu cầu phê chuẩn bởi một nhóm quốc gia được xác định. Một hiệp ước AI sẽ cần cơ chế tương tự, với khó khăn rõ ràng là yêu cầu phê chuẩn của US và Trung Quốc sẽ trao cho cả hai quốc gia quyền phủ quyết sự tồn tại của hiệp ước.

Quá trình đàm phán theo từng giai đoạn

Những điểm mắc kẹt có thể đoán trước

Kinh nghiệm từ các cuộc đàm phán tương đương cho thấy một số tranh chấp có thể dự đoán sẽ nảy sinh và cần được thiết kế ngay từ đầu.

Căng thẳng giữa xác minh và bảo mật. Các quốc gia và công ty có chương trình AI tiên phong sẽ chống lại các cơ chế xác minh đòi hỏi tiết lộ thông tin nhạy cảm về thương mại hoặc quân sự. Năng lực AI đại diện cho lợi thế cạnh tranh. Quyền thanh tra khiến hệ thống xác minh đáng tin cậy sẽ bị chống đối bởi chính những bên mà sự tuân thủ của họ khiến hiệp ước có ý nghĩa. Chế độ hạt nhân đã giải quyết điều này qua các thỏa thuận bảo vệ được xác định cẩn thận, xác minh việc không chuyển hướng vật liệu hạt nhân mà không đòi hỏi tiết lộ thông tin thiết kế vũ khí. Quản trị ASI sẽ cần một bài tập xác định phạm vi tương tự.

Tranh cãi về định nghĩa ngưỡng. Bất kỳ ngưỡng compute nào dùng để xác định hệ thống bị điều chỉnh đều sẽ bị tranh cãi. Các bên ngay dưới ngưỡng sẽ cho rằng nó nên thấp hơn; các bên ngay trên ngưỡng sẽ cho rằng nó bị đặt quá thấp. Và bất kỳ ngưỡng cố định nào cũng sẽ lỗi thời khi chi phí compute giảm, đòi hỏi cơ chế sửa đổi mà chính nó cũng bị tranh cãi về mặt chính trị. Một cách tiếp cận đã dùng trong các hiệp ước khác là giao việc đặt ngưỡng cho một cơ quan kỹ thuật thay vì nhúng số cố định vào văn bản hiệp ước, cho phép sửa đổi mà không cần tu chỉnh hiệp ước.

Vấn đề tham gia của Trung Quốc. Một hiệp ước có hiệu lực mà không có Trung Quốc sẽ không điều chỉnh các tổ chức chịu trách nhiệm phát triển AI quan trọng nhất ngoài US. Để Trung Quốc chấp nhận nghĩa vụ ràng buộc về phát triển AI biên giới của mình cần đưa ra thứ gì đó đáng tin cậy để đổi lại (có lẽ là sự kết hợp giữa bảo đảm tiếp cận công nghệ và ràng buộc đối xứng đối với phát triển US) trong điều kiện nghi ngờ lẫn nhau sâu sắc. Đây là vấn đề ngoại giao mà thiết kế hiệp ước không thể giải quyết hoàn toàn.

Vấn đề tác nhân tư nhân. AI tiên phong chủ yếu do các công ty tư nhân phát triển. Hiệp ước sẽ ràng buộc các quốc gia, sau đó các quốc gia thực hiện nghĩa vụ qua luật trong nước áp dụng cho các công ty. Điều này tạo ra sự phức tạp pháp lý mà các hiệp ước vũ khí hạt nhân và hóa học không gặp phải, vì những hiệp ước đó chủ yếu nhắm vào các chương trình nhà nước. Một hiệp ước AI tiên phong cần quy định rõ ràng cách nghĩa vụ của quốc gia chuyển thành nghĩa vụ của công ty, và cách vi phạm của công ty được quy trách nhiệm cho quốc gia thành viên chủ nhà.

"Mọi hiệp ước kiểm soát vũ khí lớn đều trông như không thể đàm phán cho đến khi nó được đàm phán. Vấn đề lúc nào cũng là liệu các điều kiện chính trị đã chín muồi đủ để chi phí của việc tiếp tục không hành động vượt quá chi phí của thỏa thuận."

Một hiệp ước an toàn AI tiên phong là kết quả của một quy trình chính trị bền vững chưa chính thức bắt đầu, chứ không phải một sự kiện đơn lẻ. Công việc đang diễn ra hiện nay — các hội nghị thượng đỉnh an toàn AI, các cuộc thảo luận song phương giữa chính phủ, các viện an toàn quốc gia, các đề xuất học thuật về khung quản trị — là giai đoạn chuẩn bị. Chuyển đổi điều đó thành ủy nhiệm đàm phán chính thức, rồi thành văn bản hiệp ước, rồi thành phê chuẩn, là công việc của nhiều năm. Tính cấp bách là các năng lực đang được quản trị có thể phát triển nhanh hơn quy trình quản trị. Tính cấp bách đó là lý lẽ để bắt đầu nghiêm túc ngay bây giờ.

Sự phản đối mạnh mẽ nhất

Phản biện công bằng nhất là các cường quốc sẽ không bao giờ ràng buộc các phòng thí nghiệm biên giới của mình, nên việc mô tả cuộc đàm phán chỉ mang tính học thuật. Mọi hiệp ước vũ khí lớn đều trông bất khả thi cho đến khi chi phí của việc không hành động tăng lên. Công việc chuẩn bị đã tồn tại. Mảnh ghép còn thiếu là ý chí chính trị bị ép buộc bởi nhu cầu công chúng và các đòn bẩy công nghiệp, chứ không phải một từ vựng mới.