Làm việc qua giải phẫu của một hiệp ước giả định không phải là bài tập học thuật. Nó biến khát vọng mơ hồ thành một tập hợp các quyết định thiết kế cụ thể, có thể tranh luận, và cho thấy rằng trở ngại đối với quản trị ASI là chính trị chứ không phải khái niệm. Cơ chế pháp lý đã tồn tại; mọi điều khoản dưới đây đều có tiền lệ trong một hiệp ước hiện hành. Những gì sau đây chỉ là bản phác thảo cấu trúc, chưa phải văn bản hoàn chỉnh, về những gì một Hiệp ước về An toàn Trí tuệ Nhân tạo cần giải quyết.
Một hiệp ước là công cụ pháp lý có cấu trúc với giải phẫu dễ nhận biết: phạm vi, định nghĩa, nghĩa vụ, xác minh, thể chế và thực thi. Đây là cách đi cụ thể qua các điều khoản mà một thỏa thuận ngăn chặn siêu trí tuệ không an toàn sẽ cần, và những lựa chọn mà mỗi điều khoản buộc phải đưa ra.
Lời nói đầu và mục tiêu
Mọi hiệp ước đều mở đầu bằng việc nêu rõ mục đích và các nguyên tắc chỉ đạo. Ở đây, mục tiêu là ngăn chặn vĩnh viễn sự phát triển của siêu trí tuệ nhân tạo. Siêu trí tuệ không thể kiểm soát được, trong khi vẫn bảo tồn lợi ích của AI dưới ngưỡng đó và đảm bảo những lợi ích này được chia sẻ. Lời mở đầu sẽ viện dẫn nguyên tắc phòng ngừa, khẳng định rằng rủi ro là mối quan tâm chung của nhân loại, và đặt hiệp ước trong khuôn khổ luật pháp quốc tế hiện hành. Điều này thiết lập khung diễn giải cho mọi điều tiếp theo.
Phạm vi và ngưỡng
Vấn đề soạn thảo khó nhất là xác định phạm vi của hiệp ước. Không giống vật liệu hạt nhân, năng lực AI là phổ liên tục không có ranh giới tự nhiên. Cách tiếp cận khả thi là dùng các chỉ số thay thế có thể đo lường: ngưỡng compute huấn luyện mà trên đó các hệ thống phải tuân thủ nghĩa vụ của hiệp ước, kết hợp tiêu chí dựa trên năng lực đối với hệ thống thể hiện các khả năng nguy hiểm cụ thể. Các con số chính xác nên giao cho một cơ quan kỹ thuật có quyền sửa đổi, vì bất kỳ con số cố định nào ghi trong văn bản đều sẽ lỗi thời trong vài năm.
Nghĩa vụ cốt lõi
Cấm vượt qua lằn ranh đỏ
Nghĩa vụ trung tâm: các bên cam kết không phát triển hay triển khai hệ thống vượt ngưỡng nguy hiểm đã định nghĩa cho đến khi các điều kiện an toàn đã thỏa thuận được đáp ứng, tương đương với lệnh cấm hành vi bị nghiêm cấm trong hiệp ước.
Tuyên bố và thông báo
Các bên phải khai báo các cơ sở máy tính lớn và thông báo cho cơ quan hiệp ước trước khi thực hiện các lần huấn luyện thuộc diện điều chỉnh, tạo ra đường cơ sở minh bạch mà việc kiểm chứng dựa vào.
Đánh giá bắt buộc trước khi triển khai
Các hệ thống được điều chỉnh phải trải qua đánh giá an toàn độc lập theo các tiêu chuẩn đã xác định trước khi triển khai, với kết quả báo cáo cho cơ quan hiệp ước.
Thực hiện trong nước
Mỗi bên phải ban hành luật quốc gia áp dụng các nghĩa vụ này cho nhà phát triển công và tư trên lãnh thổ mình, vì hiệp ước ràng buộc các quốc gia chứ không phải công ty trực tiếp.
Xác minh
Một lệnh cấm mà không ai kiểm tra được thì vô giá trị, nên hiệp ước cần có chế độ xác minh. Dựa trên tiền lệ IAEA và vũ khí hóa học, chế độ này sẽ kết hợp giám sát cơ sở khai báo đối với các cụm máy tính lớn, theo dõi chip tiên tiến qua chuỗi cung ứng, quyền kiểm toán hồ sơ huấn luyện và đánh giá, thanh tra tại chỗ với quyền tiếp cận được quy định rõ, và (yếu tố mới nhất) các đảm bảo dựa trên phần cứng được tích hợp vào chip để phát hiện huấn luyện quy mô lớn ngầm. Mục tiêu thiết kế, như trong các biện pháp bảo vệ hạt nhân, là xác minh điều quan trọng mà không buộc tiết lộ mọi bí mật thương mại hay an ninh.
Thể chế
Hiệp ước sẽ thành lập một cơ quan quốc tế (gọi là AI Safety Organization) để quản lý nó: ban thư ký và thanh tra kỹ thuật, hội đồng khoa học đặt và sửa ngưỡng, hội nghị các bên làm cơ quan ra quyết định, và cơ chế cập nhật phụ lục mà không cần tái phê chuẩn toàn bộ, theo mô hình Montreal. Đây là thể chế thường trực biến văn bản tĩnh thành chế độ liên tục có khả năng theo kịp công nghệ.
Thực thi, có hiệu lực và sửa đổi
- Thực thi. Các phản ứng có mức độ đối với vi phạm, từ kết luận không tuân thủ, đến mất quyền tiếp cận các lợi ích và tài nguyên tính toán được chia sẻ, đến chuyển lên Hội đồng Bảo an đối với các vi phạm nghiêm trọng, công nhận rằng xác minh tạo ra bằng chứng nhưng hậu quả đòi hỏi sự ủng hộ chính trị.
- Có hiệu lực. Yêu cầu các quốc gia chủ nhà các phòng thí nghiệm hàng đầu và sản xuất chip phải phê chuẩn trước khi hiệp ước có hiệu lực, để nó điều chỉnh những tác nhân quan trọng, đồng thời tránh thiết kế cho phép bất kỳ bên nào đơn phương phủ quyết vô thời hạn.
- Sửa đổi và điều chỉnh. Một cơ chế đường tắt để siết chặt ngưỡng và phụ lục kỹ thuật bằng đa số đủ điều kiện, sao cho hiệp ước có thể phát triển cùng công nghệ thay vì đóng băng tại thời điểm ký kết.
Rào cản đối với một hiệp ước AI không phải là chúng ta thiếu công cụ pháp lý. Mọi điều khoản cần thiết đã tồn tại trong một số hiệp ước. Rào cản là ý chí chính trị, và chính là thứ mà một bản dự thảo rõ ràng có thể giúp xây dựng.
Tại sao việc phác thảo nó lại quan trọng
Trình bày các điều khoản một cách cụ thể như vậy làm hai việc. Nó giải trừ bí ẩn cho hiệp ước, cho thấy rằng nó là sự lắp ráp các phần được hiểu rõ, mỗi phần có tiền lệ, không phải là bước nhảy vào cái chưa biết. Và nó làm rõ nơi khó khăn thực sự nằm ở đâu: không phải trong kiến trúc pháp lý, vốn có thể giải quyết được, mà trong các lựa chọn chính trị về ngưỡng, mức độ xâm phạm xác minh, và thỏa thuận giữa các cường quốc sẽ làm cho hiệp ước có hiệu lực ràng buộc. Một bản dự thảo không tạo ra ý chí ký kết. Nhưng nó biến 'chúng ta cần một hiệp ước' thành 'đây là hiệp ước, và đây chính xác là những gì chúng ta phải đồng ý', đó là nơi ngoại giao nghiêm túc phải bắt đầu.