Hiệp ước Nam Cực và
Nghệ thuật của Việc Kìm Hãm.

Tháng 5 năm 1958, Paul-Henri Spaak, Bộ trưởng Ngoại giao Bỉ, gửi một bản ghi nhớ làm việc bốn trang cho các chính phủ khác. Nó kêu gọi một thỏa thuận giữ Nam Cực không có hoạt động quân sự và mở cửa cho thanh tra quốc tế. Hầu như không ai ở Washington hay Moscow hào hứng. Lục địa này không có dân cư thường trú, không có tài nguyên khoáng sản đã biết đáng để tranh giành, và không có giá trị chiến lược rõ ràng. Bản ghi nhớ nằm trên bàn trong một năm. Đến tháng 12 năm 1959, mười hai chính phủ đã ký kết.

Mười hai quốc gia đó đã phi quân sự hóa Nam Cực, đóng băng các yêu sách lãnh thổ, đảm bảo cho nhau quyền kiểm tra bất kỳ đâu, và dành toàn bộ lục địa cho khoa học hòa bình. Hiệp ước đã tồn tại hơn sáu mươi năm. Đây là một mô hình chưa được tận dụng cho AI.

Việc thông qua yên lặng của Hiệp ước Nam Cực là lý do nó quan trọng đối với quản trị ASI. Các siêu cường đối thủ, với các tuyên bố chồng chéo từng khơi mào nhiều năm phô trương, đã đồng ý không thúc đẩy bất kỳ tuyên bố nào. Họ phi quân sự hóa cả một lục địa giữa Chiến tranh Lạnh, và ghi vào hiệp ước chế độ kiểm chứng đủ mở để thỏa mãn các bên hoàn toàn không tin tưởng lẫn nhau. Văn bản ngắn gọn. Thành tựu chính trị mới là điều không tầm thường.

Hiệp ước thực sự thiết lập điều gì

• Giải trừ quân bị. Nam Cực chỉ được sử dụng cho mục đích hòa bình. Các căn cứ quân sự, thử nghiệm vũ khí và diễn tập bị cấm. Hiệp ước này là thỏa thuận kiểm soát vũ trang đầu tiên của Chiến tranh Lạnh, được ký trước Hiệp ước Cấm Thử Nghiệm Hạt nhân Một phần năm 1963.
• Đóng băng các yêu sách lãnh thổ. Bảy quốc gia đã đưa ra tuyên bố chủ quyền, một số trong đó chồng chéo (Anh, Argentina và Chile đều tuyên bố chủ quyền với cùng một bán đảo). Hiệp ước đóng băng tất cả. Không tuyên bố nào bị từ bỏ và không cái nào có thể mở rộng. Tranh chấp được tạm gác, không phải giải quyết.
• Tự do kiểm tra. Bất kỳ bên nào cũng có thể thanh tra bất kỳ trạm, cơ sở hoặc thiết bị nào của bên kia, vào bất kỳ lúc nào, với các quan sát viên được trao quyền tiếp cận hoàn toàn tự do. Đây là một trong những chế độ xác minh cởi mở nhất từng được soạn thảo.
• Khoa học như mục đích chung. Lục địa này được dành riêng cho nghiên cứu khoa học, với nghĩa vụ chia sẻ kết quả và nhân sự một cách tự do. Các quốc gia ký kết ban đầu năm 1959 chỉ bao gồm những nước có chương trình khoa học đáng kể ở Nam Cực, và cơ chế tham vấn của hiệp ước vẫn trao quyền ra quyết định cho hoạt động nghiên cứu.

Ý tưởng có thể chuyển giao: đóng băng, sau đó xác minh

Đổi mới trung tâm của hiệp ước là tách biệt sự cạnh tranh cơ bản khỏi hành vi tức thời. Không ai phải nhượng bộ ai "sở hữu" Nam Cực. Họ chỉ phải đồng ý rằng câu hỏi đó sẽ không bị thúc ép, và mọi người có thể kiểm tra. Tư thế đó liên quan trực tiếp đến AI biên giới, nơi nỗi sợ nhường lợi thế quyết định thúc đẩy cuộc đua. Một hiệp ước đòi hỏi thỏa thuận cuối cùng về ai có thể xây dựng các hệ thống mạnh mẽ nhất sẽ không thể ký kết. Một hiệp ước đóng băng các hình thức phát triển nguy hiểm nhất, với lệnh cấm vượt qua các ngưỡng năng lực được chỉ định, và đảm bảo kiểm tra lẫn nhau yêu cầu điều gì đó hẹp hơn và khả thi hơn. Không phải đầu hàng. Một sự dừng chung dưới sự xác minh.

Chế độ thanh tra là phần đáng sao chép nhất. Chế độ của Nam Cực hoạt động vì nó mang tính đối ứng và vô điều kiện, và vì quyền thanh tra là quyền đứng yên được ghi vào hiệp ước, không phải ân huệ được cấp từng trường hợp. Sự đối xứng đó là điều khiến nó trở nên chấp nhận được với các bên không tin tưởng lẫn nhau. Mỗi bên từ bỏ bí mật để đổi lấy quyền tương tự đối với các bên khác. Bất kỳ chế độ kiểm chứng AI nào hy vọng tồn tại giữa các đối thủ đều cần cùng chất lượng đối ứng, được xây dựng sẵn đó.

Lý lẽ phản đối phổ thông, được trình bày công bằng

Nam Cực rất dễ bỏ đi bởi vì mức độ nguy hiểm thấp. Không ai sống ở đó. Không ai tạo ra thứ gì đáng để đua cả. Một người hoài nghi nhìn vào hiệp ước này cho bài học về AI sẽ nói: quy tắc công bằng, nhưng hiệp ước dựa vào giải thưởng bị cách ly. Loại bỏ những nguy cơ thấp, và không có lý do gì để mong đợi sự kiềm chế tương tự.

Cơ chế này không phụ thuộc vào rủi ro thấp. Nó phụ thuộc vào sự sợ hãi lẫn nhau đối với sự thay thế. Các quyền lực đóng băng Nam Cực bởi vì sự xáo trộn quá mức có vẻ tệ hơn đối với mọi người hơn là một sự dừng lại chung. Cái giá của việc để 7 chính phủ đặt lá cờ, thực hiện các cuộc thử nghiệm vũ khí, và đối mặt với nhau trên một lục địa lạnh giá cao hơn chi phí đồng ý với những điều đó. Sự tính toán đó, rằng một cuộc thi không một đảng nào có thể thắng một cách an toàn còn tệ hơn một điểm dừng đã kiểm tra, là cùng một tính toán về khuôn mặt quản trị ASI. Hiệp ước Nam Cực không chứng minh rằng giới hạn thấp là tổng quát. Nó chứng tỏ rằng một loại sợ hãi nào đó có thể được biến đổi thành một thỏa thuận vững chắc, và có thể làm cho thỏa thuận này gắn liền với việc kiểm tra sâu sắc.

Cách hiệp ước trở nên mạnh mẽ hơn theo thời gian

Nam Cực cũng cho thấy một hiệp ước có thể được củng cố khi hoàn cảnh thay đổi. Tháng 10 năm 1991, sau hai năm đàm phán, các bên đã thông qua Nghị định thư Madrid. Nghị định thư cấm khai thác tài nguyên khoáng sản và chỉ định lục địa là “khu bảo tồn thiên nhiên dành cho hòa bình và khoa học”. Lệnh cấm khoáng sản chỉ có thể được xem xét lại sau năm mươi năm. Một khuôn khổ được đồng ý ở một thời đại đã được củng cố thành lệnh cấm mạnh mẽ hơn ở thời đại tiếp theo. Quản trị ASI có lẽ sẽ đi theo quỹ đạo tương tự, với một thỏa thuận ban đầu đóng băng hoạt động nguy hiểm nhất sau đó được thắt chặt khi sự hiểu biết và tin cậy tích lũy.

Sáu mươi bảy năm sau khi ký, Hiệp ước Nam Cực có 56 bên tham gia. Không bên nào trong số 12 bên ban đầu rút lui. Không bên nào thử nghiệm vũ khí trên lục địa. Không bên nào mở rộng yêu sách của mình. Chế độ xác minh đã được sử dụng hàng chục lần, hầu hết không có sự cố, và những tranh chấp ít ỏi (về thông báo trạm, quy tắc môi trường, du lịch) đã được giải quyết trong cơ chế tham vấn thay vì bằng vũ lực. Một người hoài nghi tin rằng các thỏa thuận quốc tế về công nghệ nguy hiểm không thể duy trì đang nhìn thẳng vào một ví dụ phản biện đang hoạt động.

Những gì được chuyển giao, và những gì không

AI biên giới không phải là Nam Cực. Giải thưởng là tức thì, khổng lồ, và được phát triển bởi các tác nhân tư nhân dưới áp lực cạnh tranh, chứ không chỉ là các quốc gia cắm cờ. Chi phí của sự kiềm chế cao hơn nhiều, và cám dỗ phản bội cũng lớn hơn nhiều. Cũng không có tương đồng rõ ràng với các trạm khoa học Nam Cực nơi thanh tra viên có thể kiểm tra công việc mà không làm gián đoạn. Sao chép mô hình Nam Cực lên AI sẽ không hoạt động.

Điều mang tính chuyển giao là hình thức ngoại giao. Một hiệp ước AI giữa các đối thủ có thể mang hình thức đóng băng, chứ không phải giải quyết. Nó có thể được giới hạn trong hoạt động nguy hiểm cụ thể mà cả hai bên đều có lý do để lo sợ, để lại các câu hỏi rộng hơn (cấm hoàn toàn so với hoãn; chi tiết ngưỡng năng lực; cách xử lý phát hành trọng số mở) cho các nghị định thư sau. Nó có thể ghi nhận quyền thanh tra như một quyền có đi có lại thường trực thay vì một sự cho phép, để chế độ xác minh bền vững qua các thay đổi chính trị. Và nó có thể được thiết kế để cứng lại theo thời gian, như với Nghị định thư Madrid, thay vì đến như một thỏa thuận tĩnh. Hiệp ước Nam Cực cho thấy một công nghệ rủi ro cao có thể bị giữ trong tình trạng treo giữa các đối thủ. Hình thức có thể chuyển giao. Mức độ sợ hãi phải được tạo ra.