198 là con số cần ghi nhớ. Đó là số lượng quốc gia tham gia Nghị định thư Montreal về Các chất làm suy giảm tầng ôzôn: mọi quốc gia được công nhận trên Trái Đất, bao gồm cả những thành viên khó ngờ như Triều Tiên, Nam Sudan và Quần đảo Cook. Chưa có hiệp ước UN nào khác đạt được sự phê chuẩn phổ quát.
Nghị định thư Montreal là hiệp ước UN duy nhất được mọi quốc gia trên Trái Đất phê chuẩn, nó đã giải quyết được vấn đề mà nó được viết ra để giải quyết, và kiến trúc của nó được thiết kế chính xác cho tình huống mà quản trị ASI đang đối mặt.
Chất liệu đằng sau con số khó bác bỏ hơn. Năm 1987, các chính phủ cam kết loại bỏ một công nghệ công nghiệp có lãi, được sử dụng rộng rãi (chlorofluorocarbons, lúc bấy giờ có mặt trong gần như mọi tủ lạnh, bình xịt và máy điều hòa trên hành tinh) trước khi thiệt hại tồi tệ nhất xảy ra. Hiệp ước có hiệu lực năm 1989. Lỗ thủng tầng ozone đã thu hẹp trong một thập kỷ. Ngày phục hồi sạch dự kiến vào giữa thế kỷ, khoảng một đời người sau khi các chất sai lầm ngừng được thải ra.
Đối với bất kỳ ai cho rằng một hiệp ước AI ràng buộc là ngây thơ, Montreal là ví dụ phản biện bất tiện. Hệ thống quốc tế có thể restrain a dangerous technology under uncertainty, across rival economies, fast enough to matter. The question worth asking is not whether such a treaty is possible (the answer is on file) but which features of Montreal made it work, and which of them an ASI governance regime can borrow without inventing law from scratch.
Hiệp ước thực sự đã làm gì
Nghị định thư về các chất làm suy giảm tầng ôzôn đặt ra các mức giảm có lịch trình ràng buộc đối với sản xuất và tiêu thụ một danh sách hóa chất xác định. Nó không cấm mọi thứ cùng lúc. Nó thiết lập quỹ đạo: cắt giảm phần trăm cụ thể vào những ngày cụ thể đối với các chất nguy hiểm nhất, sau đó siết chặt quỹ đạo đó nhiều lần khi khoa học vững chắc hơn. CFC là mục tiêu ban đầu. HCFC đến sau. Tu chính Kigali năm 2016 bổ sung HFC, các chất thay thế sau này hóa ra là khí nhà kính mạnh. Mỗi lần siết chặt đều ràng buộc mọi bên mà không cần mở lại hiệp ước để phê chuẩn quốc gia mới.
Các nghĩa vụ được phân biệt có chủ đích. Các nước đang phát triển được trao thời gian ân hạn và hỗ trợ tài chính để tuân thủ, nhằm công nhận rằng họ không gây ra phần lớn vấn đề và không thể tự mình gánh chịu chi phí chuyển đổi. Bất kỳ hiệp ước AI nào cũng sẽ đối mặt với vấn đề công bằng tương tự giữa số ít quốc gia có phòng thí nghiệm biên giới và phần lớn các nước không có.
Ba tính năng thiết kế đáng sao chép
Bắt đầu bằng khung pháp lý, siết chặt sau
Công ước Vienna 1985 về Bảo vệ Tầng ôzôn đã tạo ra khung thể chế: nghĩa vụ hợp tác, giám sát và báo cáo, trước khi ai đồng ý về con số cụ thể. Các cắt giảm ràng buộc đến hai năm sau tại Montreal và được siết chặt ít nhất chín lần sau đó. Quản trị ASI có thể bắt đầu bằng một công ước khung mỏng và bổ sung nội dung khi năng lực và bằng chứng phát triển. Cách sắp xếp này mua thời gian mà không mua sự bất động.
Điều chỉnh mà không cần phê chuẩn lại
Nước đi chủ chốt của hiệp ước là cơ chế điều chỉnh. Các bên có thể đẩy nhanh lịch trình loại bỏ bằng quyết định đa số đủ điều kiện ràng buộc mọi thành viên, mà không cần mở lại hiệp ước để phê chuẩn quốc gia. Điều đó khiến hiệp ước phản ứng với khoa học mới mà không bị kẹt trong chu kỳ phê chuẩn kéo dài một thập kỷ. Với công nghệ di chuyển nhanh như AI, nơi năng lực có thể thay đổi trong vài tháng, một hiệp ước tĩnh sẽ lỗi thời ngay khi ra đời. Khả năng cập nhật nghĩa vụ ràng buộc mà không cần tái phê chuẩn là yêu cầu sống còn.
Làm cho việc không tham gia trở nên tốn kém
Montreal cấm buôn bán các chất bị kiểm soát với các bên không tham gia. Quy định duy nhất này đã đảo ngược tính toán của bất kỳ quốc gia nào cân nhắc rút lui: ở ngoài nghĩa là mất quyền tiếp cận thị trường, nên tham gia trở thành lựa chọn hợp lý. Chuỗi cung ứng chip và chất bán dẫn cung cấp điểm nghẽn cấu trúc tương tự cho AI, với một số ít công ty và một số ít khu vực pháp lý kiểm soát các đầu vào mà phát triển tiên phong cần.
Cơ chế tài trợ đã mua chuộc sự đồng thuận
Năm 1990, các bên đã thành lập Quỹ Đa phương, do các nước phát triển tài trợ, để chi trả chi phí gia tăng tuân thủ đã thỏa thuận cho các nước đang phát triển. Đó không phải viện trợ nước ngoài. Đó là cái giá của sự tham gia phổ quát. Trung Quốc và Ấn Độ trở thành thành viên khi quỹ khiến việc tuân thủ trở nên khả thi. Đến năm 1996, quỹ đã giải ngân hàng trăm triệu đô la và các nghĩa vụ Giai đoạn I đã được đáp ứng hoặc vượt quá bởi mọi bên là nước đang phát triển.
Một hiệp ước yêu cầu các nước Nam bán cầu từ bỏ công nghệ mang tính chuyển đổi hoặc chấp nhận giám sát xâm phạm cơ sở hạ tầng của họ sẽ không được ký kết như một hành động hào phóng. Nó sẽ được ký khi thỏa thuận khiến việc tham gia rẻ hơn việc từ chối: xây dựng năng lực, tiếp cận công nghệ trong các lĩnh vực xác định, và bồi thường để đổi lấy sự kiềm chế. Mô hình Quỹ Đa phương đã sẵn sàng để sao chép.
Nơi phép loại suy gặp khó
Không có tiền lệ nào hoàn hảo, và cách trình bày công bằng về sự hoài nghi như sau. Sự suy giảm ozone có một chỉ số rõ ràng, có thể đo lường (nồng độ clo trong khí quyển vượt ngưỡng cụ thể) và một số lượng nhỏ các hóa chất có thể thay thế được sản xuất bởi một số ít công ty. Năng lực AI biên giới khó xác định hơn, khó đo lường hơn và được phát triển bởi các tác nhân có động lực chiến lược mạnh mẽ hơn nhiều để vi phạm. Các chất thay thế CFC có tính hấp dẫn thương mại; các sản phẩm thay thế tự bán được. Không có sản phẩm thương mại tương đương đang chờ đợi ở phía bên kia của lệnh cấm siêu trí tuệ.
Những khác biệt này khiến quản trị ASI khó khăn hơn, chứ không phải không thể. Chúng chỉ ra nơi công việc cần phải đi. Xác định các ngưỡng có thể đo lường tương tự clo trong khí quyển. Xây dựng các công cụ xác minh mà giám sát ozone đã có (mạng cảm biến toàn cầu đang hoạt động trong trường hợp ozone, với dữ liệu có thể công bố; tương đương AI chưa tồn tại ở cùng độ chính xác). Xây dựng cấu trúc khuyến khích qua chuỗi cung ứng tính toán và tiếp cận thị trường khiến việc tham gia trở thành lựa chọn hợp lý. Montreal không thành công vì vấn đề dễ dàng. Nó thành công vì hiệp ước được thiết kế thông minh xung quanh một vấn đề khó. Đó đã trở thành tiêu chuẩn.
Điều gì lan truyền, và điều gì cần được xây dựng lại
Thứ tự framework-then-bite, cơ chế điều chỉnh đa số đủ điều kiện, điểm nghẽn chuỗi cung ứng, cấu trúc Quỹ Đa phương: mỗi cái đều có thể chuyển giao. Điều không chuyển giao được là sự rõ ràng cơ bản của khoa học. Montreal thành công một phần vì các nhà hóa học khí quyển có thể nói, với những con số có thể lặp lại, chính xác khi nào một chất gây quá nhiều thiệt hại. Loại nền tảng nhận thức chung đó chưa tồn tại cho khả năng AI.
Xây dựng nó là điều kiện tiên quyết, không phải phần bổ sung tùy chọn. Cho đến khi lĩnh vực có thể nói, với các con số có thể lặp lại, rằng một mô hình đã vượt qua ngưỡng năng lực được xác định, ngôn ngữ ngưỡng của hiệp ước sẽ bị tranh cãi trong mọi tranh chấp. Nghị định thư Montreal không gây ra cơ sở hạ tầng đo lường ozone. Nó kế thừa từ ba thập kỷ hóa học khí quyển. Một hiệp ước AI sẽ cần ủy thác tương đương trước, hoặc nhập khẩu bài học rằng một số hiệp ước hoàn vốn đầu tư khoa học nhiều lần.
Sự phản đối mạnh mẽ nhất
Sự phản đối công bằng nhất là hóa học ôzôn rõ ràng hơn rủi ro AI, nên Montreal không thể hướng dẫn chúng ta. Sự rõ ràng khoa học đã giúp ích. Những mảnh có thể mang theo vẫn là thiết kế: điều chỉnh lịch trình, nhắm vào chuỗi cung ứng, tài trợ cho những bên cầm chân để tuân thủ. AI cần xác minh khó khăn hơn. Nó không cần phát minh quản trị từ con số không.