Lời kể chuẩn về lịch sử kiểm soát vũ trang tập trung vào chính phủ: các nhà đàm phán, nguyên thủ quốc gia ký hiệp ước, các thượng nghị sĩ phê chuẩn hoặc từ chối phê chuẩn. Lời kể này chưa đầy đủ. Đằng sau mọi thỏa thuận quốc tế lớn về công nghệ nguy hiểm, đều có nỗ lực xã hội dân sự bền bỉ đã chuẩn bị nền chính trị, xây dựng sự hiểu biết của công chúng về rủi ro, phát triển các đề xuất quản trị mà nhà đàm phán áp dụng, duy trì đối thoại qua các ranh giới khi kênh chính thức đóng cửa, và giữ vấn đề sống về mặt chính trị qua những giai đoạn chính phủ muốn ngoảnh mặt.

Các tổ chức phi chính phủ môi trường đã giữ Nghị định thư Montreal còn sống về mặt chính trị khi chính phủ dao động. Đây là điều xã hội dân sự làm trong quản trị công nghệ, và điều mà vận động an toàn AI chưa xây dựng được.

Hiểu rõ những gì xã hội dân sự thực sự đã làm trong quản trị kiểm soát vũ khí là điều kiện tiên quyết để đánh giá những gì xã hội dân sự an toàn AI cần xây dựng.

Những gì Pugwash đã làm cho kiểm soát vũ khí hạt nhân

Các Hội nghị Pugwash về Khoa học và Các vấn đề Thế giới được thành lập năm 1957, sau Tuyên ngôn Russell-Einstein năm 1955, trong đó Bertrand Russell và Albert Einstein, cùng chín nhà khoa học nổi tiếng khác, kêu gọi các chính phủ nhận ra rằng vũ khí hạt nhân đe dọa nền văn minh và tìm giải pháp hòa bình cho các xung đột thay vì chiến tranh. Tuyên ngôn được ký bởi các nhà khoa học từ cả khối phương Tây và Liên Xô, bao gồm một số người đoạt giải Nobel.

Mô hình Pugwash là đối thoại track-2: các nhà khoa học từ các quốc gia đối địch gặp gỡ với tư cách cá nhân, không phải là đại diện chính phủ, để thảo luận các đề xuất kiểm soát vũ trang và xây dựng các mối quan hệ cá nhân cũng như khuôn khổ kỹ thuật chung mà sau này sẽ định hình các cuộc đàm phán chính thức. Các cuộc họp Pugwash ban đầu vào cuối những năm 1950 và 1960 đã xem xét các đề xuất xác minh cho các giới hạn thử nghiệm hạt nhân sau này xuất hiện, dưới hình thức đã sửa đổi, trong Hiệp ước Cấm Thử Nghiệm Hạn chế năm 1963. Khái niệm phương tiện kỹ thuật quốc gia để xác minh kiểm soát vũ trang (sử dụng trinh sát vệ tinh để giám sát việc tuân thủ mà không cần thanh tra viên tại chỗ) đã được phát triển và tranh luận trong các cuộc họp Pugwash trước khi được đưa vào các thỏa thuận SALT.

Pugwash không soạn thảo hiệp ước. Nó phát triển ý tưởng, xây dựng mối quan hệ và tạo không gian để các nhà khoa học từ hai bên Chiến tranh Lạnh có thể thảo luận các vấn đề kỹ thuật mà kênh ngoại giao chính thức không giải quyết được. Khi điều kiện chính trị thay đổi và đàm phán chính thức trở nên khả thi, hạ tầng trí tuệ cho những gì các cuộc đàm phán đó có thể đồng ý đã tồn tại, vì Pugwash đã xây dựng nó trong nhiều năm. Pugwash và người sáng lập Joseph Rotblat cùng nhận Giải Nobel Hòa bình năm 1995.

Chiến dịch bom mìn đã làm gì

Chiến dịch Quốc tế Cấm Mìn được thành lập năm 1992 bởi liên minh các NGO kết luận rằng hậu quả nhân đạo của mìn chống bộ binh—hàng nghìn thương vong dân sự mỗi năm ở các quốc gia sau xung đột, ô nhiễm rộng khắp đất nông nghiệp, trẻ em bị thương tật hàng thập kỷ sau các cuộc chiến đã triển khai mìn—đòi hỏi lệnh cấm hoàn toàn thay vì các hạn chế dần dần. Chiến lược cốt lõi của chiến dịch là ghi nhận hậu quả nhân đạo bằng những thuật ngữ cụ thể, trực quan và quy trách nhiệm cho một công nghệ có tên, rồi gắn kết ghi nhận đó với một yêu cầu chính trị rõ ràng.

Nỗ lực ghi chép được thực hiện bởi các NGO hoạt động tại các quốc gia bị ảnh hưởng: Handicap International, Human Rights Watch, Physicians for Human Rights, và những tổ chức khác. Họ tạo báo cáo, thu thập lời khai nạn nhân, và tạo ra sự đưa tin truyền thông bền vững khiến vấn đề trở nên nổi bật về mặt chính trị tại các quốc gia tài trợ. Chiến dịch làm việc có hệ thống để xây dựng đồng minh chính phủ (Canada là quan trọng nhất) và xác định con đường ngoại giao có thể né Hội nghị Giải trừ quân bị, nơi các cường quốc quân sự lớn đã chặn tiến triển.

Mô hình Ottawa

Lệnh cấm mìn không bắt đầu từ các bộ ngoại giao. Chúng bắt đầu từ những người sống sót, bác sĩ và nhà tổ chức khiến vũ khí trở nên đắt đỏ về mặt chính trị. An toàn AI có bài báo và hội nghị thượng đỉnh. Nó vẫn cần loại áp lực bên ngoài đó nếu luật pháp muốn ràng buộc các phòng lab muốn tự điều tiết mãi mãi.

Thành công của chiến dịch dựa trên sự kết hợp các yếu tố phân biệt nó với các nỗ lực vận động ít thành công hơn. Thiệt hại là hiện tại và có thể ghi nhận. Yêu cầu cụ thể và dễ hiểu với người không chuyên. Chiến dịch có mối quan hệ với các chính phủ đồng cảm có thể đóng vai trò nhà vô địch thể chế. Và nó sẵn sàng tiến hành mà không cần sự tham gia của các cường quốc lớn, chấp nhận rằng một hiệp ước không có US, Trung Quốc và Nga vẫn sẽ thiết lập một chuẩn mực định hình hành vi theo thời gian.

Những gì các NGO môi trường đã làm cho Nghị định thư Montreal

Chiến dịch hạn chế các chất làm suy giảm ozone được xây dựng trên nền tảng truyền thông khoa học chuyển đổi các phát hiện kỹ thuật thành mối quan tâm công chúng. Khi F. Sherwood Rowland và Mario Molina công bố phát hiện của họ về hóa học chlorofluorocarbon năm 1974, chứng minh CFC sẽ phá hủy ozone tầng bình lưu theo cách xúc tác, phát hiện khoa học cần được diễn giải và khuếch đại để trở thành vấn đề chính trị. Các tổ chức phi chính phủ môi trường, đặc biệt là Friends of the Earth và Natural Resources Defense Council, thực hiện công việc chuyển đổi này suốt cuối những năm 1970 và 1980.

Chiến dịch của các tổ chức phi chính phủ kết hợp giáo dục công chúng, tiếp cận truyền thông và vận động chính trị trực tiếp. Tại Hoa Kỳ, các tổ chức phi chính phủ đã hỗ trợ các chiến dịch thành công nhằm hạn chế sử dụng CFC trong bình xịt aerosol trước khi có bất kỳ thỏa thuận quốc tế nào, tạo ra tiền lệ quản lý trong nước mà chính phủ US có thể viện dẫn trong các cuộc đàm phán quốc tế như bằng chứng về tính khả thi chính trị. Khi phát hiện lỗ ozone Nam Cực năm 1985 cung cấp xác nhận khoa học và hình ảnh ấn tượng về thiệt hại do CFC gây ra, cơ sở hạ tầng truyền thông của các tổ chức phi chính phủ đã sẵn sàng khuếch đại tầm quan trọng của nó ngay lập tức.

Sau khi Nghị định thư Montreal được ký kết, các tổ chức phi chính phủ giám sát việc thực thi, xác định các vấn đề tuân thủ và vận động cho các sửa đổi tiếp theo nhằm mở rộng phạm vi của nghị định thư trong những thập niên sau. Vai trò của xã hội dân sự không kết thúc khi hiệp ước được ký; nó tiếp tục qua giai đoạn thực thi, cung cấp sự giám sát liên tục để giữ chính phủ chịu trách nhiệm với cam kết.

Những gì xã hội dân sự an toàn AI đã xây dựng và chưa xây dựng

Lĩnh vực an toàn AI đã tạo ra lượng lớn công trình kỹ thuật và trí tuệ về rủi ro của các hệ thống AI tiên phong. Các công trình này được tích lũy trong các bài báo học thuật, kỷ yếu hội nghị và các thông điệp công khai từ các nhà nghiên cứu tại các trường đại học và phòng thí nghiệm AI lớn. Một số nhà nghiên cứu, trong đó có Geoffrey Hinton và Yoshua Bengio, đã phát biểu công khai về rủi ro tồn tại của AI theo cách thu hút sự chú ý đáng kể của truyền thông. Hiện có một số lượng khiêm tốn các tổ chức được tài trợ bởi hoạt động từ thiện đang làm việc về quản trị và chính sách ASI.

Tuy nhiên, so với hạ tầng xã hội dân sự từng hỗ trợ kiểm soát vũ khí hạt nhân và lệnh cấm mìn, nỗ lực xã hội dân sự về an toàn AI hiện nay còn mỏng manh ở một số khía cạnh cụ thể.

Không có tương đương Pugwash: không có diễn đàn bền vững, có cấu trúc nơi các nhà nghiên cứu AI từ US, Trung Quốc, EU và các nước phát triển AI lớn khác gặp gỡ thường xuyên với tư cách cá nhân, ngoài các kênh chính thức của chính phủ, để xây dựng các khuôn khổ kỹ thuật chung cho quản trị. Các quy trình song phương và đa phương hiện có của chính phủ là chính thức, không phải track-2, và do đó chịu mọi ràng buộc của ngoại giao chính thức.

Không có tổ chức tương đương ICBL: không có chiến dịch thành viên đông đảo với yêu cầu rõ ràng, cụ thể và hồ sơ thiệt hại được ghi nhận kết nối yêu cầu với trải nghiệm hiện tại của con người thật. Rủi ro tồn tại AI là dự đoán trước chứ chưa trải nghiệm, điều này khiến sự huy động cảm xúc và chính trị mà chiến dịch mìn đất đạt được trở nên khó sao chép hơn nhiều. Thiệt hại từ ASI chưa ở thì hiện tại như thương vong do mìn đất từng là.

Không có chức năng giám sát liên tục: không có tổ chức xã hội dân sự nào theo dõi các cam kết của chính phủ về quản trị ASI, đo lường việc tuân thủ các cam kết tự nguyện, và công bố kết quả theo cách tạo ra trách nhiệm giải trình. Các NGO giám sát việc thực hiện hiệp ước kiểm soát vũ trang, các nhóm đánh giá xem các quốc gia có đáp ứng nghĩa vụ giải trừ vũ khí hay không, điều tra các vi phạm bị cáo buộc, ghi nhận khoảng cách giữa cam kết và hành động, không có tương đương rõ ràng trong không gian quản trị ASI.

"Mọi thành tựu kiểm soát vũ trang lớn đều được preceded bởi nhiều năm công việc của xã hội dân sự nhằm xây dựng sự hiểu biết của công chúng, phát triển các đề xuất quản trị và duy trì áp lực chính trị. Công việc đó phải bắt đầu ngay cho AI."

Những gì xã hội dân sự an toàn AI đã xây dựng là một cộng đồng nghiên cứu và chính sách có chất lượng trí tuệ đáng kể. Những gì nó chưa xây dựng là năng lực huy động công chúng, cơ sở hạ tầng đối thoại khoa học xuyên biên giới, và chức năng giám sát liên tục đã phân biệt các chiến dịch quản trị hiệu quả trong các lĩnh vực công nghệ khác. Xây dựng các năng lực này là điều kiện tiên quyết chính trị và thể chế cho một hiệp ước có thể được đàm phán, phê chuẩn và duy trì, không tách rời khỏi công việc vận động cho một hiệp ước.

Sự phản đối mạnh mẽ nhất

Lý lẽ công bằng nhất là các NGO và học giả không thể lay chuyển các cường quốc, nên xã hội dân sự chỉ là bình luận. Các phong trào không ký hiệp ước. Họ thay đổi cái giá của việc không ký. Áp lực công chúng, soạn thảo chuyên môn và vận động do nhà tài trợ tài trợ là cách các quốc gia chậm trễ bị kéo vào những phòng họ muốn bỏ qua.