Liệu Hoa Kỳ và
Trung Quốc Có Thể Thỏa Thuận Về An Toàn AI?

Cách khung cạnh tranh AI US-Trung Quốc như rào cản đối với quản trị ASI coi hai thứ tương đương trong khi chúng thực sự khác biệt. Cạnh tranh và hợp tác về rủi ro thảm khốc chung không loại trừ lẫn nhau. Hoa Kỳ và Liên Xô cạnh tranh gay gắt trên mọi chiều kích sức mạnh quốc gia trong bốn thập niên trong khi đồng thời đàm phán và duy trì một loạt thỏa thuận kiểm soát vũ trang ràng buộc các vũ khí có khả năng kết thúc nền văn minh nhất. Các điều kiện mà sự hợp tác đó có thể xảy ra đáng được hiểu để xem chúng có thể nói gì về vấn đề an toàn AI.

Lịch sử về cách các đối thủ hợp tác trong các rủi ro chung thảm khốc có liên quan trực tiếp đến vấn đề an toàn AI.

Điều gì khiến sự hợp tác US-Xô Viết trở nên khả thi

Một số điều kiện là cần thiết cho các thỏa thuận kiểm soát vũ trang giữa hai siêu cường Chiến tranh Lạnh. Không điều kiện nào đòi hỏi cuộc cạnh tranh phải chấm dứt, hay hai bên phải tin tưởng nhau theo nghĩa chung.

Sự nghi ngờ là điều bình thường. Dù sao thì việc xác minh vẫn tồn tại.

Yếu tố đầu tiên là sự hiểu biết chung và cụ thể về thảm họa lẫn nhau. Cả Hoa Kỳ và Liên Xô đều đã quan sát tác động của vũ khí hạt nhân, US qua sử dụng và thử nghiệm, Liên Xô qua thử nghiệm và qua tình báo về Hiroshima và Nagasaki. Đến cuối những năm 1950, cả hai bên đều hiểu rằng một cuộc trao đổi hạt nhân toàn diện sẽ là thảm họa cho cả hai. Đây không phải đánh giá lý thuyết; nó dựa trên bằng chứng vật lý về những gì vũ khí hạt nhân gây ra. Khủng hoảng tên lửa Cuba năm 1962 khiến sự hiểu biết này trở nên trực quan và cấp thiết đối với lãnh đạo chính trị theo cách mà nhiều năm phân tích chiến lược chưa từng làm được.

Thứ hai là một đối thoại không chính thức bền vững duy trì các mối liên hệ trí tuệ và cá nhân vượt qua ranh giới chính trị. Các Hội nghị Pugwash về Khoa học và Các Vấn đề Thế giới, bắt đầu từ năm 1957, đã quy tụ các nhà khoa học từ cả hai phe để thảo luận kiểm soát vũ khí trước khi bất kỳ cuộc đàm phán chính thức nào có thể diễn ra. Mạng lưới không chính thức này đã xây dựng các ý tưởng và mối quan hệ mà các cuộc đàm phán chính thức sau này chính thức hóa. Khi các quan chức US và Liên Xô ngồi xuống đàm phán Hiệp ước Cấm Thử Nghiệm Hạn chế năm 1963, họ không bắt đầu từ con số không.

Yếu tố thứ ba là phạm vi cẩn thận. Hiệp ước Cấm thử nghiệm hạt nhân có giới hạn (1963) cấm thử nghiệm hạt nhân trong khí quyển, ngoài không gian và dưới nước, nhưng không cấm dưới lòng đất. Nó giải quyết một vấn đề—rơi phóng xạ khí quyển từ thử nghiệm—mà cả hai bên đều có lợi ích chung thực sự trong việc tìm giải pháp, mà không đòi hỏi bên nào chấp nhận ràng buộc về chương trình vũ khí hay xác minh kho vũ khí của họ. Đó là thỏa thuận đầu tiên hẹp, xây dựng niềm tin cho các thỏa thuận lớn hơn sau này. SALT I (1972), Hiệp ước ABM (1972) và Công ước Vũ khí hóa học ra đời sau, mỗi cái xây trên kiến trúc của cái trước.

Điểm thứ tư là việc xác minh được xây dựng ngay từ đầu, không phải thêm vào sau. Mỗi thỏa thuận được thiết kế với các cơ chế xác minh rõ ràng: các phương tiện kỹ thuật quốc gia cho trinh sát vệ tinh được đưa vào khuôn khổ SALT, với cả hai bên đồng ý không can thiệp vào vệ tinh giám sát của bên kia. Điều này cho phép mỗi bên xác minh tuân thủ mà không cần tin tưởng vào tuyên bố của bên kia. Các thỏa thuận đòi hỏi sự tin tưởng để hoạt động thì không được đồng ý; các thỏa thuận có thể xác minh mà không cần tin tưởng thì được.

Nơi so sánh US-Trung Quốc có hiệu lực

Hoa Kỳ và Trung Quốc chia sẻ những đặc điểm cấu trúc với động lực US-Xô Viết có liên quan đến quản trị ASI.

Cả hai đều đang phát triển các hệ thống AI tiên phong với các ứng dụng quân sự và kinh tế tiềm năng mà bên nào cũng không muốn bên kia có. Cả hai đều đã bày tỏ, ở cấp độ chính thức, lo ngại về rủi ro của ASI được phát triển mà không có các ràng buộc an toàn đầy đủ. Cả hai đều đối mặt với một kịch bản (một hệ thống AI hoạt động theo cách không mong muốn thảm khốc) sẽ gây hại cho cả hai quốc gia bất kể hệ thống của quốc gia nào tạo ra nó. Một siêu trí tuệ không liên kết do phòng thí nghiệm Trung Quốc phát triển sẽ nguy hiểm cho Trung Quốc cũng như cho Hoa Kỳ, và ngược lại. Loại rủi ro được quan tâm nhất trong nghiên cứu an toàn AI không mang tính đối đầu như năng lực vũ khí hạt nhân. Điều này tạo ra cơ sở cấu trúc thực sự cho lợi ích chung.

Cũng đang có đối thoại phi chính thức ngày càng phát triển. Hội nghị Thượng đỉnh An toàn AI Bletchley tháng 11/2023 có sự tham gia của chính phủ Trung Quốc, lần đầu tiên quan chức Trung Quốc tham gia diễn đàn đa phương tập trung vào an toàn AI tiên phong. Các nhà nghiên cứu AI Trung Quốc đã tham gia các cuộc thảo luận an toàn quốc tế. Cuối 2024, US và Trung Quốc đạt thỏa thuận bắt đầu đàm phán song phương về rủi ro AI. Đây là những bước đầu mong manh, dễ bị phá vỡ bởi các khía cạnh khác trong quan hệ song phương, nhưng cơ sở hạ tầng cho đối thoại đã tồn tại.

Nơi so sánh sụp đổ

Mối quan hệ US-Xô Viết có một sự rõ ràng mà mối quan hệ US-Trung Quốc hiện nay thiếu. Cả hai siêu cường Chiến tranh Lạnh đều đồng ý, ở cấp độ chính thức, rằng vũ khí hạt nhân là vũ khí và một cuộc trao đổi hạt nhân toàn diện sẽ là thảm họa. Các tác động vật lý của vũ khí hạt nhân đã được ghi nhận, chứng kiến và hiểu rõ. Mối đe dọa là cụ thể.

Rủi ro thảm khốc từ AI vẫn còn, với hầu hết lãnh đạo chính trị, mang tính dự đoán hơn là đã trải nghiệm. Chưa có chính phủ nào đưa rủi ro tồn tại từ siêu trí tuệ nhân tạo vào khuôn khổ an ninh quốc gia với trọng lượng tương đương rủi ro hạt nhân từ năm 1945. Kịch bản một AI siêu thông minh không liên kết gây hại cho văn minh chưa có tiền lệ lịch sử. Điều này khiến việc huy động chính trị xung quanh phòng ngừa trở nên khó khăn hơn, vì chính trị gia phản ứng với các thiệt hại đã xảy ra đáng tin cậy hơn là với những điều được dự đoán.

Khía cạnh kinh tế trong mối quan hệ US-Trung Quốc cũng làm phức tạp vấn đề theo những cách không có tương đương thời Chiến tranh Lạnh. US và Liên Xô có nền kinh tế phần lớn tách biệt. US và Trung Quốc phụ thuộc lẫn nhau về kinh tế, với chuỗi cung ứng, chuyển giao công nghệ và dòng đầu tư chạy theo cả hai hướng. Khả năng AI là trung tâm của cạnh tranh kinh tế trong mối quan hệ này, không chỉ cạnh tranh quân sự. Điều này khiến AI khó tách biệt khỏi mối quan hệ cạnh tranh chung và đàm phán riêng biệt, vì các hạn chế đối với phát triển AI cũng ảnh hưởng đến triển vọng kinh tế theo cách mà các hạn chế đối với tên lửa hạt nhân tầm trung, chẳng hạn, không làm được.

Tình trạng hiện tại của đối thoại

Tính đến giữa năm 2026, đối thoại AI US-Trung Quốc vẫn thận trọng và gián đoạn. Các cuộc thảo luận song phương bắt đầu năm 2024 đã tiếp tục ở cấp độ làm việc, chủ yếu tập trung vào chia sẻ thông tin về đánh giá rủi ro AI thay vì các cam kết ràng buộc. Cả hai chính phủ đều công khai ủng hộ mục tiêu ngăn chặn kết quả AI thảm khốc trong khi đồng thời duy trì các chương trình phát triển AI cạnh tranh. Ở cấp độ đa phương, cả hai đều tham dự Hội nghị Thượng đỉnh Bletchley 2023 và Hội nghị Thượng đỉnh Seoul 2024, ký các tuyên bố thừa nhận mối lo ngại chung về rủi ro AI tiên phong mà không tạo ra nghĩa vụ ràng buộc.

Kiểm soát xuất khẩu của US đối với công nghệ bán dẫn tiên tiến là nguồn căng thẳng song phương dai dẳng. Các biện pháp kiểm soát này, hạn chế Trung Quốc tiếp cận các chip tiên tiến nhất dùng để huấn luyện AI tiên phong, chủ yếu xuất phát từ cân nhắc cạnh tranh chứ không phải an toàn. Từ góc độ quản trị, chúng đại diện cho một hình thức quản trị tính toán đơn phương có một số tác động thực tiễn giống như giới hạn tính toán dựa trên hiệp ước, dù không có bất kỳ ràng buộc lẫn nhau hay cơ chế xác minh nào mà quản trị dựa trên hiệp ước sẽ bao gồm.

Những điều kiện nào sẽ cho phép tiến bộ

Ba điều kiện trong lịch sử đã dẫn đến những tiến bộ kiểm soát vũ trang có ý nghĩa giữa các đối thủ, và mỗi điều kiện đều có phiên bản tương đương trong AI.

Một khoảnh khắc mang tính quyết định khiến rủi ro trở nên cụ thể và mang tính chính trị. Hiệp ước Cấm Thử Nghiệm Hạn chế ra đời sau khi thử nghiệm khí quyển của cả hai bên tạo ra lượng bụi phóng xạ toàn cầu có thể đo lường được, tập trung dư luận chống lại việc tiếp tục thử nghiệm. Một tương đương quản trị ASI có thể là một sự cố nghiêm trọng, việc triển khai một hệ thống có năng lực cao hoạt động sai lệch đáng kể so với ý định ở quy mô lớn, khiến rủi ro trở nên rõ ràng về mặt chính trị đối với công chúng trong nước của cả hai quốc gia cùng lúc. Các chính phủ vốn kháng cự hành động phòng ngừa sẽ trở nên dễ tiếp thu hơn sau các trải nghiệm suýt nữa xảy ra thảm họa.

Các biện pháp xây dựng lòng tin mang tính kỹ thuật trước các cam kết ràng buộc. Trước SALT I, hai bên đã dùng trinh sát vệ tinh để giám sát chương trình tên lửa của nhau, với sự chấp nhận ngầm rằng việc giám sát này đang diễn ra. Tương đương với AI có thể là các thỏa thuận minh bạch xung quanh thông báo đợt huấn luyện, tiêu chuẩn đánh giá chung, hoặc nghiên cứu an toàn hợp tác. Các biện pháp này xây dựng lòng tin rằng bên kia đang tham gia thiện chí, tạo nền tảng chính trị cho các cam kết lớn hơn.

Tạo điều kiện của bên thứ ba cho phép cả hai bên tham gia mà không xuất hiện là nhượng bộ cho bên kia. Một số sáng kiến kiểm soát vũ trang thành công đã hưởng lợi từ khung đa phương: cả hai bên có thể tham gia một quy trình quốc tế thay vì thực hiện nhượng bộ song phương cho nhau. Một quy trình quản trị ASI đa phương bao gồm cả US và Trung Quốc, do một cơ quan trung lập chủ trì, có thể là con đường dẫn đến các thỏa thuận mà các cuộc đàm phán song phương được đóng khung như cuộc gặp US-Trung Quốc sẽ không tạo ra.

"Hoa Kỳ và Trung Quốc không cần tin tưởng lẫn nhau để hợp tác về an toàn AI. Họ cần đồng ý rằng các kết quả AI thảm khốc tệ hơn cho cả hai so với các ràng buộc cần thiết để ngăn chặn những kết quả đó."

Câu hỏi liệu US và Trung Quốc có thể đồng ý về an toàn AI hay không cuối cùng là câu hỏi liệu cả hai chính phủ có kết luận, trước khi tồn tại hệ thống AI đủ năng lực, rằng các ràng buộc lẫn nhau có tính ràng buộc là tốt hơn một cuộc đua không giới hạn hay không. Lịch sử cho thấy kết luận này có thể đạt được, với điều kiện phù hợp. Lịch sử cũng cho thấy các chính phủ hiếm khi đạt được điều đó thông qua suy nghĩ bình tĩnh trước. Họ đạt được khi phương án thay thế đã trở nên đủ sống động để thay đổi tính toán chính trị. Câu hỏi chính sách là liệu cửa sổ quản trị có còn mở đủ lâu để sự thay đổi đó xảy ra hay không.

Sự phản đối mạnh mẽ nhất

Phản đối công bằng nhất là sự cạnh tranh khiến hợp tác trở thành ảo tưởng. Kiểm soát vũ khí hạt nhân đã diễn ra dưới sự thù hận tồi tệ hơn với xác minh thay vì tin tưởng. Sự dễ bị tổn thương chung trước mất kiểm soát là lợi ích chung. Không có nó, cả hai bên đều lao vào cuộc chạy đua với những hệ thống mà không bên nào điều khiển được.