"Superintelligence Strategy" xuất hiện vào tháng 3 năm 2025 với danh sách tác giả được xây dựng để được coi trọng tại Washington: Dan Hendrycks, giám đốc Center for AI Safety; Eric Schmidt, cựu CEO của Google; và Alexandr Wang, người sáng lập Scale AI. Mục đích của nó là kéo siêu trí tuệ ra khỏi tài liệu nghiên cứu và đưa vào ngôn ngữ an ninh quốc gia, và xét theo thước đo đó thì nó đã thành công. Trong vòng vài tuần nó đã được các học giả kiểm soát vũ trang tranh luận, diễn tập trong các viện nghiên cứu, và được trích dẫn trong lời khai trước Quốc hội.

Sự tương tự là điều thú vị nhất về nó, và cũng là vấn đề.

Trung tâm của nó là một từ viết tắt được chọn kỹ lưỡng. MAIM, viết tắt của Mutual Assured AI Malfunction, là tiếng vang có chủ đích của MAD, và nó mang theo tuyên bố cốt lõi của bài báo: rằng thế bế tắc đáng sợ đã ngăn các cường quốc hạt nhân hủy diệt lẫn nhau có đối trọng trong AI, một thứ đã tồn tại dù ai đó có thừa nhận hay không.

Chúng tôi cho rằng bài báo nắm bắt đúng một vấn đề thực sự quan trọng, và chúng tôi cũng cho rằng cơ chế cốt lõi của nó không chịu nổi trọng lượng mà tác giả đặt lên. Cả hai nhận định đều quan trọng.

Sự bế tắc mà bài báo nói đã tồn tại

Lập luận diễn ra như sau. Giả sử một quốc gia dường như sắp đạt được bước đột phá quyết định, một hệ thống sẽ mang lại, theo cách diễn đạt của bài báo, một siêu vũ khí và quyền chỉ huy tương lai. Không đối thủ nào có thể để điều đó xảy ra. Một thế giới mà một thủ đô kiểm soát siêu trí tuệ là điều không thể chấp nhận được đối với mọi thủ đô khác, giống như lợi thế tấn công phủ đầu từng không thể chấp nhận được trong Chiến tranh Lạnh.

Nhưng khác với kho vũ khí hạt nhân đã triển khai, một dự án AI đang tiến hành thì dễ bị tổn thương. Nó nằm trong các trung tâm dữ liệu có tọa độ đã biết, chạy trên lưới điện, và phụ thuộc vào các đợt huấn luyện kéo dài hàng tháng mà một cuộc xâm nhập được đặt đúng chỗ có thể âm thầm làm hỏng. Vì vậy một đối thủ bị đe dọa có các lựa chọn ngắn hơn chiến tranh, và có thang các lựa chọn đó: gián điệp, tấn công mạng bí mật làm suy giảm đợt huấn luyện hoặc đầu độc dữ liệu, phá hoại hạ tầng xung quanh, và ở bậc cực đoan, tấn công vật lý vào chính các cơ sở.

Bài báo khẳng định đây là một mô tả, mà các tác giả cho rằng đã phản ánh thực tế chiến lược mà các siêu cường AI đang đối mặt. Bất kỳ quốc gia nào công khai tranh giành vị thế thống trị AI đều phải tính đến việc dự án của mình sẽ bị phá hoại bởi đối thủ. Do đó mới có tên gọi ấy, và do đó mới có hy vọng nghịch lý: nếu mọi bên đều biết rằng cuộc chạy đua thống trị sẽ bị phá hoại, thì không ai chạy đua, và nước cờ gây bất ổn nhất trong trò chơi bị ngăn chặn. Như với MAD, các tác giả cho rằng thế bế tắc có thể ổn định qua thực hành có chủ đích: đặt trung tâm dữ liệu xa thành phố để giảm thiệt hại ở các nấc thang cực đoan, giữ các nấc mạng tách biệt rõ ràng với nấc động lực học, và mở rộng minh bạch giữa các đối thủ để không ai nhầm lẫn dự án thương mại với ý đồ thống trị.

Hai trụ cột còn lại

MAIM chiếm được tiêu đề, nhưng chiến lược có ba phần, và phần thứ hai là phần chúng tôi thấy hữu ích nhất. Không phổ biến áp dụng máy móc được xây dựng để giữ vật liệu phân hạch tránh xa khủng bố và áp dụng cho AI: theo dõi chip tiên tiến giống như uranium làm giàu được theo dõi, bảo mật trọng số mô hình chống trộm cắp, và xây dựng các biện pháp bảo vệ vào hệ thống để chúng từ chối hỗ trợ thiết kế vũ khí sinh học hoặc tấn công hạ tầng quan trọng. Trụ cột này giả định các quốc gia hợp tác về quản trị compute ngay cả khi họ cạnh tranh mọi thứ khác, đúng như Washington và Moscow từng cùng nhau kiểm soát phổ biến vũ khí hạt nhân qua những năm tháng tồi tệ nhất của Chiến tranh Lạnh.

Khả năng cạnh tranh is the realist tithe: states should strengthen their economies and militaries with AI, and above all repair fragile chip supply chains through domestic manufacturing, a concern that has since hardened into chính trị kiểm soát xuất khẩu đang định hình ngành công nghiệp.

Bài báo đặt bộ ba này đối lập với hai chiến lược mà nó bác bỏ: cuộc chạy đua không can thiệp để xây dựng siêu trí tuệ trước và hy vọng, cùng với cái mà nó coi là lệnh cấm vận toàn cầu không khả thi. Răn đe, theo cách diễn đạt này, là lựa chọn trưởng thành giữa sự liều lĩnh và ngây thơ.

Bài báo đúng ở điểm nào

Bắt đầu với thành tựu. Trong nhiều năm, lập luận tiêu chuẩn cho cuộc đua là siêu trí tuệ của đối thủ sẽ là thảm khốc, vì vậy chúng ta phải đến đó trước. "Superintelligence Strategy" lặng lẽ đảo ngược điều này. Nếu một cuộc đấu thầu đơn phương để thống trị là không thể chấp nhận được đối với đối thủ, thì mọi cuộc đấu thầu của mọi người đều không thể chấp nhận được với ai đó, và chính cuộc chạy đua trở thành mối đe dọa đối với an ninh quốc gia thay vì câu trả lời cho nó. Đến từ các tác giả có hồ sơ này, sự đảo ngược đó đã tạo ra tác động thực sự. Nó đặt mất kiểm soát và bất ổn chiến lược lên bàn làm việc của những người sẽ không bao giờ đọc một bài báo alignment, và nó thiết lập, bằng ngôn ngữ đáng kính, rằng sự kiềm chế có thể được thực thi chứ không chỉ được yêu cầu.

Trong khi đó, trụ cột không phổ biến vũ khí chỉ đơn thuần là một phần của kiến trúc hiệp ước mà chúng tôi ủng hộ, được tiếp cận từ một hướng khác. Theo dõi chip, bảo mật trọng số, và quản trị được hỗ trợ bởi phần cứng có mục đích kép: chúng phục vụ cả chế độ răn đe lẫn chế độ xác minh như nhau. Mỗi đồng đô la chi cho chúng là một đồng đô la dùng để khiến thỏa thuận tương lai có thể kiểm chứng.

Nơi phép loại suy hạt nhân gặp khó khăn

Rắc rối bắt đầu khi bạn hỏi điều gì đã làm cho MAD trở nên ổn định và kiểm tra từng yếu tố so với đối tác AI của nó.

Một vụ phóng hạt nhân là rõ ràng. Nó có thể quy trách nhiệm trong vòng vài phút, nguồn gốc biết đến từng mét, và phản ứng nó kích hoạt là chắc chắn và mọi người đều hiểu trước. Bây giờ so sánh. Một đợt huấn luyện "làm mất ổn định" trông từ bên ngoài giống hệt một đợt thương mại; cùng cụm máy, cùng mức tiêu thụ điện, cùng dấu hiệu vệ tinh. Ngưỡng không được xác định, và không phải vì thiếu nỗ lực soạn thảo mà vì năng lực không tự báo hiệu như cột khói tên lửa. Đây là vấn đề chúng ta gọi là định nghĩa AI nguy hiểm, và MAIM kế thừa toàn bộ: một chế độ răn đe cần một lằn ranh đỏ, và bài báo không thể nói chính xác lằn ranh đó nằm ở đâu.

Việc quy trách nhiệm cũng thất bại theo hướng ngược lại. Khi một lần chạy huấn luyện sụp đổ, đó là phá hoại, lỗi hay dữ liệu xấu? Một quốc gia có thể bị tấn công mà không biết, nghĩa là cuộc tấn công không ngăn chặn được gì, hoặc tin rằng mình bị tấn công khi không phải, điều đó còn tệ hơn. Răn đe hoạt động thông qua các mối đe dọa có thể nhìn thấy, đáng tin cậy và có thể quy trách nhiệm. Các chiến dịch mạng bí mật không phải là ba điều đó. Các nhà phân tích tại MIRI, RAND và những nơi khác đã nhấn mạnh chính những điểm này trong vòng vài tuần sau khi công bố, và phê phán về khả năng quan sát đặc biệt chưa bao giờ được trả lời thỏa đáng: một số nhà nghiên cứu kết luận rằng các điều kiện cho răn đe ổn định đơn giản là chưa tồn tại, và có thể đòi hỏi sự minh bạch sâu, lẫn nhau vào các trung tâm dữ liệu của đối thủ trước khi có thể.

Còn có thang leo thang chính nó. Việc bình thường hóa các cuộc tấn công vào cơ sở hạ tầng quan trọng của các quốc gia có vũ khí hạt nhân, như một nghệ thuật nhà nước thông thường, rõ ràng không phải là công thức cho sự ổn định. Câu trả lời của bài báo, giữ các nấc mạng ở dưới các nấc động lực học, giả định rằng mục tiêu của chiến dịch phá hoại chia sẻ cách đọc của bạn về việc bạn đang đứng trên nấc nào. Lịch sử Chiến tranh Lạnh là danh mục các khoảnh khắc mà những cách đọc như vậy phân kỳ, và nó đưa ra một cảnh báo khác mà bài báo không dừng lại: MAD suýt thất bại nhiều lần, qua tai nạn, báo động giả và phán đoán sai, và được cứu vãn bởi may mắn nhiều như bởi học thuyết. Áp dụng logic của nó nghĩa là chấp nhận các chế độ lỗi của nó.

Răn đe cần một đường dây kích hoạt rõ ràng và phản ứng không thể nhầm lẫn. MAIM, cho đến nay, chưa có cả hai.

Những gì MAIM không thể làm ngay cả khi nó hoạt động

Công nhận toàn bộ khuôn khổ, vẫn còn một giới hạn sâu hơn. MAIM ngăn chặn một thất bại cụ thể: một quốc gia cố tình, công khai chạy đua để thống trị đơn phương. Nó không làm gì với chế độ thất bại mà chúng ta lo ngại nhất, vì chế độ đó không có kẻ xâm lược để răn đe.

Sự misalignment không quan tâm lá cờ nào bay trên trung tâm dữ liệu. Một thế giới gồm các chương trình đối thủ, mỗi bên cẩn thận giữ dưới ngưỡng phá hoại, vẫn là một thế giới đua tranh hướng tới các hệ thống mà không ai kiểm soát được, với áp lực thường thấy của cuộc đua là cắt xén an toàn vẫn còn nguyên. Tệ hơn nữa, MAIM còn tạo thêm áp lực riêng: các dự án dưới nguy cơ phá hoại có mọi lý do để ẩn giấu, củng cố và phân tán, và sự bí mật là kẻ thù của mọi thực tiễn an toàn đáng giá. Răn đe kiểm soát đối thủ trong khi vấn đề kiểm soát chính nó không bị kiểm soát, và những con đường thảm họa chậm hơn, thầm lặng hơn, bao gồm mất quyền lực dần dần mà không cần bất kỳ nỗ lực thống trị nào, hoàn toàn nằm ngoài tầm radar của nó.

Một bế tắc cũng không phải là trạng thái nghỉ ngơi. MAD có thể chấp nhận được vì ngăn chặn việc sử dụng một vũ khí hiện có là nhiệm vụ có giới hạn. MAIM phải ngăn chặn sự phát triển của một năng lực đang thay đổi, mãi mãi, với các ngưỡng dịch chuyển mỗi năm khi thuật toán ngày càng hiệu quả và biên giới compute phân tán. Quản lý khủng hoảng vĩnh viễn là một cuộc đếm ngược được gắn nhãn hiệu tốt, chứ không phải chiến lược.

Răn đe và hiệp ước không phải là đối thủ

Răn đe hạt nhân chưa bao giờ đứng một mình. Nó trở nên khả thi nhờ vào hệ thống máy móc nhàm chán được gắn thêm qua nhiều thập kỷ: đường dây nóng, thanh tra, NPT, SALT, START các giao thức xác minh cho phép mỗi bên đếm đầu đạn của bên kia. MAD cung cấp nỗi sợ; kiểm soát vũ trang chuyển nỗi sợ thành quy tắc trước khi nỗi sợ tự biến thành chiến tranh. Việc viện dẫn nửa đầu của lịch sử đó trong khi bác bỏ nửa sau, như bài báo làm khi coi sự kiềm chế có phối hợp là không tưởng, là trích dẫn Chiến tranh Lạnh một cách có chọn lọc.

Và hai nửa chia sẻ một động cơ. Để đe dọa phá hoại một cách đáng tin cậy, một quốc gia phải nhìn thấu chương trình AI của đối thủ đủ để biết khi nào một cuộc chạy đua thống trị đang diễn ra. Sự giám sát đó, các vệ tinh, theo dõi chip, tình báo về các lần huấn luyện, là phần lớn những gì một hiệp ước về siêu trí tuệ nhu cầu xác minh. Bài báo, đọc ngược với ý định của chính nó, là lập luận rằng phần khó nhất của một hiệp ước đã được xây dựng.

Vậy phán quyết của chúng tôi hẹp hơn những gì cả người hâm mộ lẫn nhà phê bình gay gắt nhất của bài báo sẽ viết. MAIM có giá trị như một mô tả: nó đặt đúng tên cho thế bế tắc, xác lập rằng các cuộc chạy đua đơn phương sẽ bị kháng cự, và cho các cơ quan quốc phòng biết rằng cuộc đua là mối đe dọa chứ không phải giải pháp. Nó thất bại như một đích đến, bởi vì một thế bế tắc vĩnh viễn, không xác định, ngầm giữa các cường quốc hạt nhân không phải là ổn định, và vì nó để nguyên nguồn rủi ro tồn tại thực sự, chính các hệ thống, không được quản trị. Răn đe mua thời gian. Một thỏa thuận quốc tế đã được xác minh là điều mà thời gian dành cho.