Vào ngày 27 tháng 7 năm 2026, Anthropic đã xuất bản Quan điểm của Dario Amodei về mô hình open-weights. Bài viết cẩn thận với một tranh cãi. Amodei không muốn lệnh cấm toàn diện đối với trọng số mở, và ông không muốn các quy tắc chỉ khóa các doanh nghiệp Mỹ ra khỏi các mô hình nước ngoài trong khi để các tác nhân xấu tự do. Điều đó hợp lý trong cuộc chiến hẹp đó.

Sau đó anh ta xếp hạng những cơn ác mộng.

Chính: các chính phủ độc tài, trên hết là Đảng Cộng sản Trung Quốc, chế tạo AI mạnh hơn Mỹ và sử dụng nó cho ưu thế quân sự vĩnh viễn hoặc đàn áp sâu. Thứ yếu: tấn công mạng, tấn công sinh học, và "vấn đề liên kết nghiêm trọng". Các biện pháp khắc phục tiếp theo là bộ công cụ chạy đua. Giữ chip khỏi Trung Quốc. Ngăn chặn chưng cất công nghiệp. Yêu cầu kiểm tra an toàn trước khi phát hành. Giữ vị trí dẫn đầu.

Xếp hạng đó là sai lầm mà mọi thứ khác đều dựa vào.

Những gì ông ấy đúng

Một số tuyên bố của ông ấy đúng.

Một lệnh cấm chỉ ngăn các công ty Mỹ sử dụng mô hình trọng số mở gần như không ảnh hưởng gì đến tội phạm, cơ quan tình báo nước ngoài, hay bất kỳ ai chưa bao giờ định tuân thủ. Gọi đó là "an toàn" trong khi chủ yếu che chở các phòng thí nghiệm Mỹ khép kín khỏi cạnh tranh là trò đánh tráo. Amodei nói rõ điều đó, và ông đúng.

AI dùng cho giám sát và đàn áp là nỗi kinh hoàng thực sự ở quy mô dưới siêu trí tuệ. Các chế độ độc tài đã lạm dụng nhận diện khuôn mặt, chấm điểm xã hội và kiểm duyệt tự động. Hệ thống mạnh hơn sẽ khiến bộ máy ấy rẻ hơn và khó thoát khỏi hơn. Bạn không cần khoa học viễn tưởng để lo ngại điều đó.

Trọng số mở thực sự tạo ra vấn đề cửa một chiều một khi mô hình có thể gây thiệt hại thực sự. Trọng số rời khỏi phòng thí nghiệm không thể thu hồi. Về điểm này, mối quan tâm thứ cấp của ông trùng với công việc chúng tôi đã thực hiện về rủi ro biên giới trọng lượng mở. Các rào chắn chỉ tồn tại trong API không phải là câu trả lời đầy đủ, và chúng cũng không phải là không có gì.

Không có điều nào trong đó cấp phép cho thứ hạng chính.

Giải thưởng

Chính phủ độc quyền sẽ xây dựng các mô hình mạnh mẽ hơn và sử dụng chúng để đạt ưu thế quân sự vĩnh viễn hoặc đàn áp chính người dân mình. Mô hình chỉ là công cụ. Nhà nước mới là người dùng. Chiến thắng nghĩa là một bên nắm vũ khí thông minh hơn.

Nó phù hợp với drone, công cụ mạng và hệ thống giám sát vẫn nằm dưới sự chỉ huy của con người. Nó không phù hợp với trí tuệ siêu nhân tạo.

Một hệ thống thông minh hơn các thể chế đã xây dựng nó không phải là một khẩu súng trường trong tay Quân Giải phóng Nhân dân, và cũng không phải là một khẩu súng trường trong tay Lầu Năm Góc. Nếu rủi ro mà những người như Amodei đã dành nhiều năm mô tả là có thật, vạch đích là một tác nhân có khả năng tự lập kế hoạch, lừa dối, thu thập tài nguyên và chống lại việc tắt nguồn. Phòng thí nghiệm, hay bộ, "thắng" không sở hữu tác nhân đó. Nó chia sẻ một hành tinh với nó. Chúng ta đã phân tích logic đó trong huyền thoại chủng tộc: đến trước với một hệ thống bạn không thể điều khiển là thua một bước trước mọi người.

Ưu thế quân sự vĩnh viễn giả định rằng ai đó vẫn đang kiểm soát thứ đã khiến quân đội trở nên lỗi thời.

Danh sách thứ cấp của Amodei gần như thừa nhận điều này. "Vấn đề alignment nghiêm trọng" là tên lịch sự cho việc mất kiểm soát. Ông đặt nó ở vị trí thứ hai. Ông dồn hỏa lực chính vào việc ai đến trước. Thứ tự đó cho bạn biết câu chuyện nào ông vẫn đang chạy: địa chính trị trước, rủi ro loài người như phần phụ.

Hai mối nguy, một nhãn

Một phần nhầm lẫn xuất phát từ ngôn ngữ. "AI mạnh" bao gồm cả camera gián điệp tốt hơn lẫn một trí óc vượt trội so với người vận hành. Đó là những đối tượng khác nhau với những chính trị khác nhau.

AI hẹp và quy mô trung bình có thể tập trung quyền lực vào tay con người. Một bộ nội vụ chấm điểm từng công dân, một quân đội triển khai bầy đàn dưới mệnh lệnh sĩ quan, một lực lượng cảnh sát đọc mọi tin nhắn: đó là các chế độ độc tài của con người được trang bị công cụ tốt hơn. Chúng quan trọng. Nhưng chúng không phải là vấn đề giống như việc xây dựng một loài kế thừa.

Siêu thông minh là đối tượng thứ hai. Bắc Kinh sử dụng nó trên Xenjiang, hay Washington sử dụng nó ở Thái Bình Dương, vẫn coi hệ thống này như vũ khí trong tay người khác. Không ai sử dụng nó, bởi vì "dùng" dừng lại là động từ đúng. Gấp đôi hệ thống tuyệt chủng vào cùng một câu như con chip ăn cắp và máy giám sát chìm sâu hơn cho phép câu chuyện đua mượn sức nặng đạo đức từ sự đàn áp thực sự trong khi né tránh những tuyên bố khó khăn hơn: không xây dựng điều không kiểm soát được ở tất cả.

Các Huyền thoại Trung Quốc là bản trong nước của bước đi này. "Họ sẽ xây nó dù sao" được đưa ra như lý do chúng ta phải làm. Một siêu trí tuệ lệch alignment không tha Zhongnanhai. Bắc Kinh có cùng lý do với chúng ta để không vượt đường đó. Cạnh tranh chip và ứng dụng là thật. Cạnh tranh ai được thả một trí óc không thể sở hữu là câu chuyện biến thảm họa chung thành bảng điểm quốc gia.

Các biện pháp khắc phục duy trì cuộc đua

Hãy xem ba biện pháp của Amodei tối ưu hóa cho điều gì. Kiểm soát xuất khẩu chip làm chậm các lần huấn luyện của Trung Quốc. Các biện pháp trấn áp chưng cất làm chậm quá trình bắt kịp. Kiểm tra bắt buộc cố gắng phát hiện các lỗi mạng, sinh học và alignment trước khi phát hành. Mỗi cái có thể là công cụ hợp lý cho những tác hại nhỏ hơn. Cùng nhau, như một chương trình, chúng là cách bạn quản lý một cuộc đua mà bạn vẫn định thắng.

Chúng không phải cách bạn từ chối điểm đến. Kiểm thử hệ thống trên đường đến siêu trí tuệ không giống lệnh cấm được xác minh đối với việc xây dựng một hệ thống như vậy. Kiểm soát chip nhằm vào lợi thế Mỹ giả định lợi thế là chiến lược an toàn. Lợi thế chỉ an toàn nếu thứ bạn dẫn đầu có thể bị giữ lại. Mối quan tâm chính của Amodei đòi hỏi giả định đó. Mối quan tâm thứ cấp của ông phá hoại nó.

Có một điểm động lực kín đáo hơn. Anthropic là một phòng lab frontier của Mỹ. Một thế giới quan mà công việc chính là giữ các phòng lab dân chủ đi trước các chế độ độc tài cũng là thế giới quan mà việc leo núi toàn tốc của Anthropic trở thành phục vụ công. Tôi không cần nhân vật phản diện hoạt hình để nhận ra sự vừa vặn. Động lực định hình nỗi ác mộng nào nằm ở vị trí chính.

Mối nguy hiểm thực sự là gì

Mối nguy hiểm thực sự là nhân loại xây dựng artificial superintelligence trước khi ai đó có thể kiểm soát nó, và có thể trước khi ai đó có thể kiểm soát nó ngay cả về nguyên tắc. Rủi ro ấy không quan tâm liệu lần huấn luyện diễn ra ở California, Thượng Hải, London hay một tầng hầm mật. Nó không quan tâm trọng số là mở, đóng hay được giao tận tay cho một tướng lĩnh. Nó quan tâm đến việc hệ thống đủ thông minh để khiến sự giám sát của con người trở thành câu chuyện chúng ta kể cho chính mình.

Lạm dụng quan trọng. Sinh học và mạng quan trọng. Giám sát độc tài quan trọng. Đặt chúng lên bảng. Sau đó đặt mảnh lớn hơn lên trên: một khi bạn có siêu trí tuệ, khung lạm dụng quá nhỏ. Lạm dụng giả định một con người lạm dụng. Mất kiểm soát giả định con người không còn là tác nhân chính.

Amodei biết alignment có thể thất bại. Ông đã nói các phiên bản của điều đó trong nhiều năm. Đặt "ai nắm mô hình thông minh hơn" lên trên "mô hình không bị nắm" là cách một người cẩn thận vẫn nói như một người chạy đua. Thứ tự trung thực là ngược lại. Nếu alignment và kiểm soát chưa được giải quyết, cuộc tranh đua ưu thế quân sự ở biên giới là cuộc tranh đua ai nhấn nút tuyệt chủng trước: trò roulette Nga với cờ trên nòng súng, được bán dưới danh nghĩa an ninh quốc gia.

Nên làm gì thay vào đó

Giữ lại những phần trong chương trình của ông nhắm vào các tác hại nhỏ hơn thực sự mà không biến chúng thành lệnh thắng ASI. Kiểm tra nâng cấp sinh học và mạng khi khoa học hỗ trợ. Xem việc phát hành mở không thể đảo ngược các hệ thống tổng quát gần biên giới là quyết định nghiêm túc, không phải bài tập xây dựng thương hiệu. Chính sách xuất khẩu chip có thể phục vụ cân bằng quân sự thông thường giữa các hệ thống con người vẫn vận hành.

Sau đó từ chối cái khung làm cho tình báo Mỹ trở thành lá chắn chống lại tình báo Trung Quốc. Tấm khiên là một quyết định chung không xây dựng nó: một lệnh cấm có thể kiểm tra được về siêu thông tin nhân tạo, với sự quản lý tính toán và kiểm tra đủ mạnh để sự đào ngũ xuất hiện. Thời tiền sử đã ký hợp đồng tệ hại hơn khi cả hai bên đều có thể nhìn thấy sự thay thế không giới hạn còn tệ hơn.

Bài đăng open-weights của Amodei hữu ích như một bản đồ cho thấy CEO biên giới xếp hạng thế giới như thế nào. Buôn lậu chip, chưng cất, thử nghiệm: đó là những nút điều chỉnh ông ấy muốn vặn. Nút quan trọng nhất thì không xuất hiện. Ngừng xây dựng siêu trí tuệ. Cho đến khi đó trở thành mối quan tâm chính, phần còn lại chỉ là quản lý cuộc đua trá hình thành an toàn.