Khoảng cách Shoggoth
Liệu có Khoảng cách Tên lửa
Lại nữa

Một nhà nghiên cứu Trung Quốc nói với đồng nghiệp mẹo để có ngân sách nghiên cứu lớn ở quê nhà: nói rằng Hoa Kỳ đã đi trước rất xa, và Trung Quốc sẽ không bao giờ bắt kịp nếu không có thêm tiền. Phiên bản Mỹ là hình ảnh phản chiếu. Nói rằng Trung Quốc đã đi trước, và chúng ta đang tụt lại sau. Tiền chảy về cả hai bên. Khoa học có tốt hơn nhờ đó hay không là câu hỏi riêng.

Tên cũ của nó là gây quỹ: thủ thuật ngân sách an ninh quốc gia lâu đời nhất trên trái đất, nhắm vào một công nghệ không thưởng cho người thắng cuộc.

Cuộc trao đổi được đưa tin vào giữa năm 2026 này thuộc về chương cũ nhất trong sách lược an ninh quốc gia, được lôi ra dùng cho một công nghệ mới. Trong Chiến tranh Lạnh, khẩu hiệu là "khoảng cách tên lửa". Giờ đây nó gần hơn với "khoảng cách shoggoth": tuyên bố rằng bên kia sắp xây dựng một cỗ máy trí tuệ không kiểm soát được, nên ta phải xây dựng trước, nhanh hơn và với ít phanh hơn. Logic ngân sách thì giống hệt. Còn mức độ nghiêm trọng thì không.

Làm sao một khoảng trống lại trở thành một tờ séc trắng

Khoảng cách tên lửa ban đầu là một công cụ chính trị. Vào cuối những năm 1950, các quan chức và ứng cử viên Mỹ cảnh báo rằng Liên Xô đang vượt qua Hoa Kỳ trong cuộc chạy đua tên lửa đạn đạo liên lục địa. Lời tuyên bố đã chuyển dòng tiền, ảnh hưởng bầu cử và cấu trúc lực lượng. Khi có tình báo chính xác hơn, khoảng cách ấy hầu như tan biến. Người Xô Viết có ít tên lửa hơn những gì các bài diễn văn đòi hỏi. Chi tiêu không đảo ngược gọn gàng như ước tính.

Mô hình đó hữu ích vì nó nhàm chán. Bạn không cần một âm mưu. Bạn cần hai hệ thống đối thủ, mỗi bên có phòng thí nghiệm và bộ ngành phát triển khi câu chuyện đe dọa phát triển, và mỗi bên có lãnh đạo thà chi quá mức cho một câu chuyện đáng sợ còn hơn bị bắt gặp vì chi quá ít cho một mối đe dọa thực sự. Động thái quan liêu an toàn luôn giống nhau: giả định điều tồi tệ nhất về phía bên kia, yêu cầu thêm, và coi sự kiềm chế là ngây thơ.

Thay tên lửa bằng mô hình tiên phong và các động lực lại thẳng hàng. Một phòng thí nghiệm muốn chip, nhân tài và sự kiên nhẫn của cơ quan quản lý có mọi lý do để nói đối thủ chỉ cách sáu tháng trước một lợi thế quyết định. Một bộ muốn ngân sách AI lớn hơn có mọi lý do để tin điều đó. Một chính trị gia không muốn bị đổ lỗi vì "thua" có mọi lý do để tài trợ cả hai. Không ai trong vòng lặp ấy được trả tiền để hỏi liệu vạch đích có phải là giải thưởng ai cũng có thể giữ.

Khoảng cách là một câu chuyện ngân sách trước khi trở thành sự thật. Vấn đề lúc nào cũng là ai hưởng lợi khi bạn coi nó như thời tiết.

Những gì shoggoth gap ngấm ngầm mang theo

Phiên bản hiện đại sắc bén hơn thời Chiến tranh Lạnh, vì đối tượng của cuộc chạy đua là khác biệt. Tên lửa là vũ khí do nhà nước sở hữu. Siêu trí tuệ nhân tạo, nếu những người xây dựng nó trung thực về rủi ro, là hệ thống chưa ai chứng minh được khả năng kiểm soát. Chúng tôi đã phân tích chi tiết tuyên bố đó trong bài viết của chúng tôi về huyền thoại cuộc đua. Phiên bản ngắn gọn: đến đó trước tiên nghĩa là là người đầu tiên phải đối mặt với thứ gì đó bạn không thể kiểm soát.

Câu chuyện về khoảng cách cần bạn không nhận ra điều đó. Nó cần vạch đích trông giống như chìa khóa silo, thứ mà một tổng thống nắm giữ. Khi đó "chậm chân" nghe như tình trạng khẩn cấp quốc gia, còn "chậm lại cho đến khi chúng ta biết cách kiểm soát" nghe như giải trừ vũ trang đơn phương. Cách khung này làm việc trước khi bất kỳ bằng chứng nào xuất hiện.

Nhìn vào những gì thực sự phải đúng để phiên bản khẩn cấp đứng vững. Đối thủ phải vừa có khả năng xây dựng một siêu trí tuệ không kiểm soát được trong tương lai gần, vừa đủ háo hức làm điều đó đến mức không có lợi ích chung nào về sự sống còn có thể làm chậm họ. Điều này hiếm khi được lập luận với sự cẩn thận nó xứng đáng. Thường xuyên hơn nó được khẳng định, rồi dùng như giấy phép cho lần huấn luyện tiếp theo.

Trung Quốc đã ký các tuyên bố rủi ro AI quốc tế, công bố đề xuất quản trị riêng và tham gia đối thoại trực tiếp với Hoa Kỳ về chủ đề này. Không điều nào chứng minh thiên thần cai trị Bắc Kinh. Nó chứng minh rằng "họ sẽ xây dựng thứ không thể kiểm soát bất kể điều gì" là một dự đoán, không phải một phát hiện. Những dự đoán cấp phép cho ngân sách ưa thích của bạn xứng đáng được xem xét kỹ lưỡng hơn một khẩu hiệu.

Cả hai bên đều có thể đúng về thủ thuật và sai về cách chữa trị

Thủ thuật tài trợ hoạt động vì có sự cạnh tranh thực sự bên dưới nó. Các phòng thí nghiệm Mỹ và Trung Quốc theo dõi lẫn nhau. Các biện pháp kiểm soát xuất khẩu chip tiên tiến tồn tại vì cuộc cạnh tranh công nghiệp là có thật. Thechính trị của những kiểm soát đó và huyền thoại Trung Quốc rộng lớn hơn những thứ biến sự cạnh tranh thành định mệnh là những câu hỏi còn sống. Phủ nhận sự cạnh tranh không phải là điểm mấu chốt.

Vấn đề nằm ở cách đối đầu được dùng để biện minh. Trong một cuộc đua công nghệ thông thường, tiền nhiều hơn mang lại sản phẩm tốt hơn mà bạn vẫn sở hữu. Trong cuộc đua hướng tới siêu trí tuệ, tiền nhiều hơn mang lại cách tiếp cận nhanh hơn đến một hệ thống mà theo chính ước tính rủi ro của người xây dựng, có thể không còn là sản phẩm nữa. Câu nói từng lấp đầy các hầm chứa tên lửa nay đang lấp đầy các trung tâm dữ liệu, và những người ký séc hiếm khi được yêu cầu ngồi lại để nhận ra sự khác biệt.

Khi cả hai thủ đô chạy cùng một vở kịch ("họ đang dẫn trước, hãy tài trợ cho chúng tôi"), cân bằng đạt được là tăng tốc lẫn nhau, không phải an toàn. Sự liều lĩnh của mỗi bên trở thành bằng chứng cho bên kia. Đó là cách bạn có được một cuộc đua chọn ra phòng thí nghiệm ít cẩn thận nhất, và cách một heuristic ngân sách trở thành con đường tuyệt chủng mà không ai cần phải muốn tuyệt chủng.

Nước đi không có trong bản tóm tắt

Các đối thủ Chiến tranh Lạnh cuối cùng nhận ra rằng một số cuộc chạy đua không có vạch đích nào chấp nhận được. Họ không trở thành bạn bè. Họ xây dựng cơ chế kiểm chứng xung quanh những vũ khí có thể hủy diệt cả hai bên, vì cạnh tranh không giới hạn khiến mọi người đều thiệt hại nhiều hơn so với một quy tắc ràng buộc họ như nhau. Sự bất tín là lý do cho giấy tờ, chứ không phải rào cản đối với nó.

Siêu trí tuệ có cùng cấu trúc, chỉ sạch hơn. Không cường quốc lớn nào hưởng lợi từ một hệ thống mà không ai kiểm soát được. Lợi ích chung đó là nền tảng để một hiệp ước đứng vững: một lệnh dừng siêu trí tuệ mang tính ràng buộc, có thể xác minh theo luật pháp ràng buộc. Không phải một bài phát biểu. Không phải một lệnh tạm dừng tự nguyện hết hạn khi đối thủ hắt hơi. Một thỏa thuận có thanh tra viên, hậu quả và bộ máy nhàm chán đã khiến kiểm soát vũ trang trở nên thực tế.

Câu chuyện khoảng cách không có chỗ cho lựa chọn đó, vì câu chuyện khoảng cách là công cụ gây quỹ. Nhiệm vụ của nó là khiến khoản chi tiêu tiếp theo trở nên không thể tránh khỏi. Nhiệm vụ của chúng ta hẹp hơn. Nhận ra khi nào "chúng ta đang tụt hậu" đang làm công việc của một lập luận mà nó chưa kiếm được, và từ chối để một thủ đoạn ngân sách Chiến tranh Lạnh quyết định liệu loài người có giữ được chìa khóa hay không.