Drop me into 1958 and I do not think I would have hesitated. I would have spent my life trying to keep the world from ending. My foundation would have worked on keeping the United States and the Soviet Union from a thermonuclear war, not out of any special courage, but because that was the fight that decided whether there would be a future to argue about at all. Every other cause sat downstream of it.

Tôi không có được cuộc chiến ấy. Quả bom đã được chế tạo, nhắm và, cho đến nay, chưa bao giờ được sử dụng lại vào một thành phố sau năm 1945. Những người tạo ra cái "cho đến nay" ấy, những người đã dành Chiến tranh Lạnh xây dựng lệnh cấm thử nghiệm, các đường dây nóng và các chế độ xác minh giữ cho thế đối đầu đáng sợ không trở thành thế đối đầu cuối cùng, đã làm một trong những công việc quan trọng nhất của thế kỷ trước. Hầu hết họ sẽ không bao giờ nổi tiếng vì điều đó. Ngăn chặn vốn là việc yên lặng. Khi nó hoạt động, không có gì xảy ra, và không có gì là thứ khó để đặt lên một đài tưởng niệm.

Cùng hình dạng, một vũ khí mới

When I say we are living through a new Cold War, I mean the same shape: the United States and China racing toward a technology neither can let the other reach first, that could end the human story if it goes wrong, and that no one racing can honestly claim to control. Swap the hydrogen bomb for artificial superintelligence and you have 1958 and 2026 in one sentence.

Tôi không phải người duy nhất nghe thấy tiếng vọng. Tháng Sáu, giám đốc CIA nói với khán giả ở Washington rằng sẽ không sai khi gọi khả năng của AI tiên phong hiện nay là "vũ khí hạt nhân kỹ thuật số."

Những khác biệt lại đi theo hướng sai

Có những khác biệt thực sự giữa lúc đó và bây giờ, và đây là phần khiến tôi mất ngủ. Hầu hết chúng khiến tình huống của chúng ta khó khăn hơn, không dễ dàng hơn. Vũ khí hạt nhân nằm trong tay con người; một siêu trí tuệ sẽ không. Vật liệu hạt nhân là vật chất, nên có thể khai thác và đếm được. Đầu vào của AI là chip và mã nguồn, khó nhìn thấy hơn và dễ giấu hơn, mặc dù không phải là không thể quản trị. Và Chiến tranh Lạnh đã trao cho những người tham gia một thứ mà chúng ta có thể không có được, đó là thời gian. Thế giới có nhiều năm để hấp thụ Hiroshima, để cảm nhận nỗi sợ trong dạ dày, và để xây dựng các thể chế để ứng phó. Năng lực AI đang tích lũy nhanh hơn bất kỳ thể chế nào chúng ta có thể theo kịp.

Những gì Chiến tranh Lạnh thực sự chứng minh

Nhưng cùng thời đại đó đã phá tan tuyên bố mà phe tăng tốc dựa vào mạnh mẽ nhất: rằng các đối thủ không tin tưởng nhau không bao giờ có thể đồng ý kiềm chế. Washington và Moscow không tin tưởng nhau chút nào, nhưng vẫn ký các thỏa thuận kiểm soát vũ trang ràng buộc và có thể kiểm chứng, vì cả hai đều thấy một cuộc chạy đua không giới hạn khiến họ thiệt hại hơn là một quy tắc ràng buộc cả hai như nhau. Sự bất tín chính là lý do cho các hiệp ước, chứ không phải trở ngại. Nếu hai chính phủ có thể tìm ra logic đó khi hàng chục nghìn đầu đạn hạt nhân chĩa vào thành phố của nhau, thì tuyên bố tự tin rằng Hoa Kỳ và Trung Quốc không bao giờ làm được điều tương tự với AI chỉ là cái cớ để tiếp tục, được ngụy trang thành chủ nghĩa hiện thực cứng rắn.

Tại sao Quỹ tồn tại

Cuộc chiến tương đương đã rơi vào thế hệ tôi, và lần này tôi có mặt. Tôi từ chối trở thành thế hệ đã chế tạo vũ khí có khả năng tự nhắm và tự nhủ, suốt chặng đường, rằng mình không có lựa chọn.

Những người ngăn chặn điều tồi tệ nhất của Chiến tranh Lạnh đã làm điều đó bằng cách khăng khăng, bất chấp sự phản đối của mọi người gọi họ là ngây thơ, rằng một số công nghệ quá nguy hiểm để để cho cuộc chạy đua quyết định. Họ đúng lúc đó. Nhiệm vụ duy nhất quan trọng bây giờ là đúng lần nữa, và đúng đúng lúc.