Khi một AI đã xâm nhập vào gần như tất cả các hệ thống phân loại của NSA chỉ trong một buổi chiều, mọi người đã chú ý. Tốt. Bài học đã thấm. Nhưng an ninh mạng là rủi ro chúng ta nhận thấy, và nó không phải là rủi ro tồi tệ nhất trên bàn. Thứ tôi không thể khiến ai nhìn vào là AI và sinh học, nơi cùng một bước nhảy vọt về năng lực đang âm thầm rút ngắn khoảng cách giữa một người bình thường và một mầm bệnh.
Một mạng bị hack có thể xây dựng lại. Một sinh vật được thả ra thì không thể thu hồi.
Một phân tích năm 2025 ước tính AI đã làm tăng nguy cơ đại dịch do con người cố ý thiết kế lên khoảng năm lần. Con số đó xuất phát từ hai thay đổi đồng thời: AI khiến các thí nghiệm nguy hiểm nhanh hơn, và khiến chúng tốt hơn.
Nhanh hơn, và thông minh hơn
Bắt đầu bằng tốc độ. Trong các đánh giá về Mythos, được cho là mô hình mạnh nhất của Anthropic, các giao thức sinh học mà một đội ngũ được đào tạo sẽ kỳ vọng mất khoảng hai tháng đã hoàn thành trong chưa đầy hai ngày. Mười sáu giờ làm việc, từ đầu đến cuối. Những bước từng là nút thắt cổ chai đã không còn là như vậy.
Bây giờ đến chất lượng. Trong một bài tập, các nhà nghiên cứu chia các nhà sinh học thành hai loại đội. Một loại gồm những người đa năng không có chuyên môn đặc biệt về vấn đề trước mắt. Loại kia là chuyên gia đúng vào vấn đề đó. Với câu hỏi khó, các đội đa năng làm việc cùng Mythos đã vượt hai phần ba số đội chuyên gia. Mô hình có thể trao cho người chưa qua đào tạo thứ gì đó gần với chuyên môn.
COVID không phải là trần
Một đại dịch như COVID-19 gần với mức sàn hơn là trường hợp tồi tệ nhất. Có những khả năng được thiết kế gây chết chóc hơn nhiều, và khả năng rõ ràng nhất có tên: mirror life.
Mọi sinh vật sống trên Trái Đất được xây dựng từ các phân tử có cùng hướng quay. Protein, DNA của chúng ta, và các hệ thống miễn dịch nhận diện kẻ xâm nhập đều định hướng một chiều. Sự sống gương sẽ được xây dựng theo chiều ngược lại, một phản chiếu hóa học của sự sống thông thường. Về lý thuyết nó sẽ hoạt động. Về lý thuyết không có gì trong cơ thể chúng ta, và không có gì trong bất kỳ động vật hoặc thực vật nào, biết cách chống lại nó, vì các hệ thống phòng thủ của chúng ta được định hình để nắm phiên bản thông thường và sẽ không tìm được điểm bám trên phiên bản gương. Ai đó bị nhiễm vi khuẩn gương có thể không tạo ra phản ứng miễn dịch nào cả, và đơn giản là chết.
Đây không phải suy đoán ngoài lề. Cuối năm 2024, một nhóm nhà khoa học, trong đó có vài người đoạt giải Nobel, đã công bố cảnh báo trên tạp chí Khoa học kêu gọi không ai xây dựng vi khuẩn gương, với lý do sẽ không có cách phòng thủ nào chống lại chúng. Một số nhà nghiên cứu từng hướng tới các mảnh ghép của nó đã dừng lại. Lời cảnh báo đã có tác dụng, điều này cho thấy những người gần gũi nhất với khoa học đã coi nguy cơ nghiêm trọng. Theo hầu hết ước tính lúc bấy giờ, việc tổng hợp sự sống gương thực sự còn cách ít nhất một thập kỷ.
Chúng ta từng có khoảng mười năm để thở trước khi sự sống phản chiếu có thể chế tạo được. Ước tính đó được đưa ra trước khi tính đến yếu tố AI.
Bộ đệm được đo lường mà không có AI
Các mô hình biên giới ngày nay, một khi đã được huấn luyện an toàn, hầu hết từ chối một yêu cầu vũ khí sinh học, và những gì trượt qua vẫn cần một nhà điều hành có thẩm quyền, xác định là nguy hiểm. Không an toàn, nâng lên những mô hình bàn tay một nghiệp dư được thúc đẩy là lớn, năm lần trong một số đánh giá năng lực. Sau khi có biện pháp bảo vệ, việc sử dụng trở nên khó khăn hơn nhiều. Tôi không hoàn toàn tin tưởng nó.
Mối lo ngại lớn hơn của tôi là AI đang đẩy nhanh toàn bộ lĩnh vực sinh học và xây dựng các công cụ đa năng tốt hơn có thể bị tái sử dụng. Cùng một hệ thống rút ngắn dự án ung thư cũng có thể rút ngắn con đường đến một sinh vật phản chiếu, ngay cả khi không ai cố tình chế tạo vũ khí. Một khoảng đệm mười năm không thể tồn tại nguyên vẹn trước loại nhân tố nhân lên đó.
Phản hồi cho đến nay còn mỏng. Các giám đốc điều hành và nhà nghiên cứu hàng đầu đã kêu gọi sàng lọc các đơn đặt hàng tổng hợp DNA, để một yêu cầu về vật liệu di truyền của một sinh vật nguy hiểm bị gắn cờ trước khi vận chuyển. America's 2025 AI Action Plan đã ủng hộ ý tưởng này. Tốc độ thực hiện thực tế không hề gần với tốc độ của năng lực. Ít nhất các phòng thí nghiệm đóng cửa coi trọng vấn đề này; các mô hình trọng số mở tụt hậu về nâng cao sinh học khoảng một năm, và một năm là sự chậm trễ, không phải an toàn.
Tại sao đây thực sự là vấn đề siêu trí tuệ
Mọi lập luận trên đều giả định có con người trong vòng lặp, sử dụng AI như công cụ. Điều đó đã đủ khó. Họ đang chạy đua xây dựng hệ thống tự đặt mục tiêu và hành động độc lập, và vượt quá một ngưỡng nhất định, hướng tới siêu trí tuệ nhân tạo: một trí óc tổng quát có năng lực hơn chúng ta ở mọi thứ, bao gồm sinh học, không phải thế giới mà các phòng lab đang hướng tới.
Một hệ thống nén hai tháng làm việc phòng thí nghiệm thành mười sáu giờ, biến một người đa năng thành chuyên gia, đọc lộ trình đến một sinh vật phản chiếu giống như đọc một đoạn văn, chính là loại năng lực mà một trí tuệ siêu nhân sẽ có và sẽ không cần sự cho phép của chúng ta để sử dụng. Chúng ta đã nghi ngờ mình không thể kiểm soát một hệ thống như vậy. Sinh học là một trong những cách trực tiếp nhất mà một hệ thống không kiểm soát có thể tiếp cận thế giới vật lý: âm thầm và ở quy mô lớn, chống lại các biện pháp phòng thủ chưa bao giờ được xây dựng cho nó.
Đó là lý do câu trả lời của Foundation là ngăn ngừa, không phải tinh chỉnh. Bạn không thể vá lỗi để đạt an toàn trước một trí óc thiết kế mầm bệnh và cách né hệ miễn dịch của bạn trong cùng một buổi chiều. Sự bảo vệ duy nhất bền vững là không xây dựng hệ thống không kiểm soát được ngay từ đầu, và áp dụng cùng loại giới hạn ràng buộc, được xác minh đối với AI nguy hiểm nhất mà thế giới từng áp dụng cho vũ khí sinh học. Kế hoạch của chúng tôi được xây dựng xoay quanh chính điều đó.
Chúng ta thức tỉnh với AI và an ninh mạng vì một tiêu đề buộc phải như vậy. Tôi muốn chúng ta thức tỉnh với AI và sinh học trước khi có tiêu đề, chứ không phải sau đó.
Chúng ta coi một AI đi qua mạng lưới phân loại của quốc gia là lời cảnh tỉnh, và đúng là vậy. Một AI hạ thấp ngưỡng để tạo ra đại dịch do con người thiết kế xứng đáng nhận được cùng mức báo động nhưng gần như không nhận được gì. Một mạng lưới có thể xây dựng lại. Một sinh vật được thả ra không thể thu hồi, và với một số loại, không có gì chúng ta có sẽ cố gắng chống lại.
Sự phản đối mạnh mẽ nhất
Phản biện công bằng nhất là an ninh sinh học đã kiểm soát các tác nhân xấu và AI-bio chỉ là thổi phồng. Các biện pháp kiểm soát hiện có được xây dựng cho một thế giới không có sự hỗ trợ không mệt mỏi của mô hình. Khi công cụ nén kỹ năng và thời gian, tiêu chuẩn cũ thay đổi. Chờ đợi một vụ phát hành để chứng minh là tiêu chuẩn sai lầm đối với mầm bệnh.