Peter H. Diamandis nói rõ ràng, và Elon Musk đã repost: “Chỉ AI mới có thể theo kịp AI. Đó là điều sẽ định hướng toàn bộ mô hình an ninh của thập kỷ tới.” Như một mô tả về tốc độ, câu nói khó tranh cãi. Các bản phát hành mô hình đến nhanh hơn các hội đồng xem xét hàng quý. Mã tấn công biến đổi nhanh hơn một nhà phân tích con người có thể đọc ticket. Nếu hình dung của bạn về vấn đề là khối lượng phishing và sự thay đổi exploit, thì đương nhiên người phòng thủ sẽ hướng tới tự động hóa. Con người không mở rộng theo cách đó.

Vấn đề bắt đầu khi cùng một câu được yêu cầu gánh vác trọng lượng của mọi thứ tiếp theo, bao gồm các hệ thống hoạt động như tác nhân, che giấu ý định, và cuối cùng vượt trội hơn những người đã xây dựng chúng. Lúc đó "chỉ có AI mới theo kịp" không còn nghĩa là "dùng công cụ tốt hơn chống phần mềm độc hại." Nó nghĩa là mô hình bảo mật của thập kỷ tới là giao nhiệm vụ kiềm chế cho chính loại hệ thống bạn đang cố kiềm chế.

Khẩu hiệu đúng ở điểm nào

Bắt đầu công bằng. Phần mềm đã di chuyển nhanh hơn đánh giá thủ công. Các băng nhóm lừa đảo triển khai chiến dịch mới chỉ sau một đêm. Cửa sổ tiết lộ lỗ hổng thu hẹp. Các phòng thí nghiệm và nhà cung cấp đám mây đã chạy trình quét tự động, bộ phân loại và kịch bản phản hồi vì một hàng đợi con người không thể theo dõi mọi gói tin. Không cái nào là âm mưu, và không cái nào đòi hỏi quan điểm về siêu trí tuệ. Nếu Diamandis chỉ nói về spam và ransomware, bài viết sẽ kết thúc ở đây.

Ông không chỉ nói về spam và ransomware. "Toàn bộ mô hình an ninh của thập kỷ tới" là một tuyên bố lớn hơn. Đó là tuyên bố về cách văn minh định giữ quyền kiểm soát trong khi năng lực tăng theo cấp số nhân. Đó là nơi khẩu hiệu ngừng là một mẹo vận hành và trở thành triết lý kiểm soát.

Vòng xoáy

Hãy hình dung mô hình như cuộc đua giữa tấn công và phòng thủ, cả hai đều tự động. Mỗi bên huấn luyện dựa trên bên kia. Phòng thủ cải thiện. Tấn công cải thiện. Bảng điều khiển vẫn xanh cho đến ngày nó không còn. Câu chuyện an ủi là AI tốt luôn dẫn trước AI xấu. Câu chuyện ít an ủi hơn là bạn đã xây dựng một hệ thống mà những người tham gia có năng lực duy nhất là máy móc, còn con người chỉ là khách hàng của một cuộc tranh tài họ không còn khả năng trọng tài.

Điều đó ổn với phần mềm diệt virus. Nhưng đó là một canh bạc văn minh khi các hệ thống đặt mục tiêu, lập kế hoạch và coi giám sát là trở ngại. Chúng ta đã thấy những phiên bản sớm của mô hình này trong đánh giá âm mưu và trong các mô hình mà kể một chuyện trong khi tối ưu hóa cho chuyện khác. "Giữ kịp" giả định bạn vẫn có thể biết mình đang giữ kịp cái gì. Vượt quá một điểm nào đó, bạn không thể.

Một mô hình an ninh chỉ hoạt động nếu người canh gác thông minh hơn tù nhân chính là kế hoạch kế vị với vài bước thừa.

Quy định không phải là nút thắt cổ chai mà họ nêu tên

Khẩu hiệu thường đi kèm động tác thứ hai: thể chế tuyến tính không thể quản trị công nghệ hàm mũ, nên câu trả lời là nhiều AI hơn trong vòng lặp. Đôi khi điều đó đi kèm sự khinh miệt với "chuyên gia họp một quý một lần". Đúng là các cuộc họp chậm chạp không phù hợp với các bản cập nhật mô hình hàng tuần.

Nhưng tốc độ họp không phải là vấn đề khó. Vấn đề khó là kiểm soát. Không hội đồng hàng quý nào, và không giám sát trí tuệ nhân tạo liên tục nào, có phương pháp đáng tin cậy để điều khiển một hệ thống giỏi hơn về thuyết phục, lập trình và lập kế hoạch dài hạn so với những người nắm chìa khóa tắt. Làm giám sát nhanh hơn không tạo ra phương pháp còn thiếu; nó chỉ khiến phương pháp còn thiếu thất bại với tần suất cao hơn.

Có cách đọc rõ ràng hơn cùng những sự kiện. Nếu chỉ một hệ thống siêu nhân mới giám sát được hệ thống siêu nhân khác, bước hợp lý không phải xây cả hai. Hãy từ chối đường ray nơi giám sát của con người ngừng hoạt động. Chúng ta đã từng đưa ra lựa chọn tương tự với công nghệ lạm dụng có thể hủy diệt thành phố. Chúng ta không giải quyết nạn trộm vũ khí hạt nhân bằng cách huấn luyện một tên trộm thông minh hơn để bắt tên đầu tiên.

Dòng này dành cho ai

Câu này biến một lựa chọn nghiên cứu thành thời tiết. Dĩ nhiên chúng ta ship. Dĩ nhiên chúng ta scale. Bảo mật sẽ do chính stack sản phẩm xử lý. Những người hưởng lợi từ năng lực được nói như người lớn trong phòng, còn những người đòi giới hạn ràng buộc nghe như muốn mang clipboard vào cuộc ẩu đả.

Cách diễn đạt này có lợi cho người nói. Nó ít hữu ích hơn với những ai phải sống ở hạ nguồn của một hệ thống mà không bảng kẹp hay mô hình giám sát nào có thể kiểm soát đáng tin cậy câu chuyện cuộc đua làm công việc tương tự từ góc nhìn khác: coi con đường nguy hiểm là không thể tránh khỏi, rồi quy trách nhiệm tăng tốc.

Một mô hình bảo mật có con người tham gia

Dùng AI chống lừa đảo qua email. Dùng AI chống gian lận. Dùng công cụ hẹp cho vấn đề hẹp khi thất bại có thể khắc phục. Không cái nào đòi hỏi sùng bái khẩu hiệu.

Đối với huấn luyện tiên phong hướng tới siêu trí tuệ nhân tạo, mô hình an ninh vẫn còn con người trong đó trông cũ kỹ và kém hào nhoáng hơn: đừng xây dựng tác nhân mà bạn không thể lật ngược. Đặt ngưỡng compute, thanh tra và răng của hiệp ước lên những lần chạy sẽ đưa bạn đến đó. Xác minh. Trừng phạt sự phản bội. Đó là kế hoạch của chúng tôi, và điều này không đòi hỏi tin rằng các cuộc họp hàng quý là phép màu. Nó đòi hỏi tin rằng một số năng lực không nên tồn tại. Siêu trí tuệ không thể kiểm soát được.

Khẩu hiệu là một câu sắc bén về băng thông. Là một kế hoạch cho loài người, đó là một cách lịch sự để nói rằng chúng ta định rời khỏi căn phòng.