Đầu những năm 1970, các nhà sinh học học cách ghép gen từ sinh vật này sang sinh vật khác. DNA tái tổ hợp mở ra y học và sinh học cùng lúc, và nó làm sợ hãi chính những người phát minh ra nó. Họ không thể loại trừ khả năng một sinh vật đã chỉnh sửa có thể thoát khỏi phòng thí nghiệm và gây hại mà không ai biết cách ngăn chặn. Vậy nên họ đã làm điều gần như chưa từng có. Họ dừng lại.

Năm 1974, các nhà nghiên cứu hàng đầu, trong đó có những người sau này đoạt giải Nobel, đã công khai kêu gọi tạm dừng tự nguyện các thí nghiệm DNA tái tổ hợp nguy hiểm nhất. Tháng 2 năm 1975, khoảng 140 nhà khoa học cùng luật sư và nhà báo họp tại trung tâm hội nghị Asilomar ở California để quyết định điều kiện cho phép công việc tiếp tục an toàn. Họ đưa ra khung biện pháp containment phù hợp với mức rủi ro, và nghiên cứu được tái khởi động dưới các biện pháp bảo vệ đã thống nhất. Với những người ủng hộ việc tạm dừng AI biên giới, đây là điểm tham chiếu: một lĩnh vực nhận ra nguy cơ của chính mình và chọn thận trọng thay vì tốc độ.

Những gì Asilomar thực sự làm đúng

Thành tựu này là có thật và đáng được nêu rõ ràng.

Các nhà khoa học đã hành động trước thảm họa thay vì sau đó, điều hiếm nhất và quý giá nhất trong toàn bộ lịch sử an toàn công nghệ. Họ chấp nhận kiềm chế công việc của chính mình, bao gồm cả nghiên cứu hứa hẹn danh tiếng và tiến bộ, vì rủi ro đòi hỏi như vậy. Và họ xây dựng các quy tắc thực tế phù hợp với mức độ nguy hiểm, thay vì bỏ qua mối đe dọa hay cấm lĩnh vực hoàn toàn. Đó là bằng chứng cho thấy một cộng đồng nghiên cứu có thể nhìn vào biên giới của mình, đánh giá nó quá nguy hiểm để vội vàng, và kiềm lại. Tiền lệ này là lời bác bỏ trực tiếp cho tuyên bố rằng tạm dừng một công nghệ mạnh mẽ là ngây thơ hay bất khả thi, đó là lý do nó nằm cạnh các trường hợp kiểm soát vũ trang trong trang của chúng tôi về lý do hành động là có thể.

Tại sao nó là một mô hình khó hơn so với vẻ ngoài

Nói thẳng về tiền lệ nghĩa là phải chỉ rõ lý do AI là trường hợp khó khăn hơn, vì chính những khác biệt đó đã khiến Asilomar thành công.

  • Đó là một cộng đồng nhỏ, thống nhất. Chỉ vài chục phòng thí nghiệm, một nền văn hóa khoa học, những người quen biết nhau. AI biên giới là cuộc tranh đua toàn cầu giữa các tập đoàn và quốc gia trị giá hàng nghìn tỷ, không có bàn chung nào.
  • Các lợi ích thương mại khiêm tốn vào năm 1975. Ngành công nghệ sinh học lúc đó hầu như chưa tồn tại. AI xuất hiện cùng với những công ty lớn nhất thế giới và các bộ máy an ninh quốc gia đã cam kết, đó là động lực cuộc đua Asilomar chưa từng đối mặt.
  • Mục tiêu là khởi động lại. Asilomar được thiết kế để tìm ra các điều khoản an toàn để tiếp tục, chứ không phải để dừng vô thời hạn. Mô hình containment của nó giả định bạn có thể nhốt mối nguy trong một phòng lab vật lý. Một AI có năng lực không rõ ràng là có thể containment theo cách đó.

Cũng có một phần kết thúc đáng suy ngẫm. Đồng thuận Asilomar tồn tại một phần vì đó là một khoảnh khắc hẹp với các động lực liên kết, và ngay cả lúc đó nó cũng phụ thuộc vào thiện chí tự nguyện mà một lĩnh vực thương mại hóa, cạnh tranh hơn sẽ làm suy yếu. Điều từng hiệu quả với 140 nhà khoa học đồng nghiệp không dễ dàng mở rộng sang một ngành công nghiệp toàn cầu phân mảnh đang chịu áp lực khốc liệt để thắng.

Asilomar chứng minh rằng một lệnh tạm dừng là có thể. Nó cũng cho thấy các điều kiện cần thiết cho lệnh tạm dừng, và AI hiện tại có bao nhiêu trong số đó.

Bài học mà Quỹ rút ra

Cả hai nửa của Asilomar đều quan trọng. Nó bác bỏ chủ nghĩa định mệnh cho rằng không thể làm gì, rằng một công nghệ mạnh mẽ không thể bị chậm lại. Các nhà khoa học đã làm được, một cách có chủ đích, và bầu trời không sụp đổ. Nhưng nó cũng cho thấy cơ chế không chính thức, tự nguyện, mang tính đồng nghiệp đã hoạt động năm 1975 không đủ cho AI, vì AI thiếu cộng đồng nhỏ, mức cược thấp và mối nguy có thể kiểm soát được để lòng thiện chí đủ. Kết luận đúng là AI cần những gì Asilomar có thể đạt được, sự kiềm chế thực sự trước nguy hiểm, được thực hiện thông qua bộ máy quốc tế mang tính ràng buộc, có thể xác minh mà một cuộc chạy đua toàn cầu trị giá nghìn tỷ đô la đòi hỏi, chứ không phải AI cần Asilomar riêng của mình. Xem kế hoạch của chúng tôi.