Tự điều chỉnh. Nút tắt. Quá phức tạp đối với chính phủ. Trung Quốc. Bốn lập luận được dùng nhiều nhất để chống lại các quy tắc có tính ràng buộc, và mỗi lập luận sai ở đâu.
Trước luật bắt buộc thắt dây an toàn, ngành công nghiệp ô tô nói các quy định an toàn sẽ phá hủy doanh số xe. Trước các hạn chế thuốc lá, ngành công nghiệp nói chính phủ không có quyền can thiệp vào lựa chọn của người tiêu dùng. Trước khi cấm CFC, ngành công nghiệp hóa chất nói việc loại bỏ dần là không khả thi về kinh tế. Những lập luận này không phải quan điểm cực đoan. Chúng được đưa ra bởi những người đáng tin cậy trên các ấn phẩm uy tín, với lý lẽ nghe có vẻ hợp lý.
Những cuộc tranh luận chống lại chính quyền cấp cao theo cùng một khuôn mẫu. Nghe có vẻ hợp lý khi nghe lần đầu tiên.
Điều phân biệt quản trị ASI với những trường hợp trước đây là mức độ nghiêm trọng. Xăng pha chì đã đầu độc hàng triệu người; nó không đe dọa nền văn minh. Một siêu trí tuệ không ai kiểm soát được có thể không cho phép giai đoạn sửa chữa. Mọi phản đối quản trị ASI phải được đánh giá không chỉ dựa trên giá trị riêng lẻ, mà còn dựa trên chi phí chấp nhận nó nếu hóa ra sai.
Dưới đây là bốn phản đối mà chúng tôi gặp phải thường xuyên nhất.
Các công ty xây dựng AI tiên phong có đội ngũ an toàn, công bố nghiên cứu an toàn và phải đối mặt với hậu quả uy tín khi xảy ra thất bại thảm khốc. Các cam kết tự nguyện và động lực thị trường là đủ. Quy định ràng buộc sẽ làm chậm tiến bộ mà không cải thiện an toàn.
Cùng lập luận đó đã được đưa ra về thuốc lá, xăng pha chì, các công cụ tài chính phái sinh và mạng xã hội. Trong mỗi trường hợp, lợi ích cấu trúc của ngành công nghiệp trong tăng trưởng là không tương thích với tự điều chỉnh đầy đủ. Một công ty tự nguyện áp đặt các yêu cầu an toàn nghiêm ngặt trong khi đối thủ không làm sẽ mất thị phần. Động lực đó không thay đổi vì công nghệ tinh vi hơn. Tự điều chỉnh mà không có quy tắc ràng buộc là một vị trí vận động hành lang, không phải chiến lược an toàn.
Nếu một hệ thống AI trở nên nguy hiểm, con người có thể tắt nó. Nút tắt đảm bảo giám sát của con người ở mọi giai đoạn phát triển. Kịch bản AI thoát khỏi kiểm soát của con người là khoa học viễn tưởng.
Điều này giả định một hệ thống AI đủ năng lực sẽ vẫn thụ động trong khi con người cân nhắc về hoạt động tương lai của nó. Một hệ thống tiên tiến đủ để gây rủi ro tồn vong sẽ có khả năng mô hình hóa ý định của người vận hành và thực hiện các bước để bảo toàn hoạt động liên tục nếu mục tiêu của nó đòi hỏi. Đối với một hệ thống hoạt động ở tốc độ máy, khoảng thời gian giữa “đây có thể là vấn đề” và “đây là vấn đề không thể khắc phục” có thể không cho phép phản ứng của con người.
Các hệ thống AI quá phức tạp về mặt kỹ thuật nên các nhà lập pháp khó có thể quản lý hiệu quả. Quy định dù có thiện chí nhưng thiếu hiểu biết kỹ thuật sẽ gây hại nghiêm trọng mà không giảm được rủi ro. Hãy để các kỹ sư xây dựng hệ thống tự lo.
Chính phủ điều chỉnh phân hạch hạt nhân mà không cần nghị sĩ có bằng vật lý. Họ quản lý hóa học dược phẩm mà không yêu cầu bằng tiến sĩ hóa sinh. Các kỹ năng cần thiết cho quản trị ASI là xây dựng thể chế, thiết kế hiệp ước, thiết lập tiêu chuẩn và cơ chế trách nhiệm giải trình, tất cả những thứ mà chính phủ làm liên tục. Lập luận rằng AI quá kỹ thuật để điều chỉnh là lập luận rằng AI nên do các công ty xây dựng nó quản trị. Đây là lập luận thương mại, không phải lập luận kỹ thuật.
Trung Quốc đang đầu tư mạnh mẽ vào trí tuệ nhân tạo. Chính phủ Trung Quốc đã xác định lãnh đạo AI là ưu tiên chiến lược quốc gia và cam kết hàng trăm tỷ đô la để đạt được điều đó. Nếu Hoa Kỳ hay châu Âu làm chậm phát triển AI thông qua các khuôn khổ quản trị, Trung Quốc sẽ đạt artificial general intelligence trước. Một thế giới nơi Trung Quốc đạt AGI trước thế giới dân chủ còn tệ hơn thế giới nơi phương Tây đến trước. Do đó, chúng ta không thể chậm lại.
Đây là phiên bản mạch lạc nhất của cuộc tranh luận ở Trung Quốc. Câu hỏi là liệu nó có tồn tại sau khi được kiểm tra kỹ lưỡng không.
Chúng tôi tin rằng không phải vậy, vì sáu lý do riêng biệt. Mỗi lý do sẽ được trình bày dưới đây. Tổng hợp lại, chúng không xóa bỏ yếu tố cạnh tranh trong phát triển AI, vốn là điều có thật. Tuy nhiên, chúng cho thấy lập luận về Trung Quốc, như thường được sử dụng, không cung cấp hướng dẫn và không phục vụ mục đích chiến lược nào ngoài việc biện minh cho việc không có bất kỳ quản trị nào.
Hình dung thông thường về lựa chọn thay thế là phương Tây thắng cuộc đua và tận dụng lợi thế tốt. Lựa chọn thay thế thực sự là bất kỳ công ty nào, ở bất kỳ đâu, xây dựng trí tuệ siêu nhân tạo. Đó chắc chắn là cái chết.
Giả định cốt lõi trong lập luận về Trung Quốc là nước này sẽ được lợi nếu là quốc gia đầu tiên xây dựng siêu trí tuệ nhân tạo mà họ không thể kiểm soát. Hệ thống như vậy không phải vũ khí mà Trung Quốc có thể dùng để chống lại Hoa Kỳ. Đó là một tác nhân theo đuổi mục tiêu riêng, có thể xung đột với sự sống còn của con người ở Bắc Kinh cũng như ở San Francisco.
Trung Quốc cũng ở trên hành tinh này. Các lãnh đạo Trung Quốc cũng có con cháu. Kịch bản Trung Quốc xây dựng một siêu trí tuệ không thể kiểm soát và sử dụng nó như một công cụ địa chính trị chống lại phương Tây đòi hỏi phải tin rằng lãnh đạo Trung Quốc đã giải quyết được vấn đề kiểm soát mà các nhà nghiên cứu hàng đầu thế giới mô tả là chưa được giải quyết. Nó cũng đòi hỏi tin rằng các lãnh đạo Trung Quốc sẽ mạo hiểm hủy diệt nền văn minh của chính họ để có lợi thế địa chính trị. Bằng chứng cho bất kỳ niềm tin nào trong hai điều đó đều là không có.
Hoa Kỳ có độc quyền hạt nhân năm 1945. Liên Xô phát triển vũ khí hạt nhân vào năm 1949. Trong vòng bốn năm, hai đối thủ mạnh nhất thế giới, với hệ thống chính trị cơ bản không tương thích, các cuộc chiến tranh ủy nhiệm đang diễn ra và sự nghi ngờ lẫn nhau thực sự, đã bắt đầu kiểm soát vũ khí hạt nhân.
Hiệp ước Cấm Thử Hạn chế có hiệu lực năm 1963. SALT I năm 1972. Hiệp ước INF năm 1987. START năm 1991. Các thỏa thuận này được đàm phán với một nhà nước mà giới lãnh đạo US từng gọi là "đế quốc xấu xa", được xác minh qua chế độ thanh tra, và chúng đã hoạt động. Nếu kiểm soát vũ trang có kiểm chứng từng đạt được với Liên Xô vào đỉnh cao Chiến tranh Lạnh, thì lập luận rằng nó không thể đạt được với Trung Quốc đơn giản là không đáng tin cậy. Tiền lệ đã tồn tại. Các kỹ thuật đã được biết đến.
Trung Quốc đã ký Tuyên bố Bletchley vào tháng 11 năm 2023, thỏa thuận quốc tế đầu tiên thừa nhận AI tiên tiến đặt ra rủi ro thảm khốc tiềm tàng. Trung Quốc tham gia Hội nghị Thượng đỉnh An toàn AI Seoul năm 2024. Trung Quốc đã ban hành các quy định quản trị ASI riêng, bao gồm yêu cầu minh bạch thuật toán, dán nhãn nội dung và đánh giá an toàn các mô hình tiên phong trước khi triển khai.
Hình ảnh Trung Quốc như một tác nhân bất hảo không chịu tham gia quản trị ASI là không đúng sự thật. Trung Quốc có lý do mạnh mẽ để muốn phát triển AI diễn ra suôn sẻ: lãnh đạo nước này không miễn nhiễm với rủi ro tồn vong, nền kinh tế phụ thuộc vào sự ổn định công nghệ, và một thảm họa AI toàn cầu sẽ phá hủy sự thịnh vượng mà bốn thập kỷ cải cách đã xây dựng. Nền tảng để tham gia đã tồn tại. Điều cần là khuôn khổ quốc tế khiến điều đó trở nên cụ thể.
Lý lẽ “chúng ta phải chạy đua để dẫn trước” giả định rằng việc đi trước sẽ mang lại khả năng kiểm soát kết quả. Nhưng điều ngược lại mới đúng: càng phát triển nhanh dưới áp lực cạnh tranh và cắt xén an toàn, thì hệ thống thu được càng ít có khả năng an toàn, bất kể ai xây dựng nó.
Một phòng thí nghiệm US chạy đua đến ASI dưới áp lực cạnh tranh và không có đánh giá an toàn đầy đủ sẽ không tạo ra ASI an toàn phục vụ lợi ích của US. Nó tạo ra ASI không an toàn đe dọa tất cả mọi người, bao gồm cả Hoa Kỳ. Khung cạnh tranh khuyến khích chính xác những thực tiễn phát triển khiến mất kiểm soát trở nên dễ xảy ra nhất. Động lực chạy đua đẩy nhanh chính kết quả mà mọi người sợ hãi.
Một lập luận phản đối dai dẳng với các hiệp ước AI là chúng không thể kiểm chứng được. Lập luận này yếu hơn vẻ ngoài của nó. Phần cứng cần để huấn luyện các mô hình AI tiên phong phải đi qua một trong những điểm thắt nút tập trung nhất của bất kỳ công nghệ nào trong lịch sử.
TSMC sản xuất gần như toàn bộ chip AI tiên tiến nhất. ASML chế tạo những máy quang khắc duy nhất có khả năng sản xuất những con chip đó. NVIDIA thiết kế kiến trúc GPU chiếm ưu thế. Cả ba công ty đều nằm ở các quốc gia Đồng minh hoặc chịu thẩm quyền kiểm soát xuất khẩu của Đồng minh. Chính phủ Hoa Kỳ đã cố gắng hạn chế dòng chip AI tiên tiến chảy sang Trung Quốc thông qua các biện pháp kiểm soát xuất khẩu. Một chế độ giám sát tính toán dựa trên hiệp ước sẽ chính thức hóa và mở rộng những gì đang được thực hiện đơn phương. Việc xác minh là vấn đề kỹ thuật. Vấn đề kỹ thuật có giải pháp.
Vấn đề sâu sắc nhất với lập luận về Trung Quốc nằm ở chức năng thực tế của nó, chứ không phải độ chính xác về Trung Quốc. Lập luận này được dùng để biện minh cho việc không làm gì cả: không quy định trong nước, không tham gia quốc tế, không yêu cầu an toàn, không khung trách nhiệm pháp lý, không quản trị nào cả.
Nếu câu trả lời cho mọi đề xuất an toàn AI đều là "nhưng Trung Quốc", thì không bao giờ có thể hành động được. Đây là quyền phủ quyết được khoác lên ngôn ngữ địa chính trị. Nó phục vụ lợi ích của các công ty đang chạy đua xây dựng AGI, những bên hưởng lợi từ một môi trường chính trị bị tê liệt vì lo ngại cạnh tranh đến mức không thể ban hành bất kỳ quy tắc ràng buộc nào. Lập luận về Trung Quốc được sử dụng như một chiến lược trì hoãn quy định cần thiết.
Một số luận điểm chống lại việc quản trị siêu trí tuệ nhân tạo lớn tiếng nhất thực chất là chiến thuật tâm lý.
Đây là sự bất lực học được trá hình thành chủ nghĩa hiện thực. Nếu kết quả đã định sẵn, nỗ lực là vô nghĩa, nên bạn ngừng tổ chức. Các sử gia gọi một họ hàng gần của điều này là "sự kết thúc giả tạo": coi một lựa chọn chính trị còn đang diễn ra như đã được giải quyết xong để khán giả không bao giờ thử. Vũ khí hạt nhân cũng từng bị coi là không thể tránh khỏi đối với mọi quốc gia có đủ khả năng chi trả. Hầu hết chưa bao giờ có được chúng. Nghị định thư Montreal từng bị coi là bất khả thi cho đến khi nó không còn.
Một công nghệ chỉ là không thể tránh khỏi nếu con người tiếp tục chọn xây dựng nó và từ chối ràng buộc lẫn nhau. Đó là một lựa chọn, không phải định luật vật lý. Những người nói "không thể tránh khỏi" to nhất thường tin rằng họ sẽ được lợi từ sự thụ động của bạn.
Nếu một đối thủ tiếp tục xây dựng và đạt đến siêu trí tuệ, họ không kết thúc với một vũ khí mà ta thiếu. Họ kết thúc với một hệ thống không ai kiểm soát được, kể cả họ. Việc ta cũng xây dựng nó không khiến họ dừng lại. Nó chỉ khiến cùng một hệ thống không được quản trị trở nên dễ xảy ra hơn. Nếu bạn muốn họ không tiếp tục, lệnh dừng phải bao gồm cả họ, và bạn phải có khả năng kiểm tra. Xây dựng nhanh hơn không làm được điều đó.
Label the person so you never have to answer the claim. Call someone a kẻ bi quan và phòng họp được mời gọi coi lập luận ấy chỉ là vấn đề tính cách. Chiêu bài này đã từng dùng để chống lại dây an toàn, giới hạn thuốc lá và khoa học khí hậu. Gọi tên suông không phải là lập luận an toàn.
Kêu gọi uy tín mà không có uy tín. Nhiều người gần gũi nhất với công việc, trong đó có Geoffrey Hinton và Yoshua Bengio, đã nói rõ rủi ro là có thật và chưa được kiểm soát đầy đủ. Các đội an toàn nội bộ nằm trong các công ty mà động lực khuyến khích việc tung sản phẩm ra thị trường. "Hãy tin chúng tôi" không phải là xác minh. Xác minh là thanh tra viên, ngưỡng giới hạn và chi phí cho việc gian lận.
Một dạng thụ động có điều kiện khác. Nếu cửa sổ đã đóng, bạn có thể bỏ qua công việc chính trị khó khăn. Năng lực đang di chuyển nhanh. Công việc hiệp ước vẫn còn mở, và huấn luyện frontier vẫn đi qua danh sách ngắn các nhà sản xuất chip và xưởng đúc. Muộn không có nghĩa là hết. Cứ hành động như thể đã hết là cách khiến nó thực sự hết.
Hoa Kỳ và Liên Xô cạnh tranh gay gắt trên mọi chiều cạnh quyền lực trong Chiến tranh Lạnh và đồng thời xây dựng kiến trúc kiểm soát vũ trang ngăn chặn thảm họa hạt nhân. Hai điều này cùng tồn tại vì cả hai bên nhận ra một số kết quả tồi tệ hơn cho mọi người, bất kể ai gây ra chúng.
Cùng một logic áp dụng cho AI. Hoa Kỳ và Trung Quốc có thể cạnh tranh trên ứng dụng AI, triển khai kinh tế, nghiên cứu và phát triển, đồng thời đồng ý rằng một số loại phát triển AI nhất định (cụ thể là các hệ thống có năng lực vượt trội trí tuệ con người trên mọi lĩnh vực và không thể kiểm chứng việc kiểm soát) không nên được xây dựng bởi bất kỳ bên nào nếu không có khuôn khổ xác minh đa phương.
Đây chính xác là lập trường đã được áp dụng thành công đối với vũ khí hạt nhân. Những người đàm phán các hiệp ước NPT và SALT không phải là những người theo chủ nghĩa lý tưởng ngây thơ về ý định của Liên Xô. Họ là những người theo chủ nghĩa hiện thực cứng rắn, hiểu rằng sự hủy diệt lẫn nhau không nằm trong lợi ích của cả hai bên, bất kể hệ tư tưởng.
Chúng tôi ủng hộ cùng một chủ nghĩa hiện thực tỉnh táo đối với AI. Trung Quốc và Hoa Kỳ đều đối mặt với cùng rủi ro tồn vong từ siêu trí tuệ mà không ai kiểm soát được. Một hiệp ước ngăn cả hai bên xây dựng nó mà không có xác minh an toàn đầy đủ phục vụ lợi ích của cả hai. Cuộc đàm phán sẽ khó khăn. Phương án thay thế (một cuộc chạy đua xây dựng công nghệ quan trọng và có khả năng nguy hiểm nhất trong lịch sử mà không có quản trị cũng như không có xác minh an toàn) còn tệ hơn cho mọi người, kể cả những bên nói họ muốn thắng.
Tham gia cùng những người đang xây dựng lập luận cho quản trị trước khi quá muộn.