Tháng 7 năm 2025, Mark Zuckerberg công bố thư về "siêu trí tuệ cá nhân" đồng thời cảnh báo phải cẩn thận với những gì Meta chọn mở mã nguồn. Sự kết hợp này là toàn bộ vấn đề chính sách trên một trang: cuộc chạy đua hướng tới các hệ thống tổng quát, và quyết định phát hành không thể đảo ngược một khi trọng số đã công khai.
Ý nghĩa của "mở" ở đây
Mọi người nói "open source AI" nhưng ý nghĩa khác nhau: mã nguồn mở, dữ liệu mở, trọng số mở, bài báo mở. Cuộc tranh luận quan trọng chủ yếu xoay quanh trọng số: các tham số đã huấn luyện mà bạn có thể tải về và chạy. Khi những mô hình đó đạt đến mức độ tổng quát tiên phong, bất kỳ ai có đủ phần cứng đều có thể tinh chỉnh, gỡ bỏ bộ lọc và giữ một bản fork riêng mãi mãi.
Phát hành là cửa một chiều. Bạn có thể vá API được lưu trữ. Bạn không thể thu hồi torrent.
Sự cởi mở thực sự bảo vệ điều gì
Lập luận mạnh mẽ nhất cho sự cởi mở không phải là ngây thơ. Sự tập trung khép kín là rủi ro quyền lực. Các nhà nghiên cứu độc lập cần quyền truy cập để tìm ra những lỗi mà các phòng lab sẽ không ưu tiên. An ninh qua sự che giấu thường thất bại. Các nhà nghiên cứu bên ngoài các công ty ở quốc gia giàu có không nên là những người thuê API vĩnh viễn. Các công cụ mở, đánh giá mở và khoa học mở trên các hệ thống mà chúng ta vẫn có thể kiểm soát là những điều đáng bảo vệ.
Trường hợp rủi ro không có kịch tính
Ở mức năng lực cao, trọng số tổng quát mở là sự phổ biến. Chúng nhân lên các tác nhân có thể lạm dụng hỗ trợ sinh học, tấn công mạng, thuyết phục và tác nhân tự trị. Chúng cũng nhân lên các thí nghiệm độc lập về quyền tự trị chạy dài. Hầu hết sẽ thất bại. Một số sẽ tạo ra kỹ thuật mới để trốn tránh. Giấy phép và văn bản "sử dụng có trách nhiệm" không kiềm chế được người tinh chỉnh quyết tâm. Red-teaming trước khi phát hành có giúp ích nhưng vẫn không thể chứng nhận một mô hình chống lại mọi giàn giáo và công cụ tương lai.
Sự phản đối mạnh mẽ nhất
Lý lẽ công bằng nhất là trọng số mở dân chủ hóa sự giám sát và các phòng thí nghiệm đóng mới là mối nguy tập trung thực sự. Giám sát có ích với những hệ thống ta vẫn còn vá và thu hồi được. Dân chủ tiếp cận không đồng nghĩa với an toàn năng lực. Một thế giới chỉ có ba công ty lưu trữ mô hình tiên phong đã có vấn đề quản trị. Một thế giới mà trọng số tổng quát nằm trên mọi GPU của người đam mê lại có những vấn đề khác, khó khăn hơn.
"Kẻ xấu đã có nó" thường là quá sớm. Khả năng nhảy vọt. Việc một mô hình yếu hơn bị rò rỉ năm ngoái không phải là giấy phép để tung ra mô hình tiếp theo. Thời điểm quan trọng.
Những con đường trung dung thực tế
Phát hành theo cấp độ: mở các mô hình nhỏ và hẹp; chặn các mô hình lớn và tổng quát. Truy cập có cấu trúc: môi trường nghiên cứu đáng tin cậy, các truy vấn được ghi lại, và các tinh chỉnh có chứng chỉ thay vì một bản dump thô. Mở công cụ: giữ trình biên dịch, bộ công cụ đánh giá và ngăn xếp nghiên cứu an toàn ở dạng mở ngay cả khi trọng số mô hình biên giới vẫn đóng. Đó là lựa chọn chính sách, không phải cảm tính.
Một cây quyết định cho các lab
Bản tải xuống này có còn hữu ích sau sáu bước nhảy năng lực tiếp theo không? Nếu có, hãy coi đó là quyết định phổ biến. Nếu không, hãy coi gần như một lần ra mắt sản phẩm thông thường. Các đội an ninh và an ninh sinh học độc lập có thể tiếp cận cần thiết mà không cần torrent công khai không? Nếu có, ưu tiên truy cập có cấu trúc. Nếu lý lẽ duy nhất để mở là ngang tầm tiếp thị với đối thủ, thì đó không phải lập luận an toàn.
Nên Làm Gì
Builders: mặc định đóng ở cấp cao; công bố các đánh giá và giao diện cho phép kiểm tra từ bên ngoài. Hosts và platforms: ghi log và giới hạn tốc độ các sử dụng rủi ro cao; không ngụy trang sự phổ biến dưới danh nghĩa "cộng đồng." Policymakers: viết các ngưỡng kích hoạt dựa trên năng lực và compute, không dựa trên từ "open"; yêu cầu xem xét theo giai đoạn trước khi thả trọng số chung. Individuals: ưu tiên công cụ mở trên các hệ thống hẹp; coi các bản phát hành trọng số biên giới như sự kiện công dân, không phải hàng miễn phí.
The Foundation's line is simple. Narrow AI that stays tool-like can stay open and should. Programs aimed at artificial superintelligence should not be open-weighted into the wild while control is unsolved. Open science is not a suicide pact. See kế hoạch của chúng tôi.