Cách Một Hiệp ước Có Thể Được Xác minh
"Đó chỉ là phần mềm trên một máy chủ nào đó." Phản biện thực thi phổ biến nhất. Sai về bề mặt.
Bạn không kiểm soát các trọng số. Bạn kiểm soát phần cứng. Huấn luyện mô hình biên giới đòi hỏi chip chuyên dụng từ danh sách ngắn các nhà sản xuất, được đóng gói thành cụm lớn tiêu thụ điện công nghiệp và để lại dấu vết giấy tờ.
Theo dõi chip
Bộ tăng tốc tiên tiến là hàng hóa giá trị cao, số lượng thấp. Hồ sơ xuất khẩu, theo dõi số seri và kiểm tra mục đích sử dụng đã tồn tại trong các chế độ lân cận. Hãy mở rộng chúng cho các lần huấn luyện lớn.
Cấp phép cụm
. Các cơ sở vượt ngưỡng compute cần giấy phép, báo cáo và quyền thanh tra. Phòng lab nhỏ cùng người dùng đám mây thông thường nằm ngoài phạm vi.
Kiểm tra tại chỗ
Lấy cảm hứng từ các chuyến thăm IAEA: thanh tra định kỳ và đột xuất các trung tâm dữ liệu lớn, mức tiêu thụ điện và kiểm kê phần cứng. Phần mềm có thể giấu. Nhà kho đầy GPU thì không.
Quy tắc đám mây và foundry
Các nhà cung cấp đám mây lớn và xưởng đúc chip trở thành các nút báo cáo. Một chương trình chạy đua bí mật vẫn cần xưởng chế tạo, điện năng và làm mát. Những thứ đó để lại dấu vết.
Phát hiện hoàn hảo không phải là tiêu chuẩn
Xác minh hạt nhân chưa bao giờ tuyên bố toàn tri. Nó nâng chi phí và rủi ro gian lận đủ cao để các cường quốc lớn ở lại trong thỏa thuận. Lệnh cấm siêu trí tuệ cần cùng tiêu chuẩn thực tế: đủ khả năng quan sát để một đợt huấn luyện bất hợp pháp lớn khó che giấu và tốn kém khi cố gắng.
Tìm hiểu sâu hơn: nakadafoundation.org/blog/compute-governance-ai/