Quy tắc xuất khẩu có thể quy định ai được phép mua chip. Một con chip thực thi các điều khoản giấy phép ngay trong silicon đi xa hơn một bước. Quản trị được hỗ trợ bởi phần cứng là đặt cược rằng một số quy tắc nên tồn tại trong kim loại, chứ không chỉ trong các tệp PDF mà một phòng thí nghiệm kiên quyết có thể bỏ qua.

Ý tưởng dựa trên một sự kiện khiến AI trở nên dễ quản trị bất thường. Huấn luyện một mô hình tiên phong đòi hỏi lượng chip chuyên dụng khổng lồ, tập trung trong các trung tâm dữ liệu lớn, được sản xuất bởi một số lượng rất ít công ty qua chuỗi cung ứng có nhiều điểm nghẽn nghiêm trọng. Phần mềm sao chép vô hình và tức thì. Hàng chục nghìn bộ xử lý tiên tiến tiêu thụ hàng megawatt điện thì không. Dấu chân vật lý đó là bề mặt mà quản trị có thể nắm bắt, cùng nhận thức đằng sau quản trị compute, giảm xuống đến cấp độ chip.

Những gì có thể được tích hợp vào phần cứng

Các đề xuất dao động từ khiêm tốn đến tham vọng.

  • Xác minh việc sử dụng. Chip có thể chứng thực, theo cách chống giả mạo và bảo vệ quyền riêng tư, các thuộc tính của những gì chúng đang làm, ví dụ lượng compute một lần huấn luyện tiêu tốn, cho phép thanh tra xác nhận tuân thủ mà không cần đọc mô hình hay dữ liệu.
  • Giới hạn sử dụng. Phần cứng có thể thực thi các trần giới hạn, từ chối tham gia vào một đợt huấn luyện vượt quá quy mô đã định nếu không được phép, biến giới hạn pháp lý thành giới hạn vật lý.
  • Vị trí và tính toàn vẹn. Các cơ chế có thể xác nhận một con chip nằm đúng vị trí khai báo và chưa bị can thiệp, hỗ trợ kiểm soát xuất khẩu và ngăn chặn chuyển hướng đến các cơ sở không được giám sát.

Một số trong số này tận dụng các tính năng phần cứng an toàn đã tồn tại trong bộ xử lý hiện đại vì những lý do khác. Kỹ thuật khó và một phần chưa giải quyết, nhưng không phải khoa học viễn tưởng, và công việc nghiêm túc đang được tiến hành để hiện thực hóa nó.

Tại sao đây lại là một đòn bẩy hấp dẫn như vậy

Điểm hấp dẫn là nó giải quyết vấn đề làm suy yếu hầu hết quản trị ASI: xác minh. Một hiệp ước bạn không thể kiểm tra là Công ước Vũ khí Sinh học, một lệnh cấm thực sự bị vi phạm trong nhiều thập kỷ mà không bị phát hiện. Quản trị có thể thực sự xác nhận việc tuân thủ, giống như cách chế độ thanh tra hạt nhân confirms it for fissile material, is governance that can hold. Hardware-enabled mechanisms offer a path to that kind of verification for AI, rooted in physics rather than trust. They could let states agree to limits and confirm each other are keeping them, which is the missing ingredient in almost every international proposal.

Phần khó nhất của bất kỳ thỏa thuận AI nào là chứng minh quy tắc đang được tuân thủ, chứ không phải viết quy tắc. Phần cứng là nơi bằng chứng có thể nằm.

Lưỡi dao hai lưỡi

Sự trung thực đòi hỏi phải nêu rõ rủi ro. Một cơ chế cho phép cơ quan có thẩm quyền xác minh và giới hạn compute cũng là một cơ chế kiểm soát, và kiểm soát có thể bị lạm dụng. Hạ tầng được xây dựng để thực thi giới hạn an toàn có thể, nếu rơi vào tay sai, trở thành công cụ độc quyền, củng cố quyền lực của người nắm chìa khóa, hoặc biến thành phương tiện giám sát và cưỡng bức. Đòn bẩy có thể bảo đảm một lệnh dừng quốc tế công bằng cũng có thể bảo đảm sự tập trung quyền lực Quỹ cảnh báo chống lại ở nơi khác.

Điều này không phản đối công nghệ. Nó ủng hộ việc xây dựng công nghệ kèm theo quản trị của chính quản trị: minh bạch về cơ chế hoạt động, giới hạn ai kiểm soát chúng, và thẩm quyền quốc tế thay vì đơn phương. Xử lý đúng cách, quản trị dựa trên phần cứng nằm trong số công cụ hứa hẹn nhất hiện có, vì nó tấn công vấn đề xác minh ngay tại gốc rễ. Đây là một trong những lý do cụ thể hơn khiến Quỹ tin rằng một khuôn khổ quốc tế đáng tin cậy, có thể kiểm chứng là khả thi chứ không phải không tưởng, và nó chạy xuyên suốt kế hoạch của chúng tôi.