Phát triển AI hiện nay đòi hỏi nhiều phần cứng. Huấn luyện các mô hình nằm ở biên giới năng lực đòi hỏi các cụm hàng nghìn chip chuyên dụng chạy trong nhiều tuần hoặc nhiều tháng, tiêu thụ điện trong khoảng hàng chục megawatt. Các chip được thiết kế bởi một số ít công ty, chế tạo bằng thiết bị do một số lượng còn ít hơn sản xuất, và được bán qua chuỗi cung ứng đi qua các thẩm quyền quốc gia cụ thể. Sự tập trung phần cứng này là một trong số ít đặc điểm của phát triển AI biên giới khiến việc điều chỉnh gần hạn trở nên khả thi.
Sự tập trung đó tạo ra một điểm nghẽn quản trị, một trong số ít nơi việc điều chỉnh phát triển AI tiên phong thực sự khả thi trong ngắn hạn.
Quản trị compute là cách tiếp cận điều chỉnh AI cố gắng khai thác sự tập trung này như một đòn bẩy. Thay vì điều chỉnh trực tiếp những gì AI có thể hoặc không thể xây dựng (một câu hỏi đòi hỏi phán đoán kỹ thuật mà hầu hết cơ quan quản lý không thể đưa ra), quản trị compute điều chỉnh phần cứng cần thiết để xây dựng chúng. Kiểm soát compute, và bạn có một mức độ kiểm soát nào đó đối với ai có thể phát triển AI tiên phong, ở quy mô nào, và với mức độ báo cáo và minh bạch nào.
Các điểm nghẽn phần cứng
Các điểm nghẽn này không vĩnh viễn. Trung Quốc đang tích cực đầu tư vào sản xuất chất bán dẫn trong nước để giảm phụ thuộc vào chuỗi cung ứng phương Tây. Các chip nội địa hiện tại vẫn còn tụt hậu đáng kể so với biên giới công nghệ, một khoảng cách gây ra chi phí thực sự cho sự phát triển AI của Trung Quốc nhưng không khiến phát triển AI biên giới trở nên bất khả thi với đủ thời gian và nguồn lực. Cửa sổ quản trị do sự tập trung phần cứng hiện tại tạo ra là có thật nhưng hữu hạn.
Những biện pháp quản trị compute nào đã tồn tại
Chính phủ US đã thực hiện kiểm soát xuất khẩu chip AI tiên tiến như biện pháp quản trị compute quan trọng nhất cho đến nay. Các biện pháp kiểm soát được công bố vào tháng 10 năm 2022 hạn chế bán chip A100 và H100 của Nvidia cho Trung Quốc, Nga và các quốc gia được chỉ định khác. Các vòng kiểm soát tiếp theo vào năm 2023 và 2024 mở rộng hạn chế đối với các chip được thiết kế cụ thể để nằm dưới ngưỡng ban đầu, đóng lại tuyến đường lách luật rõ ràng nhất. Các biện pháp kiểm soát đã gây ra chi phí thực sự cho các phòng thí nghiệm AI Trung Quốc: các nỗ lực buôn lậu chip được ghi nhận, giá thị trường đen và khả năng giảm sút của các cụm huấn luyện Trung Quốc đều cho thấy các hạn chế đã có hiệu lực.
Sắc lệnh hành pháp về AI tháng 10 năm 2023 của chính quyền Biden bao gồm yêu cầu các nhà phát triển báo cáo cho chính phủ các lần huấn luyện vượt khoảng 10^26 phép tính dấu phẩy động, tương đương mức compute cần để huấn luyện mô hình quy mô GPT-4. Yêu cầu báo cáo này là bước đầu tiên hướng tới giám sát dựa trên compute: trao cho chính phủ khả năng nhìn thấy ai đang chạy các lần huấn luyện lớn trước khi hệ thống được triển khai, thay vì sau đó.
Một lần huấn luyện biên giới vẫn cần một tòa nhà đầy chip chuyên dụng và hóa đơn điện có thể nhìn thấy từ quỹ đạo. Đống vật chất đó là điểm nắm bắt tốt nhất mà chính phủ có. Quản trị compute là dự án không lãng mạn nhằm biến những tòa nhà ấy thành hạ tầng được cấp phép và kiểm tra.
Những gì quản trị compute không thể làm
Ba hạn chế đáng kể làm giảm hiệu quả của quản trị compute như công cụ an toàn. Thứ nhất, việc lách: chip có thể được mua qua nước thứ ba trước khi hạn chế có hiệu lực, tích trữ, hoặc thay thế bằng chip ít mạnh hơn một chút nằm dưới ngưỡng quy định. Các biện pháp kiểm soát US đã bị lách trong một số trường hợp đã ghi nhận, và các mô hình buôn lậu cùng định tuyến qua nước thứ ba đủ rộng để thúc đẩy nhiều vòng siết chặt.
Thứ hai, hiệu quả thuật toán: khi huấn luyện AI trở nên hiệu quả hơn, lượng tính toán cần thiết để đạt một mức năng lực nhất định sẽ giảm. Ngưỡng tính toán đặt ở mức phù hợp hôm nay có thể trở nên quá lỏng lẻo sau ba năm khi hiệu quả cải thiện. Các khuôn khổ quản trị dựa trên ngưỡng tính toán cố định cần cơ chế điều chỉnh ngưỡng đó khi mối quan hệ giữa tính toán và năng lực thay đổi.
Thứ ba, và quan trọng nhất, quản trị compute không giải quyết được vấn đề căn chỉnh. Một hệ thống được huấn luyện trên phần cứng được cấp phép đúng cách, báo cáo cho cơ quan có thẩm quyền, và nằm trong ngưỡng compute được cho phép vẫn có thể bị lệch hướng. Quản trị compute có thể kiểm soát tốc độ và quy mô phát triển AI biên giới cũng như cung cấp khả năng nhìn thấy ai đang huấn luyện cái gì. Nó không thể đảm bảo những gì họ đang huấn luyện là đã căn chỉnh.
Đây là lý do compute governance được hiểu tốt nhất như một thành phần trong khuôn khổ rộng hơn cùng với yêu cầu xác minh alignment và nghĩa vụ hiệp ước quốc tế, chứ không phải giải pháp độc lập ba đề xuất chính sách coi quản trị compute là đòn bẩy gần hạn mua thời gian và khả năng nhìn thấy trong khi công việc kỹ thuật và ngoại giao khó khăn hơn về xác minh alignment và đàm phán hiệp ước quốc tế tiến triển.