Một vấn đề lặp lại trong quản trị ASI là các chính phủ lịch sử thiếu chuyên môn nội bộ để đánh giá các hệ thống họ được cho là phải quản lý. Các viện an toàn tồn tại để thu hẹp khoảng cách đó. Họ là các cơ quan chính phủ hoặc được chính phủ hỗ trợ, được staffed bởi các nhà nghiên cứu kỹ thuật có nhiệm vụ đánh giá khả năng và rủi ro của các mô hình biên giới, nhà nước cuối cùng xây dựng khả năng nhìn thấy những gì các phòng thí nghiệm đang xây dựng, thay vì tin lời họ.

Bắt đầu từ UK và US vào cuối năm 2023, các viện an toàn AI quốc gia đã nhân lên và kết nối thành mạng lưới quốc tế. Chúng không hào nhoáng, nhưng có thể là hạ tầng quản trị quan trọng nhất được tạo ra cho đến nay.

Mạng lưới bắt nguồn từ đâu

Vương quốc Anh công bố Viện An toàn AI của mình quanh hội nghị thượng đỉnh Bletchley vào tháng Mười một năm 2023, viện đầu tiên loại này. Hoa Kỳ thành lập viện riêng tại NIST ngay sau đó. Tại hội nghị thượng đỉnh Seoul tháng Năm năm 2024, một nhóm chính phủ rộng hơn (bao gồm Nhật Bản, Singapore, Canada, Hàn Quốc, EU và các nước khác) đồng ý xây dựng các viện và kết nối chúng thành mạng lưới quốc tế để điều phối công việc. Những gì bắt đầu là hai cơ quan quốc gia đã trở thành hạt nhân của một hệ thống hợp tác.

Lưu ý về tên gọi: hai viện sáng lập đã được đổi tên, UK hiện là Viện An ninh AI, và cơ quan US trở thành Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI) năm 2025. Mạng lưới và công việc đánh giá tiếp tục dưới tên mới.

Những gì viện thực sự làm

  • Đánh giá các mô hình tiên phong. Họ kiểm tra các hệ thống tiên tiến về năng lực nguy hiểm (bao gồm cả lĩnh vực rủi ro cao) và phát triển phương pháp đo lường những gì mô hình thực sự có thể làm.
  • Phát triển khoa học đánh giá. Việc kiểm tra AI nghiêm ngặt, tiêu chuẩn hóa là vấn đề kỹ thuật chưa giải quyết. Các viện đang xây dựng phương pháp mà quản trị đáng tin cậy đòi hỏi.
  • Tư vấn cho các chính phủ. Họ cung cấp cho các quốc gia khả năng phán đoán kỹ thuật độc lập về rủi ro AI, giảm sự phụ thuộc vào đánh giá của chính các nhà phát triển.
  • Hợp tác vượt biên giới. Through the network, institutes share methods, coordinate testing, and work toward common standards, the beginnings of interoperable, international evaluation.

Tại sao chúng quan trọng đối với một hiệp ước

Mối liên hệ giữa các viện và một thỏa thuận ràng buộc trong tương lai là trực tiếp và chưa được đánh giá đúng mức. Mọi đề xuất nghiêm túc cho một hiệp ước AI đều phụ thuộc vào khả năng đánh giá xem một hệ thống có vượt ngưỡng nguy hiểm hay không và xác minh việc tuân thủ các nghĩa vụ an toàn. Khả năng đó không tồn tại theo mặc định; nó phải được xây dựng. Các viện an toàn đang xây dựng chính nó. Họ, trên thực tế, đang xây dựng các cơ quan kỹ thuật mà một chế độ xác minh sau này sẽ sử dụng.

Chúng cũng giải quyết một vấn đề trình tự. Một hiệp ước quy định các yêu cầu đánh giá sẽ vô giá trị nếu không có cơ quan độc lập nào có thể thực hiện các đánh giá. Bằng cách phát triển năng lực đó ngay bây giờ (trước khi hiệp ước tồn tại), các viện đảm bảo các công cụ đã sẵn sàng khi thỏa thuận chính trị đến. Mạng lưới là nền tảng thực tiễn mà trên đó quản trị ràng buộc cuối cùng có thể đứng vững, và nó đang được đặt một cách lặng lẽ trong khi ngoại giao cấp cao hơn diễn ra song song.

Những giới hạn cần thành thật về

Các viện không phải là sự thay thế cho quản trị ràng buộc, và sẽ là sai lầm nếu coi chúng như vậy. Quyền truy cập mô hình của họ thường phụ thuộc vào sự hợp tác tự nguyện của nhà phát triển; họ không thể buộc kiểm tra một hệ thống mà công ty từ chối chia sẻ. Phạm vi và nguồn lực của họ khác nhau rất nhiều giữa các quốc gia, và sự phối hợp của mạng lưới vẫn còn ở giai đoạn sơ khai và không ràng buộc. Và việc đánh giá bản thân vẫn còn non trẻ về mặt khoa học, việc xác định đáng tin cậy liệu một mô hình có nguy hiểm hay không thực sự khó, và các phương pháp hiện tại có những khoảng trống thực sự.

Một hiệp ước yêu cầu đánh giá an toàn sẽ vô nghĩa nếu không ai thực hiện được. Các viện an toàn đang xây dựng đôi mắt mà bất kỳ chế độ xác minh thực sự nào cũng cần. Công việc đó phải diễn ra trước hiệp ước, không phải sau.

Hạ tầng quản trị có thể thực thi

Các viện an toàn đại diện cho sự chuyển dịch từ việc nói về rủi ro AI sang xây dựng năng lực đo lường nó. Sự chuyển dịch đó quan trọng vì quản trị không có đo lường chỉ là khát vọng suông. Con đường thực tế là mạng lưới trưởng thành, đạt được quyền tiếp cận được đảm bảo với các mô hình tiên phong thông qua ủy quyền pháp lý thay vì thiện chí, hội tụ về các tiêu chuẩn chung, và xây dựng năng lực đánh giá độc lập, được trang bị tốt mà một chế độ xác minh đòi hỏi. Các viện sẽ không tự cứu thế giới. Nhưng họ đang lắp ráp các công cụ mà không có chúng thì không hiệp ước ràng buộc nào có thể hoạt động, và củng cố chúng là một trong những việc cụ thể và hữu ích nhất mà chính phủ có thể làm trong khi thỏa thuận lớn hơn vẫn đang được đàm phán.