Thách thức Ngoại giao
của Việc Xác Định AI Nguy Hiểm.

Các hiệp ước kiểm soát vũ trang bắt đầu bằng định nghĩa. Công ước Vũ khí Hóa học định nghĩa vũ khí hóa học là bất kỳ hóa chất độc hại nào hoặc tiền chất của nó được sử dụng làm phương pháp chiến tranh. Hiệp ước Không phổ biến Vũ khí Hạt nhân định nghĩa các quốc gia có vũ khí hạt nhân là những nước đã sản xuất và thử nghiệm vũ khí hạt nhân trước ngày 1 tháng 1 năm 1967. Các cuộc đàm phán Giới hạn Vũ khí Chiến lược định nghĩa tên lửa đạn đạo theo tầm bắn và trọng tải. Các định nghĩa này không trung lập về chính trị: mỗi định nghĩa phản ánh các lựa chọn chiến lược về ai sẽ bị bao gồm, hoạt động nào sẽ bị ràng buộc, và lợi ích của các bên sẽ được cân bằng như thế nào.

Những câu hỏi đó khó hơn vẻ ngoài của chúng, và cách trả lời sẽ quyết định liệu bất kỳ hiệp ước nào cũng có thể thực sự quản lý được những gì nó nhằm mục tiêu quản lý.

ASI governance đối mặt với vấn đề định nghĩa với nhiều đặc điểm không có tiền lệ gần gũi trong kiểm soát vũ trang. Hiểu những đặc điểm này là điều kiện tiên quyết để thiết kế các định nghĩa thực sự có thể quản trị những gì chúng nhằm quản trị.

Ba cách tiếp cận để định nghĩa AI nguy hiểm

Các khuôn khổ quản trị hiện hành đã sử dụng ba cách tiếp cận riêng biệt để xác định hệ thống AI nào nằm trong phạm vi của họ. Mỗi cách tiếp cận đều có điểm mạnh và hạn chế mà một khuôn khổ cấp hiệp ước cần giải quyết.

Ngưỡng compute xác định AI nguy hiểm dựa trên tài nguyên tính toán dùng để huấn luyện mô hình, đo bằng số phép tính dấu phẩy động (FLOPs). Luật AI EU định nghĩa mô hình AI tiên phong là những mô hình được huấn luyện với hơn 10 mũ 25 FLOPs. Sắc lệnh hành pháp về AI US ban hành tháng 10 năm 2023 yêu cầu báo cáo cho chính phủ liên bang đối với các mô hình huấn luyện trên 10 mũ 26 FLOPs. Các cam kết an toàn AI tiên phong ký tại Seoul áp dụng cho các mô hình đạt hoặc sắp đạt năng lực tiên phong, dùng compute làm thước đo trạng thái tiên phong.

Ngưỡng năng lực tính toán có hai lợi thế đáng kể cho thiết kế hiệp ước. Thứ nhất, năng lực tính toán có thể quan sát được. Phần cứng cần để huấn luyện các mô hình AI lớn, các chip chuyên dụng do một số ít nhà sản xuất sản xuất, tiêu thụ các mẫu năng lượng đặc trưng và sinh nhiệt có thể đo lường. Chuỗi cung ứng cho các chip này hẹp và đi qua các khu vực tài phán dễ giám sát. Thứ hai, năng lực tính toán khó bị làm giả hơn các tuyên bố về năng lực, vì việc sản xuất phần cứng và chạy các lần huấn luyện tạo ra các dấu hiệu quan sát được khó che giấu ở quy mô lớn.

Hạn chế của ngưỡng tính toán là chúng trở nên lỗi thời khi thuật toán cải thiện. Một mô hình được huấn luyện hôm nay với 10 mũ 26 FLOPs có năng lực khác biệt đáng kể so với mô hình được huấn luyện năm năm trước với cùng lượng tính toán, vì cải tiến thuật toán tạo ra mô hình mạnh hơn trên mỗi đơn vị tính toán theo thời gian. Một ngưỡng tính toán đặt hôm nay sẽ hoặc quá hạn chế khi thuật toán hiệu quả tạo ra mô hình mạnh dưới ngưỡng, hoặc quá lỏng lẻo khi biên giới tiến lên trên nó.

Định nghĩa dựa trên năng lực xác định AI nguy hiểm bằng những gì hệ thống có thể làm thay vì cách nó được huấn luyện. Một hệ thống có thể tự động xác định và khai thác các lỗ hổng an ninh mạng vượt ngưỡng nghiêm trọng được xác định là nguy hiểm theo định nghĩa dựa trên năng lực, bất kể lượng compute đã dùng để tạo ra nó. Một hệ thống có thể cung cấp hỗ trợ có ý nghĩa cho việc tổng hợp vũ khí sinh học vượt mức độ cụ thể được xác định là nguy hiểm, bất kể compute huấn luyện của nó.

Định nghĩa dựa trên năng lực nhắm chính xác hơn vào các thiệt hại chúng tìm cách ngăn chặn, nhưng chúng tạo ra vấn đề đo lường đáng kể. Đánh giá năng lực chưa được chuẩn hóa. Các phương pháp đánh giá khác nhau cho kết quả khác nhau. Các nhà phát triển AI tiên phong hiện đang tiến hành đánh giá năng lực bằng các phương pháp độc quyền không được kiểm toán công khai. Một định nghĩa dựa trên năng lực trong hiệp ước quản trị sẽ đòi hỏi các phương pháp đánh giá năng lực được chuẩn hóa, có thể xác minh độc lập, mà chưa tồn tại dưới dạng mà tất cả các quốc gia phát triển AI lớn chấp nhận.

Các định nghĩa dựa trên lĩnh vực xác định AI nguy hiểm theo ngành triển khai thay vì theo compute huấn luyện hay khả năng tổng quát. Hệ thống triển khai ra quyết định sát thương tự động trong bối cảnh quân sự là nguy hiểm. Hệ thống kiểm soát hạ tầng quan trọng là nguy hiểm. Hệ thống thao túng quy mô lớn nhắm vào bầu cử dân chủ là nguy hiểm.

Định nghĩa dựa trên lĩnh vực có lợi thế là liên kết rõ ràng nghĩa vụ quản trị với thiệt hại nó ngăn chặn. Chúng cũng dễ thực hiện về mặt chính trị hơn các định nghĩa năng lực chung, vì các quốc gia có thể chấp nhận ràng buộc AI trong các lĩnh vực rủi ro cao cụ thể mà không nhượng bộ nguyên tắc rằng chương trình AI của họ nói chung chịu sự giám sát quốc tế. Hạn chế đáng kể là các định nghĩa dựa trên lĩnh vực cho phép hệ thống có năng lực cao hoạt động mà không có nghĩa vụ quản trị nếu được triển khai ngoài các lĩnh vực đã định, ngay cả khi cùng hệ thống đó có thể dễ dàng chuyển hướng sang ứng dụng nguy hiểm.

Vấn đề biên giới đang di chuyển

Các định nghĩa kiểm soát vũ trang thường được viết cho một công nghệ ổn định. Tầm bắn và sức công phá của tên lửa đạn đạo, độ độc của một hóa chất được liệt kê, khối lượng chất phân hạch cần cho vũ khí hạt nhân. Những con số này không thay đổi đáng kể trong suốt thời gian hiệu lực của hiệp ước. Khả năng AI tiến bộ nhanh chóng, nghĩa là một định nghĩa đủ tốt hôm nay có thể lỗi thời chỉ sau vài năm.

Điều này tạo ra thứ có thể gọi là vấn đề biên giới di động: cách viết các định nghĩa hiệp ước vẫn còn phù hợp khi công nghệ phát triển mà không đòi hỏi đàm phán lại liên tục chính hiệp ước. Ba cơ chế đã được sử dụng trong kiểm soát vũ trang để giải quyết các vấn đề tương tự.

Quyền định nghĩa được ủy quyền: hiệp ước thành lập một cơ quan quản lý có thẩm quyền cập nhật các định nghĩa kỹ thuật trong các thông số đã xác định, tùy thuộc vào sự phê duyệt của Hội nghị các Bên. Tổ chức Cấm Vũ khí Hóa học sử dụng cách tiếp cận này cho danh sách hóa chất theo lịch trình của mình, có thể được sửa đổi thông qua Hội nghị các Quốc gia Thành viên mà không cần mở lại hiệp ước gốc. Cách này nhanh hơn đàm phán lại toàn bộ hiệp ước nhưng đòi hỏi các bên tin tưởng cơ quan quản lý với thẩm quyền định nghĩa.

Định nghĩa trung lập công nghệ: hiệp ước xác định AI nguy hiểm qua tính chất tác động thay vì các thông số kỹ thuật cụ thể. Một định nghĩa bao gồm bất kỳ hệ thống AI nào có khả năng gây thương vong hàng loạt vượt ngưỡng xác định, hoặc bất kỳ hệ thống nào có khả năng hành động tự chủ đủ quan trọng để đe dọa cơ sở hạ tầng quốc gia then chốt, sẽ vẫn phù hợp khi công nghệ nền tảng thay đổi vì nó mô tả kết quả thay vì đầu vào. Hạn chế là các định nghĩa dựa trên kết quả khó xác minh hơn, vì phép thử liên quan là những gì hệ thống có thể làm, chứ không phải những gì nó thực sự làm.

Điều khoản hoàng hôn và gia hạn: các định nghĩa trong hiệp ước được viết với chu kỳ xem xét xác định tại đó chúng được đánh giá lại và cập nhật. Hiệp ước có hiệu lực với các định nghĩa ban đầu, tiếp tục hoạt động trong thời gian xem xét, và được cập nhật tại mỗi hội nghị xem xét. Đây là cách tiếp cận mà NPT sử dụng cho các hội nghị xem xét định kỳ, mặc dù các định nghĩa về quốc gia có vũ khí hạt nhân của NPT đã chứng tỏ không thể cập nhật qua cơ chế này vì lợi ích của P5 trong việc duy trì địa vị đặc quyền của họ.

Chiều kích lợi ích chiến lược

Các cuộc đàm phán định nghĩa không chỉ là bài tập kỹ thuật. Mỗi lựa chọn định nghĩa đều có hệ quả chiến lược về việc quốc gia nào chịu chi phí tuân thủ lớn nhất và quốc gia nào giữ được tự do hành động lớn nhất. Những hệ quả này hiển nhiên với các chính phủ đang đàm phán và định hình lập trường của họ về các câu hỏi định nghĩa.

Các quốc gia có chương trình AI mạnh hơn thích các định nghĩa rộng áp đặt ràng buộc ngang nhau lên các đối thủ ở mức phát triển thấp hơn. Ngưỡng compute đặt trên biên giới hiện tại của các chương trình tiên tiến nhất không áp đặt ràng buộc nào lên các quốc gia dẫn đầu trong khi yêu cầu tất cả các nước khác phải ở dưới ngưỡng đó vô thời hạn. Các quốc gia có chương trình kém tiên tiến hơn thích các định nghĩa hẹp cho phép họ đạt mức biên giới hiện tại trước khi nghĩa vụ quản trị áp dụng, và phản đối các định nghĩa sẽ khiến họ bị thiệt thòi vĩnh viễn so với các quốc gia phát triển AI biên giới trước.

"Cuộc đàm phán định nghĩa là nơi diễn ra phần lớn công việc thực sự của một hiệp ước quản trị ASI. Một định nghĩa có thể đạt được về mặt chính trị nhưng không đủ về mặt kỹ thuật sẽ tạo ra một hiệp ước quản lý thứ gì đó khác với rủi ro thực sự. Một định nghĩa đủ về mặt kỹ thuật nhưng không thể đạt được về mặt chính trị sẽ không tạo ra hiệp ước nào cả. Con đường duy nhất qua vấn đề này là bằng chứng kỹ thuật được chia sẻ, đó là lý do tại sao các Viện An toàn AI quan trọng hơn hầu hết mọi người nhận ra."

Chiều hướng chiến lược này là lý do công việc thực nghiệm đang được thực hiện bởi Viện An ninh AI của UK và Trung tâm Tiêu chuẩn và Đổi mới AI của US (cả hai được thành lập như Viện An toàn AI) là nền tảng cho các cuộc đàm phán hiệp ước, ngay cả khi những cơ quan này không được thiết kế với mục đích chuẩn bị hiệp ước. Bằng cách tạo ra bằng chứng chung về những gì các hệ thống AI ở các mức độ khả năng khác nhau có thể và không thể làm, và về những khả năng tương quan với những rủi ro nào, họ tạo ra cơ sở thực tế cho các cuộc đàm phán định nghĩa mà các lợi ích chiến lược khó có thể đơn giản ghi đè. Thỏa thuận về sự kiện không tự động tạo ra thỏa thuận về định nghĩa, nhưng nó thay đổi tính chất của sự bất đồng từ một vấn đề thuần túy chiến lược sang một phần kỹ thuật, nơi bằng chứng chung điều chỉnh các vị thế đàm phán của tất cả các bên.

Công việc định nghĩa cần bắt đầu trước khi đàm phán diễn ra. Khi các cuộc đàm phán kiểm soát vũ trang bắt đầu mà không có sự đồng thuận kỹ thuật sẵn có về định nghĩa, các nhà đàm phán thường tạo ra các định nghĩa phản ánh mẫu số chung thấp nhất của thỏa thuận chính trị thay vì yêu cầu kỹ thuật của mục tiêu quản trị. Càng nhiều công việc kỹ thuật được thực hiện trước, nền tảng càng vững chắc để các nhà đàm phán xây dựng các định nghĩa thực sự quản trị được những gì chúng nhằm quản trị.

Sự phản đối mạnh mẽ nhất

Phản biện công bằng nhất là định nghĩa sẽ bị lách ngay ngày được viết. Đúng. Đó là lý do định nghĩa cần cơ chế cập nhật, bài kiểm tra năng lực và ngưỡng compute, chứ không phải bảng thuật ngữ cố định. Việc lách luật là yếu tố đầu vào của thiết kế. Nó không phải lý do để để biên giới không có nhãn.