Bản dự thảo Hiệp ước MIRI để Ngăn chặn
Siêu trí tuệ, Được Giải Thích

Bài báo có tiêu đề Một Thỏa thuận Quốc tế Ngăn chặn Việc Tạo ra Siêu Trí tuệ Nhân tạo Quá Sớm (arXiv:2511.10783), do Aaron Scher, David Abecassis, Peter Barnett và Brian Abeyta thuộc Nhóm Quản trị Kỹ thuật của Viện Nghiên cứu Trí tuệ Máy móc viết và phát hành vào tháng 11 năm 2025. Đây không phải là một hiệp ước đã ký và cũng không giả vờ rằng ý chí chính trị để ký một hiệp ước như vậy đã tồn tại. Điều nó làm là lấp khoảng trống mà những người phản đối quản trị ASI đã khai thác trong nhiều năm, lập luận rằng việc cấm siêu trí tuệ chỉ là một khẩu hiệu không có gì đằng sau. Dự thảo MIRI chính là "cái gì đó đằng sau", được xây dựng chi tiết đến mức các nhà ngoại giao cần.

MIRI's Technical Governance Team đã công bố bản dự thảo đầy đủ, một thỏa thuận quốc tế nhằm dừng cuộc chạy đua hướng tới siêu trí tuệ nhân tạo, kèm theo giới hạn compute, ngưỡng cụm chip và chế độ xác minh được xây dựng cho các đối thủ không tin tưởng lẫn nhau. Đây là nội dung thực sự của bản dự thảo và lý do nó quan trọng khi đã tồn tại.

Nó đến cùng với người bạn đồng hành tự nhiên của nó. Vài ngày trước đó Tuyên bố về Siêu trí tuệ đã thu thập hơn 850 chữ ký (trong đó có Geoffrey Hinton, Yoshua Bengio và Stuart Russell) sau một câu duy nhất: rằng việc phát triển siêu trí tuệ nên bị cấm cho đến khi có sự đồng thuận khoa học rộng rãi rằng có thể thực hiện an toàn, có kiểm soát và được công chúng ủng hộ mạnh mẽ. Tuyên bố là yêu cầu. Bản nháp MIRI là cơ chế. Một bên nói dừng; cái kia nói đây là cách bạn thực sự có thể khiến việc dừng lại trở nên có thể kiểm chứng.

Một liên minh, không phải một hiệp ước toàn cầu

Bản thảo được xây dựng xung quanh một liên minh cốt lõi thay vì chờ tất cả khoảng 190 chính phủ đồng ý, theo cách diễn đạt của các tác giả, "một liên minh do Hoa Kỳ và Trung Quốc dẫn dắt sẽ hạn chế quy mô huấn luyện AI và nghiên cứu AI nguy hiểm." Lựa chọn đó là có chủ đích và thực tế. Các chip tiên tiến, các phòng thí nghiệm hàng đầu và các điểm nghẽn chế tạo nằm ở một số ít khu vực pháp lý. Nếu Washington và Bắc Kinh tự ràng buộc và sử dụng ảnh hưởng của họ đối với chuỗi cung ứng để đưa những người khác tham gia, thỏa thuận sẽ quản lý các bên thực sự quan trọng mà không cần sự đồng ý phổ quát trước. Đó là logic tương tự đã khiến Nghị định thư Montreal hoạt động: bắt đầu với các bên có thể giải quyết vấn đề.

Các ngưỡng xác định "quá xa"

Vì năng lực AI là phổ liên tục không có ranh giới tự nhiên, dự thảo neo các quy tắc vào thứ có thể đo lường: compute huấn luyện, tính bằng FLOP (floating-point operations). Nó thiết lập hai cấp độ.

Dòng 16-GPU: Các cụm chip che giấu

Một giới hạn compute chỉ tốt bằng khả năng nhìn thấy compute của bạn. Vì vậy, bản dự thảo gắn các quy tắc của nó vào một đơn vị vật lý gọi là Cụm chip được bao phủ: bất kỳ tập hợp chip AI nào, hoặc cụm được kết nối mạng, với tổng công suất tính toán hiệu quả lớn hơn mười sáu H100-equivalent. Để cụ thể hóa, bài báo ghi nhận rằng mười sáu chip H100 cung cấp khoảng 15.840 TFLOP/s và có giá khoảng 500.000 USD vào năm 2025. Trên ngưỡng đó, chip không được tập trung bên ngoài các cơ sở được giám sát.

Đây là điểm neo vật lý cho toàn bộ chế độ. Một lần huấn luyện tiên phong không thể hiện ra từ hư không; nó đòi hỏi việc lắp ráp một cụm chip khổng lồ, ngốn điện và khan hiếm. Bằng cách buộc mọi sự tập trung vượt ngưỡng mười sáu GPU phải vào các địa điểm được khai báo và giám sát, dự thảo khiến hành vi bị cấm (chạy quy mô lớn ngầm) trở nên khó thực hiện mà không bị phát hiện. Mọi thứ khác trong chế độ xác minh đều dựa vào yêu cầu này.

Bạn xác minh lời hứa giữa các đối thủ như thế nào

Xác minh là phần khó nhất của bất kỳ thỏa thuận nào giữa các bên không tin tưởng lẫn nhau, và bản dự thảo coi nó là trọng tâm chứ không phải điều bổ sung sau. Nó xếp chồng nhiều cơ chế, mỗi cái đều có tiền lệ trong kiểm soát vũ trang hiện có:

• Theo dõi chuỗi cung ứng. Các chip AI tiên tiến được theo dõi từ khâu chế tạo qua bán hàng và lắp đặt, nhờ đó liên minh biết chính xác vị trí vật lý của toàn bộ năng lực tính toán trên thế giới.
• Giám sát mức tiêu thụ điện năng. Các đợt huấn luyện lớn tiêu tốn lượng điện khổng lồ và đặc trưng; giám sát hồ sơ tiêu thụ điện của các trung tâm dữ liệu là một cách để phát hiện compute chưa khai báo.
• Hợp nhất vào các cơ sở được giám sát. Quy tắc buộc các cụm vượt ngưỡng phải hoạt động tại các địa điểm đã khai báo sẽ biến việc "tìm trung tâm dữ liệu ẩn" thành "giải trình cho những cái đã biết."
• Kiểm tra thách thức. Một bên có thể yêu cầu thanh tra tại chỗ với thông báo ngắn hạn đối với địa điểm đáng ngờ, cơ chế được mô phỏng theo Phần X của Công ước Vũ khí Hóa học, nơi đã có hàng thập kỷ thực tiễn.

Không có gì trong số này là khoa học viễn tưởng. Mỗi cái đều là sự thích nghi của kỹ thuật đã dùng để xác minh cam kết hạt nhân hoặc hóa học. Điều mới là áp dụng chúng cho máy tính, và làm trước khi năng lực nguy hiểm xuất hiện chứ không phải sau.

Hạn chế cả nghiên cứu, không chỉ compute

Điều khoản mới nhất (và gây tranh cãi nhất) của bản dự thảo vượt ra ngoài phần cứng. Nó hạn chế chính một số hoạt động nghiên cứu: công việc đóng góp vào phát triển AI tiền biên, hoặc có thể đe dọa các phương thức kiểm chứng mà thỏa thuận dựa vào. Lý do là tiến bộ thuật toán có thể thay thế cho sức mạnh tính toán thô; một đột phá khiến việc huấn luyện hiệu quả gấp mười lần sẽ âm thầm hạ thấp mức tính toán cần thiết để vượt qua ranh giới nguy hiểm. Một chế độ chỉ giám sát chip mà bỏ qua khoa học sẽ sớm bị bỏ lại phía sau. Vẽ ra ranh giới đó mà không kìm hãm nghiên cứu thông thường, có lợi là việc thực sự khó, và các tác giả thẳng thắn thừa nhận đây là một trong những vấn đề nan giải nhất của đề xuất.

Các tác giả lập luận rằng đề xuất sẽ đủ về mặt kỹ thuật để ngăn chặn việc tạo ra siêu trí tuệ nhân tạo nếu được thực hiện ngay hôm nay, đồng thời thừa nhận rằng ý chí chính trị để thực hiện nó hiện chưa tồn tại.

Scher, Abecassis, Barnett & Abeyta, MIRI Technical Governance Team, arXiv:2511.10783 (2025)

Từ bản thảo đến luật: những bước đệm đã tồn tại

Một bài báo trên arXiv không phải là văn kiện ràng buộc. Nhưng thế giới không bắt đầu từ một trang trắng, và khoảng cách từ đây đến thứ gì đó có thể thực thi ngắn hơn vẻ ngoài. Ba chế độ hiện có là tiền lệ một phần, mỗi chế độ đã thực hiện một phần công việc mà bản thảo MIRI cần:

Công việc biến những mảnh vỡ này thành một con đường mạch lạc chính là nơi một tổ chức vận động hữu ích. Nó có nghĩa là tổng hợp bản thảo MIRI, Tuyên bố về Siêu trí tuệ, các kiểm soát xuất khẩu hiện có và công ước Hội đồng Châu Âu thành các đầu ra có mục tiêu nhắm vào những người soạn thảo và đàm phán luật: dự luật thực thi quốc gia mẫu; phân tích về cách các kiểm soát chip ngày nay và Đạo luật AI của EU có thể phát triển thành giám sát mà hiệp ước hình dung; và các cập nhật ngôn ngữ đơn giản theo dõi năng lực AI thực tế so với các ngưỡng được đề xuất. Những đầu ra đó chẳng đáng giá gì khi nằm trên trang web. Chúng có giá trị khi đặt trước nhân viên quốc hội, các văn phòng ngành hành pháp, mạng lưới đang phát triển của các viện an toàn AI quốc gia, và các kênh ngoại giao, đó là nơi của Foundation's công việc chính sách nhắm chúng.

Tại sao một bản nháp lại thay đổi cuộc trò chuyện

Giá trị của bài báo MIRI là nó chuyển một khát vọng mơ hồ thành tập hợp các lựa chọn cụ thể, có thể tranh luận — một ngưỡng nghiêm ngặt bạn có thể tranh cãi là quá thấp hay quá cao, một đường mười sáu GPU bạn có thể phản đối, một hạn chế nghiên cứu bạn có thể cố gắng thu hẹp — chứ không phải ai cũng sẽ ký nguyên văn. Đó là bước tiến lớn. Nó chuyển tranh luận từ "một hiệp ước là không thể" sang "đây là hiệp ước; đây chính xác là những gì chúng ta phải đồng ý." Như với bản phác thảo cấu trúc của một hiệp ước mẫu, trọng tâm là cho thấy rào cản không nằm ở việc thiếu công cụ pháp lý hay kỹ thuật. Mọi cơ chế mà bản thảo sử dụng đều đã tồn tại ở đâu đó. Thành phần còn thiếu là ý chí chính trị, và một bản thảo cụ thể là một trong số ít thứ có thể giúp xây dựng nó.