Những người quyết định xây dựng hướng tới siêu trí tuệ nhanh đến mức nào, áp dụng tiêu chuẩn an toàn nào, và khi nào triển khai các hệ thống tiếp cận ngưỡng đó là, chủ yếu, nhân viên và nhà đầu tư của năm hoặc sáu công ty công nghệ tư nhân. Họ không chịu sự chi phối của luật quốc tế ràng buộc, không được bầu chọn. Quyết định của họ bị ràng buộc bởi các cam kết tự nguyện họ đã đưa ra với nhau và bởi môi trường quy định của các quốc gia nơi họ hoạt động, vốn chưa hoàn chỉnh và chủ yếu mang tính phản ứng.

Những sự kiện đó không thể là câu trả lời cuối cùng.

Đây không phải là lời cáo buộc. Các cá nhân tại các tổ chức này, trong nhiều trường hợp, thực sự đang cố gắng hành động có trách nhiệm. Vấn đề là mang tính cấu trúc: các quyết định có quy mô như vậy không nên nằm ở ý định tốt của một số cá nhân cụ thể tại một số công ty cụ thể, đang hoạt động dưới áp lực cạnh tranh luôn đẩy mạnh triển khai nhanh hơn với biên an toàn thấp hơn.

Cấu trúc ra quyết định hiện tại

OpenAI, Anthropic, Google DeepMind, và Meta AI là các tác nhân phương Tây chính trong phát triển AI tiên phong. Mỗi bên đều có đội an toàn nội bộ, đã đưa ra cam kết công khai về phát triển có trách nhiệm, và tham gia các diễn đàn quản trị tự nguyện bao gồm Frontier Model Forum. Sự phát triển của Trung Quốc chủ yếu do các thực thể được nhà nước hậu thuẫn và các công ty công nghệ lớn hoạt động dưới sự phối hợp của chính phủ dẫn dắt.

Các quyết định quan trọng nhất, khi nào đẩy mức độ khả năng tiếp theo, các đánh giá an toàn nào là đủ trước khi triển khai, liệu sự căn chỉnh của một hệ thống đã được xác minh đầy đủ hay chưa, đều được đưa ra trong nội bộ các tổ chức này, do đội ngũ an toàn nội bộ xem xét và đánh giá theo các tiêu chuẩn chủ yếu do chính họ soạn thảo.

Khoảng cách trách nhiệm giải trình

Không chính phủ đương nhiệm nào có thẩm quyền ra lệnh cho bất kỳ phòng thí nghiệm AI biên giới hàng đầu nào dừng phát triển. Không cơ quan quốc tế nào có tư cách pháp lý yêu cầu xác minh độc lập các đánh giá an toàn. Chưa từng có cuộc bỏ phiếu dân chủ nào, ở bất kỳ đâu, về việc có nên tiếp tục xây dựng các hệ thống mà chính nhà phát triển mô tả là có thể biến đổi toàn bộ hoạt động của con người.

Đây là mô tả về một khoảng cách cấu trúc: những người chịu ảnh hưởng nhiều nhất từ các quyết định về siêu trí tuệ không có cơ chế chính thức nào có ý nghĩa để tác động đến chúng, chứ không phải là lời chỉ trích ý định của bất kỳ công ty nào.

Tại sao quản trị tư nhân thất bại về mặt cấu trúc

Ba vấn đề cấu trúc khiến quản trị siêu trí tuệ của công ty tư nhân không đủ, bất kể ý định của các công ty liên quan.

Yếu tố đầu tiên là áp lực cạnh tranh. Ngay cả một phòng thí nghiệm thực sự muốn chờ đến khi alignment được giải quyết cũng phải đối mặt với việc đối thủ triển khai trước có thể chiếm lĩnh vị trí thị trường khó lấy lại. Điều này tạo ra động lực xác định “an toàn đủ mức” ở mức cho phép triển khai trước đối thủ, thay vì mức thực sự đủ an toàn. Không công ty nào có thể giải quyết vấn đề này một mình. Các cam kết an toàn tự nguyện tồn tại chính vì các công ty biết vấn đề này là có thật, và chúng không đủ hiệu quả chính vì các cam kết tự nguyện bị bẻ cong dưới áp lực cạnh tranh.

Thứ hai là xung đột lợi ích trong đánh giá an toàn. Các tổ chức tiến hành đánh giá an toàn các hệ thống AI chính là các tổ chức có lợi ích tài chính khi những hệ thống đó vượt qua đánh giá. Đây đơn giản là tình trạng hiện tại của lĩnh vực, không phải cách diễn đạt không công bằng. Các đội an toàn nội bộ làm công việc nghiêm túc và có giá trị. Chúng không phải là thay thế cho đánh giá bên ngoài độc lập, giống như các thử nghiệm lâm sàng nội bộ của một công ty dược phẩm không phải là thay thế cho đánh giá quy định bởi một cơ quan độc lập.

Yếu tố thứ ba là phạm vi quyết định. Việc có nên xây dựng siêu trí tuệ và theo lộ trình nào là quyết định mang tính văn minh, không phải quyết định sản phẩm. Nơi thích hợp để đưa ra quyết định đó là các cấu trúc quản trị chịu trách nhiệm trước người dân, chứ không phải hội đồng công ty chịu trách nhiệm trước cổ đông.

Yêu cầu giám sát dân chủ và xuyên quốc gia là gì

Lập luận về giám sát dân chủ đối với siêu trí tuệ không giả định rằng các quy trình dân chủ là hoàn hảo hay các tổ chức quốc tế hoạt động trôi chảy. Nó giả định rằng phương án thay thế (quản trị tư nhân dưới áp lực cạnh tranh) rõ ràng tệ hơn.

Giám sát đầy đủ cần ba đặc tính. Thứ nhất là tính chính danh đại diện: cơ quan quản trị phải chịu trách nhiệm trước những người bị ảnh hưởng, nghĩa là toàn thể nhân loại, chứ không chỉ công dân các nước nơi AI tiên phong được xây dựng. Điều này gợi ý các tổ chức hiệp ước quốc tế với thành viên rộng rãi, thay vì quy định quốc gia đơn phương.

Yếu tố thứ hai là thẩm quyền ràng buộc. Cam kết tự nguyện không phải là quản trị. Một khuôn khổ quản trị cho siêu trí tuệ cần năng lực pháp lý để yêu cầu tuân thủ, tiến hành kiểm toán độc lập và áp đặt hậu quả khi vi phạm. Điều này đòi hỏi các thỏa thuận cấp hiệp ước, không phải diễn đàn ngành.

Yếu tố thứ ba là năng lực kỹ thuật. Một cơ quan quản trị không thể đánh giá những gì nó đang quản trị thì không thể quản trị được. Giám sát AI quốc tế đòi hỏi nhân sự có chuyên môn kỹ thuật thực sự, tiếp cận trọng số mô hình và hồ sơ huấn luyện, cùng các công cụ phân tích để đánh giá các tuyên bố về sự liên kết một cách độc lập.

Tiền lệ hạt nhân

Lập luận rằng quản trị quốc tế hiệu quả đối với công nghệ nguy hiểm là không thể đã bị lịch sử bác bỏ. Hiệp ước Không phổ biến vũ khí hạt nhân, được ký năm 1968 và hiện có hiệu lực tại 191 quốc gia, đã thành công trong việc kiềm chế sự lan rộng của vũ khí hạt nhân xuống một nhóm quốc gia nhỏ hơn nhiều so với dự đoán của các nhà phân tích những năm 1960. Nó không hoàn hảo. Nó chưa ngăn chặn được mọi sự phổ biến. Tuy nhiên, nó đã là một trong những thỏa thuận kiểm soát vũ trang có hậu quả nhất trong lịch sử.

Công ước Vũ khí Hóa học, có hiệu lực năm 1997, đã đạt được việc tiêu hủy đã kiểm chứng hơn 70.000 tấn vũ khí hóa học đã khai báo. Chế độ thanh tra do Tổ chức Cấm Vũ khí Hóa học (OPCW) điều hành thực hiện các chuyến thăm kiểm chứng độc lập tại các cơ sở ở các quốc gia thành viên và hoạt động với độ tin cậy kỹ thuật thực sự.

"Trách nhiệm phát triển AI siêu trí tuệ không nên để cho bất kỳ tác nhân đơn lẻ nào (nhà nước hay doanh nghiệp) mà phải giao phó cho các cấu trúc quản trị dân chủ và xuyên quốc gia đại diện cho nhân loại trong toàn bộ sự đa dạng của nó."

Tạp chí Chính sách Toàn cầu, Tháng Hai 2026

Không hiệp ước nào là hình mẫu hoàn hảo cho quản trị ASI. Phát triển AI diễn ra nhanh hơn, phân tán hơn và khó giám sát thực tế hơn so với sản xuất vũ khí hạt nhân. Tuy nhiên, lập luận cốt lõi từ những tiền lệ này vẫn đúng: khi một công nghệ gây ra rủi ro mang tính toàn cầu và có khả năng không thể đảo ngược, cộng đồng quốc tế đã chứng minh khả năng xây dựng các cấu trúc quản trị để kiềm chế nó. Việc cho rằng AI là duy nhất không thể quản trị không phải là nhận xét kỹ thuật, mà là một sự lựa chọn.

Phản đối mang tính cạnh tranh và lý do nó không giải quyết được câu hỏi

Phản đối nghiêm trọng nhất đối với sự giám sát dân chủ và giao tiếp quốc gia của siêu thông minh là cạnh tranh: nếu nền dân chủ phương Tây chịu đựng sự hạn chế quản lý và Trung Quốc thì không, kết quả là một diễn viên ít ý thức an toàn hơn đến siêu thông minh trước.

Phản hồi có nhiều phần. Thứ nhất, các khuôn khổ quản trị phải được thiết kế ngay từ đầu để bao gồm tất cả các bên tham gia chính. US và các đồng minh của nó có đòn bẩy đáng kể đối với sự phát triển AI của Trung Quốc thông qua tiếp cận công nghệ, dòng đầu tư và chuỗi cung ứng chip. Đòn bẩy đó có giá trị nhất khi nó còn tồn tại, chứ không phải sau khi một khuôn khổ quản trị đã được xây dựng mà không có Trung Quốc rồi sau đó thất bại. Thứ hai, chính phủ Trung Quốc có lợi ích riêng trong việc không bị vượt qua bởi một AI không liên kết do một công ty phương Tây phát triển, và đã tham gia các cuộc thảo luận an toàn AI quốc tế, bao gồm tại Bletchley Park. Các trở ngại đối với sự tham gia của Trung Quốc là có thật nhưng không phải không thể vượt qua. Thứ ba, giải pháp thay thế cho quản trị đa phương là một cuộc chạy đua trong đó mọi bên tham gia chính đều cố gắng triển khai trước với các ràng buộc an toàn tối thiểu, điều này không rõ ràng có lợi cho US hay các đồng minh của nó, và trong đó một siêu trí tuệ không liên kết trở nên có nhiều khả năng xảy ra hơn bất kể ai xây dựng nó.

Phản đối cạnh tranh không cấu thành một cuộc tranh luận cho tình trạng hiện tại. Tình trạng hiện tại là sự quản lý tư nhân dưới áp lực cạnh tranh, điều mà sự phân tích trên cho thấy là không đủ kết cấu. Câu trả lời cho sự quản lý đa dạng là rất khó khăn, không phải để chấp nhận sự quản lý đơn giản nhưng rõ ràng là không đủ.

Của Foundation ba đề xuất chính sách được thiết kế với ràng buộc này ngay từ đầu: các khuôn khổ có cấu trúc để mọi tác nhân lớn đều có thể tham gia, với các động lực chính trị và kinh tế cần thiết để việc tham gia hấp dẫn hơn là đứng ngoài.