On 22 October 2025, the Future of Life Institute released a public letter titled the Tuyên bố về Siêu trí tuệ. Không giống như các bản tuyên ngôn lan man thường đi kèm với những khoảnh khắc như thế này, nó chỉ là một câu duy nhất:

Chúng tôi kêu gọi cấm phát triển siêu trí tuệ, không dỡ bỏ cho đến khi có sự đồng thuận khoa học rộng rãi rằng việc này sẽ được thực hiện an toàn và có kiểm soát, cùng với sự ủng hộ mạnh mẽ từ công chúng.

Tuyên bố về Siêu trí tuệ, Future of Life Institute · Tháng 10 năm 2025

Nó không nói siêu trí tuệ không bao giờ nên được xây dựng. Nó không lên án AI nói chung. Nó đặt ra một điều kiện (thực ra là hai điều kiện) và yêu cầu dừng phát triển cho đến khi các điều kiện đó được đáp ứng. Để hiểu tại sao yêu cầu nghe có vẻ khiêm tốn này lại đại diện cho một thay đổi thực sự trong tranh luận, bạn cần hiểu cả những gì nó đòi hỏi lẫn những ai sẵn sàng ký tên vào.

Tuyên bố thực sự yêu cầu điều gì

Cách diễn đạt rất chính xác. Ba đặc điểm phân biệt nó với các bức thư ngỏ trước đây, bao gồm cả bức thư nổi tiếng năm 2023 kêu gọi tạm dừng sáu tháng đối với các lần huấn luyện lớn nhất.

  • Nó nhắm mục tiêu cụ thể vào siêu trí tuệ. Không phải AI hẹp, không phải chatbot, không phải các công cụ AI đã len lỏi vào đời sống hàng ngày. Lệnh cấm áp dụng cho các hệ thống sẽ vượt quá năng lực con người trên cơ bản mọi miền nhận thức, danh mục mà chúng tôi mô tả trong bài giải thích về siêu trí tuệ nhân tạo. Sự chính xác này làm giảm phản biện thường gặp rằng những người ủng hộ an toàn muốn dừng công nghệ có lợi. Họ không muốn vậy. Họ chỉ muốn dừng một loại công nghệ biên giới cụ thể và đặc biệt nguy hiểm.
  • Đây là lệnh cấm có điều kiện, không phải lệnh cấm vĩnh viễn. The prohibition lifts the moment two thresholds are crossed. This reframes the entire question. The default today is: build superintelligence, and establish safety afterward if we can. The statement inverts it: establish safety first, then build. The burden of proof moves onto the developers, where (for a technology of this consequence) it arguably belongs.
  • Nó đòi hỏi sự đồng thuận của công chúng, không chỉ chữ ký của chuyên gia. The second condition is democratic, not technical. Even if scientists someday agree superintelligence can be controlled, the statement insists the public must consent to building it. That is a direct challenge to the current arrangement, in which a handful of private labs make a civilization-altering decision on everyone's behalf, the concern we examine in ai kiểm soát siêu trí tuệ.

Tại sao người ký tên lại quan trọng hơn câu chữ

Open letters chẳng có giá trị gì. Điều khiến bức thư này gây chú ý là liên minh đứng sau. Hơn 850 người ký tên, và danh sách này đáng chú ý không phải vì độ dài mà vì phạm vi.

Ở đỉnh cao là những nhà khoa học đã xây dựng lĩnh vực này. Yoshua Bengio và Geoffrey Hinton (cả hai đều là người đoạt giải Turing, cả hai đều thường được gọi là cha đẻ của AI hiện đại) đã ký, cũng như Berkeley's Stuart Russell, tác giả cuốn sách giáo khoa AI tiêu chuẩn. Khi những người chịu trách nhiệm chính về sự tồn tại của một công nghệ kêu gọi thế giới dừng lại trước khi xây dựng dạng mạnh nhất của nó, đó là lời chứng thực, không phải hoạt động vận động.

Sau đó là các nhà xây dựng và các nhân vật công chúng. Đồng sáng lập Apple Steve Wozniak và nhà sáng lập Virgin Richard Branson. Nhà sử học Yuval Noah Harari, diễn viên Stephen Fry, và nhạc sĩ will.i.am. Các lãnh đạo an ninh quốc gia đã nghỉ hưu bao gồm cựu chủ tịch Hội đồng Tham mưu trưởng Liên quân Admiral Mike Mullen và cựu Cố vấn An ninh Quốc gia Susan Rice. Và, điều đáng chú ý nhất, những nhân vật hầu như không đồng ý với nhau về bất cứ điều gì khác: Hoàng tử Harry và Meghan bên cạnh Steve Bannon và Glenn Beck.

Chi tiết cuối cùng đó là toàn bộ lập luận thu nhỏ. Khi một cặp hoàng gia Anh và một chiến lược gia truyền thông MAGA ký cùng một câu, vấn đề đã thoát khỏi sự phân loại ý thức hệ thông thường. Mối quan tâm về siêu trí tuệ là một trong số cực kỳ ít lập trường năm 2025-2026 có sức lan tỏa thực sự vượt đảng phái, và đó chính là loại liên minh khiến chính sách ràng buộc trở nên khả thi, không phải tả hay hữu, không phải phe lập hay dân túy.

Tuyên bố là gì, và không phải là gì

Điều quan trọng là phải nhìn rõ giới hạn. Một tuyên bố công khai không cấm đoán điều gì. Nó không chỉ huy cơ quan quản lý nào, không ràng buộc công ty nào và không kiềm chế chính phủ nào. Ai đọc nó như một đạo luật đều nhầm lẫn.

Điều nó làm là di chuyển Cửa sổ Overton, phạm vi các quan điểm được coi là chính thống và có thể nói ra công khai. Hai năm trước, kêu gọi cấm một loại AI nào đó chắc chắn bị coi là cực đoan. Sau tháng 10 năm 2025, đây đã trở thành lập trường được công khai ủng hộ bởi các nhà khoa học đoạt giải Nobel, các doanh nhân biểu tượng và các chính trị gia thuộc nhiều phe phái. Sự thay đổi về điều được coi là đáng nói này chính là điều kiện tiên quyết cho mọi bước tiếp theo. Các chính trị gia thường chọn những lập trường đã phổ biến chứ hiếm khi dẫn dắt dư luận. Chức năng của tuyên bố này là làm cho việc cấm đoán trở nên đủ phổ biến để lãnh đạo có thể hành động.

Đây chính xác là cách các phong trào quản trị công nghệ trước đây đã bắt đầu. The Hội nghị Pugwash đã dành hai thập kỷ xây dựng sự đồng thuận trí tuệ và đạo đức cuối cùng đã làm nền tảng cho kiểm soát vũ khí hạt nhân. Các tuyên bố và tuyên ngôn là cách xây dựng đường băng, không phải vạch đích.

Từ một câu đến một hiệp ước

Khoảng cách giữa tuyên bố và thực tế là khoảng cách Nakada Foundation tồn tại để thu hẹp. Một tuyên bố xác lập rằng cấm đoán là đáng mong muốn và hợp pháp. Nó không thiết lập bộ máy để thực thi. Điều đó đòi hỏi ba thứ tuyên bố cố tình để ngỏ:

. Tuyên bố về Siêu trí tuệ đã chứng minh một điều có giá trị: ý chí tồn tại, và nó vượt qua mọi ranh giới thường chia rẽ con người kế hoạch là việc chuyển ý chí đó thành các kiểm soát compute, cơ quan giám sát và hiệp ước quốc tế để câu đơn trong tuyên bố có được sức nặng cần thiết. Nếu bạn đồng ý với câu đó, việc hữu ích nhất bạn có thể làm tiếp theo là giúp xây dựng liên minh biến nó thành chính sách.