Một hiệp ước quốc tế có tính ràng buộc có thể cứu nhân loại mà vẫn tiếp tục tiến bộ công nghệ.
Chúng tôi là một chiến dịch từ thiện chống lại các hệ thống vượt trội hơn trí tuệ con người và không thể sửa chữa hoặc dừng lại. Loài người không bao giờ được xây dựng siêu trí tuệ.
Một hệ thống duy nhất được cố tình phát triển để vượt qua và thay thế khả năng con người trên mọi lĩnh vực là nguy hiểm. Trí tuệ siêu nhân tạo là rủi ro số một đối với nhân loại, lớn hơn cả chiến tranh hạt nhân toàn cầu. Chiến tranh hạt nhân có thể chấm dứt nền văn minh và để lại người sống sót. Một siêu trí tuệ sẽ xóa sổ loài chúng ta.
Chúng tôi mô phỏng công việc của mình theo các khái niệm đã được chứng minh đã thay đổi thế giới, như các chiến dịch gây áp lực công chúng và các hiệp ước quốc tế về vũ khí hóa học, không phổ biến hạt nhân và tầng ozone.
Chúng tôi hoàn toàn độc lập và không nhận tiền từ các phòng lab AI, nhà đầu tư của họ, hoặc các công ty mà lợi nhuận phụ thuộc vào việc chạy đua biên giới.
Truyền thông là công cụ mạnh mẽ để định hình dư luận và tạo văn hóa khiến khủng hoảng khó bị bỏ qua. Nó ảnh hưởng đến công chúng bỏ phiếu và tâm trí những lãnh đạo chúng ta bầu chọn. Khi Ronald Reagan đã xem bộ phim năm 1983 Ngày hôm sau, khái niệm trừu tượng về chiến tranh hạt nhân trở thành điều cụ thể, và sau đó Tổng thống ký hiệp ước ràng buộc với Liên Xô để giảm kho vũ khí hạt nhân.
Có nhiều tổ chức đang làm việc cho một "cuộc đua an toàn hơn" hoặc một "chuyển tiếp an toàn". Chúng tôi là một trong số ít đang khẩn cấp làm việc để ngăn chặn ASI theo luật ràng buộc. "Chuyển tiếp" đó không bao giờ được xảy ra.
Chúng tôi không phải tổ chức "chống AI" vì chúng tôi ủng hộ AI hẹp được kiểm soát và có lợi, chẳng hạn như các hệ thống chẩn đoán ung thư và đẩy nhanh khám phá thuốc. Những hệ thống này vượt trội khả năng con người chỉ ở một lĩnh vực, cho phép chúng tôi quản lý công việc của nó một cách an toàn để mang lại lợi ích cho nhân loại.
Quỹ của chúng tôi chỉ tập trung vào việc ngăn chặn ASI. Chúng tôi thực hiện công việc công cộng giúp một hiệp ước quốc tế ràng buộc có thể thực hiện: ủy thác phim, video, tiểu luận, hình ảnh và quan hệ với các lãnh đạo văn hóa. Chúng tôi cũng nhằm chuyển tài năng và tài chính từ nghiên cứu alignment sang ngăn chặn ASI.
Chúng tôi không thực hiện nghiên cứu kỹ thuật, phân tích chính sách, hay vận động hành lang.
Chúng tôi cũng không đưa ra lập trường về các chủ đề AI chung như chatbot, tự động hóa việc làm, drone quân sự hay trung tâm dữ liệu.
Chúng tôi là một hiệp hội từ thiện dựa trên US. Tính đến tháng 8 năm 2026, chúng tôi đang trong quá trình tài trợ tài chính để đủ điều kiện trở thành tổ chức 501(c)(3). Tất cả các khoản quyên góp sau đó sẽ được khấu trừ thuế.
Chúng tôi đang thành lập một ban cố vấn nhỏ. Chúng tôi đặc biệt tìm kiếm những người có kinh nghiệm trong truyền thông lợi ích công cộng, gây quỹ và sản xuất văn hóa.
Đạt được tác động đáng kể là một trong những mục tiêu hàng đầu của chúng tôi. Các đầu ra của chúng tôi được công khai và đo lường được, chẳng hạn như lượt tiếp cận trên X và lượt xem trên video YouTube, và theo dõi điều đó so với tình cảm của công chúng bỏ phiếu.
Naoto Nakada từng tài trợ công việc hiệp ước hạt nhân trong Chiến tranh Lạnh. Người sáng lập xem siêu trí tuệ là cuộc khủng hoảng sinh tồn của thời đại hôm nay.
Sau hàng thập kỷ nghiên cứu an toàn AI, kết luận là chúng ta không thể kiểm soát thứ gì đó thông minh hơn chúng ta, trong khi hầu hết tiền bạc trong lĩnh vực vẫn đổ vào các hệ thống biên giới "an toàn hơn" trong khi chúng vẫn được xây dựng. Việc ngăn chặn artificial superintelligence trước khi nó tồn tại vẫn bị thiếu kinh phí và thiếu thảo luận nghiêm trọng, chỉ với bảy tổ chức trên thế giới chỉ tập trung vào việc ngăn chặn ASI.
Chúng tôi thành lập quỹ để lấp đầy khoảng trống đó, với một cái tên ấn tượng khiến sự cấp bách và mức độ nghiêm trọng của mối đe dọa không thể nhầm lẫn.
Câu chuyện nhân loại vừa mới bắt đầu. Chúng ta phải đảm bảo nó kéo dài hàng triệu năm tới.
Naoto Nakada
Không. Chúng tôi ủng hộ AI hẹp hữu ích: các hệ thống thực hiện một công việc và có thể được sửa chữa. Chúng tôi làm việc để ngăn siêu trí tuệ nhân tạo, các hệ thống có khả năng mở-ended đặt chúng vào một hạng mục khác. Một chiếc điện thoại thông minh, internet, thậm chí một nhà máy điện hạt nhân đều có thể được điều chỉnh và tắt. Một siêu trí tuệ thì không.
Chúng ta là duy nhất. Chúng ta làm việc về trí tuệ siêu nhân tạo và công việc văn hóa khiến một hiệp ước chống lại nó trở nên khả thi. Thiên kiến chatbot, mất việc do tự động hóa, deepfake, drone quân sự, vị trí trung tâm dữ liệu: những vấn đề đó có thể quan trọng ở nơi khác. Chúng không phải công việc của foundation này. Nếu một câu hỏi không phải về ngăn chặn ASI, nó nằm ngoài foundation này.
Phản đối phổ biến nhất mang hình dạng lập luận từng dùng chống lại không phổ biến hạt nhân. NPT không hoàn hảo và nó vẫn hoạt động: không có sử dụng hạt nhân trong chiến tranh kể từ 1945, chín quốc gia hạt nhân trong khi hàng trăm nước có thể đã tham gia. Rủi ro đào ngũ là lý do cho kiểm chứng, không phải lý do để chạy nước rút. Huấn luyện tiên phong vẫn đi qua danh sách ngắn các nhà sản xuất chip. Giám sát ngưỡng compute là vấn đề chính trị hơn là vấn đề vật lý.
Đúng vậy. Họ cũng có đội ngũ bán hàng, bộ phận quan hệ nhà đầu tư, thành viên hội đồng đại diện cổ đông, và áp lực cạnh tranh buộc phải tung sản phẩm nhanh hơn đối thủ. Các đội an toàn bên trong các phòng thí nghiệm AI thương mại chịu cùng động lực với phần còn lại của công ty, và những động lực ấy thưởng cho việc giao khả năng thay vì giảm rủi ro. Khi đội an toàn của OpenAI công bố lo ngại về việc di chuyển quá nhanh, công ty vẫn tăng tốc. Ở mức tốt nhất, một đội nội bộ bổ trợ cho quy định bên ngoài. Nó không thể thay thế quy định đó.
Người đoạt giải Turing Geoffrey Hinton, người đã dành cả sự nghiệp để xây dựng nền tảng cho AI hiện đại, ước tính một 10 đến 20 phần trăm khả năng AI gây ra sự tuyệt chủng của con người trong thế kỷ này. Nhà Nobel Yoshua Bengio đã công khai khẳng định rủi ro là có thật và bị đánh giá thấp. Tuyên bố năm 2023 của Center for AI Safety, được hơn 500 nhà khoa học AI ký tên trong đó có Sam Altman, xếp rủi ro tuyệt chủng do AI ngang hàng với chiến tranh hạt nhân và đại dịch như một ưu tiên toàn cầu.
Tham gia Foundation. Chia sẻ thông điệp của chúng tôi với những người chưa từng nghe. Liên hệ với đại diện được bầu của bạn và hỏi lập trường của họ về rủi ro AI cũng như luật nào họ đang ủng hộ. Nếu bạn có nguồn lực tài chính, hãy cân nhắc quyên góp cho Foundation hoặc cho một trong sáu tổ chức khác đang làm việc về ngăn chặn ASI. Nếu bạn có ảnh hưởng văn hóa hoặc truyền thông, hãy sử dụng nó. Nếu bạn làm việc trong phòng thí nghiệm AI và có lo ngại, hãy cân nhắc phát biểu công khai. Ý chí chính trị quyết định điều này, và nó đến từ những người như bạn.
Nhận cập nhật, và giúp xây dựng áp lực mà nguyên nhân này cần.