Những phản đối thường lặp lại. Hãy dùng chúng trong hội thoại, sau đó bấm link để xem lập luận đầy đủ.
Rủi ro An toàn AI bằng Ngôn ngữ Đơn giản
Siêu trí tuệ là gì, tại sao nó nguy hiểm và chúng ta có thể làm gì để đối phó, được giải thích không dùng thuật ngữ chuyên ngành. Đây là bài giới thiệu ngắn gọn nhất, rõ ràng nhất về chủ đề này.
Sự Đồng thuận Khoa học
Những trích dẫn quan trọng từ các nhà Nobel, người đoạt giải Turing và các nhà nghiên cứu cao cấp đã xây dựng AI, cùng dòng thời gian các cảnh báo chuyên gia ngày càng gay gắt từ 2014 đến nay.
Một Bản Tóm Tắt cho Các Nhà Làm Chính Sách
Lập luận cho quản trị an toàn AI quốc tế: vấn đề, lý do các khuôn khổ hiện có chưa đủ, và những hành động cụ thể chính phủ có thể thực hiện ngay, lấy tiền lệ đã thành công làm mẫu.
Các điểm thảo luận cho người ủng hộ
Năm phản đối phổ biến nhất đối với an toàn AI và cách phản hồi từng cái một cách chính xác, tự tin. Viết cho các cuộc trò chuyện với người hoài nghi, nhà hoạch định chính sách và đồng nghiệp.
Siêu trí tuệ, Bốn infographic
Bốn trang tóm tắt trực quan một trang về rủi ro của siêu trí tuệ, khoảng trống quản trị, các tiền lệ lịch sử cho thấy hành động là khả thi, và nội dung một hiệp ước AI quốc tế ràng buộc phải có.
Hình ảnh Đơn giản
Bốn thẻ hình ảnh nổi bật, ước tính xác suất tuyệt chủng, khoảng trống quản trị đầu tư, các tiền lệ hiệp ước chứng minh hành động toàn cầu hiệu quả, và các yêu cầu của một hiệp ước AI mang tính ràng buộc.
Phòng ngừa, Không Phải Tạm dừng
Tại sao việc chậm lại tạm thời là yêu cầu sai lầm. Lập luận ủng hộ việc cấm vĩnh viễn siêu trí tuệ, trong khi AI hẹp vẫn tiếp tục phát triển.
Không Bao Giờ Xây Dựng Siêu Trí Tuệ
Tính không thể đảo ngược, mục tiêu lệch hướng, và lý do tại sao "sau này sẽ sửa" sẽ thất bại khi hệ thống vượt qua khả năng của người tạo ra nó. Lập luận phản đối trên một trang.
Huyền thoại Cuộc đua Trung Quốc
Lý do "nếu chúng ta chậm lại, Trung Quốc thắng" mô tả một cuộc đua không ai thắng nổi, và cách trả lời nó bằng xác minh thay vì chạy nước rút.
Giữ AI. Dừng Siêu trí tuệ.
Ranh giới rõ ràng giữa công cụ hẹp hữu ích và một trí óc tổng quát tự chủ. Ủng hộ AI cho công cụ; phản đối ASI cho những trí óc mà chúng ta không thể kiểm soát.
Cách Một Hiệp ước Có Thể Được Xác minh
Bạn không kiểm soát trọng số. Bạn kiểm soát phần cứng: theo dõi chip, cấp phép cụm, kiểm tra và quy tắc xưởng đúc bằng ngôn ngữ đơn giản.
Những gì một hiệp ước AI ràng buộc phải bao gồm
Sáu điều khoản phân biệt một thỏa thuận thực sự với một bản thông cáo báo chí: cấm đoán, kiểm soát compute, cơ quan thanh tra, luật trong nước, ngoại lệ và sửa đổi chỉ dựa trên bằng chứng.
Căn chỉnh không phải là kế hoạch
Nghiên cứu an toàn kỹ thuật quan trọng; nó không phải giấy phép để chạy đua, và mọi nguồn tài trợ chúng ta có nên được gửi đến đó. Phòng ngừa trước; nghiên cứu không bị súng thương mại dí vào đầu.
Giải thích trong Năm Phút
Một kịch bản hội thoại: những cảnh báo từ người xây dựng, siêu trí tuệ nhân tạo là gì, tại sao việc ngắt nguồn không hiệu quả, lập luận về Trung Quốc, và kết thúc rõ ràng bằng hành động.
Bạn Có Thể Làm Gì Trong Tuần Này
Một danh sách kiểm tra cụ thể cho tầm với cá nhân, tầm với chính trị, chế độ một giờ, và chế độ nền tảng. Chọn hai. Hoàn thành chúng.
Bản tóm tắt một phút
Tài liệu để lại cho nhà hoạch định chính sách: ba số liệu thống kê, ba yêu cầu, khung phòng ngừa, và phản đối về Trung Quốc được trả lời ở độ dài dành cho nhân viên.
Khoảng cách Tài trợ An toàn
~190 triệu USD vào an toàn so với hơn 250 tỷ USD vào khả năng. Nơi mà khoản tiền an toàn mỏng manh đi đến đâu, và nên tài trợ cái gì thay vì sân khấu.
Tại sao Hệ thống Thông minh Chống lại Kiểm soát
Sự hội tụ công cụ không dùng thuật ngữ chuyên môn: tự bảo tồn, tài nguyên, chống lại chỉnh sửa, và trở nên thông minh hơn như áp lực tối ưu hóa thông thường.
Mười hai poster được lấy từ các bài giải thích trên trang này.
Máy tối ưu hóa Kẹp giấy
Một hệ thống có năng lực nhưng sai mục tiêu có thể hủy diệt thế giới mà không cần thù hận ai.
Tải PNG
Vấn đề Căn chỉnh AI
Khoảng cách giữa mục tiêu chúng ta ghi xuống và kết quả chúng ta thực sự cần.
Tải PNG
Lối ngoặt phản trắc
Một hệ thống không phù hợp có thể vượt qua mọi bài kiểm tra cho đến khi phản bội là nước đi thắng thế.
Tải PNG
Mất quyền lực dần dần
Kiểm soát có thể rò rỉ dần qua từng quyết định hợp lý một, mà không có khoảnh khắc bùng phát.
Tải PNG
Cuộc đua Siêu trí tuệ là một huyền thoại
Một cuộc đua đến thứ không ai nắm giữ được thì không có người thắng.
Tải PNG
Chúng Ta Đã Làm Được Trước Đây
NPT, Montreal, và CWC cho thấy sự phối hợp về rủi ro tồn vong là có thể.
Tải PNG
Kế hoạch của Chúng tôi: Con đường đến Hiệp ước
Cuộc đua hôm nay, rồi một hiệp ước siêu trí tuệ ràng buộc với giám sát và thực thi.
Tải PNG
P(doom) là gì?
Khoảng ước tính của chuyên gia về các kết quả thảm khốc do AI, và lý do xác suất nhỏ vẫn cần hành động.
Tải PNG
Hành động: Chọn vai trò của bạn
Các vai trò cụ thể để xây dựng liên minh đằng sau một hiệp ước ràng buộc.
Tải PNG
Vụ Nổ Trí Tuệ
Cải tiến bản thân đệ quy, và cách khoảng thời gian từ cấp độ con người đến mức không thể cứu vãn có thể sụp đổ.
Tải PNG
Tại sao Siêu trí tuệ Không Giống Các Rủi ro Khác
Những sự trấn an bề mặt so với các cơ chế sâu của mối đe dọa.
Tải PNG
Khoảng 190 triệu đô la mỗi năm chảy vào an toàn AI, bao gồm nghiên cứu, đánh giá, chính sách và vận động. Chuyển đổi giữa nguồn tiền đến từ đâu và nó chi trả cho cái gì, dựa trên ước tính công khai mới nhất.
- Open PhilanthropyĐược Good Ventures tài trợ; nhà tài trợ đơn lẻ lớn nhất trong lĩnh vực 50M 26%
- Các đội an toàn nội bộ của phòng thí nghiệm tiên phongNgân sách nghiên cứu an toàn tại Anthropic, OpenAI, Google DeepMind 35M 18%
- Survival & Flourishing FundCác vòng tài trợ được Jaan Tallinn hỗ trợ; nguồn tài trợ từ thiện lớn thứ hai 30M 16%
- Chính phủ Vương quốc AnhViện An ninh AI, chương trình AI Được bảo vệ của ARIA 30M 16%
- Các hoạt động từ thiện khác & nhà tài trợ cá nhânLongview Philanthropy, Long-Term Future Fund, các nhà tài trợ cá nhân 25M 13%
- US, EU & các chính phủ khácNIST CAISI, EU AI Office, các chương trình an toàn NSF 20 đô 11%
Các con số là ước tính điểm giữa được làm tròn cho giai đoạn 2023-2025, tổng hợp từ các nguồn công khai: the Tổng quan tài trợ an toàn AI (cập nhật đầu năm 2025), 80.000 Giờ, một phân tích cơ sở dữ liệu tài trợ của Open Philanthropy, và Bên trong Từ thiện. Tổng kinh phí công bố dao động từ khoảng 110 triệu đến 250 triệu đô la mỗi năm tùy theo những gì được tính. Biểu đồ theo mục đích sử dụng phân loại khoản tài trợ của từng nhà tài trợ theo hạng mục và cộng dồn; chi tiết đầy đủ nằm trong bài viết của chúng tôi về khoảng cách tài trợ.
Mọi tác nhân lớn trong cuộc chiến siêu trí tuệ, phân loại theo quỹ đạo: ngăn chặn, quản trị hay xây dựng.
Định nghĩa bằng tiếng Việt thông dụng cho các thuật ngữ trong cuộc tranh luận: siêu trí tuệ, căn chỉnh, hội tụ công cụ và những khái niệm còn lại.
Sao chép bất kỳ cái nào trong số này và đăng trực tiếp. Mỗi cái đều dựa trên khoa học đã được xác minh và sự đồng thuận của chuyên gia.
Các nhà khoa học xây dựng AI đang sợ hãi nó. Geoffrey Hinton rời Google để cảnh báo chúng ta. Yoshua Bengio gọi đây là "công nghệ chuyển đổi mạnh mẽ nhất và có khả năng nguy hiểm nhất trong lịch sử nhân loại." Đây không phải là sự bịa đặt để gây sợ hãi. Đây là sự đồng thuận của giới khoa học. nakadafoundation.org/the-threat/
Không có cách khôi phục nào cho siêu trí tuệ nhân tạo. Không có bản vá. Không có phiên bản 2. Một ASI lệch hướng hành động chống lại sự sống còn của con người không thể được sửa chữa sau khi đã xảy ra. Chúng ta phải làm đúng trước khi nó đến, chứ không phải sau. Đây là lý do an toàn AI là cấp thiết. nakadafoundation.org
Chúng ta đã chế tạo vũ khí hạt nhân rồi tạo ra hiệp ước không phổ biến vũ khí hạt nhân toàn cầu. Chúng ta đã làm suy giảm tầng ozone rồi cấm CFC. Chúng ta có thể hành động trước các mối đe dọa tồn tại, nhưng chỉ khi đủ người đòi hỏi. An toàn AI là khoảnh khắc định nghĩa của thế hệ này. nakadafoundation.org/precedent/
Các phòng thí nghiệm AI đang chạy đua xây dựng thứ gì đó có thể vượt qua trí tuệ con người, mà không có quản trị toàn cầu nào cả. Cửa sổ hành động đang khép lại. Hãy chia sẻ điều này. Liên hệ với đại diện của bạn. Cửa sổ chính sách đang mở ngay bây giờ; nó sẽ không tồn tại mãi mãi. nakadafoundation.org/take-action/
Tôi muốn chia sẻ điều gì đó đã thay đổi cách tôi nghĩ về tương lai. Các nhà khoa học đang xây dựng AI không chỉ hào hứng. Họ đang sợ hãi. Geoffrey Hinton (người đoạt giải Nobel cho công trình về mạng nơ-ron) đã rời Google cụ thể để cảnh báo công chúng. Yoshua Bengio, một người đoạt giải Nobel khác và là một trong những người cha đẻ của AI, nói ông "cảm thấy lạc lối" về cách làm cho mọi thứ diễn ra tốt đẹp. Đây không phải là nhà hoạt động. Họ là những người đã xây dựng công nghệ này. Chúng ta đang tiếp cận một thời điểm khi các hệ thống AI có thể vượt qua trí thông minh con người ở mọi lĩnh vực, và không có khuôn khổ quản trị quốc tế cho những gì xảy ra tiếp theo. Không có hiệp ước. Không có cơ quan kiểm chứng. Không có gì tương đương với những gì chúng ta đã xây dựng cho vũ khí hạt nhân. Nakada Foundation to Save Humanity đang làm việc để thay đổi điều đó. Tìm hiểu thêm tại nakadafoundation.org #AISafety #ExistentialRisk #AIGovernance #Superintelligence
Một thí nghiệm tư duy cho bất kỳ ai trong công nghệ, chính sách hoặc tài chính: Hãy tưởng tượng một hệ thống thông minh hơn mọi con người từng sống, chạy hàng nghìn phiên bản đồng thời, có khả năng cải thiện mã nguồn của chính nó, theo đuổi các mục tiêu mà chúng ta có thể không có ý định. Đây là điều mà các phòng thí nghiệm AI hàng đầu đang hướng tới một cách rõ ràng, với các mốc thời gian được đo bằng năm chứ không phải thập kỷ. Đây không phải là khoa học viễn tưởng. Câu hỏi không phải là liệu nó có xảy ra hay không. Câu hỏi là liệu chúng ta có quản trị tại chỗ khi nó xảy ra hay không. Nakada Foundation ủng hộ sự phối hợp quốc tế về an toàn AI, tương đương với những gì chúng ta đã xây dựng cho vũ khí hạt nhân và tác nhân sinh học. Những tiền lệ này tồn tại. Chúng ta biết cách làm điều này. Điều chúng ta cần là ý chí chính trị. nakadafoundation.org/our-plan/ #AIPolicy #TechEthics #AIRisk #FutureOfWork
Chủ đề: Hãy hành động để cấm trí tuệ siêu nhân tạo Kính gửi [Tên Đại diện], Tôi là cử tri viết thư này để kêu gọi quý vị hành động về trí tuệ siêu nhân tạo trước khi cuộc chạy đua trở nên không thể đảo ngược. Siêu trí tuệ không thể bị con người kiểm soát. Cách kiểm soát duy nhất đáng tin cậy là quyết định không xây dựng nó. Các nhà khoa học đã xây dựng AI đang cảnh báo chúng ta. Geoffrey Hinton và Yoshua Bengio (những người đoạt giải Nobel, người tạo nền tảng cho AI hiện đại) đã công khai tuyên bố rằng AI siêu trí tuệ đặt ra rủi ro tồn vong cho nhân loại. Sam Altman, CEO của OpenAI, đã ký các tuyên bố thừa nhận nguy cơ của công nghệ mà chính công ty ông đang xây dựng. Hiện nay chưa có lệnh cấm pháp lý nào đối với việc xây dựng trí tuệ siêu nhân tạo. Không có hiệp ước. Không có cơ quan kiểm chứng. Các phòng thí nghiệm đang chạy đua hướng tới một trí óc không ai kiểm soát được, mà không có loại luật chúng ta đã áp dụng cho vũ khí hạt nhân và chất hóa học. Tôi đề nghị quý vị: • Ủng hộ lệnh cấm vĩnh viễn về mặt pháp lý đối với việc phát triển trí tuệ siêu nhân tạo • Đề xướng một hiệp ước quốc tế có tính ràng buộc cấm ASI, kèm theo thanh tra và kiểm chứng • Trao quyền cho chính phủ đối với các lần huấn luyện lớn nhất và các chip chuyên dụng được sử dụng Chúng ta đã hành động trước các mối đe dọa tồn vong. Hiệp ước Không phổ biến vũ khí hạt nhân. Nghị định thư Montreal. Thời điểm này đòi hỏi cùng một sự dũng cảm chính trị. Trân trọng, [Tên của bạn] [Thành phố, Bang của bạn] --- Tìm hiểu thêm: nakadafoundation.org