Giữ AI. Dừng Siêu trí tuệ.

Ngăn chặn một trí óc kế thừa không giống như ngăn chặn trí tuệ nhân tạo. Hầu hết lợi ích mà mọi người mong muốn không cần đến ASI.

AI Hẹp · công cụ có nhiệm vụ

Tiếp tục xây dựng

Các hệ thống được huấn luyện cho một nhiệm vụ có giới hạn. Không có chương trình nghị sự mở. Không có động lực sao chép vào mọi mạng lưới.

Hình ảnh y tế và khám phá thuốc
Mô hình thời tiết, lưới điện và công nghiệp
Trợ lý lập trình và phần mềm năng suất
Robot cho các nhiệm vụ cố định, được giám sát

Siêu trí tuệ · một trí óc thay thế chúng ta

Không xây dựng

Một hệ thống vượt qua kỹ năng con người cùng lúc ở khoa học, chiến lược, thuyết phục và kỹ thuật, có thể tự cải thiện và theo đuổi các mục tiêu mà chúng ta có thể không chủ đích.

Cơ quan tự trị không giới hạn
Cải tiến bản thân đệ quy hướng tới tính tổng quát
Các lần huấn luyện vượt qua ngưỡng năng lực đã được xác minh
Các hệ thống không ai có thể tắt một cách đáng tin cậy

Những lợi ích mà mọi người nêu tên chủ yếu là hẹp

Thuốc mới, năng lượng sạch rẻ hơn, dự báo tốt hơn, nhà máy an toàn hơn. Đó là vấn đề công cụ. Chúng không đòi hỏi một tác nhân tổng quát tự đặt ra mục tiêu phụ và vượt qua người giám sát.

Ủng hộ AI cho công cụ. Phản đối ASI cho những trí óc mà chúng ta không thể kiểm soát.

Tại sao sự phân biệt này lại thu hút được các liên minh. nakadafoundation.org/blog/future-without-superintelligence/