Rủi ro AI so sánh thế nào?

Thiên thạch, chiến tranh hạt nhân, đại dịch, biến đổi khí hậu—rủi ro từ siêu trí tuệ nhân tạo xếp hạng thế nào so với những cách khác khiến thế kỷ này có thể thảm khốc? Đây là ước tính của triết gia Toby Ord từ Vực thẳm. Đặt con số AI theo quan điểm của riêng bạn và xem thứ hạng thay đổi.

Ước tính của bạn về thảm họa AI trong thế kỷ này 10%

Toby Ord, người đã viết cuốn sách mà các con số này đến từ đó, đặt AI ở khoảng 1 trên 10. Một cuộc khảo sát các nhà nghiên cứu machine-learning cho kết quả gần 5%. Một số nhà nghiên cứu an toàn AI đưa ra con số cao hơn nhiều. Di chuyển thanh trượt để đặt con số của riêng bạn.

Hiển thị rủi ro dưới dạng

…

← ít khả năng hơnthang log · mỗi 100 năm tiếp theocó khả năng hơn →

1 trong 6Tổng cộng, thế kỷ này

Cộng tất cả lại và ước tính tổng thể của Ord về thảm họa hiện sinh trong thế kỷ này là khoảng một trong sáu, xác suất của một lần chơi roulette Nga. Rủi ro do con người gây ra, dẫn đầu là AI, chiếm gần như toàn bộ con số này; rủi ro tự nhiên mà loài người đã sống sót trong 200.000 năm nay chỉ còn là sai số làm tròn.

Những con số này đến từ đâu

Các ước tính đến từ của Toby Ord The Precipice: Rủi ro Tồn tại và Tương lai của Nhân loại (2020), Bảng 6.1, những ước tính tốt nhất của ông về xác suất mỗi mối đe dọa gây ra thảm họa diệt vong trong 100 năm tới. Ord là triết gia tại Viện Tương lai Nhân loại của Oxford và là đồng sáng lập phong trào chủ nghĩa vị tha hiệu quả.

Chúng là những phán đoán cố ý mang tính thô sơ, theo thang độ lớn, không phải phép đo. Ord nói chúng có thể sai lệch vài lần. Mục đích của chúng là để cho thấy hình dạng của rủi ro: những mối đe dọa lớn nhất hiện nay là những mối đe dọa chúng ta tự tạo ra, và AI đứng ở vị trí hàng đầu.

AI là yếu tố duy nhất bạn có thể thay đổi ở đây, vì nó gây tranh cãi nhất và là lý do tồn tại của quỹ này. Các yếu tố còn lại giữ nguyên giá trị của Ord.

Nhiều công cụ tương tác hơn

Tất cả công cụ →

Rủi ro AI so sánh thế nào?

Những rủi ro lớn nhất là những thứ chúng ta tự tạo ra.