인공지능 위험은 어떻게 비교되는가?

소행성, 핵전쟁, 팬데믹, 기후변화. 인공 초지능이 초래할 위험은 금세기 다른 재앙적 위험과 어떻게 비교될까요? 이는 철학자 토비 오드의 추정치입니다 벼랑. AI 숫자를 자신의 견해로 설정하고 순위가 변하는 것을 지켜보세요.

이번 세기 인공지능 재앙에 대한 당신의 추정 10%

이 수치의 출처인 토비 오드는 AI를 약 10분의 1로 보았습니다. 기계 학습 연구자 설문조사는 5%에 가까웠습니다. 일부 AI 안전 연구자들은 훨씬 더 높게 봅니다. 슬라이더를 움직여 여러분의 숫자를 설정하십시오.

위험 표시 방식

…

← 가능성 낮음로그 규모 · 다음 100년당더 가능성이 높아진다 →

6분의 1총합, 이번 세기

모두 합치면 오드의 이번 세기 실존적 재앙 전체 추정치는 대략 여섯 중 하나, 한 번의 러시안 룰렛 게임의 확률이다. 인공지능이 주도하는 인위적 위험은 그 거의 전부를 차지하며, 인류가 20만 년 동안 견뎌 온 자연적 위험은 이제 반올림 오차 수준이다.

이 숫자들이 어디서 나왔는지

추정치는 토비 오드의 벼랑 끝: 실존적 위험과 인류의 미래 (2020), 표 6.1, 각 위협이 향후 100년 안에 실존적 재앙을 일으킬 확률에 대한 그의 최선 추정치. 오드는 옥스퍼드 미래인류연구소의 철학자이자 효과적 이타주의 운동의 공동 창립자다.

이들은 의도적으로 대략적이고 자릿수 수준의 판단이지 측정이 아니다. 오드는 오차가 몇 배 정도 날 수 있다고 말한다. 이들의 목적은 형태 위험의 : 가장 큰 위협은 우리가 스스로 만드는 것이며, 인공지능이 그 정점에 있습니다.

여기서 바꿀 수 있는 수치는 AI 수치뿐입니다. 가장 논쟁적이며 이 재단이 존재하는 이유이기 때문입니다. 나머지는 오드의 값으로 고정되어 있습니다.

더 많은 상호작용 도구

가장 큰 위험은 우리가 만드는 것이다.