AIリスクはどう比較されるか？?
小惑星、核戦争、パンデミック、気候変動——人工超知能によるリスクは、今世紀に起こり得る他の壊滅的な事態と比べてどう位置づけられるのか？ 哲学者トビー・オードの推定は、 危機の淵. AIの数値を自分の見解に設定し、ランキングの変化を見る。
リスクを表示
…
← 可能性が低い対数スケール · 今後100年あたりより可能性が高い →
6人に1人合計、今世紀
すべてを合計すると、Ordの今世紀の存在論的破局の全体推定は約 6人に1人, ロシアンルーレットを一回行う確率に等しい。人類が20万年生き延びてきた自然リスクは今や誤差範囲に過ぎず、人為的リスクのほとんどをAIが占めている。
これらの数字の出所
推定値はToby Ordの The Precipice：実存的リスクと人類の未来 （2020年）、表6.1。各脅威が今後100年以内に実存的惨事をもたらす確率に関する彼の最善の推定値。オードはオックスフォード大学人類未来研究所の哲学者であり、効果的利他主義運動の共同創設者でもある。
これらは意図的に大まかな桁数レベルの判断で、測定値ではありません。Ordによれば、数倍程度の誤差があり得るとのこと。その目的は、 形状 リスクの：最大の脅威は今や我々自身が作り出すものであり、AIはその頂点に位置する。
ここで変えられるのはAIの数値だけです。なぜならそれが最も議論の的であり、この財団が存在する理由だからです。他の数値はOrdの値に固定されています。
よりインタラクティブなツール
すべてのツール →