¿Cómo se compara el riesgo de la IA?
Asteroides, guerra nuclear, pandemias, cambio climático... ¿cómo se compara el riesgo de la superinteligencia artificial con las otras formas en que este siglo podría salir catastróficamente mal? Estas son las estimaciones del filósofo Toby Ord de El precipicio. Establece el número de IA según tu propia opinión y observa cómo cambia la clasificación.
…
Sumándolo todo, la estimación general de Ord para la catástrofe existencial en este siglo es de aproximadamente uno de cada seis, las probabilidades de una sola ronda de ruleta rusa. Los riesgos antropogénicos, liderados por la IA, representan casi todo; los riesgos naturales que nuestra especie sobrevivió durante 200.000 años ahora son un error de redondeo.
Las estimaciones provienen de las de Toby Ord The Precipice: Riesgo existencial y el futuro de la humanidad (2020), Cuadro 6.1, sus mejores estimaciones de la probabilidad de que cada amenaza cause una catástrofe existencial en los próximos cien años. Ord es filósofo en el Future of Humanity Institute de Oxford y cofundador del movimiento del altruismo eficaz.
Son juicios deliberadamente aproximados, de orden de magnitud, no mediciones. Ord dice que podrían equivocarse por un factor de unos pocos. Su propósito es mostrar la forma del riesgo: las mayores amenazas actuales son las que creamos nosotros mismos, y la IA ocupa el primer lugar.
La cifra de IA es la única que puedes cambiar aquí, porque es la más controvertida y la que esta fundación existe para abordar. Las demás se mantienen en los valores de Ord.