Wie vergleicht sich das KI-Risiko?
Asteroiden, Atomkrieg, Pandemien, Klimawandel – wie schneidet das Risiko durch künstliche Superintelligenz im Vergleich zu den anderen Wegen ab, auf denen dieses Jahrhundert katastrophal schiefgehen könnte? Das sind die Schätzungen des Philosophen Toby Ord aus The Precipice. Stellen Sie die KI-Zahl auf Ihre eigene Ansicht ein und beobachten Sie, wie sich die Rangliste ändert.
…
Addieren Sie alles und Ords Gesamtschätzung für existenzielle Katastrophe in diesem Jahrhundert beträgt etwa einer von sechs, die Wahrscheinlichkeit einer einzelnen Runde Russisches Roulette. Anthropogene Risiken, angeführt von KI, machen fast alles davon aus; die natürlichen Risiken, die unsere Spezies 200.000 Jahre überlebt hat, sind jetzt ein Rundungsfehler.
Die Schätzungen stammen aus Toby Ord's The Precipice: Existential Risk and the Future of Humanity (2020), Tabelle 6.1, seine besten Schätzungen für die Wahrscheinlichkeit, dass jede Bedrohung innerhalb der nächsten hundert Jahre eine existenzielle Katastrophe verursacht. Ord ist Philosoph am Future of Humanity Institute in Oxford und Mitgründer der Effective-Altruism-Bewegung.
Sie sind absichtlich grob, Größenordnungs-Schätzungen, keine Messungen. Ord sagt, sie könnten um einen Faktor von einigen danebenliegen. Ihr Zweck ist es, die Gestalt des Risikos: Die größten Bedrohungen sind jetzt solche, die wir selbst schaffen, und KI steht ganz oben.
Die KI-Zahl ist die einzige, die Sie hier ändern können, weil sie am umstrittensten ist und weil genau dafür diese Stiftung existiert. Die anderen bleiben bei Ords Werten.