كيف تقارن مخاطر الذكاء الاصطناعي؟
الكويكبات، الحرب النووية، الأوبئة، تغير المناخ، كيف يتراكم خطر الذكاء الفائق الاصطناعي مقارنة بالطرق الأخرى التي قد تسوء بها هذا القرن بشكل كارثي؟ هذه تقديرات الفيلسوف Toby Ord من الهاوية. اضبط رقم الذكاء الاصطناعي على رأيك الخاص وراقب تغير الترتيب.
…
إذا جمعنا كل ذلك، فإن تقدير أورد الإجمالي للكارثة الوجودية في هذا القرن يبلغ حوالي واحد من كل ستة, ، احتمالات جولة واحدة من الروليت الروسي. المخاطر البشرية المنشأ، بقيادة الذكاء الاصطناعي، تشكل تقريبًا كلها؛ المخاطر الطبيعية التي نجت منها أنواعنا لـ200,000 عام أصبحت الآن خطأ تقريبيًا.
التقديرات من كتاب توبي أورد الهاوية: المخاطر الوجودية ومستقبل البشرية (2020)، الجدول ٦.١، أفضل تخميناته لاحتمال أن يتسبب كل تهديد في كارثة وجودية خلال المئة عام القادمة. أورد فيلسوف في معهد مستقبل الإنسانية بجامعة أكسفورد ومؤسس مشارك لحركة الإيثار الفعال.
إنها أحكام تقريبية متعمدة، بترتيب الحجم، وليست قياسات. يقول أورد إنها قد تكون خاطئة بعامل قليل. والغرض منها هو إظهار شكل للمخاطر: أعظم التهديدات الآن هي تلك التي نخلقها بأنفسنا، والذكاء الاصطناعي في الصدارة.
رقم الذكاء الاصطناعي هو الوحيد الذي يمكنك تغييره هنا، لأنه الأكثر إثارة للجدل والذي وجدت هذه المؤسسة لمعالجته. الباقون مثبتون عند قيم أورد.