«أنا متفائل. بالتأكيد لن ينقرض الجنس البشري. لم يحدث ذلك من قبل». تسمع هذه العبارة بعد جلسات السلامة، في غرف الانتظار وسلاسل التعليقات، عادة مع ابتسامة تهدف إلى إغلاق الموضوع. تؤدي الابتسامة عملاً اجتماعياً حقيقياً. فهي تصوّر الحذر على أنه عيب شخصي والاندفاع على أنه صحة عاطفية. كما تهرّب ادعاءً عن المخاطر داخل مزاج.
يُسمح بالتفاؤل. ما لا يُسمح به، إذا كنا لا نزال نقوم بعمل جاد، هو معاملة المزاج كدليل.
ما يقوله "لم يحدث من قبل" فعلياً
انقراض البشرية، بحكم التعريف، ليس له شهود بشريون بعده. كل إنسان حي يأخذ عينة من الخطوط الزمنية التي استمرت فيها النوع. سمّه انتقاءً، لا فلسفة: الفائز باليانصيب مصدر سيئ لتقدير احتمالات الفوز، و«لم أمت قط في حادث سيارة» حجة ضعيفة ضد أحزمة الأمان.
سجل الأحافير أقل عاطفية. الغالبية العظمى من الأنواع التي عاشت على الإطلاق قد انقرضت. وقد أزالت عدة انقراضات جماعية الطريق لما جاء بعدها. الإنسان العاقل شاب في الزمن الجيولوجي وقد مر بالفعل عبر عنق الزجاجة والأوبئة والحروب التي كان من الممكن أن تنهينا في رمية نرد أبرد. "لم يحدث من قبل" هو بيان عن الشريحة الرقيقة من التاريخ التي لا يزال بإمكاننا مناقشتها.
المرات الأولى هي ما تصنع منه الكوارث
قبل عام ١٩٤٥ لم تُدمر مدينة بقنبلة واحدة. وقبل عام ١٩١٨ لم تنتقل جائحة عبر شبكات السكك الحديدية والسفن العالمية بهذه السرعة. وقبل أعمال الأوزون في الثمانينيات لم يُجرِ أحد التجربة البشرية المتمثلة في إضعاف الطبقة التي تحول دون وصول الأشعة فوق البنفسجية إلى تعقيم سطح الأرض. وكل واحدة من تلك الحالات كانت، قبل حدوثها، أمرا لم يسبق له مثيل. ولم ينتظر الفاعلون حتى تتوفر حالة مكتملة كدراسة حالة.
يندرج الذكاء الفائق / الذكاء الخارق في تلك الفئة. لا توجد سلسلة تاريخية من الذكاءات الفائقة / الخارقة غير المتوائمة للمتوسط عليها. هناك آلية: أنظمة تسعى إلى أهداف، وتحسن قدراتها الذاتية، وتتفوق في النهاية على المؤسسات المخصصة لتصحيحها. الآلية هي ما تستخدمه عندما تكون المعدلات الأساسية صامتة. المطالبة بإبادة بشرية سابقة من الذكاء الاصطناعي قبل أخذ الآلية على محمل الجد يعني المطالبة بالجثة قبل التشخيص.
تبدو كل كارثة أولى مسبقاً وكأنها شيء لم يحدث من قبل أبداً.
التفاؤل الموجه بشكل صحيح
هناك نسخة من التفاؤل أحترمها. تقول: لقد نسق الناس تحت الضغط من قبل. وقد صمدت المعاهدات. وأُجبرت الصناعات على تغيير مسارها عندما كان العلم واضحاً وتنظمت السياسة. ال سجل التقييد حقيقي، من السيطرة على الأسلحة النووية إلى المواد الكيميائية التي كانت تأكل طبقة الأوزون. تشير تلك النظرة المتفائلة إلى الوكالة. إنها تفترض أن المستقبل لا يزال قرارا.
النسخة الخضراء تفعل العكس. تعامل البقاء كإعداد افتراضي للكون والقلق كسوء أدب. تخلط بين "أفضل النتائج الجيدة" و"النتائج الجيدة محتملة إذن".
عندما وضع جيفري هينتون ويوشوا بنجيو ومئات الباحثين مخاطر الذكاء الاصطناعي على مستوى الانقراض في القائمة نفسها مع الأوبئة والحرب النووية، كانوا يفعلون ما يفعله الخبراء عادة حين يبدو الآلية سليمة والجانب السلبي شاملاً، لا يسعون لدور الأشرار في عرض تقني. يمكنك الاختلاف مع أرقامهم. لكن لا يمكنك رفض الفئة بإعلان نوع شخصيتك.
تكلفة اللامبالاة
واللامبالاة تخدم من يحتاجون استمرار البناء دون مواجهة. فإذا أُعيد تأطير حديث الانقراض كمشكلة مزاجية، فإن الحركة المهذبة الوحيدة هي إعادة الحديث إلى الإنتاجية والتطبيقات. وفي هذه الأثناء تتوسع المختبرات، وتتأخر التقييمات، و مشكلة التحكم لا يزال غير محلول. تم الخلط بين المزاج والحوكمة.
أريد أن يستمر المشروع البشري. إرادته هي النصف السهل. أما النصف الأصعب فهو رفض مسار تطوير يركز قوة غير قابلة للتصحيح في أنظمة لا يستطيع أحد إيقافها بشكل موثوق، والقيام بالعمل السياسي الذي توقف ملزم يتطلب. إذا كان التفاؤل يعني فقط "التوقف عن الحديث عن الجانب السلبي"، فقد أصبح تهويدة.
لم يحدث الانقراض لنا من قبل.