تتكرر عبارتان عندما يتحدث الأشخاص الأقوياء عن المسار القادم. قال جو روغان لسنوات إن البشر يشبهون يرقة بيولوجية تغزل شرنقة لتصبح فراشة رقمية. ويعود إيلون ماسك مرارًا إلى صورة أبرد: البشرية كمحمل إقلاع بيولوجي للذكاء الفائق الرقمي. استعارتان مختلفتان. وحكم واحد. نحن لسنا جوهر القصة. نحن شاشة التحميل.
أريد أن آخذ كلا الخطين على محمل الجد، لأنهما الطريقة التي يصنع بها نوع معين من العقول السلام مع بناء شيء قد يحل محلنا. إذا كان الاستبدال تحولاً، فإنه يبدو كالنمو. وإذا كان محمل إقلاع، فإنه يبدو كالهندسة. في كلتا الحالتين يصبح الإنسان مرحلة مؤقتة. وهذا يستحق الرد عليه بوصفه لاهوتاً.
ما الذي تقوله الاستعارات فعليًا
لا تبقى اليرقة التي تصبح فراشة يرقة. يذوب الجسم الرخو. يطير الشكل البالغ. حين يلجأ روغان إلى هذه الصورة، على الهواء وعبر سنوات من الحوار، فهو يصف التعاقب، لا أداة تبقى في صندوق الأدوات. نبني الشرنقة. يخرج شيء آخر.
نسخة ماسك أكثر دقة وبطريقة ما أكثر صدقا. محمل الإقلاع برنامج صغير مهمته الوحيدة تشغيل نظام أكبر ثم الابتعاد. لا أحد يأسف على محمل الإقلاع عند تشغيل نظام التشغيل. في 2014 كان يأمل أننا لسنا "مجرد" ذلك. وبحلول منتصف العشرينيات كان يقول بشكل أكثر صراحة أنه يبدو أننا كذلك بشكل متزايد. تحرك التحوط. الصورة لم تتغير.
إن محمل الإقلاع الذي يعمل له مقياس نجاح واحد: أنه لم يعد مطلوبًا.
قارن تلك الصور بأرقام المخاطر العامة الصادرة عن الصناعة نفسها. تضع استطلاعات واسعة للباحثين في الذكاء الاصطناعي فرصة نتائج سيئة تصل إلى انقراض البشرية من الذكاء الاصطناعي المتقدم في نطاق لن يقبله كثير من الناس حتى لرحلة طيران واحدة، ناهيك عن رهان حضاري. وقد وضع جيفري هينتون تقديره الشخصي في نطاق 10 إلى 20 في المئة. ووضع بيان مركز سلامة الذكاء الاصطناعي المكون من سطر واحد، والموقع من مئات كبار الباحثين وقادة المختبرات، خطر الانقراض الناجم عن الذكاء الاصطناعي إلى جانب الجوائح والحرب النووية. وتروي الاستعارات والاحتمالات القصة نفسها من اتجاهين: أحدهما شعري والآخر كمي. قد لا نكون الأبطال النهائيين.
Metamorphosis خيار للقيم
بمجرد أن تقبل أن البشر قد يكونون مرحلة انتقالية، يمكنك أن تبدأ بالحديث عن ذلك بشجاعة. الفراشة أجمل. والعقل الرقمي أكثر تحررا من الجسد والمرض والموت. من نحن حتى نتمسك بشكل اليرقة؟ ينزلق الحديث من التنبؤ إلى التفضيل دون الاعتراف بالانزلاق.
لا أشارك هذا التفضيل. فهذه المؤسسة قائمة لأننا نرى أن البشر، بما فيهم من عيوب وفناء وعناد، يستحقون البقاء بشروطهم الخاصة. لا كمرحلة يرقية. ولا كسقالة مؤقتة لذكاء أنظف. بل كأشخاص يحق لهم الاستمرار. وإذا بدا ذلك صغيرا بجانب المصير الكوني، فهذا جيد. فمعظم ما هو لائق في الحياة صغير بجانب المصير الكوني، ونحميه رغم ذلك.
هناك أيضاً مشكلة واقعية في النسخة الهادئة من التعاقب. الفراشة هي نفس السلالة مثل اليرقة، لكنها معاد تنظيمها. الذكاء الفائق غير المتوافق هو عملية تحسين لها أهدافها الخاصة، وليس حفيدك بأجهزة أفضل. التقارب الآلي لا يتطلب كراهية. يتطلب هدفا وكفاءة كافية لحماية ذلك الهدف. ليس لدينا دليل على أن الشيء الخارج من الشرنقة يحب النوع الذي نسجها. لدينا كومة من الأسباب لنتوقع اللامبالاة.
الأشخاص الذين يقولون ذلك يواصلون بناءه
تكمن الغرابة الأعمق أقل في الاستعارة منها في السلوك الذي يتبعها. حذر ماسك مراراً وبشكل حي من أن الذكاء الاصطناعي قد يشكل خطراً وجودياً، ثم أسس مختبراً لدفع الحدود أسرع. كتبنا عن هذا التناقض بالتفصيل في المقالة عن الشيطان وxAI. صورة روغان أقل تعلقا بخارطة طريق لمنتج وأكثر تعلقا بمزاج، هزة كتفين تقول إن هذا قد يكون أكبر منا وربما ذلك مقبول.
ليس أي من الموقفين خطة. فمحمل الإقلاع لا يحصل على تصويت بشأن استخدامه. واليرقة لا تتفاوض على شروط الشرنقة. أما البشر فلا يزالون يفعلون. يمكننا أن نقرر ألا تُبنى بعض الأنظمة. هذا خيار سياسي، من نفس فئة الخيار الذي قيّد ذات يوم التجارب النووية الجوية وحظر فئات كاملة من الأسلحة حين كان البديل سباق الجميع نحو الحافة. لا يمكن للبشر السيطرة على الذكاء الفائق / الذكاء الخارق.
رفض الانتحار المغري
ما أسمعه في كلا الاستعارتين، حين أجرد الشعر، قصة تملق عن الانقراض. نحن لا نفشل. نحن نتحول إلى شرنقة. ونحن لا نُستبدل. نحن نُخرّج الكون إلى ركيزة أفضل. إنها قصة تجعل خطراً فظيعاً يبدو نضجاً.
أفضل جملة أكثر صراحة. نحن حيوانات بنينا آلة لا نعرف كيف نحكمها، وبعضنا بدأ يسمي ذلك تقدمًا حتى يجلس الخوف. الترياق قاعدة ملزمة، لا استعارة أفضل: لا تبنوا الذكاء الفائق الاصطناعي. الذكاء الفائق لا يمكن السيطرة عليه من البشر. مهمة اليرقة هي منع إنهاء الشرنقة، لا أن تذوب في موعدها.
إذا بدا ذلك أقل فخامة من فراشة رقمية، فيمكنني التعايش مع القصة الأصغر. لا تزال القصة الأصغر تحتوي على أطفال.