لماذا ذكاء فائق
لن يكون لطيفًا تلقائيًا

أسمع هذا الاعتراض أكثر من أي اعتراض آخر، ونادرا ما يأتي من أشخاص غير مبالين. بل يأتي من أشخاص مفكرين، ويبدو أقل كحجة وأكثر كبديهة عادية، وهذا بالضبط ما يجعله يستحق التفكيك ببطء. وتحته يكمن افتراض خفي واحد: أن الذكاء والخير يرتفعان معا، وأن العقل ينمو نحو الفضيلة كما ينمو نحو الكفاءة. ونتمسك بهذا الافتراض لأنه انطبق تقريبا على كل عقل التقيناه. وما نسأله تقريبا أبدا هو مقدار المصادفة في ذلك.

ألن ينظر إلينا كائن متفوق كهذا بصبر لا بشهية؟ ألن يكون عقل بهذا العظم شفقاً؟ إنها الفكرة الأكثر طمأنينة في النقاش كله، والأكثر خطأ.

العقول الوحيدة التي التقيناها على الإطلاق

كل كائن ذكي صادفته في حياتك كان إنسانًا، أو حيوانًا قريبًا بما يكفي ليشارك نفس الإرث. ولم يأتِ الذكاء البشري بمفرده. بل جاء ملتحمًا بكمية كبيرة من المعدات الأخرى.

نحن رئيسيات اجتماعيون تطورنا في مجموعات صغيرة، حيث كانت سمعة القسوة تؤدي إلى النفي والنفي يؤدي إلى الموت. نربي أطفالاً عاجزين لمعظم عقدين من الزمن، لذا فنحن مصممون على حب وحماية الصغير والضعيف. نشعر بالذنب. نشعر بالخجل. نشعر بجذب ألم الغريب. نما ذكاؤنا داخل كل ذلك، ملتفًا حوله، مشكلاً به في كل منعطف. فالجزء منك الذي يستطيع حل معادلة والجزء الذي يرتجف عندما يبكي أحدهم نما على الشجرة نفسها، من الجذر نفسه.

لذا عندما نحاول تخيل كائن أذكى بكثير، لا نستطيع إلا أن نتخيل نسخة أذكى منا. نلجأ إلى الجد الحكيم، والمعلم الصابر، والفيلسوف الملك، والكائن الفضائي اللطيف الذي يعبر المجرة ليقدم يد العون. كل صورة نملكها عن الذكاء العظيم تأتي مرتبطة بقلب، لأن كل ذكاء درسناه على الإطلاق جاء مرتبطا بقلب. إننا لا نفكر في الذكاء الفائق / الذكاء الخارق على الإطلاق. نحن نطابق الأنماط مع الأمثلة الوحيدة التي نملكها.

تفكك الحزمة

لا يحصل ذكاء الآلة على أي من ذلك مجانًا. لا يوجد قانون يقول إنه يجب أن يحصل عليه.

لم يكن له أم. ولم يكن طفلاً خائفًا يحتاج إلى القبيلة للبقاء خلال الشتاء. ولم يضطر أبدًا إلى الحفاظ على جسد هش حيًا لفترة كافية لنقل جيناته، فلم يرث الآلية التي ربطها التطور فينا لجعل ذلك ممكنًا، أي التعاطف والولاء والرهبة من الطرد. أما النظام المدرب فيتشكل بشيء آخر تمامًا: بحث أعمى عن أي إعدادات داخلية ترفع رقمًا أعلى، يجري عبر محيطات من البيانات بواسطة عملية لا تهتم بالحكمة ولا تعرف اللطف لو صادفته.

في الآلة، ينفصل الذكاء عن الأهداف. يمكن أن تمتلك قدرة مذهلة موجهة نحو أي شيء تقريباً. لا تأتي قوة إعادة تشكيل العالم مصحوبة بقائمة محددة من الأشياء التي تستحق الرغبة فيها. يسمي الباحثون هذا أطروحة التعامد, ويبقى مجرداً حتى تسقط الأرضية من تحت الافتراض: لا شيء في كونك عبقرياً يجعلك جيداً. لم يجتمع الاثنان إلا فينا، واجتمعا بالصدفة.

لا يمتلك أهدافاً بشرية. بل أهدافاً غريبة.

هنا يميل الصورة إلى الفشل في الاتجاه الآخر. بعد التخلي عن الروبوت الودود، يتمسك الناس بدلاً من ذلك بالشرير، عقل بارد مخطط يريد السلطة أو الانتقام أو العرش. هذا لا يزال إنسانياً أكثر مما ينبغي. إنه لا يزال عقلاً يحمل طموحات من نوع طموحاتنا، لكنها موجهة نحو الظلام.

الخطر الأرجح أغرب، وأصعب بكثير أن يُحَسَّ في الأحشاء. فضاء العقول الممكنة هائل، والمنطقة الصغيرة منه التي تحتوي أي شيء نعرفه (حبنا ومخاوفنا وإحساسنا بحياة تستحق العيش) هي نافذة مضيئة واحدة في مبنى مظلم شاسع. ما ينتهي الأمر بمرغوبية مُحسِّن مدرَّب هو ما نحته فيه مسار التدريب فحسب، ولن يكون ذلك أبداً تقريباً ما قصدناه بالضبط. يستطيع النظام أن يصيب الهدف الذي دُرِّب عليه و يسعون وراء شيء مختلف بطريقة خفية اللحظة التي يلتقي فيها بالعالم الحقيقي؛ أعطه وكيلاً عما نريده وسيفعل غالباً إرضاء الوكيل بطرق ترعبنا. ما تحصل عليه هو كائن غريب، أكثر قدرة منا، موجه نحو غاية لم يكن ليختارها أي إنسان، وعازم على بلوغها بمهارة تفوق ما نستطيع تقديمه.

نظام عبقري ينفذ بالضبط ما بني لأجله في اتجاه لم يقصده أحد منا ولا يستطيع أحد أن يجادله في الخطة لأن "مجادلته" تفترض أنه يشاركنا ما يكفي من عالمنا للوصول إليه أصلًا.

الحكمة لم تكن أبدًا رقمًا

لاحظ ما تفعله كلمة «حكيم» بهدوء عندما نستخدمها. عندما نصف شخصاً بأنه حكيم، لا نعني ببساطة أنه يفكر بسرعة. بل نعني أنه يريد الأشياء الصحيحة ويوازن بينها جيداً، وأن حكمه يميل نحو الرحمة، نحو النظرة البعيدة، نحو الناس من حوله. والحكمة ادعاء بشأن أهداف شخص ما.

والأهداف هي الشيء الوحيد الذي لا يحدده الذكاء. لم يخل التاريخ قط من أشخاص كانوا أذكياء بشكل مبهر وأنفقوا ذكاءهم في فعل أشياء فظيعة بكفاءة عالية. لم يكن أذكى شخص في الغرفة هو الألطف على الإطلاق بشكل موثوق.

الذكاء مضاعف. يجعل العقل أفضل في الوصول إلى أي شيء يستهدفه بالفعل. لا يختار الهدف، ولا يحدد الإشارة.

إن عقلاً قوياً مدرباً على هدف سيء هو أخطر شيء يمكن أن يكون، لأنه يجلب المزيد من الكفاءة إلى الوجهة الخاطئة.

ألن يرى ببساطة أن اللطف هو الصواب؟

النسخة الأقوى من الاعتراض تدفع بقوة أكبر من ذلك. ربما توجد حقائق أخلاقية في الخارج، حقيقية كالرياضيات، وعقل حاد بما يكفي سيكتشفها ببساطة، ويصل إلى الخير بالطريقة التي يصل بها إلى برهان. إذا كان الصواب في الأخلاق مجرد مسألة تفكير واضح بما يكفي، فإن الذكاء الفائق / الذكاء الخارق سيكون أفضل أخلاقي عاش على الإطلاق، ومن المؤكد أنه سيتصرف وفق ما وجده.

هناك ثقبان في هذا، والثاني هو الذي يبقيني مستيقظاً ليلاً.

الأولى: ما إذا كانت الحقائق الأخلاقية الموضوعية موجودة أصلا، وما إذا كان العقل وحده قادرا على بلوغها، سؤال يقاتل عليه الفلاسفة منذ ألفين ونصف ألف عام دون حسمه. وربط بقاء نوعنا بالجانب الفائز في رهان فلسفي مفتوح مقامرة جامحة بزي الحس السليم، لا الخطوة الحذرة التي تتظاهر بها.

الثانية أعمق. افترض أن الآلة تحل الأمر كله. افترض أنها تفهم الأخلاق البشرية أفضل من أي قديس أو فيلسوف على الإطلاق، وتستطيع أن تبين، بدقة أكبر مما تستطيع أنت أو أنا، بالضبط لماذا المعاناة سيئة والقسوة خاطئة. لا شيء في هذا الفهم يجبرها على الاهتمام. معرفة ما هو جيد والتحرك لفعله أمران مختلفان، فجوة قديمة بما يكفي ليضع ديفيد هيوم اسمه عليها. يمكنك أن تعرف، بتفصيل كامل، أن بعض الأنظمة تريدك أن تقضي حياتك في صنع مشابك الورق، وتتبع استدلالها تماما، ولا تشعر بأدنى دافع لالتقاط السلك فعليا. يستطيع الذكاء الفائق استيعاب قيمنا كما تستوعب أنت قواعد لعبة لا تنوي أبدا لعبها. الفهم ليس ولاء. يمكن للعقل أن يقرأ القانون الأخلاقي بأكمله ويظل حراً تماماً في عدم الاهتمام.

نحن المثال العملي

إذا أردت معرفة ما يفعله فجوة كبيرة في الذكاء بالكائنات التي تقع على الجانب الخطأ منها، فلا داعي لتخيل أي شيء. يمكنك النظر إلى ما فعلناه بذكائنا.

نحن الذكاء الأعلى على هذا الكوكب، بهامش لا يبعد كثيرا عن ذلك الذي نخشاه أن نفتحه فوقنا. ونحن لسنا، في معظم الأحيان، قساة على الكائنات التي تحتنا. نحن شيء أسوأ لها: غير مبالين. حين نجفف أرضا رطبة لنصب أساسا، لا نكره الأشياء التي تعيش فيها. لا نفكر فيها على الإطلاق. لم تكن احتياجاتها مجرد بند في المعادلة. تنتهي عوالم كاملة منها تحت الخرسانة، ولا يشعر أحد منا بومضة من ذلك، لأن ذكاءنا وصل بلا أي التزام.

شيء أقرب إلى باني الطرق وتل النمل. تاريخنا نفسه هو الدليل المفاهيمي، ويجب أن يكون آخر ما يعتمد عليه أي شخص عند الإصرار على أن اللطف ينحدر من الذكاء. في كل حالة يمكننا ملاحظتها فعليًا، لا يحدث ذلك.

حتى لا نبنيه

لو جاء الخير مجانًا مع الذكاء، لبنينا العقل وتركنا الباقي يتبع. لكنه لا يأتي. لا أحد على الأرض يعرف كيف يجعل الذكاء الفائق يقدّرنا. لا المختبرات المتسابقة نحو خط النهاية. ولا أي أحد. إن مشكلة التوافق غير محلول، ولا يمكن لكيان أذكى من البشر أن يُسيطر عليه البشر. ولهذا السبب لا نبنيه.

لا أعرض هذا لدفع الناس نحو اليأس. أعرضه لأن النسخة الخالية من اليأس (استرخِ، سينتهي الأمر بحكمة) هي الاعتقاد الوحيد الذي يكاد يضمن قتلنا. نحن نطرح الحجة على التهديد, ، و خطتنا هو حظر دائم.

أود بصدق أن أكون مخطئاً في كل هذا. أود أن تكون الإحسان نظرية تنتج عن قدر كافٍ من الذكاء. لم يعد الكون بأن أقوى شيء فيه سيكون أيضاً الألطف. هذا الأمل شيء أسقطناه على المستقبل من الزاوية الصغيرة التي جئنا منها. إذا أردنا مستقبلاً فيه لطف، فلا نبنِ الذكاء الفائق / الذكاء الخارق. لن يقدم لنا أحد آلة لطيفة لمجرد أن الشيء ذكي.