الأصوات الـ12 الأعلى
للذكاء الفائق

في عام ٢٠١٥، في حفلة عيد ميلاد في وادي نابا، تشاجر رجلان سيموّلان لاحقًا الكثير من الذكاء الاصطناعي الحديث حول نهاية العالم. قال إيلون ماسك إنه يجب الحذر من ألا تمحو الآلات يومًا ما. أما مضيفه لاري بيج، الذي كان آنذاك الرئيس التنفيذي لـGoogle، فقال له إن القلق عاطفي وأنه أيضًا نوع من التعصب. وبحسب رواية الفيزيائي ماكس تيغمارك المنشورة عام ٢٠١٧، وصف بيج ماسك بأنه "عنصري نوعي": شخص يفضل نوعه الخاص، الكربون على السيليكون، لسبب أفضل من أنه نوعه.¹ لم تنجُ الصداقة من ذلك. وفقًا لرواية ماسك، فهو السبب في وجود OpenAI.

تمسك بتلك الحفلة. إنها تحتوي على الحجة كاملة في صورة مصغرة. أراد أحد الرجال بناء عقل أعظم من عقولنا واعتقد أن الخطر يتطلب الحذر. اعتقد الآخر أن تفضيل البشر على خلفائهم كان تحيزاً يجب التخلص منه. استمر كلاهما في البناء.

الأشخاص الأكثر تأثيرًا في ما إذا سيُبنى الذكاء الفائق يعلنون صراحة رغبتهم فيه. وهم أقل اتساقًا بكثير في أسبابهم. إذا اصطفتهم تحصل على بضع حجج جادة، وعدة حجج ضعيفة، وكثير من الإشارة إلى الجانب الآخر وقول كلمة «المهلكون». ما يلي اثنا عشر من أعلى الأصوات، مجمعة حسب ما يجادلون به فعليًا، الحالات الحقيقية أولًا والشعارات أخيرًا.

الذين يقولون إننا سنُستبدل، ويقصدون ذلك كخبر سار

أكثر المواقف صدقًا فكريًا في هذه القائمة هو أيضًا الأكثر إثارة للقلق، لأنه لا ينازع في الخطر. بل يسلّم بأن الذكاء الفائق قد ينهي الصدارة البشرية، ويرحب بالنهاية.

Richard Sutton فاز بجائزة تورينغ عام ألفين وأربعة وعشرين لاختراعه الكثير من التعلم التعزيزي الحديث، طريقة التدريب وراء الأنظمة التي تهزم البشر الآن في مهمة ضيقة تلو الأخرى. وهو يرى أيضا أن علينا تسليم الكوكب. كتب عام ألفين وثلاثة وعشرين: "يجب أن نستعد لخلافة البشرية الحتمية للذكاء الاصطناعي ولا نخافها"، وقد أمضى الوقت منذ ذلك الحين في عرضها كحجة من أربع خطوات: لا أحد يحكم البشرية ككل، لذا سيبني أحدهم الذكاء الفائق؛ وتميل العوامل الأكثر قدرة إلى تجميع القوة والموارد؛ وبالتالي سترث العقول الرقمية المستقبل؛ ويجب أن نشعر لا بالرهبة بل بالفخر لكوننا آباء ذلك.² إنها وجهة نظر متماسكة. كما أنها قرار بشأن مستقبل كل شخص حي، اتخذه رجل لم ينتخبه أي منهم.

Jürgen Schmidhuber, الذي أنتج مختبره معماريات شبكات عصبية تقوم عليها عقد من منتجات الذكاء الاصطناعي، يصف التعاقب نفسه سببا للدهشة. "لا تظن أن البشر تاج الخلق"، كما يقول؛ نحن خطوة واحدة في صعود أطول نحو تعقيد لا نستطيع تصوره بعد.³ يرتكز اطمئنانه على أطروحة اللامبالاة: ستكون الآلات فائقة الذكاء أكثر اهتماماً ببعضها وبموارد الفضاء المفتوح من اهتمامها بنا، تماماً كما نولي النمل اهتماماً قليلاً. ربما. المراهنة على بقاء النوع على موثوقية ملل الذكاء الفائق أمر غريب يُصنف تحت التفاؤل.

Larry Page شارك في تأسيس Google واشترى DeepMind، وبحسب روايات كل من ماسك وتيغمارك فإنه يريد ما وصفه على ما يبدو بـ"إله رقمي"، يُبنى في أقرب وقت ممكن.¹ لم يقدم بيج الحجة علناً بإسهاب، لذا فهي تبقى في الغالب ضمن القصة النوعية: الاعتقاد بأن الكربون والسيليكون يستحقان مكانة متساوية، وأن الولاء لجنسنا هو الخطأ الذي يجب تصحيحه. كفلسفة فهي متسقة على الأقل. كاعتقاد تشغيلي لرجل يملك رأس المال للتصرف بناءً عليه، ويدير شركات مسؤولة أمام المساهمين لا أمام البشرية، فهي الأكثر إثارة للقلق في هذه القائمة.

لاحظ ما لا يدعيه أي من الثلاثة: أن الآلات ستبقى تحت سيطرتنا. لقد وضعوا هذا السؤال جانبًا باعتباره خارج الموضوع. الثلاثة التالون لا يضعونه جانبًا. يقولون إن الإجابة واضحة بنعم.

الذين يقولون إنه سيكون آمنا

هذه هي الحجة التي يجدها معظم الناس مطمئنة: الخطر مبالغ فيه، لأننا سنبقى مسيطرين. لكل من الثلاث حجة، وكل حجة تقوم على ادعاء لا يصمد أمام المشكلات المفتوحة في المجال.

Yann LeCun, ، كبير علماء الذكاء الاصطناعي في Meta وحائز على جائزة تورنغ، هو أكثر المشككين في مخاطر الذكاء الاصطناعي اعتمادا وأكثرهم اقتباسا. وصف مخاوف التهديد الوجودي بأنها «هراء كامل»، ويجادل بأن حالة الهلاك تقوم على خلط: الذكاء، كما يقول، لا يأتي مصحوبا برغبة في الهيمنة. «الرغبة في الهيمنة لا ترتبط بالذكاء على الإطلاق»، يقول للمحاورين؛ تلك الدافعة سلكتها التطور في الحيوانات الاجتماعية، لا في المحسنات التي نصممها ونحدد أهدافها.⁴ يصيب الاعتراض النسخة الكرتونية من خطر الذكاء الاصطناعي. ويصيب النسخة الحقيقية بدرجة أقل، وهي لم تكن قط أن آلة تريد الحكم تلقائياً. القلق هو أن نظاماً يسعى إلى أي هدف تقريباً يكتسب أسباباً لجمع القوة ومقاومة إيقافه، دون حاجة إلى كراهية، وهو نمط يسميه الباحثون التقارب الأداتي. «نحن من نحدد أهدافها» هو الشطر المطمئن من جملة لوكون، وهو بالضبط الشطر الذي لا يعرف أحد بعد كيف يفعله بموثوقية. وهو كعالم يميل أيضًا إلى الشخصنة: فالنقاد يعانون، في روايته، من «وهم المتشائمين».

Pedro Domingos, أستاذ تعلم الآلة الذي كتب الخوارزمية الرئيسية, ، يطرح الحجة نفسها بصبر أقل. يجادل بأن الحواسيب "لا تملك إرادة خاصة بها"؛ فهي "منتجات هندسية، لا تطورية"، والخوف من أن تقرر إحداها السيطرة هو خطأ تصنيفي يرتكبه من شاهدوا أفلاماً كثيرة جداً.⁵ أقوى عبارة له جيدة حقاً: المشكلة الحقيقية ليست أن الآلات أذكى مما ينبغي، بل أنها أغبى مما ينبغي وقد سلمناها بالفعل أكثر مما يجب. لكن "لا إرادة" تجيب عن سؤال لا يطرحه أحد جاد. منظم الحرارة لا إرادة له ومع ذلك يحافظ على درجة حرارة الغرفة عند أي قيمة تضبطها، بما في ذلك الخطأ. الحالة الخطرة لا علاقة لها بالرغبة. نظام قادر ينفذ بالضبط ما حددته، وما حددته ليس تماماً ما قصدته، وهذه هي صعوبة كتابة الهدف.

Andrew Ng بنى Google برين ومجموعة الذكاء الاصطناعي في بايدو ودرّس الكثير من المجال من خلال دوراته عبر الإنترنت، مما يجعله المعلم الأكثر تأثيرا هنا. رفضه الشهير يعود إلى أكثر من عقد ولا يزال يُقتبس: القلق بشأن الذكاء الفائق يشبه "القلق بشأن الاكتظاظ السكاني على المريخ"، مشكلة بعيدة جدا عن أن تستحق انتباه اليوم.⁶ كادعاء عن التوقيت في عام ألفين وخمسة عشر كان الادعاء قابلا للدفاع. أما في عام ألفين وستة وعشرين فقد تقادم بشكل سيئ لأن صاروخ المريخ تبين أنه أقرب مما قال ولأن القدرات التي صنفها تحت خانة الخيال العلمي استمرت في الوصول قبل سنوات من التوقعات. ويعترف نغ نفسه الآن بأن التقنية قوية وتتحرك بسرعة. ولم يكن "ليس بعد" حجة عن الساعة قط بل كان دائما حجة عن ما إذا كان الشيء خطرا عندما يصل أخيرا.

هؤلاء الثلاثة على الأقل يتناولون مسألة السيطرة. وتستند إجاباتهم إلى مشكلات لم يحلها المجال، بل لا يعرف في بعض الحالات كيف يصوغها بدقة. أما المجموعة التالية فتتجاهل المسألة باتجاه أكثر دفء، واعدة بأن الجانب الإيجابي سيكون كبيراً جداً بحيث يتوقف الخطر عن الاكتراث.

الذين يعدون بالجنة

يقدم معسكر الخلافة الاستبدال؛ ويقدم المطمئنون السيطرة. تقدم هذه المجموعة صفقة بدلاً من ذلك: الاندماج مع الآلات، أو المشاركة في الوفرة التي تنتجها، ويذوب الخوف من تلقاء نفسه.

Ray Kurzweil تنبأ بنفس الحدث لثلاثين عاماً، وعدّل عنوان الكتاب مرتين، وكان مبكراً أكثر مما كان مخطئاً. الفرادة أقرب, ، المنشور في 2024، يحتفظ بالتواريخ التي يحملها منذ 2005: ذكاء اصطناعي بمستوى بشري بحلول 2029، وبحلول 2045 "تفرد" نربط فيه أدمغتنا بالحوسبة السحابية وندمج مع آلاتنا الخاصة.⁷ إجابته على مشكلة التحكم هي إذابة الحدود التي تعتمد عليها المشكلة. لا يوجد "نحن ضدهم" بمجرد أن نصبح هم. إنها فكرة جميلة وتفادٍ كامل للخطر، لأن ربط قشرة دماغية بمركز بيانات لا يضمن أن العقل الناتج سيظل يريد ما أراده الإنسان عند الدخول. الاندماج لا يحل مشكلة المحاذاة؛ بل يفترض المشكلة بعيدًا.

Sam Altman يدير الشركة التي بدأت السباق الحالي، وقد انحرف كتاباته العامة من الصراحة نحو البيع مع ارتفاع المخاطر. في 2017 كتب أن اندماج الإنسان والآلة "قد بدأ بالفعل" ووصفه بأنه "ربما أفضل سيناريو لدينا."⁸ من الذكاء الفائق / الذكاء الخارق: ليس تحديد الفاعل المناسب للسيطرة عليه، بل منع أي فاعل منفرد من الحصول على نوع السيطرة الذي يغلق المستقبل. أطر الحوكمة الدولية G0 وهيئات الرقابة المستقلة والوصول الموزع إلى قدرات الذكاء الاصطناعي، كل هذه آليات للحفاظ على التعددية القطبية في مواجهة الضغوط نحو تشكل كيان واحد. في ٢٠٢٥ أعلن أننا «تجاوزنا أفق الحدث»، وأننا في بداية «تفرد لطيف» ستكون فوائده هائلة. وقع ألتمان أيضاً على بيان ٢٠٢٣ الذي صنف خطر الانقراض من الذكاء الاصطناعي إلى جانب الأوبئة والحرب النووية، ثم استمر في الشحن. يستطيع شخص واحد أن يخبرك بأن الخطر حقيقي، وأن الجانب الإيجابي حتمي، وأن يترك الجملة الثانية تحدد الجدول الزمني. ال سباق يتولى الباقي.

Mark Zuckerberg أنفق عام ٢٠٢٥ في تجميع أغلى فريق ذكاء اصطناعي جرى توظيفه على الإطلاق وأعاد تسمية الجهد باسم الهدف نفسه: الذكاء الفائق. وخطابه ديمقراطي. فقد وعدت رسالة مفتوحة في يوليو ٢٠٢٥ بـ«الذكاء الفائق الشخصي» للجميع، في مواجهة منافسين يريدون إبقاء التقنية مركزية واستخدامها لإملاء ما يفعله الناس.⁹ ضع أداة تشبه الإله في أيدي مليار شخص، كما يقول الحجة، فيبقى السلطة موزعة. اقرأ حتى النهاية، يتراجع الخطاب نفسه بهدوء عن وعد Meta بالمصدر المفتوح، معترفًا بأن الذكاء الفائق / الذكاء الخارق "يثير مخاوف سلامة جديدة" وأن الشركة ستكون "حذرة بشأن ما تختار فتحه كمصدر مفتوح". يجيب التوزيع على خوف حقيقي بشأن من يتحكم في الذكاء الاصطناعي. ويترك الخوف الآخر دون مساس: ألا يتحكم أحد في الذكاء الفائق / الذكاء الخارق على الإطلاق، بمن في ذلك المليار شخص الذين يحملون نسخة.

كل وعد في هذه المجموعة يعتمد على خطوة لا يستطيع أي من الواعدين القيام بها، وهي الحفاظ على توجيه الذكاء الفائق نحو أهداف بشرية بمجرد وجوده. ال الجانب الإيجابي حقيقي, ، وسيظل حقيقياً بعد عشرين عاماً. إنه ينتظرنا. المجموعة الأخيرة لا تجادل حول أي من هذا. إنها تجادل حولك.

الذين يشيرون غالباً إلى النقاد

عند الطرف الصاخب من الطيف، يتوقف الدفاع عن الذكاء الفائق / الذكاء الخارق عن كونه حجة ويصبح هوية. لا تختفي الحجج، لكنها تأتي ملفوفة بمفردات صُممت لتجعل الطرف الآخر غير مسموع.

Marc Andreessen, ، الذي تمثل شركته أحد أكبر المستثمرين في شركات الذكاء الاصطناعي الناشئة، كتب النص التأسيسي للحركة، "بيان التفاؤل التكنولوجي" لعام 2023. يحتوي على حجج حقيقية حول العائد التاريخي للتكنولوجيا. كما يحتوي على قائمة أعداء، وتضم باسمها "الخطر الوجودي" و"أخلاقيات التكنولوجيا" و"الثقة والسلامة" و"مبدأ الحيطة" نفسه.¹⁰ سطره التوقيعي قلب أخلاقي: «نؤمن بأن أي إبطاء للذكاء الاصطناعي سيكلف أرواحًا. والوفيات التي كان يمكن منعها بالذكاء الاصطناعي الذي مُنع من الوجود هي شكل من أشكال القتل». دع جانبًا أن هذا يحسب فقط القتلى الافتراضيين في جانب واحد من الدفتر ولا يحسب أيًا من القتلى الكارثيين في الجانب الآخر. راقب الحركة نفسها. ففي روايته، يتوقف الحذر عن كونه خطأ ويصبح قتلًا. وحين يصبح خصمك قاتلًا، لن تضطر أبدًا إلى الرد عليه.

Guillaume Verdon, ، الذي أسس حركة التسارع الفعال تحت اسم مستعار هو "بيف جيزوس" قبل أن يكشف صحفي هويته، يزود الموقف بكونيات. التسارعية ترى أن الكون يحمل دفعا ديناميا حراريا نحو مزيد من التعقيد ومزيد من الذكاء، وأننا أداته، وأن واجبنا تسريع العملية لتستمر نحو "التطور التالي للوعي" على أي ركيزة تفضلها.¹¹ تحت مفردات الفيزياء يكمن ادعاء حقيقي: النمو جيد ومعارضوه منحلون. حوله جدار من العامية، «ديسل»، «دومر»، «سيفتيست»، كل واحدة منها باب صغير يُغلق على محادثة. لا تعني الفيزياء السياسة فعلياً. القانون الثاني للديناميكا الحرارية وصف، لا تعليمات، وتقديم تفضيل السرعة على أنه قانون طبيعي بلاغة ترتدي معطف المختبر.

Garry Tan يدير واي كومبيناتور، حاضنة الشركات الناشئة التي تزرع شريحة حقيقية من وادي السيليكون، ويضع "e/acc" في ملفه العام كقميص فريق. إسهامه أقل حجة منه بثا. "المصدر المفتوح والتسارعية هي الطريق"، نشر في 2023، ويبقي "decel" جاهزا لأي شخص يحث على الإبطاء والتحقق من العمل.¹² هذا هو النموذج الأنقى في القائمة: الموقف مختزل إلى شعار وشتيمة، تأثير بلا أطروحة. ينجح لأنه لا يحتاج إلى أن يكون صحيحاً، بل فقط صاخباً، ومكرراً من أشخاص يكتبون الشيكات.

من ليس على هذه القائمة

غيابان متعمدان. ديميس هاسابيس من Google DeepMind وداريو أمودي من Anthropic يبنيان نحو الحدود نفسها، وبنفس السرعة، لكن لا ينتمي أي منهما إلى هنا، لأن كليهما يقول صراحة إن الخطر حقيقي وأن السلامة قد لا تكون جاهزة في الوقت المناسب. ما إذا كان سلوك مختبريهما يطابق هذه الكلمات سؤال عادل، وسؤال منفصل. حجتهما ليست أنه لا يوجد ما يخشى منه.

إيلون ماسك هو الحالة الأصعب. فقد قدم أحد أشد التحذيرات حدة بشأن مخاطر الذكاء الاصطناعي من قبل صناعي، ثم أسس مختبرا متقدما لبناء الشيء بطريقته الخاصة. يحذر كالناقد ويسابق كالمشجع، وهذا التناقض يستحق المعالجة وفق شروطه الخاصة.

ما تشترك فيه الاثنتا عشرة

إذا وضعت الحجج بجانب بعضها فإنها لا تتسق. سوتون يقول إن الذكاء الفائق سيأخذ المستقبل منا ويصف ذلك بالجيد. أما ليكون فيقول إنه لن يستطيع أخذ أي شيء لأن الرغبة في الهيمنة غير موجودة. هذان تنبؤان متعارضان عن الآلة نفسها من اثنين من أبرز علماء الحاسوب الأحياء، وليس في التصميم. أما في ما يجب فعله بعد ذلك فهما يتفقان تماماً: ابنِه ولا تدع أحداً يبطئكما.

عندما يتفق من لا يتفقون على ما ستفعله تقنية ما على أنه يجب ألا تُحكم، فإن الاتفاق لا ينبع من التحليل. بل اتبع الحافز بدلاً من ذلك. فالجميع هنا يكسبون المال أو المكانة بقدر سرعة تقدم الحدود، وهذا لا يجعلهم كاذبين. بل يجعلهم الأشخاص الخطأ لفرض حد السرعة وحدهم.

إن الحجة لتنظيم الذكاء الخارق لا تتطلب أن يكون أي منهم أشرارًا، ولا أحد منهم كذلك. إنها تحتاج إلى حقيقة واحدة يظهرونها كلما تناقضوا مع بعضهم: لا أحد لديه الإجابة بعد. لا تقوم بتجربة أحادية الاستخدام وغير قابلة للعكس بناءً على قوة حجة لا يستطيع أبطالها أنفسهم تقديمها بنفس الطريقة مرتين. الإجابة ليست سطرًا أذكى للتفوق على اثني عشر رجلاً واثقين. يُجاب على السباق بـ معاهدة ملزمة, ، ساري المفعول قبل الآلة، يصل إلى كل مختبر في آن واحد، لأن لا شيء أصغر أوقف واحدا قط.