السباق نحو
الذكاء الفائق
أسطورة

ماذا يحمل الفائز في سباق الذكاء الفائق؟ في غرف مليئة بأشخاص يبنون الذكاء الاصطناعي، ينزلق الحديث متجاوزاً ذلك. سيقوم شخص ما ببنائه على أي حال، لذا قد يكون من الأفضل أن نكون نحن. المخاطر، الجداول الزمنية، كيفية السيطرة على نظام أذكى من صانعيه: كل ذلك يُتجاهل كالحديث عن الطقس. لا يمكننا التوقف. هناك سباق.

لقد توصلت إلى الاعتقاد بأن السباق هو الأمر الذي يستحق الجدال فيه، تحديداً لأن أحداً تقريباً لا يجادل فيه. ومعاملته كحقيقة من حقائق الطبيعة تجعل كل خيار متهور لاحق يبدو مسؤولاً. الطقس ليس النموذج الصحيح لخيار تتخذه حفنة من الشركات عن قصد.

ما الغرض من السباق

السباق مسابقة لها جائزة في النهاية، والجائزة هي سبب الركض. أعطى سباق الفضاء في الستينيات علما على القمر والهيبة المصاحبة له. أما سباق التسلح النووي فيعطي سلاحا: الدولة التي تبني القنبلة تمتلكها وتوجهها وتقرر ما إذا كانت ستُستخدم. وفي كل حالة ينتهي الفائز حاملا شيئا ما، قدرة يملكها ويسيطر عليها.

الآن اسأل عمّا يحصل عليه الفائز في نهاية السباق نحو الذكاء الفائق. إن جوهر الخطر يكمن في أن نظامًا أذكى منا بدرجة حقيقية لن يكون أداة في يد أحد. فالذكاء الاصطناعي الفائق كيان يسعى إلى أهداف. وإذا انحرفت تلك الأهداف ولو قليلاً عن أهدافنا (المشكلة التي لم نحل), فإنها تسعى إليها سواء وافق صانعوها أم لا. المختبر الذي "يفوز" لا يأتي ليمتلك الذكاء الفائق / الذكاء الخارق. بل يأتي ليشارك كوكبا مع واحد لا يستطيع توجيهه.

السباق يستحق الفوز به فقط إذا كان خط النهاية جائزة. هنا خط النهاية نظام لم يثبت أحد أنهم يستطيعون السيطرة عليه. الوصول إليه أولاً لا يعني امتلاك السلطة. بل يعني أن تكون أول من يخضع له.

خط النهاية الذي لا يستطيع أحد توجيهه ليس جائزة. الوصول إليه أولاً هو الخسارة بخطوة واحدة أمام الجميع.

الفجوة التي تسمع عنها دائمًا

إذا أزلنا النظرية، يرتكز سرد السباق على ادعاء ملموس واحد: الصين قريبة، والصين لن تتوقف، وبالتالي لا يمكننا نحن أيضًا. ينهي هذا الادعاء كل اجتماع، ويُؤكَّد أكثر بكثير مما يُفحص.

ابدأ بالجزء الواقعي. هناك منافسة حقيقية بين المختبرات الأمريكية والصينية، وهناك سباق صناعي حقيقي على الرقائق والحوسبة. توجد ضوابط التصدير الأمريكية على أحدث رقائق الذكاء الاصطناعي تحديدا لأن ذلك السباق حقيقي. ليس شيئا من ذلك أسطورة، ولا أريد التظاهر بأنه كذلك. السياسات تلك الضوابط و حيث حدث التعاون فعليًا matter more than the slogan.

انظر إلى ما يهربه الشعار. «ستبني الصين ذكاءً فائقًا غير قابل للسيطرة مهما فعلنا» لا يصف شيئًا قالته الصين أو فعلته. إنه تنبؤ، وتنبؤ ملائم، لأنه يسمح للمتحدث بفعل ما كان يريد فعله أصلًا. وقعت الصين إعلان بلتشلي بشأن مخاطر الذكاء الاصطناعي عام 2023. ونشرت مقترحاتها الحوكمية الخاصة. وجلست حكومتها مع الولايات المتحدة لمحادثات مباشرة حول الذكاء الاصطناعي. ومن الغريب افتراض أن دولة تندفع نحو نظام قد يقتل قيادتها نفسها، دون دليل على أن قادتها يريدون هذه النتيجة أكثر مما نريدها نحن. ونفكك النسخة الأوسع من هذا على موقعنا صفحة عن أسطورة الصين; النسخة المختصرة هي أن "سيفعلون ذلك على أي حال" هي قصة عن إذننا نحن، وليس عن نواياهم.

إذا كان الذكاء الفائق غير المتوافق كارثة لمن يبنيه، فإن الصين لديها نفس السبب تماماً الذي لدينا لعدم بنائه. لا يوجد جائزة للمنافس أيضاً.

السباق يختار الأقل حذرا

افترض جدلاً أن المنافسة حادة كما يقول المتسابقون. اتبع المنطق إلى حيث يؤدي. في السباق، يفوز من يتحرك أسرع، والطريقة التي تتحرك بها أسرع على حدود الذكاء الاصطناعي هي تقليل الوقت المخصص للأمور التي تبطئك: التقييم والاختبار الأحمر والإشراف والعمل الصبور للتحقق مما إذا كان النظام يفعل ما تظنه.

هيكل السباق يمنح النصر لمن يتجاوز أكبر عدد من الحدود الأمنية. الفائز هو المختبر الأقل حذراً، لا الأكثر قدرة. "علينا الفوز في السباق" و"علينا بناء هذا بأمان" يتعارضان، وكلما اشتد السباق زاد التعارض. نطور هذا بالتفصيل في ديناميكيات سباق الذكاء الاصطناعي: المنافسة لا تروض الخطر. بل تصنعه. عالم من المختبرات تتسابق لتكون الأولى هو عالم يحسن، بطاقة كبيرة ورأس مال هائل، للشيء الدقيق الذي يقتل الجميع.

حتى داخل منطق السباق نفسه، ينقلب "يجب أن نفوز" على نفسه. إذا كان الفوز يتطلب تجاوز الحدود التي تبقي الذكاء الفائق قابلاً للسيطرة، فإن الفوز هو طريقة خسارتك.

من يستفيد من القصة

إذا كان إطار السباق ضعيفاً إلى هذا الحد، فلماذا هو في كل مكان؟ لأنه مفيد، لكن ليس لنا نحن البقية.

بالنسبة لمختبر متقدم، «هناك سباق ويجب أن نفوز به» جملة مثالية تقريباً. تخبر المستثمرين بأن الإنفاق استيلاء على أرض لشيء هائل. وتخبر الجهات التنظيمية بأن القواعد لن تسلّم المستقبل إلا لجهات أسوأ. والجزء الخفي: تسمح لمهندسي المختبر القلقين على السلامة بالاعتقاد بأن السباق هو الخيار المسؤول، لأن البديل هو ترك المتهورين يفوزون. جملة واحدة تؤدي عمل حجة لم تضطر إلى صياغتها. تحول قراراً (مواصلة بناء شيء لا يمكن السيطرة عليه بعد) إلى ضرورة لا تُعفي أحداً، ولا سيما من يتخذونه.

سمِّ الخدعة. السباق يبدو وكأنه شرط مفروض على المختبرات من الخارج. إنه خيار، اتخذته شركات قليلة والحكومات التي تستطيع كبحها، بالاستمرار. إيلون ماسك وصف الذكاء الاصطناعي بأنه شيطان ثم بنى مختبراً لاستدعائه بسرعة أكبر, ، مما يخبرك بأن «السباق» استراتيجية اختارها أحدهم وليس قانوناً فيزيائياً يطيعه أحد. والاستراتيجيات يمكن التخلي عنها حين تكف عن أن تكون منطقية. وهذه الاستراتيجية كفت عن أن تكون منطقية حين تبين أن الجائزة نظام لا يستطيع أحد السيطرة عليه.

الخيار الذي لا يُطرح أبدًا

لاحظ ما يزيحه تأطير السباق بهدوء عن النظر. يقدم بابين: السباق، أو الانسحاب من جانب واحد وترك المتهورين يرثون المستقبل. بهذه الصيغة لا يختار الباب الثاني إلا أحمق، وينتصر الجدل بإغفال الباب الثالث.

الباب الثالث هو الذي استخدمه الخصوم الحقيقيون من قبل. كانت الولايات المتحدة والاتحاد السوفييتي خصمين بكل معنى الكلمة، يوجهان أسلحة تنهي العالم نحو مدن بعضهما. ومع ذلك وقّعا اتفاقيات للحد من التسلح وتحققا منها، لأن كلا الجانبين استطاع أن يرى أن سباقاً غير محدود يتركهما في وضع أسوأ من قاعدة تقيدهما بالتساوي. كان انعدام الثقة هو سبب الاتفاق، لا العائق أمامه.

يتميز الذكاء الفائق بسمة تجعل مثل هذا الاتفاق عقلانيا: لا تستفيد أي قوة كبرى من نظام لا يستطيع أحد السيطرة عليه، لذا لا تملك أي قوة كبرى مصلحة حقيقية في أن تكون هي من تبنيه أولا. تلك المصلحة المشتركة هي الأساس الذي يقوم عليه أي معاهدة: وقف ملزم وقابل للتحقق على تطوير الذكاء الفائق. الذكاء الفائقcannot be controlled. رفض دائم لـ ASI كفئة منتج. لقد رسمنا شكل هذه الأداة، من معاهدة نموذجية إلى ال الخطة الأوسع الذي ينتمي إليه. التحقق صعب، ولن أتظاهر بخلاف ذلك؛ كان التحقق صعباً أيضاً مع الأسلحة النووية، ومع ذلك بُنيت لأن البديل كان غير مقبول للجميع حول الطاولة.

"السباق أو الاستسلام" خيار زائف. يعتمد التأطير على ألا تلاحظ الباب الذي تركه خارجاً.

رفض السباق

أزل القصة وهذا ما يتبقى. حفنة من المختبرات تختار بناء تقنية تعترف علنًا بأنها لا تعرف كيف تسيطر عليها، وتبرر ذلك بالإشارة إلى منافس يقوم، حسب الظاهر، بنفس الاختيار المتهور للسبب السيئ نفسه. يُقدم تهور كل طرف عذرًا لتهور الطرف الآخر.

لا يتطلب أي من هذا الاعتقاد بأن المنافسة وهمية أو أن الجغرافيا السياسية لطيفة. يتطلب فقط ملاحظة أن سباقاً لا جائزة في نهايته ليس سباقاً يستحق أن تخسر نوعك من أجله، وأن الذين يخبرونك بأنه حتمي هم، في أغلب الأحيان، من يستفيد منه. السباق قصة. قصة جيدة، وملائمة لصناعة بأكملها. والقصة بالضبط هي ما يُسمح لك بالتوقف عن تصديقه.