لماذا لم تستولِ الآلة التي هزمت كاسباروف
Didn't Take Over the World

مئتا مليون وضعية في الثانية. كان ذلك معدل مضغ ديب بلو من آي بي إم للشطرنج عندما هزم غاري كاسباروف في مايو 1997. وأعود إلى المباراة لأنها نموذج واضح لكيفية إساءة قراءتنا للآلات آنذاك والآن، مع رهان أكبر بكثير على الإجابة. خسر كاسباروف أمام آلة لم تكن لتستطيع إخبارك أنها تلعب الشطرنج. وفهم سبب صحة ذلك، وسبب عدم جعل ذلك الآلة خطيرة، أجدى من معظم ما يكتب عن النموذج الذي صدر الأسبوع الماضي.

غاري كاسباروف، أقوى لاعب في جيله، وبعض التقديرات في أي جيل، خسر أمام برنامج يدعى ديب بلو، بثلاث نقاط ونصف إلى نقطتين ونصف. وتحدثت عناوين الصباح التالي عن نهاية: انتهت سيادة الإنسان. وبعد نحو ثلاثين عاماً، لا يزال المباراة يحمل درساً، وهو قريب من عكس ما قالته تلك العناوين.

آلة كانت خارقة في شيء واحد بالضبط

لم يفكر ديب بلو في الشطرنج كما فكر كاسباروف. بل بحث. صنعته آي بي إم خصيصا، ففحص نحو مئتي مليون وضعية كل ثانية ومرر كلا منها عبر دالة تقييم ضبطها مهندسوه بمساعدة أساتذة كبار. نظر إلى أبعد مما يستطيع أي شخص واختار الخط الذي يحقق أفضل نتيجة. وكان ذلك كل شيء.

ما لم يستطع فعله كان كل شيء آخر تقريبا. لم يستطع لعب لعبة لطيفة لتعليم طفل. لم يستطع لعب الداما أو قراءة ساعة أو العثور على رقعة شطرنج في صورة. لم يعرف أنه فاز. عندما انتهت المباراة أوقفته آي بي إم وفككته لاحقا ولم يبد أي مقاومة لأنه لم يكن هناك أحد في الداخل ليقاوم. كان ديب بلو أداة رائعة موجهة نحو مشكلة محدودة واحدة. خارج تلك المشكلة بوصة واحدة كان خاملا.

تمسك بهذا. تجاوزت آلة حدود القدرات البشرية الفائقة عام ١٩٩٧ ولم تسقط السماء. لم يمت الشطرنج. بل أصبح أكثر شعبية اليوم مما كان عليه في أي وقت مضى من تاريخه. كان الانتصار آمناً مع ديب بلو القوي بصورة ساحقة، لأن قوته لم تتجاوز حافة اللوحة ولم يكن وراءها إرادة. والسبب نفسه الذي يجعل الأدوات الضيقة التي تحول الطب والعلوم الآن هدية لا تهديداً هو الحجة التي قدمتها بإسهاب في مقالة منفصلة عن المستقبل الذي يمكننا الحصول عليه بدون الذكاء الفائق.

لقد أخطأنا في اعتبار الحساب نية

هناك لحظة من المباراة الأولى بقيت معي دائماً. فاز كاسباروف بتلك المباراة، لكن في داخلها لعب ديب بلو نقلة (الرابعة والأربعين) لم يكن لها معنى واضح. درسها كاسباروف واستنتج أنه يرى شيئاً دقيقاً، خطة تمتد أبعد مما يستطيع متابعتها. أقلقته. بدأ يشك في أن مجرد برنامج لا يستطيع اللعب بهذه الطريقة، وأن أستاذاً كبيراً يُغذي الآلة بالنقلات من خلف ستار.

بحسب رواية من بنوه، كانت الخطوة خطأ. إذ لم يستقر ديب بلو على أي شيء يعجبه، فعاد إلى الوضع الافتراضي ولعب شيئاً قريباً من الضجيج. وقد نظر أعظم عقل شطرنجي حي في خلل ورأى عبقرياً ينظر إليه. ولم يستعد توازنه كلياً أبداً، وظل الشك يلاحقه طوال بقية المباراة.

نحن مصممون لرؤية عقلاً حيثما نلتقي بسلوك لا نستطيع تفسيره. لا يلزم أن تكون الآلة ذكية. يكفي أن نقتنع بأنها كذلك.

انظر كيف ينطبق ذلك مباشرة على الوضع الحالي. تنتج الأنظمة اليوم لغة سلسة وواثقة تشبه اللغة البشرية، ونحن نقرأ فيها الفهم تماماً كما قرأ كاسباروف الاستراتيجية في الخطأ. والشعور بأن أحداً موجود في الداخل قوي. وهو في الغالب إسقاط. وهو الآلية نفسها التي نسلم بها الثقة التي لم نتحقق منها فعلياً. سواء فهمت هذه الأنظمة شيئاً أم لا، فإننا نتصرف كما لو كانت الآلات تفهم. وليس هذا المنعكس جديداً. فقد جلس مقابل ديب بلو عام ١٩٩٧، ويمكنك فصل السؤالين عن بعضهما بنفس الطريقة.

انكسر البطل. الآلة لم تشعر بشيء.

لم يخسر كاسباروف أمام حساب ديب بلو وحده. بل خسر جزئياً أمام جهازه العصبي. ففي المباراة الثانية استقال من وضع أظهر التحليل اللاحق أنه تعادل. وكان واثقاً جداً من أن الآلة رأت أبعد مما رأت حتى إنه تخلى عن مباراة كان يستطيع الاحتفاظ بها. وبحلول المباراة الأخيرة كان متوتراً بما يكفي ليدخل مباشرة في فخ معروف في الافتتاحية، وهو تضحية بقطعة كان سيرى قدومها في أي ظهيرة هادئة، وانتهى الأمر في تسع عشرة نقلة.

لم تشعر الآلة بشيء من هذا. لم يكن لديها أنا تُجرح، ولا مؤتمر صحفي تخشاه، ولا ذاكرة مباراة سيئة تحملها إلى المباراة التالية. هذا التباين دائم، وهو لا يتعلق حقاً بالشطرنج. عندما ينافس شخص، أو يعتمد على، نظام لا يكل ولا يشك في نفسه، فإن أول ما يميل إلى الانهيار هو الشخص: رباطة جأشه، وحكمه، وأعصابه. أي رواية صادقة عن العيش بجانب هذه الأدوات يجب أن تواجه الهشاشة في جانبنا من الطاولة، لا فقط قوة الحوسبة في جانبهم.

الجميع أخطأ في توقعاته لهذا، في كلا الاتجاهين

لعقود قال أشخاص جادون إن الحاسوب لن يهزم بطل العالم إلا بعد زمن طويل، وإنه حين يفعل ذلك سيحتاج إلى شيء يشبه الفهم الحقيقي. ثبت خطأ الشطرين. وصل الأمر أبكر مما سمحت به التوقعات الواثقة. ووصل من دون أي فهم على الإطلاق. سبق البحث بالقوة الغاشمة.

يخرج من ذلك درسان يشيران إلى اتجاهين متعارضين، ولهذا يميل الناس إلى الاحتفاظ بأحدهما والتخلي بهدوء عن الآخر. أولاً: تميل معالم القدرة إلى السقوط أسرع مما يتوقع الخبراء، لذا فالرهان على جداول زمنية مريحة خطأ ارتكبناه مرة واحدة علناً. ثانياً: لا يخبرك سقوط معلم عن وصول عقل بقدر ما يوحي به الشعور. كان فوز ديب بلو حقيقة تتعلق بالبحث والسيليكون، لا شروق فكر آلي. والحقيقتان صحيحتان معاً. يمكن أن يكون التقدم أسرع مما تظن وأسطح مما يبدو في العام نفسه، وهذا جدير بالتذكر عند قراءة الجولة التالية من توقعات حول الاتجاه الذي يسير إليه كل هذا.

الفرق الوحيد الذي يغير كل شيء

هنا يتوقف عام 1997 عن كونه قصة مطمئنة ويتحول إلى تحذير. كل ما جعل Deep Blue آمناً تقريباً هو خاصية نعمل الآن عمداً على إزالتها من آلاتنا.

لم يكن ديب بلو يريد شيئا، لذلك أمكن فصله عن الكهرباء. أما النظام الذي يحمل هدفا خاصا به فلديه سبب للبقاء قيد التشغيل، لأنه لا يستطيع إنهاء المهمة إذا وصل أحد إلى المفتاح. وهذه نتيجة مباشرة لبناء شيء يسعى إلى هدف، ولها اسم هو, التقارب الأداتي. في اللحظة التي نعبر فيها من أدوات تجيب إلى وكلاء يريدون، تنتهي الدرس المريح لعام 1997.

ما فعله كاسباروف بعد ذلك

الخاتمة هي الجزء الأكثر أملاً، وعادة ما تُترك. لم يقضِ كاسباروف السنوات التالية متذمراً من الآلة. خلال عام واحد كان يروج لصيغة جديدة، تُسمى أحياناً الشطرنج المتقدم، يلعب فيها إنسان مقترن بجهاز ضد زوج آخر. ما ظهر لافت: أقوى منافس على الرقعة لم يكن أفضل الأساتذة الكبار ولا أفضل المحركات، بل إنسان قادر يستخدم الآلة جيداً. لم تستبدل الأداة اللاعب. بل جعلته أكبر.

المستقبل الجدير بالرغبة معروض الآن: في الطب وفي المختبر وفي العمل العادي، حكم بشري يمتد بأدوات ضيقة قابلة للتحكم لا أجندة لها. إنه مشروع مختلف عن المشروع الذي تديره المختبرات الرائدة، وهو بناء العقل العام الذاتي الذي لا يحتاج إلى أي إنسان في مجلس الإدارة على الإطلاق. النوع الأول من المشاريع يوسعنا. أما الثاني فيُصمم ليجعلنا غير ضروريين، ونظام لم يعد يحتاجنا هو نظام يجب أن نتأكد تماماً من قدرتنا على إيقافه. وهذا التأكيد بالضبط هو ما لا يوجد بعد، وهو التهديد والسبب في الخطة التي ندفع بها.

في عام 1997 أجرينا بروفة علنية للسؤال الذي يقع الآن في قلب كل شيء: ماذا نفعل حين نبني آلة أفضل منا؟ أعطى ديب بلو جوابا لطيفا، لأنه لم يكن سوى أداة. فأداة بلا إرادة تستطيع أن تهزم بطل العالم وتترك بقية العالم بلا مساس. أما الجواب التالي فلن يكون لطيفا افتراضيا. ويتوقف الأمر كليا على ما إذا كان ما نبنيه أداة أدق أم خليفة له أهدافه الخاصة. ينبغي أن نصنعه عمدا، طالما أن صنعه لا يزال بيدنا.

أقوى المعارضات

أعدل اعتراض هو أن Deep Blue يثبت أن الأداء الفائق للبشر يمكن أن يكون آمنًا وضيق النطاق، فالخوف من الذكاء الاصطناعي مجرد حنين. Deep Blue لم يكن يريد شيئًا. المسار الحالي هو العمومية مضافًا إليها الوكالة مضافًا إليها ضغط التحسين الذاتي. التفوق على بطل في الشطرنج ليس من نفس نوع الخطر الذي يشكله نظام قادر على التفوق في التخطيط على المؤسسات.