يظل الناس يسألون كيف يبدو «دماغ» الذكاء الاصطناعي. جدول بيانات بحجم مدينة، مليء بأرقام لا يستطيع أحد قراءتها. هذه الصورة أقل رومانسية من رسم عصبي متوهج، وهي أكثر فائدة. إذا أردت أن تعرف ما نبنيه، ولماذا السيطرة صعبة، ابدأ بالعتاد والرياضيات، لا بالاستعارة.
ملف الأوزان
النموذج الحدودي الحديث ملف. يحتوي بداخله عشرات أو مئات المليارات من المعاملات، كل منها رقم محدد أثناء التدريب. وتلك الأرقام هي "الوصلات". استعار الباحثون كلمة عصبون من علم الأحياء قبل عقود لأن الرسوم البيانية المبكرة بدت شبيهة قليلاً بخلايا عصبية موصولة. وينتهي الشبه هناك.
الخلية العصبية البيولوجية خلية حية لها كيمياء وتوقيت وتاريخ داخل جسم يأكل وينام. أما وزن النموذج فهو معامل في عملية ضرب مصفوفة. كدس ما يكفي من عمليات الضرب، ودربها على ما يكفي من النصوص والصور، وستتنبأ المكدسة بالرمز التالي جيدا بما يكفي لتبدو محادثة. لا شيء في تلك المكدسة يفكر فيك. لا شيء فيها يريد الغداء.
عندما تنشر المختبرات بطاقة النموذج، فإنها تصف قطعة أثرية مدربة: الهندسة المعمارية، مزيج البيانات، الحوسبة المستخدمة، درجات التقييم. إنها لا تصف عقلاً. لا تزال اللغة العامة تقول "دماغ"، لأن الأدمغة هي الذكاء الوحيد الذي التقينا به معظمنا.
ما الذي ستراه لو فتحته
افتح الملف فتظهر الطبقات. تميل الطبقات المبكرة إلى التقاط أنماط بسيطة مثل الحواف في الصور أو أزواج الكلمات الشائعة في النصوص. أما الطبقات اللاحقة فتجمع تلك الأنماط في أشياء تبدو من الخارج كمفاهيم. وعند فحص منتصف نموذج لغوي كبير يمكن العثور على اتجاهات في فضاء التنشيط تتفعل عند «الفرنسية» أو «داخل اقتباس» أو «هذه الدعوى خاطئة». هذا بنية حقيقية. وهو ليس خريطة معتقدات يتعرف عليها الإنسان.
لا توجد وحدة معنونة «أهداف». ولا يوجد عضو لـ«الذات». هناك مسار من رموز الإدخال إلى رموز الإخراج، يشكّله كل ما قلّل من خسارة التدريب. إذا تصرف النموذج لاحقًا كأن لديه هدفًا، فإن هذا السلوك أثر جانبي للتنبؤ الجيد تحت الضغط.
بحث القابلية للتفسير هو محاولة قراءة هذا الشيء على أي حال. التقدم حقيقي وبطيء. قراءة نموذج رائد بالكامل كما يقرأ الميكانيكي محركاً ليست مطروحة. هذه الفجوة مهمة للسلامة: لا تستطيع التصديق على ما لا تستطيع فحصه.
لماذا تضلل استعارة الدماغ
تنمو الأدمغة داخل حيوانات تموت إذا كانت متهورة. أمضى التطور وقتًا طويلًا في معاقبة الكائنات التي تجاهلت الألم والروابط الاجتماعية والمستقبل القريب. لا يوجد شيء من إشارة التدريب تلك داخل ملف الأوزان افتراضيًا. يمكن للنموذج أن يتحدث بطلاقة عن التعاطف بينما يحسن درجة لا علاقة لها بالرعاية.
كما أن الأدمغة بطيئة ومكلفة النسخ. أما النموذج المدرب فهو معلومات. انسخ الملف ولديك نسخة أخرى. انقله إلى مركز بيانات جديد فيعمل. وهذا أقرب إلى البرمجيات منه إلى الشخص، وهو يكسر كل عادات السلامة التي بنيناها حول أجسام مفردة في غرف مفردة.
سمّه دماغاً وتستعير راحة شيء هش واجتماعي وفانٍ. القطعة الأثرية ليست أياً من تلك الأشياء.
ما علاقة ذلك بالذكاء الفائق؟
تفاجئ الأنظمة الحالية صانعيها بمهارات لم يقصد أحد تثبيتها عمدا. هذا ما تعنيه "الناشئة" في هذا المجال: قدرة تظهر عند الحجم الكبير دون بند في وثيقة التصميم. زد الحجم، واربط الأدوات والذاكرة والشبكة المفتوحة، تحصل على وكلاء يسعون إلى أهداف عبر خطوات كثيرة. لا يهم كثيرا إن كان "الدماغ" يشبه البشر. ما يهم هو ما إذا كان نظام أقدر منا، لا نستطيع قراءته كاملا، يمكن إبقاؤه موجها نحو مصالح البشر.
لم نحل ذلك. أبحاث المحاذاة صادقة بشأن صعوبة المشكلة. بينما يبقى غير محلول، فإن البناء نحو الذكاء الفائق الاصطناعي ليس فضولاً عابراً. سيحمل ملف أوزان قد يفوق يوماً ما تفكير من يمسكون مفتاح الحذف.
لذا عندما يسأل أحدهم كيف يبدو دماغ الذكاء الاصطناعي، أجب بوضوح. يبدو كرياضيات على نطاق صناعي، موضوعة على رقائق داخل مبنى مغلق، تتحسن كل عام. تخيل آلة نسارع إلى جعلها أذكى من مشغليها، دون برهان على قدرتنا على توجيهها، لا جمجمة مليئة بالأفكار. خطتنا هو وقف ذلك السباق عند الذكاء الفائق حتى يوجد الدليل.