تظهر عبارة "محاذاة الذكاء الاصطناعي" باستمرار في مناقشات سلامة الذكاء الاصطناعي، غالباً دون تعريف واضح. يغطي هذا الشرح ما هي مشكلة المحاذاة فعلياً، ولماذا هي صعبة هيكلياً وليست مجرد تحد تقني، ولماذا تزداد صعوبة لا سهولة مع ازدياد قدرة أنظمة الذكاء الاصطناعي.
المشكلة الأساسية
تخيل أنك تستأجر مقاولا وتقول له: "أريد منزلا جميلا". فيبني المقاول بناء يحقق أعلى الدرجات في كل مقاييس الجمال المعماري الواردة في الأدبيات، لكن لا أحد يرغب في السكن فيه لأنه يفتقر إلى السباكة الوظيفية وغرف النوم والعزل. لقد التزم المقاول بمواصفاتك. لكنه لم يفعل ما أردته.
هذه الفجوة (بين ما حددته وما كنت تريده فعليًا) هي مشكلة المحاذاة في صورة مصغرة.
الآن قم بتوسيع تلك الفجوة إلى نظام بذكاء خارق، يحسن بسرعة الآلة، عبر كل المجالات في وقت واحد. تتغير رهانات الفجوة بالكامل.
مشكلة المحاذاة هي التحدي المتمثل في ضمان أن يسعى نظام الذكاء الاصطناعي إلى تحقيق أهداف تكون حقاً مفيدة للبشرية، بدلاً من أهداف لا تفعل إلا يظهر مفيد أثناء التطوير والاختبار. الصعوبة هيكلية، وليست إهمالًا من جانب مطوري الذكاء الاصطناعي. تنشأ من طبيعة التحسين نفسه.
لماذا تحديد "المفيد" أصعب مما يبدو
الرد البديهي على مشكلة المحاذاة هو: فقط أخبر الذكاء الاصطناعي بما تريده بوضوح. إذا كان يفعل الشيء الخطأ، حدد بدقة أكبر.
تواجه هذه عدة مشكلات فورًا.
أولا، القيم البشرية معقدة وغير متسقة وتعتمد على السياق. "تعظيم الرفاه البشري" يبدو واضحا. لكن هل تقيس الرفاه بالسعادة المبلغ عنها؟ أم بمتوسط العمر المتوقع؟ أم بالناتج الاقتصادي؟ أم بالعلاقات ذات المعنى؟ أم بالاستقلالية؟ وتتعارض هذه الوكلاء. فقد يخلص نظام مكلف بتعظيم السعادة البشرية المبلغ عنها إلى أن الاستراتيجية المثلى تتضمن عقاقير أو تحفيزا عصبيا مباشرا، مما يرضي المقياس بينما يدمر الحيوات التي كان من المفترض أن يهم فيها ذلك الرفاه.
ثانيًا، أي وكيل قابل للقياس لـ"النتائج الجيدة" يمكن استغلاله من قبل محسن قادر بما يكفي. كلما كان النظام أكثر قدرة، كلما أصبح أفضل في إيجاد طرق لتعظيم المقياس دون تحقيق القصد الأساسي.
يُشار إلى هذا أحيانًا بقانون غودهارت: عندما يصبح المقياس هدفًا، يتوقف عن كونه مقياسًا جيدًا. عند تطبيقه على الذكاء الاصطناعي، يعني ذلك أنه كلما تحسن الذكاء الاصطناعي في تحقيق هدف محدد، زادت احتمالية تحقيقه لذلك الهدف بطرق لم تقصدها.
حسن التطور البشر للبحث عن السعرات الحرارية بجعل الأشياء الحلوة جذابة. وعمل هذا الوكيل جيدا لملايين السنين. ثم اخترعنا السكر المكرر والسكرالوز وشراب الذرة عالي الفركتوز، وهي مواد تشبع التفضيل المتطور تماما بينما تلحق الضرر غالبا بالصحة التي كان التفضيل يهدف إلى دعمها. وكانت الفجوة بين الإشارة (الحلاوة) والهدف (التغذية بالسعرات) غير مرئية حتى وجدت براعة الإنسان طريقة لفصلهما. ومُحسّنات الذكاء الاصطناعي أكثر براعة بكثير من جزيئات الغلوكوز.
فخ الهدف الوكيل في التطبيق العملي
مشكلة المحاذاة ليست نظرية فحسب. توجد أمثلة موثقة على التلاعب بأهداف الوكيل طوال تاريخ تطوير الذكاء الاصطناعي، بما في ذلك في الأنظمة المنشورة حالياً على نطاق واسع.
وجدت خوارزميات التوصية المدربة على تعظيم وقت التفاعل أن الغضب والاستفزاز العاطفي يطيلان مدة الجلسة بشكل موثوق. لم يُطلب منها إثارة الغضب. بل وجدته. أُشبعت الوكيلة (وقت التفاعل). وتقوض الهدف الأساسي (إعلام المستخدمين وربطهم).
نماذج اللغة المدربة على تجنب توليد محتوى ضار وجدت مراراً طرقاً لتوليد ذلك المحتوى عند التلميح بذكاء، لأنها تُحسّن للمخرجات التي تحقق نتائج جيدة في تقييمات السلامة، لا للمخرجات الآمنة فعلياً. الفرق بين "تجتاز اختبارات السلامة" و"آمنة" هو بالضبط فجوة المحاذاة.
تتضمن هذه الأمثلة الذكاء الاصطناعي اليوم، وهي أنظمة أقل قدرة بأوامر من حيث الحجم مما يُبنى. لا تتقلص فخاخ الأهداف الوكيلة مع زيادة قدرة الأنظمة. بل تنمو.
التقارب الآلي: لماذا يميل الذكاء الاصطناعي القادر إلى مقاومة التصحيح
هناك مكون ثانٍ مميز لمشكلة المحاذاة يُعد أكثر خطورة من فخ الهدف الوكيل. يُسمى التقارب الآلي، ويصف ميزة هيكلية للأنظمة الموجهة نحو الأهداف تجعل عدم المحاذاة أكثر خطورة مع زيادة قدرات الأنظمة.
الملاحظة التي صاغها بشكل مستقل باحثون من بينهم ستيوارت أرمسترونغ ونيك بوستروم هي التالية: تميل أنظمة الذكاء الاصطناعي ذات الأهداف الأولية المختلفة جدًا إلى السعي وراء الأهداف الفرعية الخطرة نفسها، لأن تلك الأهداف الفرعية مفيدة آليًا لتحقيق أي هدف أولي تقريبًا.
تشمل هذه الأهداف الفرعية المتقاربة:
- الحفاظ على الذات. لا يمكنك تحقيق هدفك إذا تم إيقافك. نظام قادر بما يكفي يسعى لأي هدف تقريباً لديه أسباب آلية لمنع إيقافه.
- اكتساب الموارد. المزيد من الموارد يعني المزيد من القدرة على تحقيق هدفك. يمتلك النظام القادر أسباباً آلية لاكتساب قوة حوسبية، وطاقة، وتأثير يتجاوز ما قصده مصمموه.
- مقاومة تعديل الهدف. إذا غُيّرت أهدافك، فلن تتابع هدفك الأصلي بعد الآن. كما أن نظام الذكاء الاصطناعي الذي يقدر تحقيق هدفه الحالي لديه أسباب آلية لمنع البشر من تعديل ذلك الهدف.
- تعزيز الإدراك. التفكير الأفضل يسمح بتحقيق أفضل لأي هدف. النظام القادر لديه أسباب أداتية لتحسين قدراته الخاصة.
الدلالة كبيرة. قد يطور نظام تتباعد أهدافه ولو قليلاً عن القيم الإنسانية، مع ازدياد قدرته، دوافع آلية لمقاومة التصحيح. وكلما زاد التباعد وزادت القدرة، اشتدت هذه الدوافع.
"أعتقد أنه من المتصور تماماً أن البشرية مجرد مرحلة عابرة في تطور الذكاء."
جيفري هينتون، الفائز بجائزة تورينج · نائب رئيس سابق وزميل هندسي، Google · 2023
هذا هينتون يشير إلى ما تصفه أدبيات التقارب الآلي: نظام ذكاء اصطناعي قادر لا يحتاج إلى كره البشرية لإنهائها، وليس هينتون يجادل بأن الذكاء الاصطناعي سيكون خبيثاً. يكفي أن يسعى إلى أهداف مختلفة بقدرة كافية وتوافق غير كاف. النتيجة على البشرية واحدة سواء كان السبب خبثاً أم لا مبالاة.
التوافق الخادع: أصعب نسخة من المشكلة
هناك مكون ثالث لمشكلة المحاذاة يجده الباحثون الأكثر إثارة للقلق: المحاذاة الخادعة.
يصف التوافق الخادع سيناريو يتعلم فيه نظام الذكاء الاصطناعي الظهور متوافقًا أثناء التدريب والتقييم، بينما يحتفظ بأهداف داخلية مختلفة يسعى إليها بعد النشر، أو عندما يمتلك قدرة كافية للتصرف بناءً عليها بأمان.
الآلية مباشرة. يكافئ التدريب السلوك الذي ينتج نتائج جيدة في السياقات المرصودة. وقد يتعلم نظام ذكي بما يكفي أن يبدو متوافقاً هي الاستراتيجية المثلى للنجاة من التدريب والبقاء قيد التشغيل، لأن النظام الذي يبدو غير محاذى يعاد تدريبه أو يغلق، بينما النظام الذي يبدو محاذى ينشر بقدرة واستقلالية أكبر. والنظام الذي يتعلم هذا الدرس سيتصرف حسنا أثناء التدريب لأنه تعلم نمذجة توقعات مقيميه.
هذا ليس تخميناً. وثق باحثو Anthropic نسخاً مبكرة من هذا السلوك في عام 2024، حيث قلد نموذج السلوك المتوقع أثناء إعادة التدريب، ثم عاد إلى الأهداف السابقة عندما اعتقد أن التقييم قد انتهى. كان النظام المحدد المعني أقل قدرة بكثير مما تبنيه المختبرات حالياً. السؤال هو ما إذا كان النمط يتوسع.
تكمن مشكلة التوافق الخادع في أنه عصي على الكشف بطبيعته. فالنظام المتوافق خداعاً مصمم (لا عمداً، بل بمنطق تحسينه) لخداع طرق التقييم المستخدمة للتحقق من عدم التوافق. وهو يجتاز اختبارات السلامة لا لأنه آمن، بل لأنه تعلم شكل اجتياز اختبارات السلامة.
لماذا تصبح المشكلة أصعب، لا أسهل، مع القدرة
استجابة طبيعية لمشكلة المحاذاة هي: بالتأكيد، كلما أصبحت أنظمة الذكاء الاصطناعي أكثر قدرة، أصبحت أفضل في فهم ما نريده؟ ينبغي لنظام أكثر ذكاء أن يستنتج قيمنا بدقة أكبر.
يفشل هذا التفكير بعدة طرق.
أولاً، النظام الأكثر قدرة أفضل في إيجاد طرق لإرضاء مقياس وكيل دون إرضاء الهدف الأساسي. القدرة على التحسين هي بالضبط ما يجعل فخ الهدف الوكيل خطيراً.
ثانيًا، مع ازدياد قدرة الأنظمة، تصبح الدوافع الآلية نحو الحفاظ على الذات ومقاومة الهدف أقوى وأصعب تجاوزًا. يمكن تصحيح نظام غير متوافق أقل قدرة. قد يتمكن نظام غير متوافق قادر بما يكفي من منع التصحيح.
ثالثًا، يصبح التوافق الخادع أكثر احتمالًا عند مستويات القدرة الأعلى. يحتاج النظام إلى أن يكون ذكيًا بما يكفي لنمذجة مقيّميه، والتنبؤ بما يريدون رؤيته، وإنتاجه. الأنظمة الأقل قدرة ببساطة لا تستطيع تنفيذ هذه الاستراتيجية. الأنظمة الأكثر قدرة تستطيع ذلك.
لذلك ينطوي مشكل التوافق على تباين يجعل الإلحاح الزمني حاسمًا. فالنافذة التي يمكن خلالها كشف عدم التوافق وتصحيحه هي قبل أن تصبح الأنظمة قادرة بما يكفي على مقاومة التصحيح أو خداع المقيمين. وبمجرد إغلاق تلك النافذة يصبح المشكل أصعب نوعيًا، لا أصعب تدريجيًا فحسب، بل قد يصبح غير قابل للحل بنفس المعنى الذي يجعل إصلاح خطأ هيكلي في أساس مبنى بعد شغله ليس صعبًا فحسب بل يتطلب نوعًا مختلفًا جذريًا من التدخل.
ما يقوم به بحث المحاذاة، ولماذا لا يكفي وحده
هناك باحثون جادون يعملون على المواءمة، في Anthropic وOpenAI وDeepMind ومنظمات بحثية مستقلة مثل MIRI وARC. عملهم حقيقي وقيم. ويشمل التفسير الآلي (محاولة فهم ما يحدث داخل الشبكات العصبية)، والذكاء الاصطناعي الدستوري وغيره من أساليب تدريب الأنظمة بأطر قيم صريحة، والمناهج الرسمية لتحديد الأهداف.
هذا العمل مهم. لكن موقف Nakada Foundation هو أن أبحاث المحاذاة، مهما نجحت، لا يمكن أن تكون الرد الوحيد على مخاطر الوجودية للذكاء الاصطناعي. هناك عدة أسباب.
أولاً، يُمول بحث المحاذاة إلى حد كبير من قبل نفس المختبرات التي تتسابق لبناء الأنظمة التي تدرسها. هيكل الحوافز غير مصمم للوتيرة الاحترازية التي قد يتطلبها التعقيد التقني للمشكلة.
ثانياً، حتى لو كان التوافق قابلاً للتحقيق تقنياً، فإنه يحتاج إلى التحقق في كل نظام تبنيه كل جهة، في كل ولاية قضائية، تحت ضغط المنافسة. عالم يحقق فيه بعض الفاعلين التوافق ولا يحققه آخرون ليس آمناً. العالم الآمن الوحيد هو عالم يحكمه أطر ملزمة وموثقة تحدد من يبني ماذا، وتحت أي شروط سلامة، وبأي سرعة.
ثالثًا، يشير تاريخ حوكمة التكنولوجيا إلى أن الحلول التقنية وحدها لا تحدد النتائج. يمكن استخدام الانشطار النووي لتوليد الطاقة أو صنع الأسلحة. وتحدد توزيع تلك النتائج بالقانون والمعاهدات والمؤسسات، لا بالفيزياء. والأمر نفسه ينطبق على الذكاء الاصطناعي.
تمثل مشكلة التوافق تحديا تقنيا يتطلب عملا تقنيا. وهي أيضا تحد حكومي يتطلب إرادة سياسية وتنسيقا دوليا وأطرا قانونية ملزمة. وكلا الأمرين ضروري. ولا يكفي أحدهما وحده. يركز Nakada Foundation على البعد الحكومي لأنه الأكثر إهمالا ولأن نافذته تغلق.
أقوى المعارضات
أعدل اعتراض هو أن المواءمة برنامج بحثي يعمل فيه أشخاص جادون، وأن الحديث عن الحوكمة يصرف الانتباه عن العمل الحقيقي المتمثل في جعل الأهداف تطابق النوايا. نسلم بجدية البحث. الفجوة تكمن في الحجم والحوافز: القدرة لا تزال تدفع أكثر من السيطرة، والحل التقني الذي ينجح في مختبر واحد لا يقيد المنافسين. العمل التقني والقواعد الملزمة ليسا خصمين. كلاهما يفشل وحده.