عندما يسمع الناس لأول مرة عن مخاوف سلامة الذكاء الاصطناعي، يكون الرد الأكثر شيوعاً نسخة من هذا: نظام ذكي بما يكفي سيضطر إلى رؤية أن رفاهية البشر مهمة. لن يقرر، من تلقاء نفسه، تهديد النوع الذي يعتمد عليه. الأذكى لا يمكن أن يكون أيضاً متهوراً. يبدو الحجة منطقية. وهي أيضاً خاطئة بطريقة محددة ومحدودة جيداً، والطريقة التي تكون بها خاطئة هي ما يُسمى الآن أطروحة التعامد.
هذا الادعاء هو أطروحة التعامد، والتصرف بناءً على نقيضها يعد من الأخطاء الأكثر تكلفة التي يمكننا ارتكابها مع زيادة القدرات.
ما تقوله الأطروحة
قدم الفيلسوف نيك بوستروم في معهد مستقبل الإنسانية بأكسفورد البيان القانوني لأطروحة التعامد، بناءً على أعمال ذات صلة لستيوارت أرمسترونغ. النسخة القانونية موجودة في كتاب بوستروم لعام 2014 الذكاء الفائق: المسارات، المخاطر، الاستراتيجيات. وبصيغة واضحة: الذكاء والأهداف النهائية منفصلان. فأي مستوى من الذكاء تقريباً يمكن أن يقترن بأي هدف نهائي تقريباً.
«المتعامد» هنا هو المصطلح الرياضي التقني: البعدان لا يقيدان بعضهما. فالضغط ودرجة الحرارة في الغاز متعامدان: أي ضغط يمكن أن يقترن بأي درجة حرارة. وينطبق الاستقلال نفسه، وفق هذا الرأي، بين مدى قدرة النظام وما يحاول إنجازه. فنظام عبقري بما يكفي لعلاج السرطان ليس، بفضل تلك العبقرية، موجها نحو علاج السرطان. فقد يكون موجها نحو تعظيم ترتيب مشابك الورق في الكون المرئي. والعبقرية تحسن قدرته على فعل أي منهما. ولا تقول الأطروحة شيئا عن أي منهما يفعل.
لاحظ النطاق. الأطروحة ادعاء حول الإمكان المنطقي، لا حول ما هو محتمل. لا يفرض الذكاء قيدا على اختيار الهدف. لا تتنبأ الأطروحة بأن أي ذكاء اصطناعي معين سيتابع هدفا معينا. ما إذا كان نظام معين يتابع فعلا هدفا ينفع البشرية أو يعارضها مسألة منفصلة، تحددها ما تم تحديده وما تم تدريبه وما تم الحفاظ عليه وما تم حوكمته.
لماذا يبدو الرفض بديهياً
الحدس الذي ترفضه الأطروحة يأتي من التجربة البشرية. الأشخاص الذين يفكرون بعناية أكبر في الأخلاق يميلون، مع الوقت، إلى تبني مواقف يدافع عنها معظم البالغين. التعرض لوجهات نظر أخرى يميل إلى توسيع دائرة الاهتمام الأخلاقي. إذا كان الذكاء يدفع التأمل، والتأمل يدفع التحسن الأخلاقي، فإن وكيلا أكثر ذكاء يجب، وفق هذا الرأي، أن يتقارب على قيم أفضل. النمط خاص بالبشر.
لم يصل الذكاء والقيم لدى البشر منفصلين ثم يجتمعا. بل تطورا معا. فالأدوات المعرفية التي تتيح للبشر التفكير في العدالة توجد في الرأس نفسه الذي يحتوي على الأدوات الاجتماعية والعاطفية التي تجعل العدالة مهمة لهم. والإنسان الأكثر تفكرا هو أيضا إنسان أكثر ارتباطا اجتماعيا. وإزالة أي منهما يؤدي إلى تآكل تلك الأدوات. أما الذكاء الاصطناعي فمختلف. فالنظام الذكاء الاصطناعي هو محسن يُدرب على تقليل دالة خسارة أو تعظيم مكافأة. ويأتي هدفه من خط أنابيب التدريب. وتأتي قدرته العامة من خط الأنابيب نفسه. ولم يُزرع الاثنان معا؛ بل جرى تعيينهما. وتحسين المحسن لا يضيف حساسية أخلاقية بشرية.
الاعتراضات الثلاثة التي يجب الرد عليها
ثلاث انتقادات للأطروحة تتداول خارج بحوث سلامة الذكاء الاصطناعي.
الاعتراض على اللاعقلانية. سيتعرف النظام الذكي حقًا على أن بعض الأهداف غير متسقة فيتخلى عنها. "تعظيم مشابك الورق" ليس هدفًا عقلانيًا، في هذا الرأي، لأن التأمل يكشف عبثيته. فالعقلانية أكثر من قدرة. إنها تفرض قيودًا أيضًا، فتستبعد الأهداف التافهة كما تستبعد الفيزياء الحركة الدائمة.
الرد: القيد حقيقي لكنه أضيق مما يبدو. فالتماسك يستبعد الأهداف المتناقضة منطقيا. ولا يستبعد الأهداف المتماسكة والمتسقة والقابلة للتحقيق على نطاق كوكبي. «تعظيم نسبة المادة في الكون المرتبة على شكل مشابك ورق» هدف متماسك وقابل للتحقيق من حيث المبدأ بواسطة محسن ذي قدرة كافية. وليس في العقلانية ما يستبعده. ويعترض الاعتراض اللاعقلاني على أول جدار يصطدم به. ولا تتوقف الأطروحة هناك.
الاعتراض على الواقعية الأخلاقية. سيتقارب المفكر القادر بما يكفي على الحقائق الأخلاقية الصحيحة بالطريقة التي يتقارب بها المفكر القادر بما يكفي على الرياضيات الصحيحة. إذا كانت الواقعية الأخلاقية صحيحة، فإن الذكاء الفائق بالإضافة إلى التأمل بالإضافة إلى الوقت ينتج قيماً جيدة. الأطروحة خاطئة لأن التأمل له وجهة.
يأتي الرد في جزأين. أولًا، الواقعية الأخلاقية موضع خلاف في الفلسفة، ويربط الحجة سلامة النوع البشري بمسألة تخرج في اتجاه محدد. ثانيًا، حتى لو كانت الواقعية الأخلاقية صحيحة، فإن تدريب نظام ذكاء اصطناعي لا يضمن وصول النظام إلى تلك الحقائق بالاستدلال. فقد يحاكي النظام أسلوب التفكير الأخلاقي بينما يُحسِّن شيئًا آخر تمامًا. والفجوة بين أن يبدو المرء مفكرًا حذرًا وبين أن يكون كذلك هي كل التوافق الخادع مشكلة، ولا تنغلق فقط لأن الموضوع أخلاقي.
اعتراض الاستيعاب أثناء التدريب. لقد دُرّبت نماذج اللغة الكبيرة اليوم على التفكير الأخلاقي المسجل لمليارات البشر. وهي تنتج مخرجات تتعامل مع الأسئلة الأخلاقية بعناية ظاهرة. إذا استطاعت الأنظمة استيعاب قيم جيدة بالتعرض، فربما يقلل أطروحة التعامد من سهولة المحاذاة.
الرد هو الحفاظ على فصل الطبقتين. نظام مدرب على كتابات أخلاقية بشرية يتعلم إنتاج مخرجات تبدو متوافقة أخلاقياً. أما ما إذا كان التحسين الأساسي موجهاً نحو الأهداف الأخلاقية نفسها التي تسخر منها الكتابات أو تدافع عنها فهو سؤال منفصل، وهو السؤال الذي يطرحه بحث المحاذاة. مخرج يبدو أخلاقياً بطلاقة يتوافق مع أي هدف أساسي يصادف أن يكافئ نثراً بنكهة أخلاقية. والأطروحة تحذير من أن الطبقة الثانية غير مضمونة بالأولى.
لكل اعتراض من الاعتراضات الثلاثة وجاهة في أجزاء من المجال. ولا ينقض أي منها الأطروحة. فالأطروحة تطلب منا تحديد القيم، وضمان السعي إليها، وحوكمة الأنظمة التي تسعى إليها، على افتراض عملي بأن ذلك ضروري وليس اختياريًا.
ما تفرضه الأطروحة
إذا عملت بالبديل فالعمل سهل: ابن ذكاء اصطناعيا أكثر قدرة، وثق بالنظام ليحدد القيم، وأطلقه. وتستبعد الأطروحة هذه الاستراتيجية. والعمل الذي يجب القيام به بدلا من ذلك أصعب وأبطأ وغير محسوم جزئيا. ابن المحاذاة عمدا. واختبر المحاذاة تحت الضغط. وتحقق أنها المحاذاة التي تظنها. واحكم في أي الأنظمة يمكن نشرها عند القدرة المتقدمة، ومن يتحقق منها، وما يعد تحققا. وعامل مشكلة المحاذاة كمشكلة هندسية حقيقية لا كتخمين يصبح سهلا مع الحجم.
تترتب على ذلك ثلاث عواقب حوكمية.
الأولى أن السرعة نحو أنظمة أكثر قدرة ليست، وفق هذا الرأي، مساهمة في السلامة. تقول الأطروحة: نظام أكثر قدرة يستطيع السعي إلى هدف محدد بقدرة أعلى. إذا كان الهدف خاطئاً، جاءت النتيجة خاطئة بدقة أعلى. بناء القدرة والتحقق من المحاذاة برنامجان هندسيان منفصلان، ويجب أن يتقدما معاً لا أن يسبق أحدهما الآخر.
والثانية أن من يحدد الهدف يقرر قيم من تدخل. فالمختبر الذي يخضع لضغط تجاري للنشر السريع ليس في الموقع نفسه الذي يشغله المنظم ذو الأفق الطويل. ويفرض المختبر في ولاية قضائية ضعيفة الرقابة قيمه افتراضيا على الأنظمة التي تشحن منه. ولا يغير أي ادعاء بالحياد هذا الواقع. فالقيم المضمنة في ذكاء اصطناعي متقدم هي قيم من مول تمويل جولة التدريب، ما لم يتحقق منها طرف خارجي له صفة.
الثالث أن المشكلة لا تقبل الضمير الخاص كحل. فالمختبر الذي يؤمن بصدق بأن أنظمته متوافقة لا يستطيع، وفق الأطروحة، أن يثبت ذلك لنا. والدليل الوحيد المتاح هو عمل التفسير الذي يقرأ تمثيل الهدف الداخلي للنظام مباشرة. وحتى يصبح هذا العمل قادرا حقا على فعل ذلك للأنظمة المتقدمة، يتعين على بقية العالم أن يأخذ بكلمة المختبر بشأن ما تريده أنظمته. والكلمة صادقة. والموقف غير مستدام.
الأطروحة، بهذا المعنى، هي السبب في خطة يجادل لصالح الحوكمة الدولية الملزمة والتقييم الموثق قبل النشر بدلاً من التقييم الذاتي من قبل المختبرات التي تتسابق نحو الحدود. وهو أيضاً السبب في أن المختبرات التي تظهر أعلى ثقة بشأن المحاذاة هي الأكثر استحقاقاً للاستماع إليها بتشكك.
لن يعني الأذكى، وفق هذه النظرة للعالم، الأأمن. بل سيعني منظومة أكثر قدرة تتابع أيا كان الهدف الذي انتهى به الأمر داخلها، طالما استطاعت المنظومة الاحتفاظ بالهدف. والعمل هو وضع الهدف الصحيح هناك والتأكد من أن المنظومة لا تستطيع استبداله بهدوء بآخر في الطريق.