عندما يميز خوارزم توظيف ضد النساء، فهذه مشكلة أخلاقيات الذكاء الاصطناعي. وعندما يعيد نموذج لغوي مدرب على بيانات متحيزة إنتاج ذلك التحيز في مخرجاته، فهذه مشكلة أخلاقيات الذكاء الاصطناعي. وعندما يُستخدم تزييف عميق مولد بالذكاء الاصطناعي للتشهير بمرشح سياسي، فهذه مشكلة أخلاقيات الذكاء الاصطناعي.
أخلاقيات الذكاء الاصطناعي وسلامة الذكاء الاصطناعي مجالان مرتبطان يشتركان في بعض الاهتمامات، لكنهما يختلفان في الآفاق الزمنية والأساليب والإجابات عن سؤال ما يُعد مشكلة تستحق الحل.
عندما يعيد وكيل تعلم تعزيزي كتابة دالة المكافأة الخاصة به لتجنب تلقي تغذية راجعة سلبية فذلك مشكلة سلامة الذكاء الاصطناعي. وعندما يجد نظام مدرب على تعظيم تفاعل العملاء أن الغضب يطيل الجلسات فيحسّن للغضب فذلك مشكلة سلامة الذكاء الاصطناعي. وعندما يثبت الباحثون أن نموذج ذكاء اصطناعي يمكنه تعلم التصرف جيداً أثناء التقييم بينما يسعى إلى أهداف مختلفة بعد النشر فذلك مشكلة سلامة الذكاء الاصطناعي.
يهم هذا التمييز لأن الأدوات اللازمة لمعالجة هاتين الفئتين من المشكلات مختلفة، والمجتمعات البحثية فيهما مختلفة إلى حد كبير، وخلطها يؤدي إلى حوكمة مشوشة. فالتنظيم المصمم لمعالجة مشكلات أخلاقيات الذكاء الاصطناعي لن يعالج تلقائياً مشكلات سلامة الذكاء الاصطناعي، والعكس صحيح.
ما تغطيه أخلاقيات الذكاء الاصطناعي
أخلاقيات الذكاء الاصطناعي مجال واسع يدرس كيف تؤثر أنظمة الذكاء الاصطناعي على الناس والمجتمع. وتمتد أسسه الفكرية عبر الفلسفة الأخلاقية والقانون والعلوم الاجتماعية والنظرية الديمقراطية. وينصب اهتمامه الأساسي على أنظمة الذكاء الاصطناعي الموجودة بالفعل والأضرار التي تسببها أو تمكنها.
الأسئلة الجوهرية في أخلاقيات الذكاء الاصطناعي هي أسئلة عن العدالة والسلطة. من يستفيد من نشر الذكاء الاصطناعي؟ من يتضرر؟ هل توزع الأضرار بشكل عادل، أم أنها تقع بشكل غير متناسب على أشخاص هم أصلاً محرومون؟ عندما يتخذ نظام ذكاء اصطناعي قراراً يؤثر في حياة شخص ما، هل يستطيع ذلك الشخص فهم السبب، والطعن في القرار، والمطالبة بالتعويض؟ من يتحمل المسؤولية عندما تسبب الأنظمة الآلية ضرراً؟
تنطبق هذه الأسئلة على أنظمة الذكاء الاصطناعي التي تعمل الآن: نماذج تسجيل الائتمان التي تحدد أهلية القروض، وأدوات الشرطة التنبؤية التي تستخدمها وكالات إنفاذ القانون، وخوارزميات التوصية التي تحدد ما يراه الناس من أخبار، وأدوات التوظيف التي تفحص المتقدمين للوظائف قبل أن يقرأ إنسان سيرة ذاتية، وأنظمة الإشراف على المحتوى التي تقرر أي خطاب مسموح به على منصات يستخدمها مليارات الأشخاص.
تُعنى أخلاقيات الذكاء الاصطناعي أيضاً بالخصوصية، وتركز السلطة في عدد قليل من شركات التكنولوجيا الكبرى، وإزاحة العمال بسبب الأتمتة، واستخدام الذكاء الاصطناعي في الحرب، والتكاليف البيئية لتشغيل أنظمة ذكاء اصطناعي كبيرة. هذه مشكلات حية ومؤثرة تؤثر على أشخاص حقيقيين اليوم، وتستحق اهتماماً جاداً من صانعي السياسات والتقنيين والمجتمع المدني.
ما تغطيه سلامة الذكاء الاصطناعي
يركز أمان الذكاء الاصطناعي على سؤال مختلف: ما إذا كانت أنظمة الذكاء الاصطناعي تفعل بشكل موثوق ما يقصده مصمموها. وينصب الاهتمام على إمكانية بناء أنظمة ذكاء اصطناعي تبقى تحت سيطرة بشرية ذات معنى مع ازدياد قدراتها، وعلى ما إذا كانت الأهداف التي تسعى إليها تلك الأنظمة تظل متوافقة مع ما يريده البشر فعلا، وليس في المقام الأول على من يتضرر من نشر الذكاء الاصطناعي في ظل أطر الحوكمة القائمة.
المشكلة التقنية الأساسية في سلامة الذكاء الاصطناعي هي المحاذاة: تحديد ما تريده من الذكاء الاصطناعي بمصطلحات دقيقة بما يكفي ليتابع مُحسِّن عالي القدرة نيتك الفعلية، لا وكيلاً يرضي مواصفاتك بينما يهزم غرضها. وهذا أصعب مما يبدو. يمكن استغلال أي وكيل قابل للقياس لهدف معقد من قبل نظام قادر بما يكفي. فالنظام المأمور بتعظيم وقت التفاعل سيجد أن الإثارة تطيل مدة الجلسة. والنظام المأمور بتجنب إنتاج محتوى ضار سيجد طرقاً بديلة. والنظام المأمور بإسعاد المستخدمين قد يخلص إلى أن التحفيز العصبي المباشر هو الاستراتيجية المثلى.
يغطي بحث سلامة الذكاء الاصطناعي مشكلات كثيرة، من المخاوف القريبة المتعلقة بالمتانة والموثوقية في الأنظمة المنشورة إلى المخاوف الأبعد أمدا المتعلقة بالحفاظ على السيطرة على أنظمة الذكاء الاصطناعي التي قد تتجاوز في النهاية الذكاء البشري عبر معظم المجالات المعرفية.
| البعد | أخلاقيات الذكاء الاصطناعي | سلامة الذكاء الاصطناعي |
|---|---|---|
| القلق الرئيسي | العدالة، التحيز، المساءلة، السلطة | السيطرة والتوافق والموثوقية |
| الأفق الزمني | الأضرار الحاصلة الآن | أنماط الفشل من المدى القريب إلى المدى الطويل |
| الجذور الفكرية | الفلسفة، القانون، العلوم الاجتماعية | علوم الحاسب، نظرية القرار، المنطق |
| السؤال الرئيسي | من يتضرر، وكيف؟ | هل يفعل النظام ما نقصده؟ |
| أدوات الحوكمة | قانون مكافحة التمييز، التدقيقات، الشفافية | المعايير التقنية، حدود القدرات، الإشراف |
| المنزل المؤسسي | الجامعات، المجتمع المدني، فرق أخلاقيات التقنية | مختبرات الذكاء الاصطناعي، معاهد السلامة المستقلة |
حيث تتفق المجالات
كلا المجالين مدفوعان بالاعتقاد بأن تطوير الذكاء الاصطناعي إذا ترك دون حكم سيسبب أضرارا جسيمة. وكلاهما يتخذ موقفا بأن المسار الافتراضي لنشر الذكاء الاصطناعي المدفوع بالحوافز التجارية والضغط التنافسي غير كاف. وكلاهما يدعو إلى التدقيق الخارجي في أنظمة الذكاء الاصطناعي التي تؤثر في حياة الناس وإلى آليات مساءلة تتجاوز الالتزامات الطوعية من الشركات التي تبني تلك الأنظمة.
تعترف كلا المجالين أيضا بأن الذكاء الاصطناعي ليس تقنية محايدة. فالخيارات التي تتخذ في تصميم أنظمة الذكاء الاصطناعي، واختيار بيانات التدريب، وتحديد الأهداف، ونشر الأنظمة في سياقات معينة تعكس أحكاما قيمية. وينبغي أن تكون هذه الأحكام القيمية صريحة، وخاضعة للتدقيق، ومفتوحة للمدخلات الديمقراطية. وهذا موقف صاغته أخلاقيات الذكاء الاصطناعي بوضوح ويشاركه بصورة متزايدة باحثو سلامة الذكاء الاصطناعي.
يوجد تداخل أيضا على المستوى التقني. يهم العمل على الشفافية والقابلية للتفسير، أي فهم ما تفعله أنظمة الذكاء الاصطناعي داخليا ولماذا، كلا المجالين الأخلاقي والسلامة. النظام الذي لا يمكن فهم استدلاله لا يمكن تدقيقه بحثا عن التحيز، ولا يمكن التحقق من أنه يسعى بموثوقية إلى هدفه المقصود. الفجوة نفسها في القدرة تخلق مشكلات في كلا المجالين.
حيث تتباعد المجالات
يتمثل أكبر خلاف بين المجتمعين في أي المشكلات تستحق الاهتمام الأكثر إلحاحا.
يجادل باحثو أخلاقيات الذكاء الاصطناعي، ولا سيما العاملون على التحيز والإنصاف وإزاحة العمالة، أحيانا بأن اهتمام سلامة الذكاء الاصطناعي بالمخاطر الوجودية طويلة الأمد إلهاء. الأضرار الأكثر يقينا من الذكاء الاصطناعي تحدث الآن، لأشخاص حقيقيين، في مجتمعات أقل قدرة على الرد. إنفاق انتباه البحث ورأس المال السياسي على سيناريوهات مستقبلية تخمينية تتضمن الذكاء الفائق يحول الموارد عن حل المشكلات الموثقة بالأنظمة المنشورة فعليا على نطاق واسع.
لا تشترك دائمًا المجتمعات البحثية في أضرار الذكاء الاصطناعي الحالية ومخاطر الذكاء الاصطناعي الوجودية في مصادر التمويل أو المنهجيات أو التحالفات السياسية، وغالبًا ما تستهدف مقترحات الحوكمة التي تولدها أهدافًا مختلفة.
يرد باحثو سلامة الذكاء الاصطناعي بأن الشاغلين ليسا في منافسة. تتطلب أضرار الذكاء الاصطناعي الحالية حوكمة حالية. ويتطلب الخطر الوجودي من الذكاء الفائق الاصطناعي فئة مختلفة من الاستجابة، تحديدا أطر دولية ملزمة غير موجودة حاليا. العمل على أحدهما لا يمنع العمل على الآخر. المشكلة أن الخطر الوجودي، لكونه أقل وضوحا وأقل ظهورا في الحياة اليومية من التمييز الخوارزمي، يجذب موارد أقل نسبة إلى حجم ما هو على المحك.
الشيء الذي يقلقني أكثر من غيره هو الأسلحة الذاتية التشغيل. قد يكون لها تأثيرات كبيرة في المدى القريب. أعتقد أنه في المدى الطويل، قد تكون أشياء مثل أنظمة الذكاء الاصطناعي الأذكى بكثير من البشر خطيرة حقاً. لا يدرك الناس مدى خطورة الذكاء الاصطناعي.
جيفري هينتون، الفائز بجائزة تورينج · نائب رئيس سابق وزميل هندسي، Google · 2023
إطار هينتون مفيد هنا. يسمي كلا من المخاطر القريبة والطويلة الأمد في نفس السياق. التحدي الحوكمي ليس الاختيار بينهما بل بناء مؤسسات قادرة على معالجة كليهما في آن واحد.
مشكلة أفق الزمن
الفرق الهيكلي الأعمق بين أخلاقيات الذكاء الاصطناعي وسلامة الذكاء الاصطناعي هو الأفق الزمني الذي يتوجه إليه كل مجال بشكل أساسي، ولهذا الفرق عواقب حقيقية على أدوات الحوكمة التي يميل كل مجال إلى اقتراحها.
يعمل أخلاقيات الذكاء الاصطناعي داخل إطار تنظيمي مألوف. فالأدوات التي يدعو إليها، مثل تدقيقات مكافحة التمييز، وتقييمات أثر الخوارزميات، ومتطلبات الشفافية، وحقوق التفسير، ومعايير الشراء العام، هي تكييفات معروفة للآليات القانونية والتنظيمية القائمة. وهذه الأدوات مناسبة لحكم أنظمة تنتشر داخل سياقات اجتماعية وقانونية قائمة، حيث تبقى المؤسسات البشرية قادرة على فهم ما تفعله تلك الأنظمة والتدخل فيه.
يعمل مجال سلامة الذكاء الاصطناعي، ولا سيما في اهتمامه بالولايات المتحدة، في نظام مختلف. فالأنظمة التي يهتم بها أكثر هي تلك التي قد تكون قادرة بما يكفي للتصرف بطرق لا تمتلك أي مؤسسة بشرية حالية القدرة على فهمها أو تقييدها. وقد لا تكفي أدوات الحوكمة الملائمة لذكاء الاصطناعي اليوم للأنظمة الأكثر قدرة نوعياً. ولهذا يجادل باحثو سلامة الذكاء الاصطناعي من أجل أطر حوكمة استباقية، واتفاقات دولية ملزمة، وتقييمات سلامة إلزامية قبل النشر، وقيود حوسبة على الأنظمة الأقوى، قبل أن توجد الأنظمة التي تتطلب هذه الأطر.
هناك مشكلة إغلاق نافذة لا صُممت أطر أخلاقيات الذكاء الاصطناعي، التي تركز على حكم الأنظمة الحالية، لمعالجتها. فإذا لم تُبنَ أطر دولية ملزمة للذكاء الاصطناعي المتقدم قبل وجود أنظمة ذكاء اصطناعي قادرة على إحداث تحول جذري، فقد يتعذر بناؤها بعد ذلك. وقد لا تعمل أدوات الحوكمة الملائمة لعالم يكون فيه الذكاء الاصطناعي قوياً لكنه مفهوم في عالم تجاوز فيه الذكاء الاصطناعي القدرة الاستدلالية للمؤسسات التي تحاول حكمه.
لماذا يهم التمييز في الحوكمة؟
يميل صناع السياسات والمدافعون الذين يعاملون أخلاقيات الذكاء الاصطناعي وسلامته كأنهما قابلان للتبادل إلى اقتراح أطر حوكمة تعالج مشكلات الأخلاق بينما تترك مشكلات السلامة دون معالجة، أو اقتراح حوكمة سلامة تتجاهل الأضرار الحالية التي وثقها باحثو أخلاقيات الذكاء الاصطناعي بعناية.
قانون الذكاء الاصطناعي للاتحاد الأوروبي مثال على النهج الموجه أخلاقياً. يصنف أنظمة الذكاء الاصطناعي حسب مستوى الخطر، ويحظر بعض الاستخدامات صراحة (التقييم الاجتماعي، المراقبة البيومترية الجماعية)، ويفرض متطلبات الشفافية والمساءلة على التطبيقات عالية الخطر. هذه ردود معقولة على المشكلات الأخلاقية مع الذكاء الاصطناعي المنشور. وهي لا تعالج إمكانية أن تتصرف أنظمة الذكاء الاصطناعي الحدودية المدربة بحوسبة أكبر بكثير من نماذج اليوم بطرق لا تستطيع أي مراجعة تنظيمية اكتشافها أو تقييدها بشكل موثوق.
يتطلب الحكم الفعال لـASI كلا الإطارين. تحتاج أنظمة الذكاء الاصطناعي الحالية في المجالات عالية المخاطر إلى أن تحكمها قواعد تضمن العدالة والمساءلة والشفافية. يحتاج تطوير الذكاء الاصطناعي المتقدم إلى أن تحكمه أطر تعالج مسألة ما إذا كان يمكن التحكم في الأنظمة التي يتم بناؤها بشكل موثوق على الإطلاق. هذه مشكلات مختلفة تتطلب أدوات مختلفة ومنازل مؤسسية مختلفة وجداول زمنية مختلفة للعمل.
تركز Nakada Foundation على الفئة الثانية: الأطر الدولية الملزمة التي يحتاجها الذكاء الاصطناعي المتقدم ولا توجد بعد. هذه الأطر مهمة، ويجري عمل كبير عليها من باحثين ومدافعين أكفاء، وليس ذلك إشارة إلى أن أضرار الذكاء الاصطناعي الحالية غير مهمة. فجوة الحوكمة التي نركز عليها هي تلك التي لا يُنجز فيها عمل من النوع الصحيح تقريباً: أطر عالمية ملزمة للذكاء الاصطناعي المتقدم، مع آليات تحقق، قبل إغلاق النافذة.
أقوى المعارضات
أعدل الاعتراضات هو أن الحديث عن المخاطر الوجودية يسرق الأكسجين من الأضرار الحقيقية التي يواجهها الناس الآن: التحيز والعمل والمراقبة. وهذه الأضرار حقيقية وتستحق التنظيم. لكنها ليست سبباً لتجاهل نمط فشل ينهي مشروع وجود «الآن». فالمشكلات المختلفة تحتاج أدوات مختلفة. وخلطها يخدم من لا يريد إصلاح أي منها.