في البيت الأبيض في يوليو ٢٠٢٣، التزمت سبع شركات رائدة في مجال الذكاء الاصطناعي من بينها US وOpenAI وAnthropic وGoogle وMeta وMicrosoft بمجموعة من التدابير الطوعية المتعلقة بالسلامة والأمن والشفافية. وفي قمة بلتشلي لسلامة الذكاء الاصطناعي في نوفمبر ٢٠٢٣، وقّعت ثمان وعشرون دولة إعلاناً يقر بالقلق المشترك إزاء مخاطر الذكاء الاصطناعي المتقدم. وفي قمة سيول لسلامة الذكاء الاصطناعي في يونيو ٢٠٢٤، وقّعت ست عشرة شركة للذكاء الاصطناعي التزامات سلامة الذكاء الاصطناعي المتقدم، وتشمل عتبات السلامة وتقييمات النماذج وتبادل المعلومات.
للالتزامات الطوعية للسلامة من الشركات تاريخ طويل في الصناعات الأخرى، وهذا التاريخ مفيد حول ما يمكنها وما لا يمكنها إنجازه.
هذه إنجازات سياسية مهمة. تمثل المرة الأولى التي يقبل فيها مطورو أنظمة الذكاء الاصطناعي الحدودي الرائدون علناً أن عملهم ينطوي على مخاطر جدية وأن شكلاً من الحوكمة مناسب. سيكون من الخطأ تجاهلها. لكن قبولها كافية سيكون خطأ أكثر كلفة.
ما تتطلبه الالتزامات الطوعية فعلياً
تمثل التزامات سلامة الذكاء الاصطناعي الحدودي الموقعة في سول أكثر التعهدات الرئيسية جوهرية. وقد التزم الموقعون بما يلي: تحديد عتبات السلامة التي لن ينشروا عندها أو يواصلوا تدريب نموذج؛ وإجراء ونشر تقييمات لنماذجهم الحدودية مقابل تلك العتبات؛ ومشاركة المعلومات حول حوادث السلامة والتقييمات مع الحكومات وشركات الذكاء الاصطناعي الأخرى؛ والاستثمار في بحوث السلامة. وهذه التزامات حقيقية بمعنى أنها تتطلب إجراءات مرئية يمكن ملاحظتها والتعليق عليها علنا.
ما لا تتطلبه: التحقق الخارجي المستقل مما إذا كانت العتبات تُستوفى؛ وعواقب ملزمة لعدم الامتثال؛ وأي آلية للإنفاذ ضد موقع يقصر؛ والمشاركة من الشركات التي تختار عدم التوقيع. الالتزامات بيانات نوايا طموحة من شركات تحتفظ بسلطة تقديرية كاملة في تفسيرها وتنفيذها.
هذا هو هيكل الالتزام الطوعي، والفرق بينه وبين الالتزام الملزم ليس خفيًا. يلزم الالتزام الطوعي الطرف أخلاقيًا وسمعيًا. أما الالتزام القانوني الملزم فيلزمه قانونيًا، مع عواقب رسمية لعدم الامتثال. الفجوة بين الالتزام الأخلاقي والقانوني هي بالضبط حيث تُتخذ قرارات السلامة الأكثر أهمية تحت الضغط التنافسي.
النمط من الصناعات الأخرى عالية المخاطر
سبقت التزامات السلامة الطوعية للشركات التنظيم الملزم في معظم الصناعات عالية الخطورة الكبرى، ويبدو نمط ما أنجزته تلك الالتزامات وما لم تنجزه متسقا إلى حد كبير.
في الخدمات المالية، طورت البنوك الكبرى مدونات وممارسات لإدارة المخاطر بقيادة الصناعة طوال التسعينيات وأوائل الألفية الثالثة. كانت هذه المدونات قائمة وتعمل اسميا عندما كشفت الأزمة المالية بين ٢٠٠٧ و٢٠٠٩ أن إدارة المخاطر الطوعية فشلت في منع تراكم المخاطر النظامية. وجاء بعد ذلك مجلس الاستقرار المالي وإطار بازل ٣ ومتطلبات الإفصاح الإلزامي الموسعة. حسنت الالتزامات الطوعية الممارسات الأساسية لكنها لم تكن كافية عند مخاطر الذيل حيث تكون تكاليف الفشل أعلى.
في الصناعة الكيميائية، أُطلق برنامج المسؤولية الرعائية عام ١٩٨٥ إثر سلسلة حوادث كبرى في المصانع الكيميائية، منها بوبال عام ١٩٨٤. التزمت الشركات المشاركة بتحسين أداء السلامة والصحة والبيئة والإبلاغ الشفاف عن تقدمها. حسّن البرنامج ثقافة السلامة في الصناعة وقلل حوادث الروتين على مدى العقود التالية. ولم يمنع حوادث كبيرة، واستُكمل في النهاية بمتطلبات تنظيمية ملزمة. وجد تقييم البرنامج نفسه أن أكبر قيوده كان غياب التحقق المستقل.
يُعد برنامج الرعاية المسؤولة الذي أطلقته الصناعة الكيميائية عام ١٩٨٥ أقرب نظير تاريخي لالتزامات سلامة الذكاء الاصطناعي الحالية: تعهد طوعي صناعي يغطي السلامة والشفافية وتبادل المعلومات. وجد تقييم البرنامج الذاتي بعد عقدين أن قيده الرئيسي كان غياب التحقق المستقل من الأداء المُبلغ عنه. وهذا القيد نفسه هيكلي في التزامات سلامة الذكاء الاصطناعي الحالية، وينتج الفجوة نفسها: الالتزام بالنتائج دون أي آلية للتأكد من تحقيقها.
كانت سلامة محطات الطاقة النووية في الولايات المتحدة تحكم في البداية أساسا من خلال التنظيم الذاتي ومعايير الصناعة. وأظهر حادث جزيرة الثلاثة أميال في مارس ١٩٧٩ أن ثقافة السلامة الطوعية للصناعة غير كافية لتقنية قد تؤثر أنماط فشلها على أعداد كبيرة من السكان. ثم جاء إطار الرقابة الإلزامية لهيئة التنظيم النووي، الذي يشمل عمليات تفتيش مستقلة وإبلاغا إلزاميا عن الحوادث ومعايير تشغيل ملزمة. وقد عارضت الصناعة التنظيم الإلزامي حينها؛ ويُنسب إليه الآن عموما إحداث تحسينات في ثقافة السلامة لم تحققها النهج الطوعية.
مشكلة الضغط التنافسي
تتمتع الالتزامات الطوعية بثغرة هيكلية لا تمتلكها اللوائح الملزمة: مشكلة الضغط التنافسي. إذا أنشأ الالتزام تكلفة حقيقية، مثل إبطاء جداول التطوير، أو اشتراط تقييمات سلامة باهظة، أو استبعاد تطبيقات عالية الإيرادات، فإن أي شركة لا توقع على الالتزام تكتسب ميزة تنافسية بتجنب تلك التكلفة. تواجه الشركات التي توقع خياراً بين تخفيف تفسيرها للالتزام لتبقى قادرة على المنافسة، أو تحمل التكلفة والتخلف.
هذه الدينامية ليست افتراضية في قطاع الذكاء الاصطناعي. فالشركات التي وقعت التزامات سلامة الذكاء الاصطناعي الحدودي في سيول تتنافس مباشرة مع شركات وبرامج مدعومة من الدولة في الصين لم توقع وثيقة مماثلة. كما أنها تتنافس فيما بينها والالتزامات التي وقعتها واسعة اللغة بما يكفي لأن تكون الخلافات التفسيرية المعقولة حول ما يتطلبه الامتثال أمرا لا مفر منه.
يحل التنظيم الملزم هذه المشكلة بإنشاء حد أدنى يجب على جميع المنافسين الوفاء به، مما يلغي الميزة التنافسية الناتجة عن عدم الامتثال. ولهذا ينتج التنظيم الملزم نتائج سلامة لا تستطيع الالتزامات الطوعية إنتاجها عموماً: فهو يزيل هيكل الحوافز الذي يجعل التقصير في السلامة جذاباً.
ما الذي تنجزه الالتزامات الطوعية على نحو جيد؟
كانت أهم وظيفة للالتزامات الطوعية في تاريخ حوكمة السلامة الصناعية هي ترسيخ المعايير. تخلق الالتزامات الطوعية سجلًا يعترف فيه القطاع بوجود مشكلة وأن ممارسات معينة ردود مناسبة. يصبح هذا السجل الأساس الذي ينطلق منه التنظيم الملزم.
عندما يأتي المنظمون أو المشرعون إلى حوكمة ASI، تكون التزامات سلامة الذكاء الاصطناعي المتقدم قد أثبتت أن الشركات الرائدة تقبل شرعية عتبات السلامة وتقييمات النماذج وتبادل المعلومات كمفاهيم حوكمة. وسيكون موقف الصناعة أضعف في الجدال بأن هذه المتطلبات غير مجدية تقنياً أو غير مناسبة تجارياً، بعد أن التزمت بها طوعاً. وبهذا المعنى، فإن الالتزامات الطوعية خطوة أولى نحو الحوكمة الملزمة، لا بديلاً عنها.
تخلق الالتزامات الطوعية أيضاً بنية مؤسسية. تطلبت التزامات سيول من الشركات تطوير عمليات داخلية لتحديد عتبات السلامة وتقييم النماذج. هذه العمليات والمعرفة المؤسسية المضمنة فيها هي الأساس الذي يمكن أن يبني عليه نظام تحقق ملزم. ستتمكن هيئة تنظيمية تشرف على تقييمات سلامة الذكاء الاصطناعي الإلزامية من الاستفادة من الممارسات القائمة لدى الشركات بدلاً من تصميم بنية الامتثال من الصفر.
"تؤدي الالتزامات الطوعية وظيفة مفيدة في المرحلة المبكرة من تطور الحوكمة، وقد أحدثت التزامات Bletchley وسيول شيئا حقيقيا. لكن تاريخ كل صناعة كبرى عالية الخطورة يظهر الشيء نفسه: الالتزامات الطوعية تحسن الممارسات الأساسية وتفشل عند المخاطر الذيلية. المخاطر الذيلية هي بالضبط ما نحكم من أجله مع الذكاء الخارق."
ما تتطلبه الحوكمة الملزمة والذي لا تستطيع الالتزامات الطوعية توفيره
أربعة عناصر تميز الحوكمة الملزمة عن الحوكمة الطوعية، وكلها مهمة للذكاء الاصطناعي المتقدم.
التحقق المستقل. الالتزام الطوعي يُبلغ عنه ذاتياً. الالتزام الملزم يخضع للتحقق من طرف ثالث سواء عبر هيئة تنظيمية أو وكالة تفتيش دولية أو مدقق مستقل يتمتع بصفة قانونية. الإبلاغ الذاتي ينتج معلومات دقيقة عندما لا يكون لدى المنظمات المبلغة حافز للتحريف. في الأسواق التنافسية نادراً ما يتحقق هذا الشرط.
عواقب محددة لعدم الامتثال. تخلق الالتزامات الطوعية تكلفة سمعية لعدم الامتثال، وهي حقيقية لكن محدودة. أما الالتزامات الملزمة فتخلق عواقب قانونية: غرامات، إلغاء تراخيص، قيود على الوصول إلى الأسواق، أو عقوبات قائمة على المعاهدات. تعتمد مصداقية إطار الحوكمة على مصداقية عواقبه.
تغطية غير الموقعين. قد يأتي أهم تطوير للذكاء الاصطناعي من شركات أو حكومات لا توقع أبدا على التزام طوعي. ويخلق التنظيم الوطني الملزم والالتزامات التعاهدية الدولية حوكمة تنطبق على الفاعلين بغض النظر عن موافقتهم المسبقة. ويترك إطار الالتزام الطوعي الفاعلين الأكثر احتمالا لإنشاء مخاطر جدية خارج الإطار إذا اختاروا ذلك.
الاستقرار عبر تغييرات القيادة. الالتزامات الطوعية تقيد القيادة الحالية للشركة. عندما تتغير القيادة أو تتغير تركيبة مجلس الإدارة أو تشتد الضغوط التنافسية، لا تملك الالتزامات قوة قانونية للبقاء بعد تلك التغييرات. أما التنظيم الملزم فيكون مضمناً في القانون ويصمد أمام التغييرات التنظيمية العادية.
الالتزامات الطوعية التي تمت في بلتشلي وسيول إنجازات حقيقية يجب البناء عليها. البناء عليها يعني الاعتراف بصراحة بما تحققه وما لا تستطيع تحقيقه، واستخدام الزخم السياسي والمؤسسي الذي تمثله للسعي نحو حوكمة ملزمة تسد الثغرات التي تتركها.
أقوى المعارضات
أعدل الاعتراض أن القواعد الطوعية هي طريقة نضج الصناعات وأن المطالبة بالقانون أولاً تجمّد التقدم. تساعد القواعد الطوعية حين تكشف. وتفشل حين تكتب الشركة نفسها الاختبار وتصححه وتربح منه. فالعضة الخارجية هي ما يجعل النضج حقيقياً.