عندما ينهار جسر يعرف المحامون بالفعل كيف يبحثون عن المسؤول. أما عندما ينهار نظام ذكاء اصطناعي يمتد عبر النموذج والسحابة والمُدمِج، فيتعثر البحث. قواعد المسؤولية التي لا تستطيع تسمية مدعى عليه لا تستطيع ردع الفشل التالي. تلك مشكلة حوكمة لا مشكلة ميتافيزيقية.
معاهدة لا تستطيع تحديد المسؤولية عن انتهاك هي معاهدة لا يمكن إنفاذها، وهذه الأسئلة صعبة حقًا بالنسبة لتقنية مثل الذكاء الاصطناعي.
مشكلتان متميزتان
يساعد ذلك على فصل شيئين غالبًا ما يختلطان. المسؤولية هو السؤال القانوني عن الجهة المسؤولة التي تتحمل التكلفة عند وقوع الضرر، وهو أمر يتعلق بتوزيع المسؤولية على طول السلسلة من المطور إلى الناشر إلى المستخدم. الإسناد هو السؤال الواقعي والتقني المتعلق بتحديد ما حدث فعليا ومن قام به، وتتبع الفعل الضار إلى نظام أو نموذج أو فاعل محدد. وتحتاج الحوكمة إلى إجابات على كلا الأمرين: قواعد تحدد المسؤولية، والقدرة الجنائية على تحديد الحقائق التي تنطبق عليها تلك القواعد.
لماذا يجعل الذكاء الاصطناعي كليهما صعبًا
- سلسلة السببية طويلة ومنتشرة. يمكن لنتيجة ضارة واحدة أن تورط مطور نموذج أساسي، وشركة قامت بتكييف النموذج، والناشر، والمستخدم النهائي، وكل منهم يستطيع بشكل معقول الإشارة إلى الآخرين.
- السلوك ناشئ وغامض. عندما يقوم نظام بشيء لم يقصده أو يتوقعه صانعوه تحديدًا، تتعرض مفاهيم الخطأ والإهمال التقليدية للضغط.
- قد يكون الإسناد مراوغاً من الناحية التقنية. قد يكون تحديد النظام الذي أنتج مخرجا أو إجراء معينا (خاصة عند نسخ النماذج أو ضبطها بدقة أو تشغيلها بشكل خاص) صعبا حقا بدون تدابير تتبع متعمدة.
- قد تتجاوز الأضرار الحدود. نظام تم تطويره في بلد ما، ونشره في آخر، وتسبب في ضرر في ثالث يثير أسئلة قضائية لا يُبنى قانون المسؤولية العادي لها.
البعد الدولي
على مستوى الدول، يوجد بالفعل إطار للمسؤولية في القانون الدولي. فبموجب قواعد مسؤولية الدول الراسخة (التي قننتها لجنة القانون الدولي) تكون الدولة مسؤولة عن الأفعال الدولية غير المشروعة، بما في ذلك في ظروف محددة سلوك الفاعلين الخاصين الذين توجههم أو تسيطر عليهم أو تفشل في تنظيمهم. وسيبني معاهدة الذكاء الاصطناعي على ذلك: ستكون الدول مسؤولة عن ضمان امتثال الفاعلين على أراضيها، وعن عواقب الفشل في ذلك. وهكذا تتحول معاهدة ملزمة للدول إلى مساءلة للشركات الخاصة التي تبني فعليا الذكاء الاصطناعي الحدودي.
لكن مسؤولية الدولة تعتمد على الإسناد، أي إثبات وقوع الانتهاك وصدوره من نطاق دولة معينة. وهنا تلتقي الحوكمة بالتحقق: أدوات الرصد والتتبع نفسها التي تكشف عدم الامتثال هي ما يجعل الإسناد، وبالتالي المسؤولية، ممكنا. ولا تكون أحكام الإنفاذ في المعاهدة موثوقة إلا بقدر قدرتها على تحديد من فعل ماذا.
ما يحتاجه نظام الحوكمة
قواعد تخصيص واضحة
قانون يحدد من يتحمل المسؤولية عن أي أضرار على طول سلسلة التطوير والنشر، بحيث لا يمكن تشتيت المساءلة إلى خطأ لا أحد. الأطر الناشئة، مثل عمل المؤسسة بشأن مسؤولية الذكاء الاصطناعي، هي محاولات مبكرة.
إمكانية التتبع بالتصميم
تدابير تقنية (التسجيل، تحديد النموذج، سجلات مستوى الأجهزة) مدمجة بحيث يمكن تتبع الإجراءات الضارة إلى مصدرها، مما يحول الإسناد من التخمين إلى الدليل.
معيار الرعاية
التزامات محددة لمطوري الحدود، بحيث يؤدي الفشل في الوفاء بها إلى إثبات الخطأ، مما ينقل العبء إلى أولئك الذين يخلقون الخطر.
القدرة الدولية على الإسناد
قدرة مشتركة على التحقق والتحليل الجنائي، بحيث يمكن إثبات الانتهاكات عبر الحدود وربطها بالدول والجهات المسؤولة.
القاعدة التي لا يمكن محاسبة أحد عليها ليست قاعدة. قبل أن نتمكن من فرض حدود على الذكاء الاصطناعي الخطر، يجب أن نكون قادرين على الإجابة على سؤالين: من المسؤول، وكيف نثبت ذلك. تلك الإجابات هي الأساس الخفي لكل معاهدة موثوقة.
الأساس الذي تستند إليه المعاهدة
نادرا ما تظهر المسؤولية القانونية والإسناد في الدعوات الرئيسية لحوكمة nakadafoundation.org، لكنهما يحددان ما إذا كان أي منها يعمل. معاهدة تحتوي على عتبات ومحظورات لكن بلا طريقة لإسناد المسؤولية عن الخرق هي بيان نوايا، لا قاعدة قابلة للتنفيذ. بناء الأطر القانونية التي توزع المسؤولية على طول سلسلة توريد الذكاء الاصطناعي، والقدرة التقنية لتتبع الأضرار إلى مصدرها، هو إذن جزء من أساس مشروع المعاهدة، لا منفصل عنه. هذه أيضا مجالات يمكن إحراز تقدم فيها الآن، من خلال قانون المسؤولية المحلي ومعايير التتبع، قبل أي اتفاق دولي ودعما له. الهيكل الظاهر للحوكمة (الخطوط الحمراء، هيئة الرصد) يقوم على هذا العمل الأساسي الهادئ. بدونه، يصبح التنفيذ وعدا لا يستطيع أحد الوفاء به.