ما هي معاهدة سلامة الذكاء الاصطناعي
ما ستبدو عليه المفاوضات.

في عام 1968 انتقلت معاهدة منع الانتشار النووي من مسودة إلى وثيقة موقعة بعد سنوات من مجموعات العمل والجمود والمعارك الداخلية. من يقولون "نحتاج إلى معاهدة للذكاء الاصطناعي" نادراً ما يتصورون تلك الآلية. يجب أن يفعلوا. الفجوة بين الشعار والنص المصدق عليه هي حيث تموت معظم الخطط.

تجري مفاوضات المعاهدات الدولية كعمليات فنية ممتدة متعددة السنوات، تجريها البعثات الدبلوماسية والخبراء القانونيون والمستشارون الفنيون.

كيف تعمل مفاوضات المعاهدات الدولية

تبدأ معظم المعاهدات متعددة الأطراف الحديثة بتفويض سياسي: عادة قرار من الجمعية العامة أو قرار من هيئة متعددة الأطراف يأمر ببدء المفاوضات. وهذا ينشئ الأساس الرسمي لمؤتمر تفاوضي أو لجنة دائمة في منتدى قائم مثل مؤتمر نزع السلاح في جنيف. وبدون هذا التفويض السياسي تظل المناقشات حول المعاهدة تحضيرية وغير رسمية. وبه يصبح الأمر عملية تفاوض رسمية بتكليف بإنتاج نص.

يجتمع جهاز التفاوض في دورات، عادة عدة أسابيع في السنة، مع عمل بين الدورات تقوم به مجموعات عمل فنية بين الجلسات الرسمية. وتعالج مجموعات العمل قضايا محددة بالتوازي: التعريفات، وآليات التحقق، والترتيبات المؤسسية، والالتزامات التنفيذية، والأحكام المالية. وتنتج كل مجموعة عمل نصاً مشروعاً يُدمج في مسودة متجددة للمعاهدة الكاملة عبر الدورات المتعاقبة.

تُتفاوض مسودة المعاهدة بالإجماع، أي أنه لا تُنهى أي مادة حتى يوافق عليها جميع المشاركين. وهذا حد أعلى من التصويت بالأغلبية، لكنه ينتج معاهدات تتمتع بشرعية أكثر دواما ومشاركة أوسع، لأن أي دولة لم تُصوَّت ضدها في مواد تجدها غير مقبولة. والتكلفة أن الإجماع يتطلب وقتا أطول، ويحدد الإيقاع الوفد الذي لديه أكبر عدد من الاعتراضات التي يجب التغلب عليها.

بمجرد الانتهاء من النص يُفتح للتوقيع. التوقيع عمل سياسي يعبر عن التأييد، وليس التزاماً قانونياً. يأتي الالتزام القانوني عندما تصدق دولة على المعاهدة عبر عمليتها الدستورية الداخلية. تحدد معظم المعاهدات عدداً أدنى من التصديقات قبل أن تدخل حيز النفاذ القانوني.

ما مجموعات العمل التي تحتاجها معاهدة الذكاء الاصطناعي المتقدم

معاهدة مصممة لتنظيم تطوير الذكاء الاصطناعي المتقدم ستتطلب مجموعات عمل منظمة حول أسئلة ليس لها إجابات مستقرة في القانون الدولي. أبرزها:

التعريفات. يجب أن تحدد المعاهدة أي أنظمة ذكاء اصطناعي تحكمها. وهذا أصعب من تعريف الأسلحة النووية أو العوامل الكيميائية، لأن الذكاء الاصطناعي طيف قدرات مستمر بلا تمييز حاد بين النسخ الخطرة والآمنة. وتتركز المقترحات على عتبات الحوسبة كبديل: إذ تؤدي جولة تدريب تتجاوز مقياسا حسابيا محددا إلى تفعيل التزامات المعاهدة. وستحتاج العتبة إلى تبرير تقني، ومراجعة منتظمة مع انخفاض تكاليف الحوسبة، وآلية لحل النزاعات في الحالات القريبة من الحد.

التزامات مطوري الأنظمة المشمولة. بمجرد أن يتجاوز النظام العتبة المحددة، ما الإجراءات المطلوبة؟ تتضمن معظم المقترحات إشعاراً مسبقاً لهيئة الرصد قبل أو أثناء جولة التدريب؛ وتقييماً إلزامياً للنظام المدرب وفق معايير السلامة المحددة؛ والإبلاغ عن نتائج التقييم؛ وتقييد نشر الأنظمة التي تفشل في تلبية المعايير. ويتطلب كل من هذه الإجراءات تعريفات لما يشكل امتثالاً كافياً، وهو بحد ذاته نزاع تقني وقانوني قبل بدء أي جلسة تفاوضية.

آليات التحقق. كيف يمكن لهيئة مستقلة أن تؤكد أن الأنشطة المعلنة تطابق الأنشطة الفعلية؟ ستكون هذه المجموعة العاملة الأكثر تطلبًا من الناحية التقنية. تجمع المقترحات المتداولة بين الرصد على مستوى الأجهزة من خلال التعاون مع مصنعي الرقائق لتتبع المبيعات فوق المواصفات المحددة، وتفتيش المنشآت من خلال حقوق زيارة مجموعات الحوسبة الكبيرة، وحقوق التدقيق على سجلات التدريب وسجلات التقييم. يثير كل عنصر تساؤلات حول السرية التجارية والتصنيف الأمني الوطني التي لا يسهل حلها.

الهيكل المؤسسي. أي هيئة ستدير المعاهدة؟ منظمة جديدة، مماثلة لـOPCW، تنشئها المعاهدة نفسها تحمل أعلى قيمة حوكمية لكنها تتطلب أكبر جهد سياسي وموارد لإنشائها. أما التفويض إلى هيئة قائمة فيحمل تكلفة سياسية أقل لكنه قد لا يملك الولاية أو الخبرة التقنية التي تتطلبها المهمة. يملك IAEA خبرة في رصد التكنولوجيا ذات الاستخدام المزدوج؛ ولدى الاتحاد الدولي للاتصالات بعض المطالبات القضائية على قضايا متعلقة بالذكاء الاصطناعي. ولكل خيار آثار موارد مختلفة وتواريخ مختلفة من الاستقلال السياسي عن القوى الكبرى.

متطلبات الدخول حيز التنفيذ. يجب أن يحدد المعاهدة الدول التي يلزم تصديقها قبل دخولها حيز النفاذ القانوني. ومعاهدة تدخل حيز النفاذ دون US أو الصين أو UK لن تُلزم المنظمات المسؤولة عن تطوير الذكاء الاصطناعي الحدودي. وقد اشترط NPT التصديق من مجموعة محددة من الدول. وستحتاج معاهدة الذكاء الاصطناعي إلى آلية مشابهة، مع الصعوبة الواضحة أن اشتراط تصديق US والصين يمنح كلا البلدين حق النقض على وجود المعاهدة.

عملية التفاوض على مراحل

نقاط الخلاف المتوقعة

تظهر التجربة مع مفاوضات مشابهة عدة خلافات من المتوقع أن تنشأ ويجب مراعاتها منذ البداية.

توتر التحقق والسرية. ستقاوم الدول والشركات التي تملك برامج ذكاء اصطناعي حدودي آليات التحقق التي تتطلب الكشف عن معلومات حساسة تجاريا أو عسكريا. تمثل قدرات الذكاء الاصطناعي مزايا تنافسية. وسيقاوم حقوق التفتيش التي تجعل نظام التحقق موثوقا نفس الأطراف التي يجعل امتثالها المعاهدة ذات معنى. حل النظام النووي هذا من خلال اتفاقات ضمانات محددة النطاق بعناية تتحقق من عدم تحويل المواد النووية دون اشتراط الكشف عن معلومات تصميم الأسلحة. وستحتاج حوكمة ASI إلى تمرين تحديد نطاق مماثل.

نزاع تعريف العتبة. أي عتبة حوسبية تستخدم لتعريف الأنظمة المشمولة ستكون محل نزاع. ستجادل الأطراف التي تقع دون العتبة بأنها يجب أن تكون أقل؛ وستجادل الأطراف التي تقع فوقها بأنها محددة بمستوى منخفض جدًا. وستصبح أي عتبة ثابتة قديمة مع انخفاض تكاليف الحوسبة، مما يتطلب آليات تعديل تكون هي نفسها محل نزاع سياسي. أحد النهج المستخدمة في معاهدات أخرى هو تفويض تحديد العتبة إلى هيئة فنية بدلًا من تضمين أرقام ثابتة في نص المعاهدة نفسه، مما يسمح بالمراجعة دون تعديل المعاهدة.

مشكلة مشاركة الصين. معاهدة تدخل حيز التنفيذ بدون الصين لا تحكم المنظمات المسؤولة عن أهم تطوير للذكاء الاصطناعي خارج US. إقناع الصين بقبول التزامات ملزمة على تطويرها للذكاء الاصطناعي المتقدم يتطلب تقديم شيء موثوق في المقابل (غالباً مزيج من ضمانات الوصول إلى التكنولوجيا وقيود متماثلة على تطوير US) في ظل شكوك متبادلة عميقة. هذه مشكلة دبلوماسية لا تستطيع تصميم المعاهدة حلها بالكامل.

مشكلة الفاعل الخاص. يطور الذكاء الاصطناعي المتقدم أساسا شركات خاصة. وستلزم المعاهدة الدول، التي ستنفذ الالتزامات بعد ذلك عبر قوانين محلية تطبق على الشركات. وهذا يدخل تعقيدا تنظيميا لم تواجهه معاهدات الأسلحة النووية والكيميائية، لأن تلك المعاهدات تناولت أساسا برامج الدول. وستحتاج معاهدة الذكاء الاصطناعي المتقدم إلى تحديد واضح لكيفية ترجمة التزامات الدول إلى التزامات الشركات، وكيف تنسب انتهاكات الشركة إلى الدولة الطرف المضيفة لها.

"بدت كل معاهدة كبرى للحد من التسلح مستحيلة التفاوض حتى تم التفاوض عليها. والسؤال دائمًا ما إذا كانت الظروف السياسية قد نضجت بما يكفي ليصبح ثمن الاستمرار في التقاعس أعلى من ثمن الاتفاق."

معاهدة سلامة الذكاء الاصطناعي الحدودية هي نتاج عملية سياسية مستمرة لم تبدأ رسمياً بعد، وليست حدثاً واحداً. العمل الجاري حالياً من قمم سلامة الذكاء الاصطناعي والمناقشات الحكومية الثنائية ومعاهد السلامة الوطنية والمقترحات الأكاديمية لأطر الحوكمة هو المرحلة التحضيرية. تحويل ذلك إلى تفويض تفاوضي رسمي ثم إلى نص معاهدة ثم إلى التصديق هو عمل يستغرق سنوات. والإلحاح يكمن في أن القدرات التي تُحكم قد تتطور أسرع من قدرة عملية الحوكمة على اللحاق بها. ذلك الإلحاح هو الحجة لبدء العمل الجاد الآن.

أقوى المعارضات

أعدل الاعتراضات هو أن القوى الكبرى لن تقيد مختبراتها الحدودية أبدًا، فوصف التفاوض يصبح أكاديميًا. بدا كل معاهدة أسلحة كبرى مستحيلة حتى ارتفعت تكلفة التقاعس. والأعمال التحضيرية موجودة. القطعة الناقصة هي الإرادة السياسية التي تفرضها المطالبة الشعبية والروافع الصناعية، لا مفردات جديدة.