تميل أدبيات الحوكمة المتعلقة بسلامة الذكاء الاصطناعي إلى الاستعانة بالقياسات الناجحة. يُستشهد باتفاقية الأسلحة الكيميائية كثيرا. ويظهر بروتوكول مونتريال في معظم النقاشات الجادة. ويُقدم نظام الضمانات النووية لـIAEA كنموذج لما قد تبدو عليه وكالة مراقبة الذكاء الاصطناعي. هذه مراجع قيمة، لكنها ترسم صورة غير مكتملة لما يمكن للحوكمة الدولية تحقيقه وما لا تستطيع تحقيقه.
يبرز اثنان على وجه الخصوص: معاهدة الحظر الشامل للتجارب، التي لم تدخل حيز التنفيذ أبداً، واتفاقية الأسلحة البيولوجية، التي لا تملك آلية تحقق وتم انتهاكها على نطاق واسع لعقدين من الزمان.
الإخفاقات مفيدة بالقدر نفسه، وفي بعض الجوانب أكثر. تكشف خيارات التصميم والظروف السياسية المحددة التي تؤدي إلى انهيار أنظمة الحوكمة أو قصورها. وبالنسبة لحوكمة ASI، التي لم تُصمم بعد، فإن فهم هذه أنماط الفشل أكثر قابلية للتنفيذ من دراسة قصص النجاح، لأن خيارات التصميم التي ستحدد النجاح أو الفشل لا تزال مفتوحة.
نمط الفشل الأول: فخ الدخول حيز التنفيذ
فتحت معاهدة الحظر الشامل للتجارب النووية للتوقيع في سبتمبر 1996. بحلول عام 2026، وقعت عليها 187 دولة وصدقت عليها 178 دولة. لم تدخل حيز التنفيذ بعد.
السبب هو المادة الرابعة عشرة، التي تشترط دخول المعاهدة حيز التنفيذ فقط بعد تصديق جميع الدول الـ٤٤ التي كانت تملك محطات طاقة نووية أو مفاعلات بحثية عند التفاوض على المعاهدة. صُممت قائمة الدول الـ٤٤ في الملحق ٢ لضمان تغطية المعاهدة للدول الأكثر صلة بالتجارب النووية. لكنها أصبحت بدلاً من ذلك حق نقض دائم تملكه ثماني دول: الصين ومصر والهند وإيران وإسرائيل وكوريا الشمالية وباكستان والولايات المتحدة. حتى تصدق الدول الثماني جميعًا، لا يمكن أن تدخل معاهدة الحظر الشامل للتجارب النووية حيز التنفيذ بغض النظر عن عدد الدول الأخرى التي فعلت ذلك.
لم يكن معاهدة الحظر الشامل للتجارب النووية عديمة الجدوى. تعمل منظمة معاهدة الحظر الشامل للتجارب النووية على تشغيل نظام مراقبة عالمي يتكون من محطات زلزالية وهيدروصوتية وتحت صوتية وراديونوكليدية قادرة على كشف التجارب النووية بموثوقية عالية. وقد أنتجت هذه المراقبة معلومات استخباراتية حقيقية حول البرامج النووية للدول غير الموقعة، بما في ذلك التجارب النووية الست لكوريا الشمالية بين عامي 2006 و2017. لم تكن مراقبة منظمة معاهدة الحظر الشامل للتجارب النووية لتوجد بدون إطار المعاهدة، حتى في تطبيقها المؤقت الحالي. لكن الالتزام الأساسي للمعاهدة، وهو حظر التجارب النووية، ليس ملزما قانونيا للدول الأكثر احتمالا لإجراء التجارب، لأنها لم تدخل حيز التنفيذ قط.
شرط دخول معاهدة الحظر الشامل للتجارب النووية حيز التنفيذ الذي يشترط تصديق جميع الدول الـ٤٤ المسماة صُمم لضمان تغطية عالمية للأطراف الأكثر صلة. بدلاً من ذلك أنشأ بنية يستطيع فيها أي دولة واحدة ذات صلة أن تعرقل النظام بأكمله إلى أجل غير مسمى. معاهدة حوكمة ASI بشرط مشابه، يشترط تصديق الولايات المتحدة والصين وروسيا وEU وجميع الدول الرئيسية المطورة للذكاء الاصطناعي قبل الدخول حيز التنفيذ، ستواجه نفس الضعف الهيكلي. يجب أن تدخل المعاهدة حيز التنفيذ بين الأطراف الراغبة عند عتبة محددة، لا أن تشترط التغطية العالمية كشرط مسبق.
بالنسبة لحوكمة ASI تشير إخفاقات معاهدة الحظر الشامل للتجارب النووية إلى خيار تصميم محدد: أحكام الدخول حيز التنفيذ. معاهدة تتطلب مشاركة جميع الدول الرئيسية المطورة للذكاء الاصطناعي قبل أن تدخل حيز التنفيذ تمنح كل تلك الدول سلطة حظر أحادية الجانب على النظام بأكمله. يمكن إدراج US والصين وEU وUK وربما خمس أو عشر دول أخرى كأطراف مطلوبة ويمكن لأي منها منع المعاهدة من الدخول حيز التنفيذ إلى أجل غير مسمى.
يسمح التصميم الأكثر متانة للمعاهدة بدخولها حيز التنفيذ بين كتلة حرجة من الأطراف الراغبة، مما ينشئ نظام حكم تشغيلي، مع إبقاء الباب مفتوحا أمام الأطراف غير المشاركة للانضمام لاحقا. وتواجه الأطراف غير المشاركة الاستبعاد من منافع المعاهدة (مشاركة التكنولوجيا، وتفضيلات الوصول إلى الأسواق، والبحث التعاوني في السلامة) مما يخلق حوافز للانضمام. وفي الوقت نفسه، تُنشئ فعالية المعاهدة بين الأطراف القائمة نموذج حكم مثبتا يقلل من الغموض بشأن ما ينطوي عليه الانضمام. وقد استخدمت معاهدة حظر الألغام والمحكمة الجنائية الدولية هذا النهج.
نمط الفشل الثاني: حظر بدون تحقق
فتحت اتفاقية الأسلحة البيولوجية للتوقيع عام ١٩٧٢ ودخلت حيز التنفيذ عام ١٩٧٥. تحظر تطوير وإنتاج وتخزين الأسلحة البيولوجية وتطالب الدول بتدمير أي مخزونات موجودة. ولها ١٨٣ دولة طرفاً. وليس لديها آلية تحقق، ولا هيئة تفتيش، ولا هيئة رسمية مخولة بالتحقيق في الانتهاكات المزعومة أو إصدار قرارات بعدم الامتثال.
صدقت الاتحاد السوفييتي على اتفاقية الأسلحة البيولوجية عام ١٩٧٥. وفي عام ١٩٧٣، أي قبل التصديق بعامين، وافق مجلس وزراء الاتحاد السوفييتي على إنشاء بيوبريبارات، وهي شبكة من معاهد بحثية مدنية اسميا شكلت أكبر برنامج أسلحة بيولوجية هجومية في العالم. بلغ البرنامج ذروته في الثمانينيات، حيث وظف بيوبريبارات نحو ٦٠ ألف عالم وأنتج أسلحة الطاعون والجدري والجمرة الخبيثة على نطاق صناعي، إلى جانب عوامل معدلة وراثيا مصممة لمقاومة المضادات الحيوية واللقاحات. عمل هذا البرنامج في انتهاك مباشر وشامل للاتفاقية طوال السبعينيات والثمانينيات، حتى كشفه منشقون سوفييت بعد انهيار الاتحاد السوفييتي. لم يكن لنظام الاتفاقية أي وسيلة لاكتشافه.
هذا أخطر فشل في التحقق من ضبط التسلح في فترة ما بعد الحرب. فالحظر الذي لا يمكن التحقق منه ليس سوى معيار، لا آلية مساءلة. إنه يخلق معياراً عاماً للسلوك المقبول له آثار حقيقية على سلوك الدول في كثير من الحالات، بينما يعجز هيكلياً عن كشف الانتهاك المنهجي من قبل الدول التي تملك الوسائل والدوافع للانتهاك سراً.
استمرت المفاوضات لإضافة بروتوكول تحقق إلى اتفاقية حظر الأسلحة البيولوجية والسمية من عام ١٩٩٥ إلى عام ٢٠٠١. رفضت الولايات المتحدة البروتوكول المقترح في تموز ٢٠٠١، بحجة أن إجراءات التفتيش كانت متطفلة جداً على التكنولوجيا الحيوية التجارية المشروعة وضعيفة جداً للكشف عن الانتهاكات بشكل موثوق. انهارت المفاوضات ولم تُستأنف بأي شكل يمكن أن ينتج آلية تحقق ملزمة. وتبقى الاتفاقية سارية كمعيار بدون هيئة تحقق.
ما يعنيه فشل اتفاقية الأسلحة البيولوجية للحوكمة ASI
القياس بين الأسلحة البيولوجية والذكاء الاصطناعي ليس مثاليا، لكن عدة سمات من فشل اتفاقية الأسلحة البيولوجية تنتقل مباشرة إلى حوكمة ASI.
الاستخدام المزدوج هو التحدي المركزي للتحقق. تُنتج الأسلحة البيولوجية باستخدام معدات ومعارف وعمليات مختبرية مطابقة إلى حد كبير للبحوث الصيدلانية والصحية العامة المشروعة. ويتطلب التمييز بين البحوث الهجومية والدفاعية، أو بين التطبيقات المدنية والعسكرية، مفتشين مؤهلين تأهيلا عاليا يتمتعون بإمكانية الوصول إلى معلومات تجارية وتقنية سرية، ومع ذلك ينتج غموضا حقيقيا في كثير من الحالات. وجعلت هذه الطبيعة المزدوجة بروتوكول التحقق لاتفاقية الأسلحة البيولوجية متطلبا تقنيا ومثيرا للجدل سياسيا بطرق لم يكن التحقق من الأسلحة الكيميائية أو النووية، التي تمتلك توقيعات أوضح، كذلك.
يمتلك الذكاء الاصطناعي الطابع المزدوج الاستخدام نفسه على مستوى أكثر جوهرية. نموذج اللغة الكبير المدرب على توليد اللغة الطبيعية لا يمكن تمييزه تقنياً عن واحد مدرب على الإقناع على نطاق واسع. ونموذج مدرب على المساعدة في البحث العلمي مطابق تقنياً لآخر مدرب على الفعل الذاتي في بيئات عالية المخاطر. القدرات التي تجعل الذكاء الاصطناعي الحدودي ذا قيمة تجارية هي نفسها التي تجعله خطيراً محتملاً. تواجه عملية التحقق في حوكمة ASI التحدي نفسه الذي هزم التحقق من اتفاقية الأسلحة البيولوجية: يجب أن تميز بين التطبيقات الخطرة والشرعية لأنظمة متطابقة تقنياً.
«تظهر اتفاقية الأسلحة البيولوجية بالضبط ما ينتجه الحظر بلا تحقق مع مرور الوقت. معيار مقبول على نطاق واسع، انتهكته قوة كبرى على نطاق واسع لعشرين عاماً بشكل واضح، دون آلية للكشف عن الانتهاك أو الرد عليه. بالنسبة لحوكمة ASI، هذه هي النتيجة الافتراضية إذا أُجل التحقق إلى بروتوكول مستقبلي قد لا يصل أبداً، وليس مجرد قلق نظري.»
الدرس ليس أن التحقق مستحيل على الذكاء الاصطناعي، بل أن التحقق يجب أن يُبنى في المعاهدة منذ البداية بدلًا من تأجيله إلى بروتوكول لاحق. فشلت مفاوضات التحقق في اتفاقية الأسلحة البيولوجية بعد ست وعشرين سنة من الجهد. ومعاهدة حوكمة ASI التي تُقر الحظر أولًا ثم تؤجل بنية التحقق تخاطر بالنتيجة نفسها: معيار بلا آلية مساءلة، يعمل جنبًا إلى جنب مع برامج تطوير لا يستطيع رؤيتها.
نمط الفشل الثالث: الانسحاب بدون تكلفة
انضمت كوريا الشمالية إلى معاهدة منع الانتشار النووي عام ١٩٨٥، وأعلنت الانسحاب عام ١٩٩٣ ثم مرة أخرى عام ٢٠٠٣، وأجرت أول تجربة نووية لها عام ٢٠٠٦. وتسمح المادة العاشرة من معاهدة NPT بالانسحاب لأي دولة بإشعار مدته تسعون يومًا إذا قررت أن أحداثًا استثنائية قد عرضت مصالحها الوطنية العليا للخطر. وجاء انسحاب كوريا الشمالية بعد أن وجدت IAEA أنها غير ممتثلة لالتزاماتها المتعلقة بالضمانات، وأنهى الانسحاب فعليًا قدرة IAEA على مراقبة برنامج كوريا الشمالية النووي.
بالنسبة لحوكمة ASI، تشير سابقة NPT/كوريا الشمالية إلى أهمية تكلفة الانسحاب. فالمعاهدة التي يمكن الخروج منها بإشعار مدته تسعون يوما دون عقوبة توفر ضمانا ضعيفا، لأن الدولة التي ترغب في متابعة أنشطة تحظرها المعاهدة تستطيع ببساطة الانسحاب قبل أن تصبح تلك الأنشطة مرئية. وينبغي أن تتضمن أحكام الانسحاب في معاهدة حوكمة ASI: فترة إشعار محددة طويلة بما يكفي لهيئات المعاهدة والأطراف الأخرى للرد؛ والاحتفاظ بحقوق التفتيش لفترة محددة بعد إشعار الانسحاب؛ والتعليق التلقائي للمزايا عند إشعار نية الانسحاب لا عند الانسحاب الفعلي.
لن تمنع هذه الخيارات التصميمية الانسحاب، لكنها ستضمن أن يكون الانسحاب مكلفاً ومرئياً بدلاً من أن يكون روتينياً وصامتاً. والهدف ليس حبس الدول في التزامات معاهدة تعارضها، بل ضمان أن يكون فعل الخروج من النظام حدثاً سياسياً ذا أهمية يولّد اهتماماً دولياً واستجابة دبلوماسية.
يتمتع مصممو حوكمة ASI بميزة القدرة على دراسة هذه الإخفاقات قبل كتابة الأحكام ذات الصلة. إخفاقات CTBT وBWC وNPT موثقة ومحللة ومتاحة جميعا. خيارات التصميم التي أنتجت تلك الإخفاقات يمكن تجنبها. السؤال هو ما إذا كانت العملية السياسية التي تنتج معاهدة حوكمة ASI ستسمح للرؤى التصميمية التقنية من هذه الإخفاقات بالبقاء عند الاحتكاك بمواقف التفاوض للقوى الكبرى.
أقوى المعارضات
أعدل اعتراض هو أن المعاهدات الفاشلة تثبت أن المعاهدات لا تعمل أبدا. التصاميم الفاشلة تثبت بنودا سيئة. فخاخ الدخول حيز التنفيذ وغياب التحقق والانسحاب السهل هي خيارات صياغة قابلة للإصلاح. الدرس هو كتابة العكس لا التخلي عن القانون.