ما يتطلبه البناء
ذكاء اصطناعي دولي
وكالة المراقبة.

حين يدعو دعاة الحوكمة إلى وكالة عالمية لرصد الذكاء الاصطناعي، فإنهم يصفون حالة نهائية. السؤال الأصعب هو شكل المسار إلى تلك الحالة النهائية، وكيف يُبنى فعلياً جسم دولي يملك الولاية والموظفين والميزانية والسلطة القانونية والقدرة التقنية لرصد تطوير الذكاء الاصطناعي المتقدم. تاريخ المؤسسات التي تؤدي هذا العمل لتقنيات خطرة أخرى مفيد، وأكثر تعقيداً باستمرار مما توحي به أدبيات الحوكمة.

المؤسسات تُبنى، لا تُعلن. إليك ما يتطلبه بناء وكالة عالمية لرصد الذكاء الاصطناعي فعلياً.

ما الذي يحتاجه IAEA ليصبح وظيفياً

أنشئ IAEA بموجب قانون دولي عام ١٩٥٧، أي بعد عامين من اقتراح الرئيس أيزنهاور برنامج الذرة من أجل السلام في خطابه عام ١٩٥٣ أمام الجمعية العامة لـUN. حدد النظام الأساسي التأسيسي ولاية (تعزيز الاستخدامات السلمية للطاقة النووية مع ضمان عدم تحويلها إلى أسلحة) وأنشأ مجلس المحافظين والمؤتمر العام كهيئتين حاكمتين للوكالة.

أجرى IAEA أول عمليات تفتيش للضمانات عام 1961، بعد أربع سنوات من تأسيسه، وشملت عددا قليلا من مفاعلات البحوث في أوروبا الغربية. وكان نظام الضمانات المطبق بدائيا بمعايير لاحقة: راجع المفتشون سجلات المنشآت وأجروا محاسبة للمواد النووية، لكنهم كانوا يتمتعون بحقوق محدودة في الوصول المادي ولا يملكون قدرة على الرصد البيئي. وكان النظام كافيا للبحوث النووية السلمية في بيئة التكنولوجيا في الخمسينيات والستينيات؛ ولم يكن كافيا للكشف عن برنامج أسلحة مصمم.

جاء التوسع الحاسم في قدرات IAEA لا من قانون تأسيس الوكالة بل من أعقاب الفشل. فقد كشف برنامج العراق السري للأسلحة النووية، الذي اكتشف أثناء وبعد حرب الخليج عام ١٩٩١، أن عمليات التفتيش الروتينية لـIAEA قد فاتتها تماماً برنامج كان يتقدم نحو سلاح نووي. وكانت الاستجابة البروتوكول الإضافي المعتمد عام ١٩٩٧، الذي وسع حقوق التفتيش إلى مواقع غير معلنة وأضاف أخذ العينات البيئية كأداة قياسية. وتختلف مؤسسة IAEA التي كانت موجودة قبل ١٩٩٧ وتلك التي وجدت بعده اختلافاً جوهرياً فيما تستطيع كشفه.

الدرس المستفاد هو أن مؤسسات الرصد الدولية تطور قدراتها الحقيقية استجابة للإخفاقات التي تكشف حدود تصميمها الأولي. فالهيكل التأسيسي يرسي الإطار، بينما تتراكم الفعالية التشغيلية على مدى عقود من خلال الإصلاحات التي يدفعها الفشل.

ما الذي يحتاجه OPCW ليصبح وظيفياً

أُنشئ OPCW عندما دخلت اتفاقية الأسلحة الكيميائية حيز التنفيذ عام ١٩٩٧. بخلاف IAEA الذي سبق إطاره المعاهدي الرئيسي، صُمم OPCW منذ البداية كهيئة تحقق لمعاهدة قائمة ذات التزامات محددة. أعطى ذلك المؤسسة تفويضات أولية أوضح ونطاقا تشغيليا أكثر تركيزا.

تطلبت OPCW عملاً تحضيرياً كبيراً قبل أن تتمكن من إجراء عمليات التفتيش الأولى. ويحدد ملحق التحقق التابع للمعاهدة، الذي يمتد لمئات الصفحات، بالتفصيل إجراءات أنواع التفتيش المختلفة وحقوق المفتشين والتزامات الدول المفتشة ومعالجة المعلومات السرية. واستغرق تحويل هذه الإجراءات إلى بروتوكولات تشغيلية وتدريب فرق المفتشين وإنشاء أنظمة اتصال آمنة وبناء مختبرات تحليلية قادرة على تحديد العوامل الكيميائية في العينات البيئية والتفاوض على اتفاقات المنشآت مع أولى الدول الحائزة على مخزونات كبرى سنوات من العمل الذي أعقب دخول المعاهدة حيز التنفيذ.

بدأت أولى بعثات التحقق من التدمير لدى OPCW، التي تراقب إزالة US ومخزونات الأسلحة الكيميائية الروسية، في أواخر التسعينيات واستمرت لأكثر من عقدين. تطلبت التعقيدات التقنية لتدمير الأسلحة الكيميائية بأمان، وتحديات التحقق التي فرضتها، تكيفا مؤسسيا مستمرا طوال تلك الفترة. ما يقوم به OPCW اليوم يعكس خمسة وعشرين عاما من الخبرة التشغيلية التي لم تكن موجودة عندما تولى مديره العام المؤسس منصبه.

قرارات التصميم الأكثر أهمية

ستواجه وكالة مراقبة دولية للذكاء الاصطناعي مجموعة من قرارات التصميم المؤسسي الأساسية التي ستحدد فعاليتها على المدى الطويل. هذه القرارات ليست تقنية؛ إنها سياسية وتنظيمية، ويجب اتخاذها بشكل صحيح قبل أن تفتح المؤسسة أبوابها.

نطاق التفويض هو القرار الأول. ويمكن تصميم وكالة مراقبة بشكل ضيق، تركز على التحقق من إعلانات تدريب الذكاء الاصطناعي المتطور فوق عتبات حوسبة محددة، أو بشكل واسع، بسلطة تقييم أنظمة الذكاء الاصطناعي من حيث خصائص السلامة ونشر نتائج عن مشهد سلامة الذكاء الاصطناعي العالمي. والتفويض الضيق أسهل سياسيا وأبسط تنفيذا. أما التفويض الواسع فيمنح المؤسسة تأثيرا حوكميا أكبر لكنه يتطلب ميزانية أكبر وموظفين أكثر تنوعا وتوافقا سياسيا أوسع حول ما يُسمح للوكالة بقوله. كان تفويض IAEA ضيقا في البداية ثم توسع؛ وظل تفويض OPCW مركزا. وقد نجح كلا النموذجين في سياقيهما.

هندسة الاستقلال هي القرار الثاني. وتختلف المنظمات الدولية كثيرا في مدى عزلها عن الضغط السياسي للقوى الكبرى. وتعني بنية حق النقض في مجلس الأمن التابع للأمم المتحدة أن الأعضاء الخمسة الدائمين يستطيعون منع أي إجراء للمجلس. ويملك مجلس محافظي الوكالة الدولية للطاقة الذرية بنية مرجحة تمنح الدول الكبرى نفوذا غير متناسب. وتملك الوكالة الدولية للطاقة الذرية بنية حوكمة أكثر ديمقراطية حيث تتساوى أصوات جميع الدول الأطراف في مؤتمر الدول الأطراف. وتكون وكالة مراقبة ذكاء اصطناعي يمكن للدول ذات أكبر برامج ذكاء اصطناعي منع قراراتها الرئيسية مؤسسة أضعف من مؤسسة تتمتع بمدير عام مستقل وموظفين تقنيين يتصرفون وفق حكمهم المهني.

نموذج التمويل هو القرار الثالث. تُموَّل المنظمات الدولية من خلال مساهمات مقدرة من الدول الأعضاء، تتناسب مع ناتجها المحلي الإجمالي وعوامل أخرى، مع مساهمات طوعية تكمل الميزانية المقدرة لبرامج محددة. تُتفاوض ميزانيات المساهمات المقدرة سنوياً وتخضع للضغط السياسي: يمكن للدول الأعضاء التي تعترض على أنشطة الوكالة حجب المساهمات أو التصويت لتخفيض الميزانية. تبلغ الميزانية العادية لـIAEA حوالي 500 مليون USد سنوياً؛ بينما تبلغ ميزانية OPCW حوالي 70 مليون يورو. ستحتاج وكالة مراقبة الذكاء الاصطناعي ذات القدرة التقنية الجادة إلى ميزانية في هذا النطاق أو أعلى، ومسألة استقرار التمويل (كيفية الحفاظ على ميزانية الوكالة عبر الدورات السياسية في الدول المساهمة الرئيسية) تتطلب إجابة تصميمية.

السلطة القانونية للمفتشين هي القرار الرابع. لا يستطيع المفتشون سوى ما تخوله لهم المعاهدة. منحت اتفاقات الضمانات الأولية لـIAEA المفتشين حقوق وصول محدودة جرى توسيعها بالبروتوكول الإضافي؛ ولا يزال المفتشون العاملون بموجب اتفاقات قديمة بدون البروتوكول الإضافي يتمتعون بحقوق أقل. سيحتاج مفتشو وكالة مراقبة الذكاء الاصطناعي إلى حقوق وصول محددة بوضوح (إلى المنشآت والسجلات وسجلات الأجهزة والأفراد)، ويجب أن تحدد المعاهدة المنشئة للوكالة هذه الحقوق بوضوح، لأن الغموض سيُحل عملياً لصالح الطرف الخاضع للتفتيش.

بناء القدرة التقنية قبل المعاهدة

أحد الدروس المستفادة من كل من IAEA وOPCW هو أن القدرة التقنية لا يمكن ارتجالها بعد إنشاء المؤسسة. استفادت كلتا الوكالتين من وجود مجتمعات علمية وتقنية قائمة مسبقاً يمكنها تزويدهما بالكوادر: الفيزياء النووية والهندسة النووية لـIAEA، والكيمياء التحليلية لـOPCW. كانت الخبرة اللازمة للتحقق من الالتزامات بعدم الانتشار النووي أو لتحديد عوامل الأسلحة الكيميائية في عينات التربة موجودة في الجامعات والمختبرات الوطنية قبل أن تحتاج إليها هيئات التحقق الدولية.

المجتمع التقني المكافئ للتحقق من حوكمة ASI، أي الأشخاص القادرين على تقييم أنظمة الذكاء الاصطناعي الحدودية من حيث خصائص السلامة، وتدقيق سجلات التدريب، وتصميم بروتوكولات مراقبة الأجهزة لعناقيد الحوسبة الكبيرة، مجتمع صغير ويكاد يكون موجودا كله في شركات الذكاء الاصطناعي الخاصة وعدد قليل من المؤسسات الأكاديمية. بناء قاعدة الخبرة التي يمكن لوكالة مراقبة دولية أن تجند منها هو في حد ذاته مهمة حوكمة تسبق تأسيس المؤسسة.

هذا أحد الأسباب التي تجعل معاهد السلامة الوطنية للذكاء الاصطناعي، مثل معهد أمن الذكاء الاصطناعي التابع لـUK (الذي أُنشئ عام 2023 باسم معهد سلامة الذكاء الاصطناعي)، مهمة لمشروع الحوكمة طويل الأمد. فهي تبني منهجية التقييم، والخبرة المؤسسية، والمجتمع المهني الذي ستحتاج إليه وكالة مراقبة دولية مستقبلية. ويجري وضع الأساس التقني للمراقبة الدولية، بشكل جزئي وغير كامل، قبل أن تتوافر الظروف السياسية لمعاهدة ومؤسسة.

"لا يمكن إنشاء هيئة تحقق في عام واحد. فالأساليب التقنية والموظفون المدربون والإجراءات التشغيلية والأطر القانونية يجب تطويرها على مدى زمني. وحان وقت البدء الآن لا بعد توقيع المعاهدة."

وكالة مراقبة الذكاء الاصطناعي العالمية مؤسسة تتطلب قرارات تصميم محددة والتزامات موارد محددة وسلطات قانونية محددة وقدرات تقنية محددة لتعمل، وليست هدفا طوباويا بعيدا. ويثبت IAEA وOPCW أن مثل هذه المؤسسات يمكن بناؤها ويمكن أن تعمل. كما يثبتان أن بناءها يستغرق وقتا أطول مما توحي به نصوص المعاهدات، ويتطلب استثمارا سياسيا مستمرا عبر دورات قيادية متعددة، ويطور قدراته الحقيقية استجابة لإخفاقات تكشف حدود تصميمه الأولي. ومن يدعون إلى وكالة مراقبة دون الخوض في أسئلة التصميم المؤسسي هذه يصفون أمنية لا خطة.

أقوى المعارضات

الاعتراض الأكثر عدلاً هو أن الدول لن تقبل أبداً بوجود مفتشين قرب أثمن قدراتها الحاسوبية. قالوا أشياء مشابهة قبل ضمانات الأسلحة النووية. الخوف المشترك من الانفلات، بالإضافة إلى حرمان المنشقين من الأجهزة، هو الطريقة التي لا تزال بها الأطراف المترددة تبني قدرات مراقبة. وكالة بدون وصول هي مجرد شعار. الوصول هو مشكلة التصميم التي تستحق الحل.