مشكلة متكررة في حوكمة ASI هي أن الحكومات افتقرت تاريخيا إلى الخبرة الداخلية لتقييم الأنظمة التي من المفترض أن تنظمها. وتوجد معاهد السلامة لسد هذه الفجوة. فهي هيئات حكومية أو مدعومة حكوميا يعمل فيها باحثون تقنيون مهمتهم تقييم قدرات ومخاطر النماذج الحدودية، حيث تبني الدولة أخيرا القدرة على رؤية ما تبنيه المختبرات بدلا من الاعتماد على كلمتها.
بدءًا من UK وUS في أواخر 2023، تكاثرت معاهد السلامة الوطنية للذكاء الاصطناعي وارتبطت بشبكة دولية. إنها غير مثيرة للإعجاب، وقد تكون أهم بنية تحتية حوكمية أُنشئت حتى الآن.
من أين أتت الشبكة
أعلنت المملكة المتحدة عن معهد سلامة الذكاء الاصطناعي التابع لها حول قمة بليتشلي في نوفمبر 2023، وهو الأول من نوعه. أنشأت الولايات المتحدة معهدها الخاص في المعهد الوطني للمعايير والتكنولوجيا بعد فترة وجيزة. في قمة سيول في مايو 2024، وافقت مجموعة أوسع من الحكومات (بما في ذلك اليابان وسنغافورة وكندا وكوريا الجنوبية وEU وغيرها) على بناء معاهد وربطها في شبكة دولية لمواءمة عملها. ما بدأ كهيئتين وطنيتين أصبح بذرة نظام تعاوني.
ملاحظة حول الأسماء: أُعيدت تسمية المعهدين المؤسسين منذ ذلك الحين، فأصبح معهد UK الآن معهد أمن الذكاء الاصطناعي، وأصبح كيان US مركز معايير الذكاء الاصطناعي والابتكار (CAISI) في 2025. ويستمر العمل الشبكي وأعمال التقييم تحت الأسماء الجديدة.
ما الذي تفعله المعاهد فعليًا
- تقييم نماذج الحدود. يختبرون الأنظمة المتقدمة للقدرات الخطرة (بما في ذلك في المجالات عالية المخاطر) ويطورون الطرق لقياس ما يستطيع النموذج فعله فعلياً.
- تطوير علم التقييم. يشكل الاختبار الدقيق والموحد للذكاء الاصطناعي مشكلة تقنية لم تحل بعد. وتقوم المعاهد ببناء المنهجية التي تتطلبها الحوكمة الموثوقة.
- تقديم المشورة للحكومات. تمنح الدول حكمًا تقنيًا مستقلاً حول مخاطر الذكاء الاصطناعي، مما يقلل الاعتماد على تقييمات المطورين أنفسهم.
- التعاون عبر الحدود. من خلال الشبكة، تشارك المعاهد الأساليب وتنسق الاختبارات وتعمل نحو معايير مشتركة، بدايات التقييم الدولي القابل للتشغيل البيني.
لماذا تهم للمعاهدة
الصلة بين المعاهد واتفاق ملزم مستقبلي مباشرة وغير مقدرة حق قدرها. كل اقتراح جاد لمعاهدة ذكاء اصطناعي يعتمد على القدرة على تقييم ما إذا كان نظام ما يتجاوز عتبة خطيرة والتحقق من الامتثال لالتزامات السلامة. تلك القدرة لا توجد افتراضيا؛ بل يجب بناؤها. معاهد السلامة تبنيها بالضبط. إنها في الواقع تنشئ الأجهزة التقنية التي سيستخدمها نظام التحقق لاحقا.
كما أنها تحل مشكلة التسلسل. فمعاهدة تحدد متطلبات التقييم ستكون بلا قيمة إن لم يكن هناك هيئة مستقلة تستطيع إجراء التقييمات. وبتطوير هذه القدرة الآن (قبل وجود المعاهدة) تضمن المعاهد أن تكون الأدوات جاهزة حين يصل الاتفاق السياسي. والشبكة هي الأرضية العملية التي يمكن أن تقوم عليها الحوكمة الملزمة في نهاية المطاف، وهي تُرسى بهدوء بينما تتقدم الدبلوماسية الأعلى صوتًا بالتوازي.
الحدود التي يجب أن نكون صادقين بشأنها
لا تعد المعاهد بديلاً عن الحوكمة الملزمة، ومن الخطأ معاملتها كذلك. ويعتمد وصولها إلى النماذج عموماً على التعاون الطوعي للمطورين؛ فهي لا تستطيع إجبار اختبار نظام ترفض شركة مشاركته. وتتباين صلاحياتها ومواردها تبايناً كبيراً بين الدول، ولا يزال تنسيق الشبكة ناشئاً وغير ملزم. كما أن التقييم نفسه لا يزال غير ناضج علمياً، فتحديد ما إذا كان النموذج خطراً أمر صعب حقاً، والأساليب الحالية تعاني فجوات حقيقية.
معاهدة تتطلب تقييمات السلامة فارغة إذا لم يستطع أحد إجراءها. معاهد السلامة تبني العيون التي سيحتاجها أي نظام تحقق حقيقي. يجب أن يحدث هذا العمل قبل المعاهدة، لا بعدها.
البنية التحتية للحوكمة القابلة للتنفيذ
تمثل معاهد السلامة تحولا من الحديث عن مخاطر الذكاء الاصطناعي إلى بناء القدرة على قياسها. وهذا التحول مهم لأن الحوكمة بلا قياس مجرد أمنية. والمسار الواقعي هو أن تنضج الشبكة فتحصل على وصول مضمون إلى النماذج المتطورة بتفويض قانوني لا بحسن النية، وتتقارب على معايير مشتركة، وتبني قدرة التقييم المستقلة والمموّلة جيدا التي يحتاجها نظام التحقق. ولن تنقذ المعاهد وحدها العالم، لكنها تجمع الأدوات التي لا يمكن لأي معاهدة ملزمة أن تعمل بدونها، وتعزيزها من أكثر الأمور الملموسة والمفيدة فورا التي يمكن للحكومات القيام بها بينما لا يزال الاتفاق الأكبر قيد التفاوض.