معهد سلامة الذكاء الاصطناعي هيئة حكومية أُنشئت لتقييم أنظمة الذكاء الاصطناعي الحدودية من حيث المخاطر على الأمن القومي والسلامة العامة، ولبناء خبرة الدولة الخاصة في الذكاء الاصطناعي الحدودي. تركزت الموجة الأولى حول قمة الذكاء الاصطناعي الدولية ٢٠٢٣. تشارك المعاهد الآن الأساليب والنتائج عبر شبكة دولية دفعتها سيول والاجتماعات اللاحقة إلى الأمام.
تدير عدة عواصم كبرى الآن معهداً أو ما يعادله. ولا يزال معظمها عاجزاً عن إصدار أمر بإيقاف نموذج خطير.
ملاحظة حول الأسماء: أعيدت تسمية المعهدين المؤسسين. أصبح جسم UK معهد أمن الذكاء الاصطناعي في فبراير 2025. وأصبح معهد US الآن مركز معايير الذكاء الاصطناعي والابتكار (CAISI) في NIST. ويظل مصطلح "معهد سلامة الذكاء الاصطناعي" التسمية العامة القياسية، ويستخدمه هذا الدليل طوال الوقت.
لسنوات كانت المنظمات الوحيدة التي تفهم نماذج الحدود بعمق هي الشركات التي تبنيها. والمعهد محاولة لوضع قدرة تقنية مستقلة داخل الحكومة، حتى تستطيع السلطات العامة تقييم الأنظمة بدلاً من قبول إحاطة المطور كآخر كلمة.
ما يفعلونه فعلياً
يتجمع عملهم في بضع مجالات.
- اختبار النماذج الحدودية، أحيانًا قبل الإصدار، للقدرات الخطرة في مجالات مثل السيبراني، البيولوجيا، والاستقلالية، باستخدام الطرق وراء تقييمات القدرات.
- تطوير علم التقييم نفسه، لأن قياس هذه المخاطر بشكل جيد لا يزال مشكلة بحثية مفتوحة، لا إجراءً محسوماً.
- تقديم المشورة للحكومة، حتى تكون السياسات مستنيرة من قبل أشخاص فحصوا الأنظمة فعليًا.
- التنسيق دوليًا، حتى لا يحتاج نموذج تم اختباره في بلد واحد إلى إعادة بنائه من الصفر في كل مكان، وحتى تبدأ المعايير في التقارب.
هذا تقدم مؤسسي حقيقي. فبناء قدرة الدولة على فهم الذكاء الاصطناعي المتقدم شرط أساسي لحوكمته. ولا يمكن تنظيم ما لا يمكن تقييمه، وحتى وقت قريب كانت الحكومات في الغالب عاجزة عن ذلك.
القوة التي يفتقرون إليها في الغالب
تستطيع معظم معاهد سلامة الذكاء الاصطناعي الاختبار والمشورة والنشر. قليل منها يستطيع الإلزام. غالباً ما يعتمد الوصول إلى النماذج على تعاون المختبرات. وعادة ما تُعلم النتائج بدلاً من أن تُلزم. في معظم الحالات لا تستطيع المعهد أن يأمر بحجب نموذج خطير. تستطيع هذه الهيئات رؤية الخطر والتوصية برد. ونادراً ما تستطيع فرضه.
تلك الفجوة بين التقييم والسلطة هي الحد الهيكلي. إن معهداً يكتشف خطراً جسيماً ولا يستطيع سوى تقديم المشورة لا يكون فعالاً إلا بقدر إرادة الحكومة في التصرف ضد الضغوط التجارية والتنافسية للاستمرار. كثير من البنية الحالية هو نظام إنذار. ونظام الإنذار ليس ضمانة حتى يرد شخص ذو سلطة على الجرس.
الاعتراض الشعبي هو أن القدرة التقنية كافية، والسياسة ستلحق. القدرة بلا سلطة هي الطريقة التي تتعلم بها الحكومات الأخبار السيئة متأخرة وتتصرف لاحقا. الاختبار الذي لا يستطيع فرض التوقف هو إعداد للحوكمة، لا الحوكمة نفسها.
ما يمكن أن يصبحوا عليه
تكمن القيمة الدائمة لمعاهد السلامة في الذكاء الاصطناعي فيما تجمعه للأنظمة الملزمة لاحقاً: القدرة التقنية المستقلة والمعايير المشتركة والقناة الدولية بين الحكومات. وبهذا المعنى فهي الشكل المبكر لنوع الهيئة التي تدعو إليها المؤسسة. مقالتنا عن وكالة مراقبة دولية يصف أين يمكن أن يؤدي هذا. ال IPCC نموذج يظهر كيف يمكن للتقييم العلمي المشترك أن يدعم السياسة الدولية.
ما يجب تغييره هو السلطة. يجب أن يرتبط التقييم بالإنفاذ، سواء من خلال قانون محلي يجعل موافقة المعهد شرطا للنشر، أو من خلال إطار دولي يمنح النتائج الموثقة عواقب حقيقية. امنح هذه المعاهد قوة تتناسب مع خبرتها، وسيكون الكثير من هيكل الحوكمة الجاد قد بني جزئيا بالفعل. وهذا الانتقال هو موضوع خطتنا: وقف الذكاء الفائق بموجب القانون، مع جعل قدرة التقييم العام بنية تحتية لا بديلاً عن الحظر والتحقق.