قبل اعتماد نوع طائرة ركاب تجارية لنقل الركاب، تطالب الجهات التنظيمية بحجة سلامة منظمة: ادعاءات وتفكير وأدلة كافية للرفض. في المملكة المتحدة، لا يزال ترخيص المواقع النووية يمر عبر ملف سلامة يجب أن تقبله هيئة التنظيم النووي قبل التشغيل. تتبع العديد من الأجهزة الطبية العبء نفسه. لا يُسمح للمشغل بالتشغيل أولا ثم التفسير لاحقا. يأتي الإذن بعد ملف نجا من مراجعة عدائية.
حالة سلامة الذكاء الاصطناعي تستعير ذلك الشكل. إنها حجة منظمة مدعومة بالأدلة تفيد بأن نظاما معينا آمن بما يكفي لتدريبه أو نشره في بيئة معينة. عند تطبيقها على النماذج المتقدمة، فإنها تفرض على البناة تقديم حجة إيجابية. لم يعد الآخرون مضطرين لإثبات الخطر قبل أن يضغط أحد على المكابح. يجب على البناة إظهار السلامة، أو التوقف.
ما الذي يحتويه ملف سلامة الذكاء الاصطناعي الحقيقي
الحالة الجادة أكثر من مجرد قائمة تحقق. لها شكل.
- ادعاء: هذا النموذج، المستخدم بهذه الطريقة، لا يشكل خطراً غير مقبول للأضرار المحددة.
- حجة: الاستدلال الذي يربط الأدلة بالادعاء، بما في ذلك كيفية التعامل مع المخاطر المحددة ولماذا تكون الضمانات كافية.
- الدليل: نتائج من تقييمات القدرات, اختبارات الفريق الأحمر، والتدابير الأمنية، والتحليل الذي يعتمد عليه الحجة.
يجب أن يذكر الافتراضات ونقاط الفشل أيضًا. الحجة الجيدة قابلة للتفنيد. تخبر المراجع بما يجب أن يكون صحيحًا حتى يصمد الاستنتاج، فيتمكن المراجع من التحقق مما إذا كانت تلك الشروط قائمة فعلًا. بدون ذلك، مجرد تمثيل.
لماذا هذا التخصص ذو قيمة
تدوين الحجة يكشف الثغرات التي يمكن أن تخفيها مذكرة إصدار واثقة. يصعب التغاضي عن خطر ما عندما يتوجب عليك بناء تفكير صريح يعالجه. تتوافق الطريقة مع كيفية تحسن مجالات الخطر العالي الأخرى: بالتفكير في المخاطر قبل التشغيل، لا فقط بعدد الحوادث بعد وقوعها. كما أنها تتناسب مع منطق العتبة لـ سياسات التوسع المسؤول, ، حيث يجب أن يؤدي تجاوز خط القدرة إلى إثارة قضية قوية بما يكفي لتبرير الخطوة التالية.
الاعتراض الشعبي، المسمى
الاعتراض عملي: امنح العلم بضع سنوات إضافية من التقييمات والقابلية للتفسير، ثم ستكتب حالات السلامة نفسها؛ واشتراطها الآن يبطئ فقط الأنظمة المفيدة. وفي هذا الرأي، يجب أن تتبع الأوراق الدليل، لا أن تقوده.
في مجال الطيران يمكن الاستناد إلى علم ناضج ومعدلات فشل معروفة وفيزياء مفهومة وبيانات أسطول تمتد لعقود. أما بالنسبة لنموذج الحدود فتواجه الحجة الصادقة قلة ما يمكن إثباته حالياً. لا نستطيع بعد أن نثبت أن نموذجاً قادراً غير متوافق خادع. ولا نستطيع استبعاد قدرات لم يخطر لأحد اختبارها. ولا نستطيع إثبات أن سلوكه في التقييم سيبقى كما هو عند النشر، خاصة إذا كان النظام التقليل المتعمد للأداء.
ستحتاج حالة صارمة لنموذج متقدم بما يكفي إلى ضمانات لا يستطيع العلم الحالي تقديمها. لذا غالباً ما ينتج المحاولة الصادقة، كمخرج حقيقي لها، بياناً واضحاً بسبب عدم إمكان إثبات سلامة النظام بعد. والأوراق تؤدي مهمتها حين ترفض ختم نظام فيه فجوة.
قيمة حالة السلامة هي الإذن بالرفض.
لماذا تدعم المؤسسة هذه
نظام حوكمة مبني على حالات السلامة يرفض اعتبار عدم القدرة على إثبات الخطر ترخيصا للمضي قدما. يقع العبء على البنّاء. إذا لم يستطع البنّاء الوفاء به، فالإجابة ليست تدريب القفزة التالية والأمل. يجب أن تكون حالات السلامة إلزامية، ومراجعتها مستقلة بدلا من التقييم الذاتي، ومطلوبة قبل أكبر جولات التدريب، لا بعد إطلاق المنتج.
عندما تُجعل ملزمة بهذا الشكل، تصبح واحدة من أقوى الأدوات المتاحة. ولهذا السبب تظهر في التصميم الأوسع لـ خطتنا.