نشر Anthropic أول سياسة للتوسع المسؤول في سبتمبر 2023. افتح الوثيقة وستظهر البنية في العناوين قبل أن تظهر البلاغة. تسمى مستويات القدرة مسبقا. يقترن كل مستوى بضمانات من المفترض أن تفعل عندما تقول التقييمات إن النموذج تجاوز الخط: أمن أوزان أصعب، وقواعد نشر أشد، واختبارات حمراء أعمق، وفي المستويات العليا التزام كتابي بعدم التدريب أو الإصدار حتى تكون الحمايات المحددة في مكانها. والاسم المختصر في الصناعة هو RSP. وغالبا ما تسمى المنطق الأساسي التزامات إذا-حينئذ.
نشرت المختبرات الحدودية الرائدة النسخ الأشهر، وانتشر التنسيق. عادة ما تتراوح المستويات من أنظمة تشبه تقريباً أنظمة اليوم إلى نماذج قد تساعد بشكل ملموس في صنع سلاح بيولوجي أو هجوم سيبراني خطير أو استقلالية خطرة. الوثيقة تهدف إلى الإجابة عن سؤال بسيط قبل الطوارئ: عندما ترتفع القدرات، ماذا تفعل الشركة بالضبط؟
لماذا يُعد التنسيق تحسنًا حقيقيًا
مقارنة بوعد عام بأخذ السلامة على محمل الجد، فإن خطة التوسع المسؤول أكثر تحديدا. تسمي القدرات والعتبات والاستجابات مسبقا، مما يحول مزاجا إلى شيء يستطيع الخارجيون الإشارة إليه. إنها استباقية. يجب على المختبر أن يقرر ما ستكلفه قدرة خطيرة قبل أن يصل اندفاع الاكتشاف ودورة الصحافة معا.
يربط التنسيق أيضًا الكلمات بالاختبارات من خلال تقييمات القدرات الخطرة, ، لذا تمتلك العتبات معنى تشغيليًا لا شعارًا. وتذهب بعض السياسات أبعد فتلتزم بوقف التطوير إذا لم تواكب الضمانات القدرة. ووضع تلك الجملة في وثيقة عامة يعد تقدمًا حقيقيًا.
الاعتراض الشعبي، المسمى
أقوى حجة لصالح سياسات السلامة المسؤولة تقول: القواعد العلنية المحددة المعلنة مسبقًا هي كيف تنضج الصناعات؛ والمطالبة بقانون خارجي قبل أي سياسة داخلية هي سخرية تجمد التقدم. وعلى هذا الرأي، تمثل سياسات السلامة المسؤولة دستور السلامة الحدودية، والخطوة الصحيحة هي تشجيع المزيد منها بدلًا من رفض مؤلفيها.
صحيح، والضعف لا يزال بنيويًا. فالمختبر نفسه يكتب السياسة، ويحدد العتبات، ويجري التقييمات، ويحكم ما إذا كان الخط قد تجاوز، ويقرر ما إذا كانت ضماناته كافية، ويحتفظ بسلطة مراجعة النص. وعندما يصطدم الضغط التجاري للشحن بالتزام صاغه المختبر ويديره، لا يوجد طرف مستقل يمسك بالصافرة.
التاريخ لا يفضل القراءة المتفائلة. سجل تعهدات السلامة الطوعية للشركات تحت الضغط التنافسي، كما تم تتبعه في مقالتنا عن التزامات طوعية, سجل للمعايير التي تلين عندما تبدأ في العض. قاعدة إذا-ثم قوية فقط بقدر الثم، والثم يُنفذ من قبل الطرف الذي يستفيد من إضعافه. القاعدة التي تضعها وتقيسها ويمكنك تعديلها بنفسك هي بيان نية. إنها ليست قيدًا.
ثغرتان إضافيتان تقعان تحت الوثيقة. تعتمد خطط السلامة المسؤولة على التقييمات لاكتشاف تجاوز العتبة، لذا فإن كل ما يحد من التقييمات (بما في ذلك التقليل المتعمد للأداء, والقدرات غير المعروفة، وصعوبة إثبات السلامة) تحد من السياسة المبنية عليها. كما أن سياسة السلامة المسؤولة لا تلزم إلا المختبر الذي يتبناها. أما المنافس الذي يرفضها، أو برنامج حكومي خارج هذه الثقافة، فلا يمسه شيء. ولا تستطيع شركة واحدة حل مشكلة التنسيق هذه بمفردها.
كيف تقرأها المؤسسة
احتفظ بالآلية الجيدة. أعد استخدام منطق العتبة وهيكل إذا-حين والربط بالتقييمات. غير من يمسك القلم ومن ينفذ الإيقاف. انقل تلك المحفزات من سياسة طوعية إلى قانون ملزم، مدعوم بهيئة مستقلة وبـ حوكمة الحوسبة, لذا لا يمكن لمختبر أن يعدل سقفه بهدوء عندما يصبح السقف غير مناسب.
عامل السياسات كمسودات لقواعد قابلة للتنفيذ، ثم أنهِ المهمة خارج المختبر: قانون ملزم، وإنفاذ مستقل، وضوابط حوسبة. ذلك الانتقال هو ما خطتنا هو ل.