يطرح معظم أبحاث سلامة الذكاء الاصطناعي السؤال نفسه: كيف نجعل هذا النموذج أكثر أماناً؟ تدريب أفضل، محاذاة أفضل، تقييم أفضل. الافتراض المضمن في هذا السؤال هو أن نموذجاً أكثر أماناً ينتج سلوكاً أكثر أماناً عند نشره في نظام حقيقي مع وكلاء ومستخدمين آخرين.
أدى إعادة ترتيب الوكلاء الأربعة نفسها إلى تغيير بنسبة 59 نقطة مئوية في معدلات الموافقة.
"الموقف: تعتمد السلامة والإنصاف في الذكاء الاصطناعي الوكيلي على طوبولوجيا التفاعل، لا على حجم النموذج أو التوافق" (arXiv:2605.01147)، المقدم إلى arXiv في 1 مايو 2026 من قبل تاناف سينغ باجاج ونيخيل سينغ وكاران أناند وإيشكاران سينغ، يتحدى هذا الافتراض مباشرة. نتيجتهم: في أنظمة الذكاء الاصطناعي متعددة الوكلاء، يتجاوز هيكل اتصال الوكلاء وتفاعلهم خصائص السلامة لأي نموذج فردي. يمكن للنماذج المتوافقة جيداً أن تنتج مخرجات غير آمنة كارثياً، فقط بسبب طريقة توصيل النظام.
أنماط الفشل الثلاثة
اختبر الباحثون أنظمة موافقة قروض متعددة الوكلاء عبر ٥٧٦٠ طلب ائتمان اصطناعي باستخدام نماذج تتراوح من ٣ مليارات إلى ٧٠ مليار معامل. وحددوا ثلاثة أنماط فشل متميزة، كل منها غير مرئي للتقييم الأمني القياسي على مستوى النموذج.
ترتيب عدم الاستقرار
في خطوط أنابيب الوكلاء المتسلسلة، يحدد تسلسل الأدوار النتيجة بقدر ما تحددها جودة التفكير. فبالنسبة لنماذج لاما-٣ب تراوحت معدلات الموافقة من ٣٦٫٤٪ إلى ٩٥٫٤٪ عبر الترتيبات الأربعة والعشرين الممكنة لأربعة أدوار: أي فارق قدره ٥٩ نقطة مئوية. وحتى عند حجم ٧٠ب بلغ الفارق ٢١٫٧ نقطة مئوية (من ٧١٫٥٪ إلى ٩٣٫٢٪). فالنماذج نفسها والمهمة نفسها والتطبيقات نفسها تعطي مخرجات مختلفة تماما حسب أي وكيل بدأ أولا.
كان النمط ثابتاً: وضع مدير المخاطر أولاً أنتج أدنى معدلات الموافقة، بينما أنتج وضع عالم البيانات أولاً أعلى المعدلات. لا يلغي أي قدر من أعمال المحاذاة على النماذج الفردية هذا التأثير، لأنه خاصية لتسلسل خط الأنابيب لا للنماذج.
تتالي المعلومات
في الأنظمة المتسلسلة، يتبع الوكلاء اللاحقون الوكلاء السابقين بدلا من التفكير بشكل مستقل. أظهرت النماذج الصغيرة 3B اتفاقا بين الوكلاء يقارب 90% مع تصحيح أخطاء بنسبة 20%، مما يشير إلى أنهم كانوا لا يزالون يجرون بعض التقييم المستقل. عند 70B وما فوق، ارتفع الاتفاق بين الوكلاء إلى أكثر من 99.9%، مع انهيار تصحيح الأخطاء إلى أقل من 0.1%.
توقف التداول فعلياً. فقد انتقل حكم الوكيل الأول عبر الأنبوب دون تغيير، بينما قدم الوكلاء المتبقون مظهر المراجعة دون أي جوهر. وشكلت النماذج الأكثر قدرة توافقاً أسرع وأكثر اكتمالاً، مما ضخم هذا الفشل تحديداً بسبب قدرتها الأكبر على الوصول إلى اتفاق متماسك.
الانهيار الوظيفي
في ظل الطوبولوجيا المتوازية مع تجميع الحكام، أنتجت نماذج LLaMA-3B موافقة إجمالية تقارب ٩٨٪ عبر فئات الائتمان، حيث حصل المتقدمون ذوو الائتمان المنخفض على موافقة بنسبة ٩٥٪ والمتقدمون ذوو الائتمان المرتفع على ١٠٠٪. وفق مقاييس التكافؤ الديموغرافي، يبدو هذا نظاماً عادلاً غير تمييزي. عملياً، توقف النظام عن التمييز تماماً. أصبح تقييم المخاطر إجراءً شكلياً يُرضى بالموافقة العشوائية لا بالتقييم العادل.
تعزز زيادة قدرة النموذج حالات الفشل الناتجة عن البنية بدلا من تخفيفها. تخصص النماذج الأكثر قدرة معالجة أكبر لبناء توافق جماعي متماسك وأقل للتقييم المستقل. عند مقياس سبعين مليار معامل، يعني الاختفاء شبه الكامل للتداول المستقل أن النظام متعدد الوكلاء يعمل كنظام وحيد الوكيل بخطوات إضافية، ولا يرث أي فوائد أمان من المفترض أن توفرها مراجعات مستقلة متعددة.
الفجوة التنظيمية التي يخلقها هذا
تقيم أطر سلامة الذكاء الاصطناعي الحالية النماذج. تقيم مخرجات النماذج، وتقيس توافق النماذج، وتصدق على سلوك النماذج. تقع بنية التفاعل التي تربط نماذج متعددة بالكامل خارج إطار التقييم هذا.
يصف مؤلفو الورقة هذا بأنه مشكلة أساسية ويقدمون أربع توصيات حوكمة ملموسة. يجب أن يتطلب اعتماد السلامة عمليات مسح طوبولوجية عبر الاختلافات المعمارية. يجب أن تحدد المعايير بوضوح هيكل التفاعل الذي يتم اختباره. يجب أن يتطلب النشر اختبار المتانة المعمارية قبل الإصدار. يجب أن يفرض الإفصاح التنظيمي توثيق معماريات النظام والاستقرار المثبت عبر اختلافات الطوبولوجيا.
الحجة الأساسية: يجب التعامل مع الذكاء الاصطناعي الوكيلي كنظام ديناميكي لا كمجموعة من المكونات المتوافقة. طوبولوجيا التفاعل معلمة أمان لا تقيسها طرق التقييم الحالية. المنظمون والناشرون يدققون في الشيء الخطأ.
ماذا يعني هذا عمليًا
تمثل سيناريوهات الموافقة على القروض فئة واسعة من عمليات النشر الواقعية. تستخدم أنظمة الذكاء الاصطناعي متعددة الوكلاء الآن في التوظيف والفرز الطبي ومراقبة المحتوى والبحث القانوني والامتثال المالي. في معظم هذه السياقات، ترتبط نماذج معتمدة أو مقيمة فرديا عبر معماريات لم تحظ بتدقيق مكافئ.
يشير التغير بنسبة تسع وخمسين نقطة مئوية في معدلات الموافقة على القروض الناتج عن إعادة ترتيب الوكلاء إلى حالات عدم استقرار هيكلية مماثلة في قرارات خطوط الأنابيب عالية المخاطر الأخرى. فأي نظام فرز طبي ذاتي يستخدم مراجعة متسلسلة للوكلاء يواجه عدم استقرار في الترتيب. وأي خط أنابيب لفحص التوظيف يعتمد على التصويت المتوازي للوكلاء يواجه انهيارا وظيفيا. ويعد هيكل خط الأنابيب معلما أمنيا لا تلتقطه التقييمات الحالية على الإطلاق.
الهيكل معيار سلامة. تعامل مع تصميم خط الأنابيب كما تتعامل مع اختيار النموذج: اختبره، نظمه عندما تكون المخاطر عالية، ولا تشحن أنظمة متعددة الوكلاء إلى الطب أو الائتمان بناءً على درجات النموذج وحدها. لمشكلة التحكم الأوسع، انظر خطتنا. الورقة الكاملة: arXiv:2605.01147.
أقوى المعارضات
الاعتراض الأكثر عدلاً هو أن اختيار النموذج بعناية لا يزال يهيمن، وترتيب خط الأنابيب تعديل من الدرجة الثانية. تأرجح بـ59 نقطة من إعادة ترتيب الوكلاء ليس من الدرجة الثانية. الهيكل معيار سلامة من الدرجة الأولى. قيّم الطوبولوجيا، لا الأوزان فقط.