صاغها بيتر إتش ديامانديس بوضوح، وأعاد إيلون ماسك نشرها: «لا يستطيع مواكبة الذكاء الاصطناعي إلا الذكاء الاصطناعي. هذا ما سيوجه نموذج الأمن بأكمله في العقد القادم». وبوصفها للسرعة، يصعب الجدال مع العبارة. فإصدارات النماذج تأتي أسرع من مجالس المراجعة الفصلية. ورمز الهجوم يتحور أسرع مما يستطيع محلل بشري قراءة التذكرة. وإذا كانت صورة المشكلة لديك هي حجم التصيد وتغير الثغرات، فمن الطبيعي أن يلجأ المدافع إلى الأتمتة. فالبشر لا يتوسعون بهذه الطريقة.
تبدأ المشكلة عندما يُطلب من الجملة نفسها أن تحمل وزن كل شيء التي تأتي بعد ذلك، بما فيها أنظمة تعمل كوكلاء وتخفي نواياها وتتفوق في النهاية على من بنوها. عند تلك النقطة يتوقف "الذكاء الاصطناعي وحده يستطيع اللحاق" عن أن يعني "استخدم أدوات أفضل ضد البرمجيات الخبيثة". ويصبح يعني أن نموذج الأمن في العقد القادم هو وضع مهمة الاحتواء في يد فئة الأنظمة التي كنت تحاول احتواءها.
ما يصيبه الشعار
ابدأ بالإنصاف. فالبرمجيات تتحرك بالفعل أسرع من المراجعة اليدوية. وتطلق عصابات الاحتيال حملات جديدة بين ليلة وضحاها. وتتقلص نوافذ الكشف عن الثغرات. وتشغل المختبرات ومزودو الحوسبة السحابية بالفعل ماسحات ومصنفات وكتيبات استجابة آلية لأن طابور البشر لا يستطيع مراقبة كل حزمة. وليس في ذلك كله مؤامرة، ولا يتطلب أي رأي في الذكاء الفائق. ولو كان ديامانديس يتحدث فقط عن الرسائل المزعجة وبرمجيات الفدية لانتهى المقال هنا.
لا يتحدث فقط عن البريد المزعج وبرامج الفدية. «نموذج الأمن الكامل للعقد القادم» ادعاء أكبر. إنه ادعاء عن كيفية نية الحضارة البقاء في السيطرة بينما تتراكم القدرات. هنا يتوقف الشعار عن كونه نصيحة تشغيلية ويصبح فلسفة سيطرة.
المطحنة
تصور النموذج سباقًا بين الهجوم والدفاع، وكلاهما آلي. يتدرب كل طرف على الآخر. تتحسن الدفاعات. تتحسن الهجمات. يظل لوحة القيادة خضراء حتى اليوم الذي لا تظل فيه كذلك. القصة المطمئنة هي أن الذكاء الاصطناعي الجيد يبقى متقدمًا على الذكاء الاصطناعي السيئ. أما القصة الأقل طمأنينة فهي أنك بنيت منظومة لا يشارك فيها بكفاءة إلا الآلات، والبشر عملاء لمسابقة لم يعودوا قادرين على التحكيم فيها.
هذا جيد لمضاد الفيروسات. إنه رهان حضاري بمجرد أن تضع الأنظمة أهدافًا، وتضع خططًا، وتعامل الرقابة كعقبة. نحن نرى بالفعل نسخًا مبكرة من النمط في تقييمات التآمر وفي النماذج التي يروي شيئًا بينما يحسن شيئًا آخر. "مواكبة" تفترض أنك لا تزال تستطيع معرفة ما تواكبه. بعد نقطة معينة، لا تستطيع.
نموذج أمني لا يعمل إلا إذا كان الحارس أذكى من السجين هو خطة خلافة بخطوات إضافية.
التنظيم ليس الاختناق الذي يسمونه
تصل الشعار عادة مع خطوة ثانية: المؤسسات الخطية لا تستطيع حكم تقنية أسية، لذا الجواب مزيد من الذكاء الاصطناعي داخل الحلقة. أحيانًا يقترن ذلك بازدراء «الخبراء الذين يجتمعون مرة كل ربع سنة». من المنصف أن الاجتماعات البطيئة لا تناسب إصدارات النماذج الأسبوعية.
لكن سرعة الاجتماع ليست المشكلة الصعبة. المشكلة الصعبة هي التحكم. لا يوجد مجلس إدارة ربع سنوي، ولا مراقب ذكاء اصطناعي مستمر، لديه طريقة موثوقة لتوجيه نظام أفضل من حاملي مفتاح الإغلاق في الإقناع والبرمجة والتخطيط طويل الأمد. تسريع المراقب لا يخلق الطريقة المفقودة؛ بل يجعل الطريقة المفقودة تفشل بتردد أعلى.
هناك قراءة أنظف لنفس الحقائق. إذا كان النظام الفائق البشري وحده قادراً على الإشراف على نظام فائق بشري آخر، فإن الخطوة العقلانية ليست بناء الاثنين. ارفض الخط الذي يتوقف عنده الإشراف البشري عن العمل. سبق أن اتخذنا هذا النوع من القرارات مع تقنيات يؤدي سوء استخدامها إلى تدمير المدن. لم نحل مشكلة سرقة الأسلحة النووية بتدريب لص أذكى للقبض على الأول.
لمن الخط
يحول السطر خياراً بحثياً إلى طقس. بالطبع نشحن. بالطبع نوسع. ستتولى حزمة المنتج الأمن بنفسها. ويحصل من يربحون من القدرة على الظهور كالبالغين في الغرفة، بينما يبدو من يطالبون بحدود ملزمة كمن يريد إحضار لوحة كتابة إلى معركة كلاب.
هذا التأطير مفيد للمتحدث. وهو أقل فائدة لكل من يعيش في مجرى نظام لا يمكن لأي حافظة بيانات ولا لأي نموذج مراقبة أن يتجاوزه بشكل موثوق. ال قصة السباق تؤدي المهمة نفسها من زاوية أخرى: تعامل المسار الخطر كأنه حتمي، ثم تسمّي تسريع التقدم مسؤولية.
نموذج أمان يحافظ على وجود الإنسان فيه
استخدم الذكاء الاصطناعي ضد التصيد. استخدم الذكاء الاصطناعي ضد الاحتيال. استخدم أدوات ضيقة على مشكلات ضيقة حيث يكون الفشل قابلا للاسترداد. لا يتطلب أي من ذلك عبادة الشعار.
بالنسبة للتدريب الحدودي نحو الذكاء الفائق الاصطناعي، يبدو نموذج الأمان الذي لا يزال يحتوي على إنسان فيه أقدم وأقل جاذبية: لا تبنِ الوكيل الذي لا تستطيع إبطاله. ضع عتبات الحوسبة والتفتيش وأسنان المعاهدة على التشغيلات التي ستواصلك إلى هناك. تحقق. عاقب الانشقاق. ذلك هو خطتنا, ، ولا يتطلب الاعتقاد بأن الاجتماعات الفصلية سحر. إنه يتطلب الاعتقاد بأن بعض القدرات يجب ألا توجد. لا يمكن السيطرة على الذكاء الفائق.
الشعار جملة حادة عن عرض النطاق الترددي. كخطة للنوع البشري، هو طريقة مهذبة للقول إننا ننوي مغادرة الغرفة.