وصلت «استراتيجية الذكاء الفائق» في مارس ٢٠٢٥ بقائمة مؤلفين بنيت لتؤخذ على محمل الجد في واشنطن: دان هندريكس، مدير مركز سلامة الذكاء الاصطناعي؛ وإريك شميدت، الرئيس التنفيذي السابق لـGoogle؛ وألكسندر وانغ، مؤسس سكيل إيه آي. كان غرضها سحب الذكاء الفائق من الأدبيات البحثية إلى لغة الأمن القومي، وبذلك المقياس نجحت. في غضون أسابيع كانت تُناقش من باحثي ضبط التسلح، وتُحاكى في مراكز الفكر، وتُستشهد في شهادات الكونغرس.
القياس هو أكثر ما يثير الاهتمام فيه، وهو أيضًا المشكلة.
في قلبها اختصار واحد اختير بعناية. MAIM، اختصار للخلل المتبادل المؤكد في الذكاء الاصطناعي، وهو صدى متعمد للردع المتبادل، ويحمل الادعاء الجوهري للورقة: أن المواجهة المرعبة التي منعت القوى النووية من إبادة بعضها تمتلك نظيرا في الذكاء الاصطناعي، نظيرا موجودا بالفعل سواء اعترف به أحد أم لا.
نعتقد أن الورقة تصيب شيئًا مهمًا حقًا، ونعتقد أن آليتها المركزية لا تستطيع تحمل الوزن الموضوع عليها. كلا النصفين مهمان.
المواجهة التي تقول الورقة إنها موجودة بالفعل
يسير الحجة على النحو التالي. افترض أن دولة واحدة تبدو على وشك تحقيق اختراق حاسم نظام يمنحها في إطار الورقة سلاحا فائقا وسيطرة على المستقبل. ولا يستطيع أي منافس تحمل حدوث ذلك. وعالم تسيطر فيه عاصمة واحدة على الذكاء الفائق هو بالنسبة لكل عاصمة أخرى أمر لا يطاق بنفس طريقة ميزة الضربة الأولى التي كانت لا تطاق أثناء الحرب الباردة.
لكن على عكس ترسانة نووية منشورة، فإن مشروع ذكاء اصطناعي قيد التنفيذ عرضة للخطر. يعيش في مراكز بيانات ذات إحداثيات معروفة، ويعمل على شبكات كهرباء، ويعتمد على جولات تدريب تمتد لأشهر يمكن لاختراق جيد التوجيه أن يفسدها بهدوء. لذا يملك المنافس المهدد خيارات أقل من الحرب، وسلمًا منها: التجسس، والهجمات الإلكترونية السرية التي تُضعف جولة تدريب أو تسمم بياناتها، وتخريب البنية التحتية المحيطة، وفي أقصى الدرجات، ضربات مادية على المنشآت نفسها.
يدعي البحث أن هذا وصف يلتقط بالفعل، حسب رأي المؤلفين، الواقع الاستراتيجي الذي تواجهه القوى العظمى في الذكاء الاصطناعي. أي دولة تقوم بمحاولة عدوانية واضحة للهيمنة على الذكاء الاصطناعي يجب أن تتوقع تعطل مشروعها بفعل منافسيها. ومن هنا جاء الاسم، ومن هنا جاء الأمل المتناقض: إذا عرف كل لاعب أن سباق الهيمنة سيُخرب، فلن يركض أحد، وتُردع أخطر خطوة في اللعبة. كما في الردع المتبادل المؤكد، يرى المؤلفون أن المواجهة يمكن تثبيتها من خلال ممارسة متعمدة: إنشاء مراكز البيانات بعيدا عن المدن لجعل الدرجات القصوى أقل كارثية، والحفاظ على درجات التصعيد السيبرانية منفصلة بوضوح عن الدرجات الحركية، وتوسيع الشفافية بين المنافسين حتى لا يخلط أحد بين مشروع تجاري ومحاولة للهيمنة.
الركيزتان الأخريان
حظي MAIM بالعناوين الرئيسية، لكن الاستراتيجية تتكون من ثلاثة أجزاء، والثاني هو الأكثر فائدة بالنسبة لنا. عدم الانتشار يطبق الآلية التي بُنيت لإبعاد المواد الانشطارية عن الإرهابيين على الذكاء الاصطناعي: تتبع الرقائق المتقدمة كما يُتتبع اليورانيوم المخصب، وحماية أوزان النماذج من السرقة، وإدماج ضمانات في الأنظمة تجعلها ترفض المساعدة في تصميم أسلحة بيولوجية أو هجمات على البنى التحتية الحيوية. ويفترض هذا الركن تعاون الدول على حوكمة الحوسبة حتى وهم يتنافسون على كل شيء آخر، تماماً كما أدارت واشنطن وموسكو منع الانتشار معاً خلال أسوأ سنوات الحرب الباردة.
التنافسية هي الضريبة الواقعية: يجب على الدول تعزيز اقتصاداتها وجيوشها بالذكاء الاصطناعي، وقبل كل شيء إصلاح سلاسل توريد الرقائق الهشة من خلال التصنيع المحلي، وهو القلق الذي أصبح منذ ذلك الحين سياسات ضوابط التصدير تشكل الصناعة الآن.
يضع البحث هذا الثالوث في مواجهة استراتيجيتين يرفضهما: السباق غير المقيد لبناء الذكاء الفائق أولاً والأمل، وما يصفه بأنه حظر عالمي غير قابل للتطبيق. الردع، في هذا الطرح، هو الخيار الناضج بين التهور والسذاجة.
ما يصيب فيه المقال
ابدأ بالإنجاز. لسنوات كانت الحجة المعيارية للسباق هي أن ذكاءً فائقًا لدى منافس سيكون كارثيًا، لذا يجب أن نصل إليه أولًا. «استراتيجية الذكاء الفائق» تقلب هذا بهدوء. إذا كان السعي الأحادي للهيمنة غير مقبول لدى المنافسين، فإن سعي الجميع غير مقبول لدى أحدهم، ويصبح السباق نفسه تهديدًا للأمن القومي بدلًا من أن يكون حله. صادراً عن مؤلفين بهذا المستوى، أحدث هذا القلب أثرًا حقيقيًا. فقد وضع فقدان السيطرة وعدم الاستقرار الاستراتيجي على مكاتب أشخاص لن يقرؤوا ورقة محاذاة أبدًا، ورسخ بلغة محترمة أن التقييد يمكن فرضه لا مجرد طلبه.
في الوقت نفسه، يعد عمود عدم الانتشار مجرد جزء من بنية المعاهدة التي ندعو إليها، والتي وصلنا إليها من اتجاه مختلف. تتبع الرقائق، أمن الأوزان، و الحوكمة المدعومة بالأجهزة ذات غرض مزدوج: فهي تخدم نظام الردع ونظام التحقق بشكل جيد على حد سواء. كل دولار يُنفق على بنائها هو دولار يُنفق لجعل اتفاق مستقبلي قابلاً للتحقق.
حيث يتعثر التشبيه بالنووي
تبدأ المشكلة عندما تسأل عما جعل الردع المتبادل المؤكد مستقراً وتفحص كل عنصر مقابل نظيره في الذكاء الاصطناعي.
إطلاق نووي واضح لا لبس فيه. يُنسب خلال دقائق، ويُعرف مصدره بالمتر، والرد الذي يثيره مؤكد ومفهوم للجميع مسبقا. قارن الآن. يبدو تشغيل تدريب «مزعزع» من الخارج كالتشغيل التجاري؛ نفس العناقيد، نفس استهلاك الطاقة، نفس البصمة الساتلية. العتبة غير محددة، وليس لنقص جهد الصياغة بل لأن القدرة لا تعلن عن نفسها كما يعلن عمود الصاروخ. هذه المشكلة التي سميناها تعريف الذكاء الاصطناعي الخطر, وترث MAIM ذلك كاملاً: يحتاج نظام الردع إلى خط أحمر، ولا تستطيع الورقة تحديد مكان الخط بدقة.
يفشل الإسناد في الاتجاه الآخر أيضا. عندما تنهار جولة تدريب، هل كان ذلك تخريبا أم خطأ أم بيانات سيئة؟ قد تتعرض دولة لهجوم دون أن تعلم، مما يعني أن الهجوم لا يردع شيئا، أو تظن نفسها مهاجمة وهي ليست كذلك، وهذا أسوأ. يعمل الردع من خلال تهديدات مرئية وموثوقة وقابلة للإسناد. لا تنطبق العمليات السيبرانية السرية على أي من الثلاثة. ضغط محللو MIRI وراند وغيرهم على هذه النقاط تحديدا في غضون أسابيع من النشر، ولم يُجب على نقد القابلية للملاحظة بشكل مرض حتى الآن: خلص عدة باحثين إلى أن شروط الردع المستقر لا تنطبق بعد، وقد تتطلب شفافية عميقة ومتبادلة داخل مراكز بيانات الخصوم قبل أن تنطبق.
هناك أيضاً سلم التصعيد نفسه. فتطبيع الهجمات على البنية التحتية الحيوية للدول المسلحة نووياً كسياسة دولة روتينية ليس وصفة واضحة للاستقرار. ويفترض جواب الورقة، إبقاء درجات السيبراني أقل بكثير من الدرجات الحركية، أن هدف حملة التخريب يشاركك قراءتك للدرجة التي تقف عليها. وتاريخ الحرب الباردة سجل للحظات تباينت فيها هذه القراءات، ويقدم تحذيراً آخر لم تتوقف الورقة عنده: كادت الدمار المتبادل المؤكد تفشل مرات عدة بسبب حوادث وإنذارات كاذبة وسوء تقدير، وأنقذها الحظ بقدر ما أنقذتها العقيدة. وتبني منطقها يعني تبني أنماط فشلها.
يحتاج الردع إلى سلك تعثر واضح واستجابة لا لبس فيها. أما MAIM، فلا يملك أياً منهما حتى الآن.
ما لا تستطيع MAIM فعله حتى لو نجحت
حتى لو سلمنا بالإطار كله، تبقى حدود أعمق. يردع MAIM فشلاً محدداً: سعي دولة متعمد ومرئي نحو الهيمنة الأحادية. ولا يفعل شيئاً إزاء نمط الفشل الذي يقلقنا أكثر، لأن ذلك النمط لا يملك معتدياً يمكن ردعه.
لا يهتم عدم التوافق بأي علم يرفرف فوق مركز البيانات. عالم من البرامج المتنافسة، كل منها يبقى بعناية تحت عتبة التخريب، لا يزال عالماً السباق نحو أنظمة لا يستطيع أحد التحكم فيها, ، مع ضغط السباق المعتاد لتقليص السلامة بالكامل. والأسوأ أن الردع المتبادل يضيف ضغطا خاصا به: المشاريع تحت تهديد التخريب لديها كل الأسباب للإخفاء والتحصين والتشتيت، والسرية عدو كل ممارسة سلامة تستحق الوجود. يراقب الردع المنافسين بينما مشكلة التحكم نفسها تبقى بلا رقابة، والطرق الأبطأ والأهدأ إلى الكارثة، بما في ذلك الإضعاف التدريجي التي لا تتطلب أي محاولة للهيمنة على الإطلاق، تمر تحت راداره بالكامل.
المواجهة ليست حالة راحة أيضا. كان الدمار المتبادل المؤكد محتملا لأن ردع استخدام سلاح موجود مهمة محدودة. أما الردع المتبادل للذكاء الخارق فيجب أن يردع تطوير قدرة متحركة إلى الأبد، مع عتبات تتغير كل عام مع ازدياد كفاءة الخوارزميات ولامركزية حدود الحوسبة. إدارة الأزمات الدائمة مجرد عد تنازلي بتسمية جذابة، لا استراتيجية.
الردع والمعاهدات ليسا متنافسين
لم يقف الردع النووي وحده أبداً. جُعل قابلاً للبقاء بالآلية غير اللامعة المثبتة عليه على مدى عقود: الخطوط الساخنة، التفتيشات، NPT، SALT، START، بروتوكولات التحقق التي تتيح لكل طرف أن يحصي رؤوس الصواريخ لدى الطرف الآخر. أمد الدمار المتبادل المؤكد الخوف، وحولت ضوابط التسلح ذلك الخوف إلى قواعد قبل أن يتحول الخوف إلى حرب. الاستشهاد بالنصف الأول من تلك التاريخ مع تجاهل النصف الثاني، كما تفعل الورقة عندما ترفض ضبط النفس المنسق باعتباره طوباوياً، هو اقتباس انتقائي للحرب الباردة.
ويشترك النصفان في محرك واحد. لتهديد بالتخريب بمصداقية، يجب أن ترى الدولة داخل برامج الذكاء الاصطناعي لمنافسيها بما يكفي لتعرف متى تبدأ محاولة الهيمنة. تلك المراقبة، الأقمار الصناعية، تتبع الرقائق، المعلومات الاستخباراتية عن جولات التدريب، هي معظم ما معاهدة حول الذكاء الفائق يحتاج إلى التحقق. إن قراءة الورقة ضد نواياها الخاصة تجعلها حجة على أن الجزء الصعب من المعاهدة يجري بناؤه بالفعل.
لذا فإن حكمنا أضيق مما يكتبه أنصار الورقة أو أشد منتقديها. إن «ميام» قيمة كوصف: فهي تسمي المواجهة بشكل صحيح، وتثبت أن السباقات الأحادية ستواجه مقاومة، وتخبر مؤسسات الدفاع بأن السباق يشكل تهديدًا لا حلاً. وهي تفشل كوجهة، لأن مواجهة دائمة غير محددة وسرية بين القوى النووية ليست استقرارًا، ولأنها تترك المصدر الفعلي للخطر الوجودي، أي الأنظمة نفسها، بلا حكم. الردع يكسب وقتًا. اتفاق دولي موثق هو ما حان الوقت له.