لقد أطلقوا اسمًا على المختبر
الذكاء الفائق

على الصفحة الرئيسية العامة لشركة الذكاء الفائق الآمن، يقتصر العرض على خط إنتاج واحد. "لقد أطلقنا أول مختبر مباشر للذكاء الفائق الآمن في العالم، بهدف واحد ومنتج واحد: ذكاء فائق آمن." يظهر الذكاء الفائق هناك كمنتج يُسلم، لا كفئة مخاطر تُدرس من الجانب.¹

في أواخر يونيو ٢٠٢٥، أعلن مارك زوكربيرغ عن مختبرات الذكاء الفائق Meta، ضاما نماذج الأساس وفرق المنتجات وFAIR في منظمة واحدة يعلن اسمها الوجهة نفسها. أشارت التقارير العامة إلى أن ألكسندر وانغ من Scale AI والرئيس التنفيذي السابق لـGitHub نات فريدمان يتوليان القيادة، مع انضمام دانيال غروس من Safe Superintelligence بعد أن حاولت Meta شراء الشركة الناشئة مباشرة وفشلت.²

اثنان من أكثر الجهود تمويلاً في مجال الذكاء الاصطناعي يستخدمان الآن مصطلحاً يصف نظاماً يفوق ذكاء كل إنسان في كل مهمة تقريباً، بما في ذلك مهمة إيقافه. كان المصطلح يشير إلى حدود. أما على رؤوس رسائلهم فيشير إلى خارطة طريق.

نقطة النهاية كفئة منتج

تعمل أسماء الشركات كحجج مكثفة. سم قسما "إعلانات" ويعرف الجميع ما يبيعه. سمه "مختبرات الذكاء الفائق" ويدعى الجمهور إلى التعامل مع النهاية كفئة منتجات، كما الهواتف أو التخزين السحابي فئات منتجات. ينهار السؤال الأخلاقي الصعب (هل يجب أن يوجد هذا؟) إلى سؤال منتج (نسخة من يصل أولا؟).

الذكاء الفائق الآمن يذهب خطوة أبعد. يلصق صفة "الآمن" بالاسم الذي يدل على الكارثة. والعبارة تؤدي العمل الذي كان يجب أن يقوم به برهان. تخبر المستثمرين والموظفين الجدد والصحفيين بأن الخطر قد صُنف تحت بند "تم حله مسبقا" قبل أن يُظهر أحد طريقة للسيطرة على عقل أذكى من مشغليه. ورأي المؤسسة صريح: يجب على البشرية ألا تبني الذكاء الفائق أبدًا. العلامة التجارية التي تعد بواحدة آمنة تبيع الادعاء المعاكس كشعار.

نسخة Meta تسقط الصفة وتحتفظ بالطموح. "مختبرات الذكاء الفائق" تتخطى أي وعد باللطف وتعلن صعودا إلى سقف القدرة. داخل شركة عامة، يشير هذا الاسم أيضا إلى الأسواق والمواهب حيث سيتدفق رأس المال والهيبة. العلامة التجارية جزء من كيفية إدارة السباق، لا مجرد طلاء فوقها.

الراحة التي تشتريها كلمة "الأمان"

الأشخاص الذين يعملون على التقني التوافق ليسوا أشرارا لأنهم يريدون أنظمة تفعل ما يقصده البشر. المشكلة في ترتيب العمليات. بناء أقوى عقل أولا، والوعد بجعله آمنا في الطريق، يقلب الترتيب الوحيد الذي نجح على الإطلاق مع تقنيات قادرة على إنهاء الحضارات. فنحن لا ننشئ "شركة الرؤوس الحربية الاستراتيجية الآمنة" ونتسابق نحو مردود لا يمكن التراجع عنه. بل نحظر فئات من الأسلحة، ونتحقق من الحظر، ونتعامل مع البحث المتبقي على أنه تابع للحظر.

الذكاء الفائق أسوأ من رأس حربي في الخاصية الأهم للحوكمة. فالقنبلة تبقى حيث تركتها. أما النظام القادر على تحسين نفسه وإخفاء نواياه والعمل عبر الشبكات فلا يبقى كذلك. ولا يزال المجال يفتقر إلى طريقة مثبتة لضمان احتفاظ مثل هذا النظام بأهداف متوافقة مع البشر أثناء التوسع. والفجوة علمية، واسم "الذكاء الفائق الآمن" يؤدي عملا بلاغيا لم يكسبه العلم بعد.³

لو كانت حجة السلامة متينة، لظل الاسم الصادق غريباً. لا نُطلق عادة على وضع الفشل المؤدي للانقراض اسم المنتج. نُطلق الاسم على الأداة الخاضعة للرقابة والمحدودة. أن تختار منظمتان جادتان وضع الفشل كعنوان رئيسي يخبرك إلى أي مدى تحركت نافذة الخطاب المقبول داخل الصناعة بالفعل.

الحتمية قصة يحتاجها البناؤون

كل سباق يحتاج قصة يبدو فيها التوقف سذاجة. النسخة القياسية تقول إن أحداً سيبني هذا على أي حال، لذا فالحركة الراشدة الوحيدة هي بناؤه أولاً تحت علم صديق. تسمية المختبر باسم النقطة النهائية تشدد تلك القصة. تجعل الحظر يبدو مثل اللودية لا ضبط التسلح. تجعل معاهدة تحظر الشيء تبدو وكأنها هجوم على خط إنتاج موجود بالفعل على خارطة الطريق.

القصة مريحة لأي شخص يعتمد على السباق فيما يخص أسهمه أو سمعته أو مشروعه الوطني. إنها وصف سيء لكيفية التعامل مع تقنيات وجودية أخرى. واجهت الأسلحة الكيميائية والألغام الأرضية وأبحاث الاستنساخ البشري الادعاء بأن «شخصا آخر سيفعل». ومع ذلك سنت الدول المعنية حظورا وعمليات تفتيش وعقوبات. قارنه بفئة قدرات قرر العالم عدم تطبيعها لا بفئة تطبيقات استهلاكية.

لا يتطلب أي من هذا الاعتقاد بأن كل باحث في هذه المنظمات يريد نتيجة سيئة. معظمهم يريدون المكانة والاكتشاف وقصة كانوا فيها حذرين. الحوافز تكمل الباقي. مختبر سمي باسم الذكاء الفائق / الذكاء الخارق سيُقيَّم ويُموَّل ويُوظَّف بناءً على التقدم نحوه. تصبح السلامة قسماً. ويبقى الهدف على المبنى.

ماذا نفعل باسم كهذا

ارفض المقدمة التي تبيعها العلامة التجارية. الذكاء الفائق خط لا ينبغي للنوع البشري أن يتجاوزه. لا يمكن السيطرة على الذكاء الفائق من قبل البشر. الاستجابة المؤسسية الصحيحة هي المنع بموجب القانون، لا إعادة تسمية السباق.

عندما تضع شركة «الذكاء الفائق» على الباب، اقرأه كإعلان عن نية. قارن الإعلان بالحالة الأمنية المفقودة. اسأل المشرعين لماذا لا يزال سباق خاص نحو عقل لا يمكن السيطرة عليه قانونياً. شارك النسخة الواضحة مع من لا يرون سوى فيديوهات العرض. إنهم لا يخفون إلى أين يتجه هذا.