كل بضعة أشهر يسقط معيار قدرة للذكاء الاصطناعي. فالأنظمة التي لم تكن تستطيع اجتياز امتحانات الترخيص المهني قبل عامين أصبحت الآن تحقق درجات في أعلى الشرائح المئوية. ويصف مسؤولو مختبرات الذكاء الاصطناعي الحدودية الرائدة الذكاء العام الاصطناعي علنا بأنه مسألة سنوات لا عقود. ونشر أحد أبرز باحثي سلامة الذكاء الاصطناعي نيك بوستروم ورقة عمل في ٢٠٢٦ تسأل لا عن ما إذا كان ينبغي تطوير الذكاء الفائق، بل عن متى.
في هذا السياق، فإن السؤال عما إذا كنا مستعدين للذكاء الفائق هو تقييم عملي عاجل، والإجابة بوضوح لا، وليس تمريناً نظرياً.
ما الذي تتطلبه الجاهزية فعلياً
تحديد معنى "الجاهزية" بدقة أمر مهم، لأن الكلمة غالباً ما تستخدم بشكل فضفاض لتعني "لقد فكرنا في المخاطر" أو "تعمل المختبرات المسؤولة على السلامة". وهذه الأمور ليست الجاهزية بالمعنى المقصود.
الاستعداد الحقيقي للذكاء الفائق يتطلب توفر كل ما يلي قبل نشر أي نظام بقدرة ASI في أي مكان:
- طريقة تقنية موثوقة للتحقق من محاذاة الذكاء الاصطناعي قبل النشر، وليس استنتاجها من التقييمات السلوكية
- حوكمة دولية ذات نطاق كاف لمنع أي فاعل واحد (شركة أو دولة) من نشر نظام قبل اجتياز التحقق
- مراقبة البنية التحتية التي تُدار بشكل مستقل عن المنظمات التي تبني الأنظمة
- الأطر القانونية في الدول الكبرى المطورة للذكاء الاصطناعي التي تمنح هيئات الرقابة سلطة فعلية
- إرساء معايير دولية تتمتع بثقل سياسي كافٍ لتحمل الضغوط التنافسية
مقيمًا مقابل هذه المتطلبات، إليكم أين نحن فعليًا.
لقد اتجهت محادثة الحوكمة في الاتجاه الخاطئ
في نوفمبر ٢٠٢٣، استضافت حكومة UK قمة بلتشلي بارك لسلامة الذكاء الاصطناعي، وهي أول تجمع دولي كبير ركز تحديداً على مخاطر الذكاء الاصطناعي المتقدم. كان التأطير سلامياً صراحة. ووقّع إعلان بلتشلي الناتج ٢٨ دولة، منها US والصين وEU، معترفة بمخاطر «كارثية محتملة» من ASI.
بحلول فبراير ٢٠٢٥، استضافت فرنسا ما سمته قمة عمل الذكاء الاصطناعي، معيدة تسمية الصيغة عمدا للإشارة إلى تحول في الأولويات. انتقل التركيز من تحديد المخاطر وإدارتها إلى تمكين النشر والاستفادة من الميزة الاقتصادية. ولم يكن هذا تغييرا محايدا في المصطلحات. بل عكس ضغطا سياسيا حقيقيا من حكومات وصناعات ترى المنافسة في الذكاء الاصطناعي مع الصين الإطار الأساسي، ومتطلبات السلامة عيوبا تنافسية محتملة.
"لم يعد السؤال ما إذا كان يجب تطوير الذكاء الفائق، بل متى يكون من الأمثل القيام بذلك، ولمن تعود فوائد قرار التوقيت."
نيك بوستروم، "حول توقيت تطوير الذكاء الفائق" · ورقة عمل، 2026
تأطير بوストروم ملحوظ لأن عمله السابق (الذكاء الفائق، 2014) أسس العديد من الحجج الأساسية لسبب كون الذكاء الفائق يشكل خطرًا وجوديًا. يعكس تحول بوストروم في 2026 نحو أسئلة التوقيت والتوزيع حركة أوسع في المجال: قبول أن التطوير سيحدث والتركيز على من يسيطر على العملية. سؤال مشروع. مختلف عن ضمان سلامة العملية.
مشكلة الانتقال من AGI إلى ASI
غالبا ما تعامل مناقشات الحوكمة AGI على أنه العتبة ذات الصلة، بافتراض أن أنظمة مستوى AGI ستكون مفهومة للمشرفين البشر وخاضعة لتقييم ذي معنى. ربما يكون هذا صحيحا عند عتبة AGI. المشكلة فيما يأتي بعد ذلك.
نظام عند مستوى قدرة AGI يستطيع توجيه أبحاثه وتحسينه بنفسه قد ينتقل من الأداء على مستوى البشر إلى أداء خارق للبشر بكثير في فترة أقصر بكثير مما استغرقه الوصول إلى المستوى البشري. المصطلح التقني لذلك هو سيناريو الإقلاع السريع. في الإقلاع السريع، ينتقل النظام من مستوى تكون فيه الحوكمة البشرية ممكنة إلى مستوى قد لا تكون فيه، في نافذة زمنية أقصر من زمن استجابة أي مؤسسة حوكمة.
الاستعداد للذكاء الفائق يعني الاستعداد قبل عتبة AGI، لا خطة للرد بعدها. فقد تتأخر الحوكمة التي تبدأ عند وصول AGI عن منع انتقال سريع إلى مستويات قدرة تهزمها.
لماذا لا تزال النافذة مفتوحة
فجوة الجاهزية حقيقية وخطيرة. ووصفها بصراحة ليس كالقول إن شيئاً لا يمكن فعله. نافذة بناء حوكمة كافية تضيق، لكنها لم تغلق بعد.
لا تزال مختبرات الذكاء الاصطناعي الحدودية الرائدة عند مستوى الأداء البشري أو قريب منه في معظم المهام المعرفية وليس أبعد من ذلك بكثير. لم يحدث بعد الانتقال من هذا المستوى من القدرة إلى المستوى الأهم. هذا هو الوقت الذي يمكن فيه بناء أطر الحوكمة بتعاون الفاعلين الذين سيخضعون لها لا بعد أن يطور هؤلاء الفاعلون أنظمة تجعل التعاون أقل ضرورة.
التكلفة السياسية لبناء الحوكمة الآن حقيقية: احتكاك تنافسي ونشر أبطأ وخسارة محتملة للميزة الاقتصادية مقارنة بفاعلين أقل وعيا بالسلامة. يجب وزن هذه التكاليف بصدق مقابل تكلفة عدم بناء الحوكمة الآن والوقوع في الوضع الموصوف أعلاه. عدم التناظر في تلك المقارنة ليس خفيا. مقترحات المؤسسة الثلاثة مصممة خصيصاً لهذه النافذة الزمنية: قبل تجاوز العتبة، بينما لا يزال من الممكن السعي لتعاون جميع الفاعلين الرئيسيين والحصول عليه.