في 22 أكتوبر 2025، أصدر Future of Life Institute رسالة عامة بعنوان بيان حول الذكاء الفائق. على عكس البيانات المطولة التي عادةً ما تصاحب مثل هذه اللحظات، فهو جملة واحدة:
ندعو إلى حظر تطوير الذكاء الفائق، ولا يُرفع هذا الحظر إلا بعد وجود إجماع علمي واسع على أنه سيتم بأمان وسيطرة، ودعم عام قوي.
بيان حول الذكاء الفائق، Future of Life Institute · أكتوبر 2025
لا يقول إن الذكاء الفائق / الذكاء الخارق يجب ألا يُبنى أبداً. ولا يدين الذكاء الاصطناعي بحد ذاته. بل يضع شرطاً (شرطين في الواقع) ويطلب وقف التطوير حتى يتحققا. لفهم لماذا يمثل هذا الطلب المتواضع ظاهرياً تحولاً حقيقياً في النقاش، عليك فهم ما يطلبه ومن وافق على وضع اسمه عليه.
ما الذي يطلبه البيان فعلياً
الصياغة دقيقة. ثلاث سمات تميزها عن الرسائل المفتوحة السابقة، بما في ذلك الرسالة المعروفة لعام 2023 التي تدعو إلى وقف لمدة ستة أشهر على أكبر عمليات التدريب.
- إنه يستهدف الذكاء الفائق تحديداً. ليس الذكاء الاصطناعي الضيق، ولا الدردشات الآلية، ولا أدوات الذكاء الاصطناعي المندمجة أصلا في الحياة اليومية. ينطبق الحظر على الأنظمة التي ستتجاوز القدرة البشرية عبر كل المجالات المعرفية تقريبا، وهي الفئة التي نصفها في شرحنا عن الذكاء الفائق الاصطناعي. هذه الدقة تبطل الاعتراض المعتاد بأن دعاة السلامة يريدون وقف التكنولوجيا المفيدة. إنهم لا يريدون ذلك. إنهم يريدون وقف واحدة محددة، وخطرة تحديداً، من الجبهات.
- إنه حظر مشروط، وليس حظرا دائما. يُرفع الحظر بمجرد تجاوز عتبتين. وهذا يعيد صياغة السؤال كلياً. فالافتراض اليوم هو: بناء الذكاء الفائق / الذكاء الخارق، ثم إرساء السلامة بعد ذلك إن استطعنا. أما البيان فيقلبه: إرساء السلامة أولاً، ثم البناء. وينتقل عبء الإثبات إلى المطورين، حيث ينتمي (بالنسبة لتقنية بهذه النتائج) على الأرجح.
- يتطلب ذلك موافقة الجمهور، وليس فقط موافقة الخبراء. الشرط الثاني ديمقراطي لا تقني. فحتى لو اتفق العلماء يوماً على إمكانية التحكم في الذكاء الفائق / الذكاء الخارق، يصر البيان على ضرورة موافقة الجمهور على بنائه. وهذا تحد مباشر للترتيب الحالي، الذي تقرر فيه حفنة من المختبرات الخاصة قراراً يغير الحضارة نيابة عن الجميع، وهو القلق الذي نناقشه في من يتحكم في الذكاء الفائق.
لماذا يهم الموقعون أكثر من الجملة
الرسائل المفتوحة رخيصة. ما جعل هذه تنجح هو التحالف. وقع أكثر من 850 شخصاً، والقائمة رائعة ليس لطولها بل لـ نطاق.
في الأعلى كان العلماء الذين أسسوا هذا المجال. Yoshua Bengio و Geoffrey Hinton (كلا الحائزين على جائزة تورينج، وكلاهما يُطلق عليهما عادةً عرابا الذكاء الاصطناعي الحديث) وقّعا، كما فعل بيركلي Stuart Russell, ، مؤلف كتاب الذكاء الاصطناعي القياسي. عندما يطلب الأشخاص الأكثر مسؤولية عن وجود تقنية من العالم التوقف قبل بناء أقوى أشكالها، فذلك شهادة وليس نشاطًا.
ثم جاء البناؤون والشخصيات العامة. المؤسس المشارك لأبل Steve Wozniak ومؤسس فيرجن Richard Branson. مؤرخ Yuval Noah Harari, ممثل Stephen Fry, وموسيقي will.i.am. قادة الأمن القومي المتقاعدون بمن فيهم الرئيس السابق لهيئة الأركان المشتركة Admiral Mike Mullen ومستشار الأمن القومي السابق Susan Rice. وأكثر ما يلفت الانتباه، الشخصيات التي لا تتفق على أي شيء آخر تقريبًا: Prince Harry and Meghan بجانب Steve Bannon و Glenn Beck.
تلك التفصيلة الأخيرة هي الحجة كلها مصغرة. حين توقع زوجان ملكيان بريطانيان واستراتيجي إعلامي من حركة ماغا الجملة نفسها فإن القضية تكون قد تجاوزت التصنيف الأيديولوجي المعتاد. ويعد القلق بشأن الذكاء الفائق من المواقف القليلة جدا في عامي ألفين وخمسة وعشرين وألفين وستة وعشرين التي تتمتع بامتداد حزبي حقيقي وهو بالضبط نوع التحالف الذي يجعل السياسات الملزمة ممكنة لا يسار ولا يمين ولا مؤسسة ولا شعبوية.
ما هو البيان، وما ليس كذلك
من المهم أن نكون واضحي الرؤية بشأن الحدود. لا يحظر البيان العام شيئًا. ولا يأمر أي جهة تنظيمية، ولا يلزم أي شركة، ولا يقيد أي حكومة. ومن يقرأه كقانون سيكون مخطئًا.
ما يفعله هو تحريك الـ نافذة أوفرتون, ، نطاق المواقف التي تعد سائدة وقابلة للقول. قبل عامين، كان الدعوة إلى حظر فئة من الذكاء الاصطناعي تُرفض باعتبارها هامشية. بعد أكتوبر ٢٠٢٥، أصبحت موقفا يعلنه علنا علماء من طراز نوبل، ورجال أعمال أيقونيون، وشخصيات سياسية عبر الطيف. هذا التحول في ما يعد محترما قوله هو الشرط المسبق لكل ما يلي. يتخذ السياسيون مواقف تحظى بشعبية مسبقة؛ ونادرا ما يقودون. وظيفة البيان هي جعل الحظر شائعا بما يكفي ليتمكن القادة من التصرف بناء عليه.
هذا بالضبط كيف بدأت حركات حوكمة التكنولوجيا السابقة. ال مؤتمرات بغواش أمضى عقدين في بناء الإجماع الفكري والأخلاقي الذي دعم في النهاية السيطرة على الأسلحة النووية. البيانات والإعلانات هي كيفية بناء المدرج، لا خط النهاية.
من جملة إلى معاهدة
الفجوة بين البيان والواقع هي الفجوة التي وجد Nakada Foundation لسدها. يقرر الإعلان أن الحظر مرغوب ومشروع. لكنه لا ينشئ الآلية اللازمة لإنفاذه. ويتطلب ذلك ثلاثة أمور تركها البيان عمداً غير محددة:
- تعريف له أسنان. "الذكاء الفائق" يجب أن يُترجم إلى معايير يمكن لمعاهدة أن تتصرف بناءً عليها، عتبات الحوسبة، تقييمات القدرات، أو كليهما. ندرس هذا في التحدي الدبلوماسي في تحديد ما يشكل ذكاءً اصطناعيًا خطيرًا.
- التحقق. حظر لا يستطيع أحد التحقق منه هو اتفاقية الأسلحة البيولوجية, ، حظر نبيل انتهك لعقود دون اكتشاف. تحتاج الحوكمة الموثوقة إلى مراقبة، على غرار نظام التحقق النووي.
- التزام ملزم. التعهدات الطوعية لها سجل حافل، وهو غير مشجع، موضوع مقالتنا عن لماذا لا تكفي الالتزامات الطوعية. يجب أن يصبح مبدأ البيان قانونًا قابلاً للتنفيذ.
أثبت بيان الذكاء الفائق شيئاً قيماً: الإرادة موجودة، وهي تتجاوز كل الخطوط التي عادة ما تقسم الناس. لدينا خطة يتعلق بتحويل تلك الإرادة إلى ضوابط الحوسبة، ووكالة المراقبة، والمعاهدة الدولية التي تمنح جملة البيان الوحيدة القوة التي تحتاجها. إذا وافقت على تلك الجملة، فإن أكثر ما يمكنك فعله فائدة تاليًا هو المساعدة في بناء التحالف الذي يحولها إلى سياسة.