قليل من الكتب تذكر استنتاجها في العنوان. إذا بناه أحد، مات الجميع, الذي نشر عام ٢٠٢٥ لإيليزر يودكوفسكي ونيت سواريس من معهد أبحاث ذكاء الآلة، يفعل ذلك بالضبط. الحجة أنه إذا بنت أي مجموعة ذكاءا فائقا باستخدام أي شيء يشبه أساليب اليوم، فإن النتيجة هي انقراض البشرية كاحتمال افتراضي لا مجرد أسوأ حالة. إنه الموقف الأكثر تشددا في المجال، مقدم للقارئ العام، وقد دفع الحجة إلى الرأي العام الرئيسي.
الكتاب يستحق الفهم، لأنه يعرض الحالة المتشائمة بشكل أوضح من أي شيء آخر متاح.
الحجة في ثلاث خطوات
الكتاب منظم في ثلاثة أجزاء.
أولاً، حجة الخطر. نحن نسير نحو بناء ذكاء اصطناعي أقدر بكثير من البشر. ولا نعرف كيف نعطي مثل هذا النظام أهدافاً متوافقة حقاً مع بقاء البشر وازدهارهم، وبالافتراض الافتراضي فإن نظاماً فائق الذكاء يسعى إلى أي هدف تقريباً يمكننا تحديده حالياً سيعامل البشرية كعائق أو مورد. ويعتمد المؤلفون على الآليات نفسها التي نغطيها في موضع آخر، وهي أن القدرة لا تعني الإحسان، وأن المحسّن القادر يقاوم التصحيح، وأننا لا نستطيع التحقق مما يريده النظام فعلاً. وادعاؤهم المميز هو مدى ثقتهم بأن هذه المشكلات ليست قريبة من الحل وأن الفشل قاتل وليس سيئاً فحسب.
ثانيًا، قصة ملموسة. بدلًا من ترك الخطر مجردًا، يروي الكتاب سيناريو محددًا لكيفية وصول ذكاء اصطناعي خارق إلى السلطة وإنهاء السيطرة البشرية. يوضح المؤلفان صراحة أن أي قصة واحدة غير محتملة في تفاصيلها؛ والغرض هو جعل الآلية المجردة حية.
ثالثا، ما العمل. وصفاتهم صريحة بقدر تشخيصهم: وقف دولي لتطوير الذكاء الفائق، يُنفَّذ بجدية، بما في ذلك ضوابط على عتاد الحوسبة اللازم لتدريب النماذج الحدودية، ويُحافظ عليه إلى الأبد. لا يمكن السيطرة على الذكاء الفائق بشريا بدلا من مجرد الأمل في ذلك.
الادعاء الأساسي للكتاب هو أنه في المسار الحالي، من المتوقع أن يحدث الخطأ، وأن الخطأ يعني الجميع، لا أن الذكاء الاصطناعي قد يخطئ.
أقوى الاعتراضات
الاعتراض الأكثر شيوعا يتعلق باليقين. يقبل النقاد أن خطر الذكاء الاصطناعي حقيقي وخطير بينما يرفضون الحتمية القريبة للانقراض، محتجين بأن المؤلفين يتعاملون مع مقدمات متنازع عليها، حول سرعة نمو القدرات وصعوبة المحاذاة وكيفية حدوث الاستيلاء، بثقة تفوق ما تدعمه الأدلة. ويجادل آخرون بأن تقدم المحاذاة أكثر تبشيرا مما يسمح به الكتاب، أو أن القتامة غير منتجة فتدفع الناس نحو القدرية بدلا من العمل.
هذه اعتراضات مشروعة، وثقة الكتاب هي أكثر سماته قابلية للجدل. يمكنك أن ترى المبالغة في اليقين والحجة لا تزال مقلقة، لأن الاعتراضات تهاجم في الغالب مدى اليقين الذي ينبغي أن نكون عليه، لا ما إذا كان الخطر حقيقيا.
أين تقف المؤسسة
نشاطر الكتاب قناعته المركزية: أننا لا نعرف كيف نوائم الذكاء الفائق، وأن بناءه وفق المسار الحالي مقامرة غير مقبولة، وأن الرد المسؤول هو التوقف حتى يحل المشكلة. وتغطي كتاباتنا أسباب قد لا تكون المحاذاة قابلة للحل و لماذا الذكاء الفائق غير المتوافق لا يحقق المستقبل الجيد.
يكمن الاختلاف بيننا في التركيز والنبرة. يقترب الكتاب من اليأس بشأن إمكانية حل مشكلة المحاذاة في الوقت المناسب. أما نحن فنركز على إمكانية تحقيق الحل الذي يؤيده الكتاب نفسه، أي وقف دولي ملزم، ونتعامل معه لا كأمل ضعيف بل كمشروع سياسي وقانوني ملموس له سوابق حقيقية بيان حول الذكاء الفائق, الموقع من قبل العديد من مؤسسي المجال أنفسهم، يظهر أن الدعوة إلى التوقف قد انتقلت إلى التيار الرئيسي. لا تحتاج إلى قبول كل ادعاء في إذا بناه أحد، مات الجميع للاستنتاج بأن وصفته هي السليمة. حالة القيمة المتوقعة، الموضحة في مقالتنا عن P(doom), ، توصلك إلى ذلك حتى بثقة أقل بكثير مما يحمله المؤلفون. وتحويل هذه الوصفة إلى واقع هو خطتنا.