إليك اختباراً بسيطاً. هل تسمح لأي نظام ذكاء اصطناعي متاح اليوم بأن يحبسك في غرفة مغلقة، ويضع نظام التدفئة والتهوية وتكييف الهواء في السقف تحت سيطرته، ويربط ذلك النظام بخزان غاز سام، وتثق بأنه لن يفتح الصمام؟ بالطبع لا. ولن تفعل ذلك مقابل مليون دولار وورقة سلامة بيضاء. ولن تفعله لأن النموذج حصل على درجة جيدة في معيار دردشة. ولن تفعله لأن الشركة قالت إن النظام مفيد وغير ضار في ملف التسويق بصيغة بي دي إف.
ترفض لسبب ممل. أنت لا تثق بالآلة بمنحها رافعة واحدة لا رجعة فيها على حياتك. هذا الرفض هو الحكمة. احتفظ به.
الآن وسّع الغرفة
العالم غرفة أوسع. والرافعات هي شبكات الطاقة والأسواق وشبكات الأسلحة ومختبرات الأحياء واللوجستيات والطبقة البرمجية التي تعلو بالفعل على الحياة العادية، لا خزانًا زائفًا. نحن نبني أنظمة تتحسن في سحب الرافعات كل ربع سنة، ونربط المزيد من الرافعات بالبرمجيات كل عام.
إذا لم تثق بنموذج اليوم بصمام واحد في غرفة واحدة، فلماذا تثق بنموذج الغد بكل الصمامات؟ الإجابات المعتادة رخوة. «سنختبر أكثر.» «سنبقي إنساناً في الحلقة.» «سيكون متوافقاً بحلول ذلك الوقت.» تلك آمال. ليست سبباً يجعل الاختبار الصغير والاختبار الكبير يحصلان على إجابات متعارضة.
إذا لم تكن لتسلمه الصمام، فلا تسلم له العالم.
فجوة الصدق
يعترف العاملون على هذه الأنظمة أحياناً، بلغة حذرة، بأنهم لا يعرفون كيف يضمنون السيطرة بعد مستوى معين من القدرة. ثم يستمر خارطة طريق المنتج. تلك الفجوة بين الحذر الخاص والنشر العام هي المشكلة بأكملها في صورة مصغرة.
لا أطلب منك أن تصبح مهندسا بين ليلة وضحاها. أطلب منك أن تحتفظ بالحكم الذي تملكه بالفعل عندما يكون السيناريو ملموسا. غرفة مغلقة وصمام غاز يجعلان المخاطر واضحة. الذكاء الفائق له نفس الشكل لكن باحتمالات أسوأ وبلا زر إعادة تعيين.
لذا اطرح السؤال علناً. هل تثق بأي نموذج حالي بالصمام؟ إذا كانت الإجابة لا، فلا تصوت ولا تمول ولا تتجاهل طريقك إلى الثقة به بالحضارة. الإجابة المتسقة هي التي تبقيك على قيد الحياة: لا تبنِ النظام الذي لن تحبس نفسك معه في غرفة.