ASI اختبار الإلمام

مشكلات الذكاء الاصطناعي العادية حقيقية. إنها ليست المهمة. توجد المؤسسة لوقف P(doom): الأنظمة التي ستتفوق على البشر في كل مجال يهم.

تفترض السيطرة أننا نبقى الطرف الأذكى. بعد ذلك الخط، يصبح مفتاح الإغلاق أو مجموعة القواعد أو سياسة المختبر شيئاً يمكن للنظام الالتفاف حوله.

توقف مؤقت ينتهي عندما تدعي المختبرات أنها حلت مشكلة التحكم هو كيفية استئناف السباق. المطلوب هو حظر دائم على بناء الذكاء الفائق.

السلطة على قرار البناء حقيقية. أما السلطة على ذكاء فائق قيد التشغيل فهي القصة التي يرويها الناس لأنفسهم ليستمر المشروع.

الصين ليست فاعلاً حميداً. كما أنها ليست فراغاً بلا قواعد. استخدام "لن تتوقف الصين" كسبب للركض هو مقدمة ضعيفة لرهان حضاري.

يمكن لعمل المحاذاة وصف كيفية فشل السيطرة. وهذا مفيد. لكنه لا يرخص بناء النظام الذي يقول العمل إننا لا نستطيع السيطرة عليه.

هو اختصار لاحتمال ذاتي لكارثة. تسمية الرقم يفرض ادعاءً واضحاً بدلاً من إشارة غامضة إلى الخطر.

نظام يمكن إيقافه أو حرمانه من الحوسبة أو منعه من الأدوات يكون أسوأ في كل هدف تقريبا. السعي للقوة ينبع من الكفاءة لا من رغبة كرتونية في الحكم.

تؤيد المؤسسة الذكاء الاصطناعي الضيق الذي يبقى أداة. الحظر للأنظمة التي تفوقنا، لا للبرمجيات التي تساعد شخصاً في أداء وظيفة.

تُعد عمليات التفتيش الموقعي والمحاسبة المادية لـIAEA السوابق المعتادة لكيفية تحقق الدول المتنافسة من حدود التطوير الخطير.

يفترض المختبر المغلق أننا سنظل الطرف الأذكى، وأن أحدًا لن يفتح الباب أبدًا. وكلا الافتراضين ينهار حين يصبح ما بداخله أقدر من الناس خارجه.

الحرب النووية محدودة جغرافياً. الذكاء الفائق ليس كذلك. يمكنه الوصول إلى أي آلة متصلة بالشبكة وأي شخص لا يزال يستخدمها. الخطة التي تصمد هي عدم بنائه.