الوقاية، لا التوقف المؤقت
تباطؤ مؤقت يعيد زر إعادة التشغيل إلى نفس السباق. نريد حظرا دائما. الذكاء الفائق لا يمكن السيطرة عليه.
وقفة
أبطئ المختبرات لبضع سنوات. أمل أن تلحق السلامة بالجدول الزمني. ثم استأنف. يبقى الذكاء الفائق الوجهة. الساعة هي التغيير الوحيد.
الوقاية
حظر الأنظمة التي تتجاوز عتبة القدرة العامة. لا إعادة تشغيل مجدولة. يستمر الحظر طالما لا يستطيع أحد السيطرة على عقل أذكى من صانعيه.
لا توجد طريقة تحكم مثبتة
ليس على نطاق صغير. وليس على نطاق كبير. تقول المختبرات الرائدة ذلك علناً. وقفة تفترض أن المحاذاة ستنتهي في الوقت المناسب هي رهان بدون أساس منهجي.
الذكاء الاصطناعي الضيق يستمر
الأدوية، نماذج الطقس، محسنات الصناعة، أدوات البرمجة. الأنظمة التي ليس لها أجندة مفتوحة النهاية تبقى قانونية وممولة. يقع الخط حول العقل العام المستقل، وليس حول الذكاء الاصطناعي ككل.
تعمل المعاهدات بهذه الطريقة بالفعل
معاهدة منع الانتشار النووي لا توقف القنابل لخمس سنوات. بل تحد من يجوز له بناءها، مع عمليات التفتيش. حصلت الأسلحة الكيميائية والمواد الكيميائية المؤثرة على الأوزون على نفس المعاملة. يحتاج الذكاء الفائق إلى ذلك الشكل من القانون.
يجب على الحكومات حظر الذكاء الفائق بموجب معاهدة دولية موثقة. لا يمكن للبشر السيطرة على الذكاء الفائق، لذا يكون الحظر دائماً.