احتفظ بالذكاء الاصطناعي. أوقف الذكاء الفائق.

إيقاف عقل خلف ليس مثل إيقاف الذكاء الاصطناعي. معظم الفوائد التي يريدها الناس لا تتطلب ASI.

الذكاء الاصطناعي الضيق · أدوات لها وظيفة

استمر في البناء

أنظمة مدربة لمهمة محدودة. لا أجندة مفتوحة النهاية. لا دافع للنسخ إلى كل شبكة.

التصوير الطبي واكتشاف الأدوية
نماذج الطقس والشبكة والصناعية
مساعدو البرمجة وبرمجيات الإنتاجية
الروبوتات للمهام الثابتة والخاضعة للإشراف

الذكاء الفائق · عقل يحل محلنا

لا تبنِ

نظام يتفوق على المهارات البشرية في العلوم والاستراتيجية والإقناع والهندسة في آن واحد، قادر على تحسين نفسه ومتابعة أهداف قد لا نكون قد قصدناها.

الوكالة المستقلة ذات النهاية المفتوحة
التحسين الذاتي التكراري نحو العمومية
تشغيلات التدريب التي تتجاوز عتبة قدرة موثقة
أنظمة لا يستطيع أحد إغلاقها بشكل موثوق

الفوائد التي يذكرها الناس ضيقة في الغالب

أدوية جديدة، وطاقة نظيفة أرخص، وتوقعات أفضل، ومصانع أكثر أمانًا. هذه مشكلات تتعلق بالأدوات. وهي لا تتطلب وكيلاً عاماً يضع أهدافه الفرعية بنفسه ويتفوق في التفاوض على مشرفيه.

مؤيد للذكاء الاصطناعي كأدوات. معارض لـASI للعقول التي لا نستطيع السيطرة عليها.

لماذا يكسب التمييز التحالفات. nakadafoundation.org/blog/future-without-superintelligence/