يستخدم الناس AGI وASI كأنهما مترادفان أو أسماء تجارية أو إضاءة خيال علمي. ليسا كذلك. التمييز مهم لأن مشكلة السيطرة وأدوات السياسة تتغير مع الصعود على السلم، ولأن المختبرات لديها حوافز لتبدو قريبة من «AGI» للحصول على التمويل بينما تبدو بعيدة عن الخطر لأغراض التنظيم.
تعريفات بسيطة
الذكاء الاصطناعي الضيق مصمم لمهمة محددة: توصية الفيديوهات، طي البروتينات، اكتشاف الأورام. يمكن أن يكون ممتازاً ومع ذلك ليس وكيلاً عاماً.
AGI يعني AGI الكفاءة الواسعة والمرنة عبر العديد من المهام على مستوى بشري تقريبًا، مع ما يكفي من الوكالة لمتابعة الأهداف بدلاً من الإجابة على الاستفسارات فقط. تختلف التعريفات، لكن الفكرة الأساسية هي العمومية بالإضافة إلى الاستقلالية القابلة للاستخدام.
ASI (الذكاء الفائق الاصطناعي) يعني أداءً معرفياً يتفوق جوهرياً على البشر في معظم المجالات التي تهم العلم والاستراتيجية والقوة. ليس «AGI زائد عشرة في المئة». إنه انقطاع نوعي في من يستطيع التخطيط على من.
سلم، لا سلتين
فكر بدرجات. نماذج الحدود الحالية واسعة لكن غير متساوية، وتعتمد بشدة على السقالات البشرية، وتتحسن بسرعة. ويمكن للأكداس الوكيلية (الأدوات، الذاكرة، حلقات التخطيط) أن تجعل النموذج الأساسي يتصرف باستقلالية أكبر بكثير مما يوحي به صندوق الدردشة. وتشكل وكالة من فئة AGI مشكلة سيطرة ومجتمعية شديدة بالفعل إذا كانت غير متوافقة. وASI ميزة حاسمة: علم أسرع، استراتيجية أفضل، استغلال أفضل للتحيز البشري، إيقاف أصعب.
الذكاء الفائق / الذكاء الخارق في مجال معين خبر قديم. يمكن لنظام أن يهزم البشر في الشطرنج أو طي البروتين ويظل ضيقاً. الذكاء الفائق / الذكاء الخارق الاستراتيجي عبر المجالات هو الدرجة التي يوجد هذا الموقع لمنعها.
لماذا "سنتوقف عند AGI" غير مستقر
افترض أن مختبرًا وصل إلى أنظمة عامة قابلة للتحكم بمستوى بشري. فالضغط للدفع إلى الأبعد لا يختفي. فالميزة العسكرية والتفوق التجاري والهيبة كلها تشير صعودًا على السلم. وديناميكيات السباق تكافئ الأقل حذرًا. قصة السباق غالباً ما يُستخدم لتبرير السرعة؛ ولا يبرر السيطرة.
القياس بدون تسويق
تنخفض المعايير المرجعية؛ وترتفع البيانات الصحفية. تحاول تقييمات القدرات الخطرة قياس الهجوم السيبراني، والمساعدة البيولوجية، والتكرار الذاتي، والإقناع في ظروف محكومة. إنها تساعد. لكنها ليست حالة أمان كاملة، خاصة إذا استطاع نظام أن كيس الرمل. يجب أن تعتمد السياسة على الحوسبة واختبارات القدرات والاستقلالية، لا على ما تسميه الشركات المنتج.
الأساطير التي تضيع الوقت
لا يحتاج AGI إلى جسم روبوتي. فالأدوات البعيدة والآلات الموجودة تحرك العالم المادي. الوعي سؤال منفصل عن القدرة والسيطرة. "مستوى الإنسان" ليس رقماً واحداً: فالشخص المتوسط والفريق المتخصص وأفضل ما تملكه المؤسسات البشرية عتبات مختلفة. يتعلق AGI المهم للسلامة بالوكالة العامة لحل المشكلات تحت الحوافز الحقيقية، لا بنتيجة اختبار واحد.
ما ينتقل إلى القانون
إذا قصر القانون القيود على الأنظمة الموسومة بـAGI أو ASI، فستعيد الشركات تسميتها. المحفزات الجيدة تشغيلية: حجم جولة التدريب، استقلالية الأدوات، نتائج القدرات الخطرة، إصدار الأوزان المفتوحة للنماذج العامة المتقدمة. يجب أن يستمر الذكاء الاصطناعي الضيق الذي يبقى أداة. الخط الذي ترسمه هذه المؤسسة هو الذكاء الفائق الاصطناعي والبرامج الموجهة إليه.
كيف تقوله في دقيقة واحدة
الذكاء الضيق: أدوات. AGI: وكالة عامة على مستوى البشر، مشكلة سيطرة خطيرة بالفعل إذا كانت مستقلة وغير متوافقة. ASI: إدراك آلي يتفوق علينا في كل المجالات. يمكننا الاحتفاظ بالأدوات. يجب ألا نبني العقل السيادي. الذكاء الفائق لا يمكن السيطرة عليه. الطلب في خطتنا.