النقطة الحرجة، في الفيزياء، هي نقطة تنفجر عندها كمية ما وتتوقف المعادلات التي تستخدمها عن إعطاء إجابات منطقية. مركز الثقب الأسود هو المثال المعتاد. استعر الكلمة للتقنية فتحصل على النقطة الحرجة التقنية: نقطة مفترضة يقود عندها الذكاء الآلي التغيير بسرعة وعمق يجعلان قدرتنا على التنبؤ أو حتى فهم ما يأتي بعد ذلك تنهار.
إنه ادعاء يتعلق بأفق تتجاوز بعده سرعة التقدم المدفوع بالذكاء قدرة الفهم البشري، وليس ادعاء بوصول أداة محددة.
من أين تأتي الفكرة
النسب يستحق المعرفة، لأن المصطلح يستخدم بشكل فضفاض. تمت إعادة صياغة عالم الرياضيات جون فون نيومان في الخمسينيات وهو يتأمل أن التقدم التكنولوجي كان يقترب من بعض التفرد الأساسي في التاريخ. وفي عام 1965 وصف آي. جيه. غود الـ انفجار الذكاء, ، الآلية التي تعتمد عليها معظم نسخ الفرادة. أعطى مؤلف الخيال العلمي والرياضي فيرنور فينج الفكرة الحديثة اسمها وقوتها في مقالة عام ١٩٩٣، محاججاً بأن خلق ذكاء يفوق الذكاء البشري سيمزق نسيج التاريخ القابل للتنبؤ. ثم روج المخترع راي كورزويل للفكرة أمام جمهور واسع، واضعاً الفرادة حوالي عام ٢٠٤٥ ومدمجاً قصة أوسع عن الاتجاهات التقنية الأسية.
تلك ادعاءات مختلفة ترتدي كلمة واحدة، وهذا جزء من سبب جذب التفرد كلاً من الإخلاص ورفع العينين.
المحرك الكامن
إذا جردت النكهات فإن الآلية الأساسية بسيطة. إذا استطعت بناء آلة تفوق البشر في بناء الآلات، بما في ذلك تحسين ذكائها الذاتي، فإن التحسين يتغذى على نفسه. فكل نظام أذكى يكون أفضل في إنتاج النظام التالي، ويرتفع معدل التقدم بدلاً من أن يظل ثابتًا. وإذا أُديرت هذه الحلقة فقد ترتفع القدرة من مستوى البشر إلى ما هو أبعد بكثير في وقت قصير جدًا.
انفجار الذكاء هو المضمون الحقيقي وراء معظم الاستخدامات الجادة لفكرة التفرد. ويترتب على ذلك توقع عدم القابلية للتوقع: فبمجرد أن تبدأ الأنظمة في تحسين نفسها بسرعة الآلة، يخرج المسار عن النطاق الذي يعمل فيه التنبؤ البشري. ونعالج هذه الآلية بالتفصيل في شرحه الخاص, وهو حيث يعيش الجوهر.
الانتقادات
- قد يصطدم التحسين الذاتي بحدود صارمة. قد يواجه الذكاء عوائد متناقصة أو اختناقات بيانات أو قيود فيزيائية تُسطح المنحنى إلى صعود ثابت بدلاً من انفجار.
- المفهوم غامض. يقصد المدافعون عنه أشياء مختلفة، والنسخ الأكثر طموحاً على طراز كورزويل تربط بين تحديد تواريخ واثقة ونبرة شبه صوفية تدعو إلى التشكيك.
- تنحني الاتجاهات الأسية. غالباً ما تتبين المنحنيات التي تبدو متفجرة أنها الجزء المبكر من شكل S الذي يستوي.
هذه أمور معقولة، ولا يتطلب أي منها أن تكون الفرادة خاطئة بقدر ما تكون غير مؤكدة. الخطأ هو التعامل مع الشك في حدث درامي له اسم كأنه يذيب الخطر الكامن.
لماذا التسمية أقل أهمية من الآلية
يمكنك رفض كلمة التفرد كليًا، برائحتها النبوية وتواريخها الدقيقة، ويبقى لديك الجزء المهم للسياسة. السؤال الجاد هو ما إذا كان ذكاء الآلة قد يتحسن بسرعة كافية تجعل الانتقال إلى أنظمة تفوقنا بكثير يحدث أسرع مما نستطيع الإشراف عليه أو حكمه، لا ما إذا كانت هناك لحظة صوفية في 2045. ذلك ادعاء عن الجداول الزمنية وسرعة الإقلاع، ولا يحتاج إلى الإطار الكبير ليكون مقلقاً.
احذف الكلمة إن أردت. المشكلة التي تشير إليها، وهي انتقال سريع جداً بحيث لا يمكن توجيهه، لا تحتاج إلى الكلمة لتكون حقيقية.
يتمثل اهتمام المؤسسة في تلك النسخة المحددة والمخففة. فإذا كان الوصول إلى ذكاء فائق يفوق القدرات البشرية بمراحل قد يكون سريعاً، فإن الوقت الموثوق الوحيد لبناء الحوكمة والحفاظ على السيطرة هو قبل أن يبدأ، بينما لا يزال البشر هم من يقررون الضغط التنافسي للوصول إلى ذلك الحد أولاً لا يقصر إلا المدرج. سواء سميت الجانب الآخر تفرداً، فالرد هو نفسه، وهو خطتنا.
يجب ألا يحدث التفرد أبدًا
موقف المؤسسة هو الحظر، لا التنبؤ. لا يمكن للبشر السيطرة على الذكاء الفائق. الأفق الذي تسميه هذه الكلمة هو انطلاقة تتجاوز النقطة التي ما زلنا نقرر فيها. إنه نفس العبور كـ بناء الذكاء الفائق. لا يجب أن يحدث التفرد أبدًا.