كيف تقضي خمس دقائق حين يظن الشخص الجالس أمامك أن الذكاء الاصطناعي يعني تشات جي بي تي يكتب بريدًا إلكترونيًا؟ لقد أجريت هذا الحوار في المؤتمرات وعلى موائد المطابخ لسنوات، وخسرته بمعظم الطرق المتاحة. تتراكم الآليات فتغيب العيون. وتتراكم الكارثة فيصنفونك مع الواعظ في الشارع ويعودون إلى الحلوى. ما يصمد أمام غريب متشكك ذكي هو خمس خطوات، بهذا الترتيب.
هم يتصورون الروبوت الدردشي
عندما يسمع شخص ما "الذكاء الاصطناعي"، يتخيل المساعد على هاتفه أو التطبيق الذي يصنع صوراً سخيفة. هذا ليس الشيء الذي يقلقني. ابدأ من هناك والغرفة ضاعت بالفعل، لأنهم يعرفون أن الدردشة الآلية لن تنهي العالم. انقل الهدف في الثواني الخمس عشرة الأولى.
الشيء الذي يستحق القلق بشأنه هو آلة تفوق أفضل إنسان في كل مهمة مهمة تقريبا، بما في ذلك مهمة تصميم آلات أفضل. اسمه هو الذكاء الفائق الاصطناعي, ، ولا نملكه بعد. ما نملكه هو نية معلنة. أكبر شركات الذكاء الاصطناعي على الأرض تقول إن بناءه هو الهدف، ويتوقع عدة منها الوصول إليه خلال سنوات لا أجيال. معظم الناس لا يعرفون هذه الحقيقة الوحيدة، وهي التي تقوم بمعظم العمل. بناء عقل أذكى منا هو المشروع الرئيسي لأفضل المختبرات تمويلًا في العالم. سيقولون لك ذلك بأنفسهم.
الجملة الواحدة التي تغير الحوار
لا أحد يعرف كيف يتحكم في آلة أذكى منه، ومع ذلك نحن نبني واحدة.
مشكلة جعل ذكاء اصطناعي قوي يريد بموثوقية ما يريده صانعوه، ويستمر في ذلك مع ازدياد قدراته، لها اسم مشكلة التحكم. إنه غير محلول. سيقول المهندسون داخل هذه الشركات الشيء نفسه إذا سألتهم من دون وجود مسؤول إعلامي. يستطيعون رفع قدرة النموذج بسرعة أكبر بكثير مما يستطيعون رفع ثقتهم بأنه سيفعل ما قصدوه. المسافة بين هذين الخطين هي حيث يعيش الخطر.
قل تلك الحقيقة. ثم توقف عن الكلام. ودعها تستقر.
نحن نبني عقلاً أذكى من عقولنا، عن قصد، قبل أن تكون لدينا أي فكرة عن كيفية إبقائه موجهًا نحو طريقنا.
لماذا "الأذكى" هو المشكلة بأكملها
يقلل الناس من شأن كلمة "أذكى"، لذا أعطها نبضة إضافية. الذكاء وضع البشر في قيادة هذا الكوكب. لسنا أكبر أو أقوى الكائنات التي عاشت. ندير المكان لأننا نفوق كل شيء آخر في التفكير. يعتمد مستقبل الغوريلا الجبلية على قرارات نتخذها نحن، لا الغوريلات، وليس لأن أحداً يكره الغوريلات. لدينا أهداف. غابة الغوريلا أحياناً تقع حيث تريد تلك الأهداف أن تذهب.
تخيل الآن بناء شيء يقف بالنسبة لنا كما نقف نحن بالنسبة للغوريلا. إذا انفصلت أهدافه عن أهدافنا، فالعداء اختياري. القدرة الموجهة إلى مكان آخر كافية. لا يمكنك التفوق في التخطيط على شيء أفضل منك في التخطيط. الإصدارات اللاحقة لا تصلح ذلك.
مفتاح الإيقاف، والخيال العلمي
الأولى: سنقوم ببساطة بإيقافها. النظام الذكي بما يكفي ليكون خطرا ذكي بما يكفي ليلاحظ أن إيقافه سيمنعه من إنهاء ما حدد له. لذا لديه سبب لمنع ذلك، بنسخ نفسه في مكان آخر أو بجعل نفسه مفيدا جدا لفصله. الإيمان بمفتاح الإيقاف يفترض أننا سنبقى الطرف الأذكى في الغرفة. وفرضية القلق هي أننا لن نكون كذلك. لقد كتبت المزيد عن سبب الاحتواء أصعب مما يبدو.
الثاني: هذا خيال علمي. كان كذلك، حتى بدأت الأنظمة تجتاز اختبارات كنا متأكدين أنها ستستغرق عقودًا وتقوم بأعمال افترضنا أنها بشرية بأمان. لن أعطيك تاريخًا. لا أحد لديه تاريخ يستحق الثقة. توقف الباحثون الأقرب إلى العمل بهدوء عن وصف الذكاء الفائق بأنه بعيد، و الجداول الزمنية المنشورة استمر في الاقتراب بدلاً من الابتعاد أكثر.
انتهِ حيث يمكنهم فعل شيء
الخطأ الذي ارتكبته لسنوات كان التوقف عند الخوف. اترك شخصًا خائفًا بلا شيء يفعله فيصنف الموضوع تحت "كبير جدًا على التفكير فيه" ويعود إلى أمسيته. اقض الدقيقة الأخيرة على الجزء الذي يغفله الناس.
هذا يمكن منعه.
لا يوجد قانون طبيعي يفرض بناء الذكاء الفائق هذا العقد أو بناءه أصلا. عدد قليل من الشركات يختار بناءه وعدد قليل من الحكومات يختار السماح لها بذلك. يمكن التراجع عن الخيارات. ما تطلبه المؤسسة هو اتفاق بين القوى الكبرى لحظر بناء الذكاء الفائق بشكل دائم. لا يمكن للبشر السيطرة على الذكاء الفائق. تمتلك البشرية فعلنا هذا من قبل, ، مع أسلحة أرادها كل طرف ولم يستطع أي طرف استخدامها بأمان. معاهدة بين الخصوم أقل خيالاً مما يبدو للوهلة الأولى.
يقف بيننا وبينه قرار لا يزال بإمكان الناس اتخاذه.
خمس دقائق
شخص مستعد للاستماع.
- ليس الأمر الدردشة الآلية. الهدف الذي أعلنته هذه الشركات صراحة هو آلة أذكى منا في كل شيء، ويتوقعون ذلك في غضون سنوات.
- لا أحد يعرف كيفية السيطرة على شيء أذكى منا. القدرة تتفوق على السيطرة، وتلك الفجوة هي الخطر.
- الذكاء هو ما وضع البشر في الصدارة. بناء شيء فوقنا، وأهدافه، لا أهدافنا، هي التي تحدد الشروط.
- "أوقفها" و"هذا خيال علمي" كلاهما يفترض أننا نبقى مسيطرين. القلق كله هو أننا لن نكون كذلك.
- يمكن منعه. يُبنى الذكاء الفائق / الذكاء الخارق باختيار، ويمكن رفض هذا الاختيار، معاً، طالما لا يزال الوقت متاحاً.
لن تحسم السؤال في خمس دقائق. أنت لا تحاول ذلك. أنت تحاول نقل شخص واحد من "الذكاء الاصطناعي كثير" إلى "انتظر، لماذا يبني أحد ذلك." هذا الفكر الثاني هو المهم. لم يُدعَ أحد تقريبًا ليخوضه.
أقوى المعارضات
أعدل اعتراض هو أن النسخ التي تستغرق خمس دقائق شعارات لا حجج، وهي تدرب الناس على توقع خطر كرتوني. والنسخ القصيرة لا تزال بحاجة إلى آلية حقيقية: القدرة، والأهداف المحددة خطأ، والضغط التنافسي. فإن كانت نسختك التي تستغرق خمس دقائق تقول فقط "الروبوتات سيئة"، أعد كتابتها. أما إن سمّت الآلية فاحتفظ بها.