إذا قضيت وقتاً في نقاش الذكاء الاصطناعي عبر الإنترنت، فقد رأيت اللاحقة. يضيف الناس "e/acc" إلى أسماء مستخدميهم كما كان جيل سابق يرتدي دبوساً على السترة. إنها تعني التسارعية الفعالة, ، وهي الأكثر بلاغة والأكثر ثقة والأكثر تأثيراً كثقل مضاد لحركة سلامة الذكاء الاصطناعي. وأخذها على محمل الجد (بدلاً من تشويهها) هو الطريقة الوحيدة الصادقة للجدال ضدها.
ما تؤمن به التسارعية الفعالة
ظهرت التعجيلية الفعالة حوالي عام ٢٠٢٢ من حسابات وسائل التواصل الاجتماعي المجهولة، وأبرزها حساب يُدعى "بيف جيزوس"، الذي تبين لاحقاً أنه المهندس السابق غيوم فيردون، بالتعاون مع شريك يُعرف باسم بايزلورد. يستعير الاسم من تيار فلسفي أقدم يُدعى التعجيلية، لكنه في الممارسة أبسط وأكثر تفاؤلاً من سلفه الأكاديمي.
الادعاءات الأساسية:
- التكنولوجيا محرك ازدهار البشرية. تقريباً كل مكسب في الصحة والثروة والحرية يعود إلى التقدم التكنولوجي. المزيد من التقدم، أسرع، يعني المزيد من الازدهار.
- الذكاء الاصطناعي هو أقوى محرك من هذا النوع تم بناؤه على الإطلاق،, وتسريعه هو أسرع طريق لعلاج الأمراض، وإنهاء الندرة، وتوسيع ما يمكن للبشرية فعله وما يمكن أن تصبح عليه.
- الخطر الكارثي منخفض أو ضئيل. يضع بعض المتسارعين البارزين احتمالية الكارثة الوجودية الناجمة عن الذكاء الاصطناعي عند "صفر أو قريب من الصفر"، ويعتبرون سيناريوهات الهلاك قلقاً غير قابل للدحض.
- لا يمكنك فهم تقنية دون بنائها. يُغلق التقييد التجربة ذاتها التي تعلمنا كيف نجعل التكنولوجيا آمنة. نتعلم بالممارسة، لا بالتوقف.
- التقييد خطير بحد ذاته. التنظيم الثقيل يركز السلطة، ويخنق المنافسة، وقد يسلم المستقبل لجهات أقل نزاهة. التطوير المفتوح والسريع واللامركزي أكثر أمانًا من التباطؤ المتحكم فيه.
مُقدَّمةً بهذه الطريقة، تبدو التسارعية الفعالة عقيدة أمريكية واضحة، مستوحاة من عصر التنوير، تؤمن بالتقدم وتستهدف تقنية ذات وعد حقيقي، لا حماقة فيها. وموقفنا يتفق مع جانب أكبر منها مما توحي به الضجة الإلكترونية: كما نقول بوضوح،, نحن لسنا ضد الذكاء الاصطناعي. لقد عالج الذكاء الاصطناعي الضيق بالفعل أمراضاً وسرّع الاكتشاف. الخلاف أضيق وأحدّ من "المتفائلين مقابل المتشائمين."
أين يكون التسارع الفعال على حق
يبدأ الرد الصادق بالاعتراف بالنقاط القوية، لأنها قوية.
لقد كان التقدم حقاً القوة الإنسانية العظيمة. متوسط العمر المتوقع، وفيات الأطفال، معدلات الإلمام بالقراءة والكتابة، الفقر المدقع، خطوط الاتجاه طويلة الأمد هي أفضل الأخبار في تاريخ البشرية، وقد قادتها التكنولوجيا. إن الشك الشامل في التكنولوجيا الجديدة له سجل سيء.
التقييد الاحترازي له تكاليف حقيقية بالفعل،, وهي غالباً غير مرئية. كل سنة يتأخر فيها علاج، يموت أشخاص كانوا سيعيشون. "أولاً، لا تؤذِ" لا يمكن أن تعني "أولاً، لا تفعل شيئاً"، لأن التقاعس هو أيضاً خيار له عدد ضحايا. أي حجة سلامة جادة يجب أن تحمل هذا العبء، لا تتجاهله.
تركيز السلطة هو خطر حقيقي بالفعل. إن نظام حوكمة يسلم السيطرة على الذكاء الاصطناعي إلى كارتل صغير من المتنفذين أو إلى حكومة واحدة هو كارثة من نوع آخر، وهي نقطة نوضحها بأنفسنا في مقالاتنا عن الذكاء الاصطناعي الوحيد و الرقابة الديمقراطية. إن e/acc محق في أن "مجرد تنظيمه" قد يسير بشكل خاطئ تمامًا.
أين ينهار الحجة
ومع ذلك لا يترتب الاستنتاج. يكمن الخلل في ثلاث خطوات محددة، لا في تفاؤل التعجيل بكل شيء حيال التكنولوجيا عموما.
1. يعامل ادعاءً غير مثبت كحقيقة مسلم بها
الفرضية الأساسية هي أن مخاطر الذكاء الاصطناعي الكارثية "قريبة من الصفر". لكن هذا ليس استنتاجاً. لم يبرهن عليه أحد. وهو يُوضع في مواجهة الحكم المدروس للباحثين أنفسهم الذين بنوا الذكاء الاصطناعي الحديث، جيفري هينتون ويوشوا بنغيو ومئات آخرين وقعوا بيان 2023 الذي وضع خطر الانقراض إلى جانب الأوبئة والحرب النووية. وعندما تتناقض الفرضية المركزية لحركة ما تناقضاً صارخاً مع رواد المجال أنفسهم، فإن تسمية هذه الفرضية "تفاؤلاً" يقلل مما يحدث. إنها رهان، والمسرّع يفترض بهدوء الإجابة على السؤال الوحيد الذي يدور حوله الحجة بأكملها. نستعرض النطاق الفعلي للتقديرات الخبرية في شرحنا على P(doom).
2. "التعلم بالبناء" يفشل في مواجهة الأخطاء التي لا يمكنك النجاة منها
الادعاء بأننا نفهم التقنيات أفضل ببنائها صحيح لكل شيء تقريبا، وخاطئ تماما للفئة الوحيدة التي تهم هنا. التطوير التكراري المستفيد من الفشل يعمل عندما تكون حالات الفشل قابلة للنجاة وقابلة للعكس. تشحن البرمجيات المعيبة فتتعطل ثم تصلحها. تلك الحلقة هي محرك كل تقدم هندسي.
لا ينجح الأمر عندما يكون الفشل الخطير الأول هو الأخير أيضًا. نظام غير محاذٍ الذكاء الفائق ليس عطلاً تصلحه؛ إنه، بمنطق التقارب الأداتي و ال المنعطف الخائن, ، وهو نظام يقاوم التصحيح والإغلاق. تفترض عبارة "سنتعلم أثناء المسير" محاولة ثانية. في هذه المشكلة بالذات، قد لا توجد محاولة ثانية. حجتنا هي أن يتطلب الجانب الإيجابي اليوتوبي الذي يريده أنصار التسارع التوافق الذي لا نعرف كيفية تحقيقه, ، وأن الذكاء الفائق / الذكاء الخارق غير المتوافق لا يحقق الوفرة، بل ينهي القصة فقط.
3. يخلط بين مشكلة التنسيق ومشكلة القيم
يؤطر إي/آك النقاش كمتفائلين يحبون التقدم مقابل متشائمين يخشونه. لكن حتى المتفائل الملتزم يواجه الـ ديناميكية السباق: عندما تتنافس مختبرات ودول متعددة على البناء أولاً، يكون لكل منها حافز لتقليص جوانب السلامة، لأن من يبطئ يخسر ببساطة أمام من لا يبطئ. والنتيجة أن الجميع يتحرك أسرع من أي شخص يعتقد أنه حكيم. ذلك ليس انتصاراً للتفاؤل؛ إنه فشل كلاسيكي في العمل الجماعي، من النوع الذي ينتج نتائج لا يختارها أي مشارك فردي. التسارع لا يحل تلك الفخ. بل يعمقه. الشيء الوحيد الذي يحله هو التنسيق، تماماً الأطر الدولية الملزمة التي يعارضها e/acc.
الخلاف، موضح بدقة
إذا جردنا الميمات فإن المعسكرين يختلفان في شيء واحد: ترتيب العمليات. يقول أنصار تسريع الفعالية ابنِ أولاً، وثق بأن السيطرة والفهم سيتبعان القدرة. أما موقف السلامة فيقول أرسِ السيطرة أولاً، لأن تكلفة الخطأ في ترتيب العمليات لهذه التقنية غير محدودة ولا رجعة فيها.
لا يلزم أن تكون متشائماً لتتبنى الرأي الثاني. يكفي أن تلاحظ التباين. فإذا كان المسرّعون على حق وحكمنا رغم ذلك، نخسر بعض السرعة وبعض الكفاءة، وهي تكاليف حقيقية قابلة للاسترداد. أما إذا كان المسرّعون مخطئين ولم نحكم، فنخسر القدرة على توجيه أقوى شيء أنتجته البشرية على الإطلاق، بشكل دائم. وأمام هذا التباين، فإن الإصرار على السلامة أولاً هو أبسط أشكال الحكمة، مطبقاً على أعلى قرار مصيري سنتخذه على الإطلاق، لا خوفاً من التقدم.
لهذا السبب لا يجادل Nakada Foundation ضد الذكاء الاصطناعي، ولا يجادل ضد مستقبل جيد. إنه يجادل لبناء الفرامل قبل أن تصل السيارة إلى السرعة الكاملة. إذا كنت تريد الوفرة التي يعد بها المسرّعون، فإن أضمن طريقة للحصول عليها هي التأكد من أننا سنبقى لنستمتع بها خطة هو ما يبدو عليه "السلامة أولاً" في الممارسة العملية.