لقد وُصفت بأنني دوومر أكثر مما أستطيع عده. وكذلك فعل كل من يعمل على سلامة الذكاء الاصطناعي علنًا تقريبًا. يصل التصنيف قبل الحجة. قبل أن أقول كلمة عن الاحتمالات أو الجداول الزمنية أو ما يعنيه «السيطرة» حتى، تم فرزي بالفعل إلى سلة، الأشخاص الخائفون، الذين يريدون إبطاء الأمور لأنهم لا يستطيعون التعامل مع المستقبل. تم الفرز، وبالتالي الرفض.
الشيء المثير للاهتمام في "المتشائم" هو أنه يؤدي وظيفة؛ فالوقاحة هي الزي، لا السبب.
إن أكثر تحركات الجانب التسارعي فعالية لا علاقة لها تقريبًا بما إذا كانوا على حق.
من أين جاءت الكلمة
حوالي عامي ٢٠٢٢ و٢٠٢٣ توقف نقاش سلامة الذكاء الاصطناعي عن كونه حواراً داخلياً بين الباحثين وانتشر على وسائل التواصل الاجتماعي، حيث تتشكل الحجج في فرق وتكتسب الفرق أسماء. اتخذ معسكر التسارعيين (الذين يرون أن الذكاء الاصطناعي يجب بناؤه بأقصى سرعة ممكنة) لاحقة "e/acc" شارة ووضعوها في أسماء مستخدميهم. واحتاجوا إلى اسم للجانب الآخر أيضاً. فكان "المهلكون"، وغالباً ما يقترن بـ"ديسل" اختصاراً للإبطاء، وهو إثم الرغبة في السير ببطء أكبر.
تصلبت المزاجية في ذلك أكتوبر عندما نشر مارك أندريسن "بيان التفاؤل التكنولوجي". ويقرأ أقل كحجة وأكثر كعقيدة، ويتضمن قائمة بما يسميه العدو، ومن بينها "خطر الوجود" و"مبدأ الحيطة"، الفكرة البسيطة بأنك قد ترغب في فهم تقنية قوية قبل نشرها على نطاق واسع. وبمجرد تصنيف القلق نفسه تحت "العدو"، لا يحتاج من يحمله سوى تسمية أقصر للاستخدام اليومي. وأكمل "المهلك" الباقي.
أريد أن أكون منصفاً للحركة التي جاء منها، لأن هناك حجة حقيقية تحتها، ولدينا تناولها بجدية وبالتفصيل في مكان آخر. بعض المسرّعين يقدمون ادعاءات جوهرية: أن التقدم كان القوة الإنسانية العظيمة، أن التنظيم الثقيل يحمل مخاطره الخاصة، أنك تتعلم تقنية ببنائها. تلك تستحق الاشتباك. "المتشائم" هو ما يُستخدم بدلاً من ذلك، وليس واحداً منها.
ما الذي يفعله الملصق فعليًا
المتشائم شخصية، لا ادعاء. يحول الحجة إلى نوع شخصية، وأنواع الشخصيات لا تحتاج إلى إجابة، بل إلى تشخيص فقط.
انظر إلى ما يقوله جانب السلامة فعليا. تقريبا هذا: احتمال وقوع كارثة من نظام فائق الذكاء مرتفع بما يكفي (ليس مؤكدا، بل مرتفع بما يكفي) ليجعلنا نبني القدرة على السيطرة على هذه الأنظمة قبل أن نبني الأنظمة. يمكنك الضغط على كل جزء من ذلك. يمكنك الجدال بأن الاحتمال أقل مما نظن، وأن الجدول الزمني أطول، وأن "السيطرة" إطار خاطئ، وأن الحوكمة ستسبب ضررا أكبر من المخاطر التي تعالجها. كل ذلك حوار حقيقي، وبعضه حوار يستحق الخسارة.
«المتشائم» يتجاوز ذلك. فالكلمة تقول: أنت من النوع الذي يخاف الغد. وموقفك مزاج لا أطروحة، والمزاجات لا تحتاج إلى تفنيد: أقدم مناورة في البلاغة، وهي الحجة ضد الشخص لا ضد الفكرة، مرتدية ثيابا جديدة. وجمالها أنها لا تضطر أبدا إلى ملامسة الخلاف الحقيقي. فهي تنقل المعركة كلها من «هل هذا صحيح» إلى «أي نوع من الأشخاص يعتقد ذلك»، حيث يكون المتسارع قد قرر الإجابة مسبقا.
تحول الكلمة الحجة إلى نوع شخصية، وأنواع الشخصيات لا تحتاج إلى الرد عليها، بل إلى التشخيص فقط.
لماذا ينجح
يعمل التصنيف لأنه مبني من أشياء يرغب الناس بالفعل في تصديقها عن أنفسهم.
ابدأ بالواضح: لا أحد يريد أن يكون المتشائم. والتفاؤل يقرأ على أنه ثقة واندفاع، بينما الحذر يقرأ على أنه تردد وخوف. وتأطير الخيار على أنه بين البناء والتهويل يجعل معظم الناس يعرفون مسبقا أي كرسي يفضلون الجلوس عليه. وقد أنجز التأطير عمله قبل أن تصل حقيقة واحدة إلى الطاولة.
يستند أيضا إلى شيء أعمق، قصة أصيلة ومشرفة إلى حد كبير ترويها أمريكا عن نفسها. التقدم جيد. من خافوا من السكة الحديدية والمطبعة والضوء الكهربائي كانوا مخطئين، ويتذكرهم التاريخ كحمقى. يأخذ التسارعيون هذه القصة كاملة من الرف ويصورون المدافع عن السلامة كأحدث اسم في قائمة الخائفين الذين سيحرجهم المستقبل. إنها قصة قوية تحديدا لأنها غالبا ما تكون صحيحة. الحركة هي افتراض، بلا حجة، أنها صحيحة هذه المرة أيضا، وأن الذكاء الفائق / الذكاء الخارق هو المطبعة وليس شيئا جديدا. ما إذا كانت القصة نفسها هو السؤال كله، والتسمية موجودة حتى لا يُطرح السؤال أبدا.
لمن يُوجه الكلام
اصطف الناس الذين تُرمى بهم وتتفكك الكاريكاتير في يديك.
غادر جيفري هينتون Google في 2023 ليتمكن من الحديث عن المخاطر دون مراقب شركي؛ وهو أقرب ما يكون إلى أب مؤسس للمجال. ووصل يوشوا بنجيو، من بين أكثر الباحثين استشهادا في العالم، إلى القلق نفسه من عمله الخاص. وفي مايو 2023، وضع مئات العلماء والتنفيذيين (بمن فيهم قادة المختبرات التي تسابق لبناء التقنية) أسماءهم على جملة واحدة تضع خطر الانقراض الناجم عن الذكاء الاصطناعي في الفئة نفسها مع الجوائح والحرب النووية. إنهم ليسوا خائفين من التقنية. بل هم من بنوا هذه التقنية. ومهما أردت تسمية موقفهم، فإن "الخوف من المستقبل" ليس وصفا له، بل طريقة لعدم الإصغاء إليه.
كما تختزل الكلمة طيفا واسعا إلى نقطة. فهناك مسافة هائلة بين من يرى أن الكارثة شبه مؤكدة وبين من يقدرها بنسبة قليلة ويريد التأمين على أي حال، المسافة بين نبي وخبير إحصائي. ويصنف كلاهما متشائمين. ولا تستطيع التسمية رؤية الفرق لأنها لم تبن لذلك أصلا؛ فوظيفتها أن تجعل مجموعة من الآراء التقنية المتنوعة والمعتدلة في الغالب تبدو وكأنها طائفة واحدة ذات عيون واسعة. كتبنا مقالة كاملة عن نطاق تقديرات الخبراء لهذا السبب تحديدًا. النطاق هو ما صُمم التصنيف لإخفائه.
الإشارة
هذا ما أعود إليه دائمًا. الحركة الواثقة من إجابتها على سؤال السلامة لن تحتاج إلى لقب للأشخاص الذين يطرحونه.
إذا كان خطر الكارثة قريباً فعلاً من الصفر، فهذا ادعاء يمكنك الدفاع عنه علناً. أظهر الاستدلال. واشرح لماذا يخطئ الباحثون الذين بنوا الأنظمة بشأن الأنظمة التي بنوها. وقدم الحجة بأن المحاذاة تبين أنها سهلة، أو أن الذكاء الأكبر يجلب بالضرورة عناية أكبر، أو أن السباق بين المختبرات يصحح نفسه بطريقة ما قبل أن يقطع أحد زاوية قاتلة. هذه حجج صعبة، لكنها موجودة، وحين يقدمها المسرّعون فعلياً يمكننا أن نخوض النقاش، الذي حاول الحصول عليه بالكامل.
كلمة "متشائم" هي ما تملأ الفراغ الذي كان يجب أن يشغله ذلك الحجة. تلجأ إلى التسمية حين تفضل ألا تناقش الفكرة. تسمية خصمك أرخص من تفنيده، ومن مسافة تبدو كافية لتبدو انتصاراً في نظر الجمهور الذي غالباً لا يميز أياً منهما شاهد.
كيفية الإجابة عليه
ارفض الإطار. في اللحظة التي يصبح فيها الحديث بنّاء مقابل متشائم، تكون المادة قد غادرت الغرفة بالفعل. أعد سحبه إلى المستوى الموضوعي بسؤال واحد: ما الاحتمال الذي تضعه على خطر كارثي، ولماذا ذلك الرقم؟ لا يستطيع أحد تقريبا ممن يلوح بالكلمة كسلاح أن يجيب، لأن الكلمة موجودة حتى لا يضطروا إلى ذلك أبدا. إذا أردت أن ترى كيف يُبنى مثل هذا الرقم فعليا لا أن يُدّعى، فقد صنعنا P(doom) حاسبة التي تشرح الأجزاء.
ثم انزع التسمية عن الادعاء. "المتشائم" يلصق كاريكاتيراً (متشائم مدمن كآبة يكره التقدم) بادعاء عادة أضيق بكثير وأكثر مللاً: أن هذه التقنية بالذات تحمل خطراً معيناً يستدعي عناية معينة. افصل بينهما. يمكنك أن تحب التقنية، وتريد الوفرة التي يصفها المسرّعون، وتؤمن بأن المستقبل قد يكون استثنائياً، ومع ذلك ترى أنه يجب أن نكون قادرين على توجيه ذكاء فائق قبل تشغيله. هذان ليسا موقفين متعارضين. ال الحجة من أجل المستقبل الجيد يمر مباشرة عبر إتقان هذا الجزء، لا الالتفاف حوله.
لا أعتقد أن معظم من يستخدمون الكلمة يجادلون بسوء نية. الإطار مغر حقا، والثقة يسهل الخلط بينها وبين الصواب، خاصة عندما تأتي مع قصة جيدة. لكن عندما تكون أقوى خطوة يمكن أن تقوم بها حركة ضد منتقديها هي منحهم اسما غير flattering، فذلك يخبرك بشيء عن الأرضية التي تقف عليها حالة لا يعتمد على الخوف ولا على كره التقدم. يعتمد على قطعة واحدة راسخة غير براقة من الحكمة: لخطأ لا يمكن التراجع عنه، تبني الفرامل أولا.