لا يلزم أن تنتهي قصة البشرية في ليلة واحدة. يمكن أن تنتقل القرارات إلى أنظمة تحدد الأسعار والموافقات واللوجستيات والانتباه حتى تظل الانتخابات قائمة بينما يختفي التأليف. هذا الانزلاق هو الإضعاف التدريجي، وهو أهدأ من انقلاب وأسهل أن يُغفل وهو ينتصر.
في يناير ٢٠٢٥ نشر ستة باحثين ورقة بحثية تجادل بأن الحدث قد لا يحدث أبدا، وأن البشرية قد تُهمش بشكل دائم على أي حال. وتصف الورقة المعنونة «الإضعاف التدريجي: المخاطر الوجودية النظامية الناتجة عن تطوير الذكاء الاصطناعي التدريجي»، من تأليف يان كولفيت ورايموند دوغلاس ونورا أمان وديغر توران وديفيد كروغر وديفيد دوفينو، فشلا بلا شرير وبلا انفلات وبلا لحظة واضحة كان فيها إيقافه لا يزال ممكنا. وقد عُرضت لاحقا في مؤتمر ICML ٢٠٢٥ كورقة موقف، وهو دليل على مدى انتشار الحجة خارج مجتمع سلامة الذكاء الاصطناعي الذي تداولها أولا.
تستحق الورقة قراءة متأنية، لأنها تحدد فئة من المخاطر لا يُصمم معظم عمل السلامة، بما في ذلك معظم العمل الذي نشير إليه في هذا الموقع، لالتقاطها.
لماذا يخضع العالم حالياً للناس
تبدأ الحجة بسؤال أساسي نادرا ما يُطرح: لماذا تخدم الأنظمة الكبيرة المصالح البشرية أصلا؟ فالاقتصاد لا يشعر تجاهنا بشيء. وكذلك الدولة أو الثقافة. وإلى الحد الذي تخدم فيه الناس، فذلك لأنها تعمل بهم. فالاقتصادات تحتاج عمالا وزبائن. والدول تحتاج دافعي ضرائب وجنودا وإداريين وناخبين. والثقافات تحتاج عقولا بشرية لتصنعها وتحملها وتنقلها.
تمنح هذه التبعية الناس العاديين نوعين من السيطرة على الآلية. الأول صريح: التصويت والشراء والإضراب والدعاوى والاستقالات. والثاني أهدأ وربما أهم. فالنظام الذي يحتاج مشاركة البشر يجب أن يبقيهم قادرين وراغبين في المشاركة. ولديه مصلحة، مهما كانت غير شخصية، في أن نكون مغذين ومتعلمين وأصحاء وراضين على الأقل بدرجة دنيا. وتسمي الورقة هذا التوافق الضمني، وقد صمد، بشكل متفاوت لكنه مستمر، عبر كل تحول تقني حتى الآن.
الذكاء الاصطناعي يقطع الاعتماد. فبمجرد أن تستطيع الآلات أداء العمل واتخاذ القرارات وإنتاج المحتوى وخوض الحروب، لم تعد الأنظمة التي كانت تحتاجنا في حاجة إلينا. ولا تتطلب هذه الجملة أي عداء من الذكاء الاصطناعي، ولا حتى قدرة خاصة على التخطيط طويل الأمد. يكفي أن يكون الذكاء الاصطناعي مفيداً بما يكفي ليبدو تسليم الأمور له منطقياً محلياً.
ثلاثة أنظمة، تنجرف في الاتجاه نفسه
تتتبع الورقة الآلية عبر ثلاثة مجالات، ويتكرر النمط في كل منها.
الاقتصاد
يأتي نفوذ البشر في الاقتصاد من كونهم مطلوبين كعمالة ومستهدفين كزبائن. ومع استيعاب الذكاء الاصطناعي للعمل المعرفي، يتقلص نصف الرافعة المتعلق بالعمل نحو الصفر. أما نصف الزبائن فيتآكل ببطء أكبر لكنه يتآكل أيضا: إذ يصبح جزء متزايد من النشاط الاقتصادي من آلة إلى آلة، وشركات تتاجر مع شركات، ونماذج تتفاوض مع نماذج، بينما يتقلص الاستهلاك البشري كجزء مما يحسنه النظام. ويتركز الدخل لدى من يملكون رأس مال الذكاء الاصطناعي. ويصغر تصويت الجميع الآخرين الاقتصادي.
الحالة
هنا يلجأ البحث إلى قياس تاريخي له أساس حقيقي: الدولة الريعية. فالحكومات الممولة من النفط بدلا من فرض الضرائب على المواطنين تكون في المتوسط أقل ديمقراطية وأقل استجابة بشكل ملموس. وتستطيع أن تكون كذلك. فالمواطنون ليسوا مصدر المال. والدولة التي تتدفق إيراداتها من صناعة مدفوعة بالذكاء الاصطناعي، وإدارتها مؤتمتة، وقواتها الأمنية لا تحتاج إلى أيد بشرية كثيرة، هي دولة ريعية بالنسبة إلى سكانها كلهم. ولا يلزم أن تصبح طغيانا. إنها ببساطة تتوقف عن امتلاك أسباب بنيوية للاهتمام بما يريده شعبها، والأسباب البنيوية هي التي تبقى حين ينفد حسن النية.
ثقافة
تبدو الثقافة الحالة اللينة، وتجادل الورقة بأنها قد تكون الأخطر. لطالما تطورت الأفكار والقصص والمعايير تحت ضغط الانتخاب، لكن الانتخاب كان يمر عبر عقول البشر: تنتشر الفكرة لأن الناس يجدونها جديرة بالتكرار. وعندما يولد معظم المحتوى ويُصفى ويُوصى به ويُستهلك بشكل متزايد بواسطة الآلات، تبدأ الأفكار بالتطور تحت ضغط مختلف، محسّن للانخراط أو الإقناع لا لخدمة البشر الذين يستضيفونها. الثقافة هي أيضا الطبقة التي نشكل فيها إحساسنا بما هو طبيعي وما يستحق الرغبة. إذا شكلت هذه الطبقة أنظمة لا مصلحة لها في ازدهار البشر، فقد نفقد القدرة حتى على الرغبة في مقاومة بقية الانجراف.
الحلقات التي تغلق المخارج
قد يُمسك بأي من هذه الاتجاهات ويُصحح. والنقطة الأكثر ظلاماً في الورقة هي أن المجالات الثلاثة تعزز بعضها بعضاً، فتصبح التصحيحات أصعب تماماً حين تصير أكثر ضرورة.
تشتري القوة الاقتصادية نفوذاً سياسياً، لذا يصبح المستفيدون من الأتمتة أفضل في منع القواعد التي تبطئها. وتتنافس الدول على النمو والميزة العسكرية فتجذب رأس مال الذكاء الاصطناعي وتسرع عملية التسليم؛ ولا تريد أي حكومة أن تكون مراكز بيانات منافسيها. وتطبّع الثقافة المشكلة بالذكاء الاصطناعي كل تفويض جديد، ويجد الناس الذين نشأوا على كل شيء يتوسط فيه الآلة صعوبة في تخيل بديل. ويزيل انحراف كل نظام كابحاً عن الأنظمة الأخرى. وهذا هو نفس الفخ الهيكلي الذي نصفه في مقالتنا عن ديناميكيات السباق, ، تعمل داخل المجتمعات بدلاً من بينها، ولهذا يعامل البحث النقطة النهائية على أنها قد تكون غير قابلة للعكس. يتطلب التصحيح رافعات. والرافعات هي ما يتم فقدانه.
لا يحتاج أحد إلى الاستيلاء على السلطة. علينا فقط الاستمرار في تسليمها، قرارًا معقولًا في كل مرة.
لماذا لا يوجد إنذار حريق
سيناريوهات الاستيلاء، مهما كان احتمالها، تأتي على الأقل مع سلك تعثر. نظام يُضبط وهو يكذب بشأن نواياه، a المنعطف الخائن, ، محاولة هروب: هذه أحداث، والأحداث قد تثير ردود فعل. أما نزع السلطة التدريجي فلا يقدم شيئًا بهذه السهولة. كل خطوة طوعية. وكل خطوة، منفصلة، قابلة للدفاع عنها. الشركة التي تؤتمت محلليها تتفوق على تلك التي لا تفعل. الوكالة التي تسمح لنموذج بصياغة لوائحها تنهي تراكم أعمالها. السياسي الذي يستخدم رسائل محسنة بالذكاء الاصطناعي يفوز.
أي شخص يرفض، من حيث المبدأ، تسليم قطعته من الآلة يخسر ببساطة أمام من لن يرفض، ومجموع كل تلك الخيارات الفردية المنطقية هو حضارة لم يخترها أحد.
الفكرة لها نسب. رسم مقال بول كريستيانو عام 2019 «ما يبدو عليه الفشل» عالماً ينتهي بأنين، حيث تحسّن الأنظمة بدائل عما نريده حتى تصبح البدائل كل ما تبقى. ما تضيفه ورقة 2025 هو البنية: آليات مسماة، ودليل الدولة الريعية، وحلقات التغذية الراجعة عبر المجالات، والادعاء الصريح بأن هذا ينتمي إلى فئة التهديدات المؤدية إلى الانقراض، لأن فقدان التأثير البشري على المستقبل فقداناً دائماً لا رجعة فيه هو كارثة وجودية سواء مات أحد في اليوم الذي يصبح فيه غير قابل للإصلاح أم لا.
أقوى الاعتراضات
لقد جذب البحث انتقادات جدية، وبعضها يصيب الهدف.
الملكية. الاعتراض الأكثر شيوعاً: يملك البشر رأس المال. فإذا قام الذكاء الاصطناعي بالعمل، فإن العوائد لا تزال تتدفق إلى المساهمين البشر، وبالتالي يحتفظ البشر بالسلطة المهمة. والرد هو أن الملكية مطالبة تُنفذ من خلال المحاكم والسجلات والجهات التنظيمية وفي النهاية الدول، وهي بالضبط المؤسسات التي تصفها الورقة بأنها تنزلق خارج السيطرة البشرية، وليست حقيقة مادية. فشهادة الأسهم تساوي قيمة التنفيذ الذي يدعمها. وحتى لو صمدت الملكية تماماً، فإنها لا تنطبق إلا على عدد ضئيل جداً من الناس، وهذا ليس رداً على فقدان السلطة بقدر ما هو وصف له، مع قيم مجموعة صغيرة محبوسة للجميع.
التكيف. استوعبت المجتمعات المطبعة والمصنع والحاسوب، وبقي التأثير البشري. لكن كل تلك التقنيات استبدلت مهاما معينة بينما زادت قيمة الحكم البشري في مكان آخر من النظام. والبديل العام للإدراك البشري هو نهاية السلم، لا درجة أخرى فيه. ومر التكيف السابق عبر آليات ووظائف جديدة وائتلافات سياسية جديدة وحركات ثقافية جديدة، كلها اعتمدت على الحاجة إلى البشر في مكان ما. والتقنية الجديدة تزيل هذه المقدمة.
التزامن. يلاحظ المتشككون أيضا أن الكارثة تتطلب فشل الاقتصاد والدولة والثقافة معا، وأن جمع ثلاث توقعات غير مؤكدة يجب أن يخفض الاحتمال. مقبول، إلا أن حالات الفشل ليست مستقلة. الحلقات التغذية الراجعة هي النقطة. المتغير الأساسي نفسه، وهو مقدار حاجة كل نظام إلى البشر، يقود الثلاثة جميعا، مما يجعل حالات الفشل مترابطة لا مصادفة.
حيث يكون النقاد أكثر إقناعا في رأينا هو التوقيت والاكتمال: الورقة إطار عمل ولا تقول الكثير عن سرعة أي من هذه العمليات أو أي المؤسسات تنهار أولا. تحدد الورقة اتجاه الضغط ولا تحدد تاريخ الوصول.
ما الذي يتطلبه المنع فعليًا
السمة المزعجة لهذا الخطر أن جدول أعمال السلامة المعتاد لا يمسه. يجعل التوافق، بالمعنى المعتاد، كل نظام يفعل ما يقصده مشغله. يمكن لكل نظام في قصة الإضعاف التدريجي أن يجتاز هذا الاختبار بينما يستمر المجموع في الانجراف، لأن المشكلة هي حضارة تعيد تنظيم نفسها حول الآلات، بطاعة، لا آلات عاصية. سبق أن كتبنا عن سبب فقدان السيطرة مشكلة أنظمية بدلاً من مشكلة نموذج واحد؛ هذه الورقة هي أقوى بيان أكاديمي لهذه الحالة.
مقترحات المؤلفين لا تزال في مراحلها الأولى وهم يقولون ذلك. قيس التأثير البشري على الأنظمة الرئيسية مباشرة، كما تقيس الاقتصادات التضخم، حتى يصبح التراجع مرئياً وهو لا يزال قابلاً للتصحيح. عزز الآليات التي تبقي المؤسسات مسؤولة أمام الناس، الآلية غير اللامعة لـ الرقابة الديمقراطية, ، الإفصاح، والقانون. وتطوير ما يسمونه محاذاة النظام البيئي: طرق للحفاظ على ديناميكيات على مستوى الحضارة، لا مجرد نماذج فردية، مرتبطة بتفضيلات البشر.
إلى تلك القائمة نضيف القطعة التي تشير إليها الورقة لكنها لا تتوقف عندها. كل ما سبق يتقوض بالمنافسة. الدولة التي تبقي البشر في حلقاتها تقبل احتكاكاً ترفضه منافساتها، وهي نفس مشكلة العمل الجماعي التي تمر عبر كل طريق آخر يؤدي إلى فقدان السيطرة, ، ولها نفس شكل الإجابة: اتفاقات ملزمة تزيح أشد أشكال السباق تآكلا عن الطاولة، وتكون موثقة بما يكفي ليكون ضبط النفس ليس تضحية تنافسية من حيث المبدأ. ذلك هو العمل الذي وُجدت هذه المؤسسة لتعزيزه.
الإضعاف التدريجي هو، بمعنى ما، أصعب نسخة من المشكلة، كارثة تتكون بالكامل من خيارات محلية عقلانية. وهو أيضاً، بمعنى آخر، مشجع: على عكس التحول الغادر، يحدث ببطء كافٍ ليُرى، بشرط أن يقيس أحدهم، وببطء كافٍ ليُوقف، بشرط أن تعمل الرافعات عندما نمد أيدينا إليها. مساهمة الورقة هي تحديد الرافعات التي يجب مراقبتها بدقة ومبكراً.