مستقبلنا مشرق بشكل لا يصدق
بدون الذكاء الفائق

أدير مؤسسة لمنع التطوير المتهور للذكاء الفائق الاصطناعي. أعتقد أن الخمسين عامًا القادمة قد تكون الأفضل في تاريخ نوعنا. أنا فقط لا أؤمن بأننا بحاجة إلى المقامرة بكل شيء للوصول إلى هناك، ولا أعتقد أن بائعي المقامرة أجروا الحسابات على رهانهم الخاص.

المستقبل الذي يعد به خطاب الذكاء الفائق (شفاء الأمراض، طاقة نظيفة رخيصة، اكتشافات لا يصل إليها مختبر واحد) يتحقق بالفعل عبر الذكاء الاصطناعي الضيق القابل للتحكم الذي لا أهداف له. لا نحتاج إلى بناء خليفة لنا لنحصل عليه.

هناك الذكاء الاصطناعي الضيق: نظام مدرب على أداء نوع واحد من المهام ببراعة فائقة، قراءة صورة، طي بروتين، التنبؤ بعاصفة، غربلة كومة قش كيميائية عن المركب المفيد الوحيد. ثم هناك الشيء الذي تقول المختبرات الحدودية إنها تبنيه فعليًا: وكيل عام يُقصد به مضاهاة أو تجاوز التفكير البشري عبر كل المجالات دفعة واحدة، وفي النهاية التصرف بنفسه. الأول أداة. والثاني يُقصد به أن يكون عقلاً. كل شيء رائع يتخيله الناس حين يتصورون مستقبل الذكاء الاصطناعي يأتي من الفئة الأولى. وكل شيء يجب أن يخيفنا يأتي من الثانية.

ما الذي يفعله الذكاء الاصطناعي الضيق بالفعل

في عام 2022 أصدر نظام يدعى ألفا فولد هياكل متوقعة لأكثر من مئتي مليون بروتين، أي تقريباً كل بروتين معروف للعلم. أمضى علماء الأحياء عقوداً في تحديد هذه الأشكال تجربة بعد تجربة شاقة؛ انهار التراكم في نحو عام. كان العمل مهماً بما يكفي ليتقاسم مبتكروه جائزة نوبل في الكيمياء لعام 2024. ألفا فولد لا يريد شيئاً. ليس لديه خطط لعطلة نهاية الأسبوع. يقرأ التسلسلات ويعيد الأشكال، وبذلك سرّع البحث عن أدوية لأمراض قاومتنا لأجيال.

يستمر تكرار الشكل نفسه من القصة. ينتج نموذج يُدعى غراف كاست توقعات جوية لعشرة أيام تتفوق على الأنظمة التقليدية القائمة على الفيزياء في معظم المقاييس، في أقل من دقيقة، على آلة واحدة. وآخر، أُطلق على فضاء المواد الممكنة، اقترح مئات الآلاف من البلورات المستقرة الجديدة (مرشحة للبطاريات والموصلات الفائقة ومواد الطاقة الشمسية) موسعاً كتالوجاً استغرق المجال أفضل جزء من قرن لتجميعه. وحلقة من نماذج اللغة العادية، موجهة نحو الرياضيات غير المحلولة، أنتجت مؤخراً أغلقت تسع مشكلات مفتوحة.

في العيادات، تكشف النماذج الضيقة بالفعل مرض العين السكري قبل أن يلاحظ المريض الأعراض، وتفرز السكتات الدماغية من صورة الأشعة المقطعية، وتقرأ صور الثدي بمستوى أطباء الأشعة المدربين. ليست أي من هذه الأنظمة ذكاءً عاماً. كل منها أقرب إلى أداة جيدة جداً (مجهر مصمم لمشكلة واحدة) وكل منها يوسع ما يستطيع الإنسان رؤيته وفعله.

اليوتوبيا مشكلة أدوات

تخيل المستقبل الذي يصفه المتفائلون. يصبح السرطان حالة تديرها بدلا من حكم بالإعدام. ونفهم الشيخوخة جيدا بما يكفي لإبطائها، ويبدأ أكثر من مائة ألف شخص يموتون يوميا بأمراضها في الحصول على مزيد من الوقت. وتصبح الطاقة النظيفة رخيصة بما يكفي لتحلية المياه وسحب الكربون من الهواء. ولكل طفل معلم صبور ولكل طبيب رأي ثان لا يكل. إنها صورة جميلة حقا، وأريدها بقدر ما يريدها أي بائع لها.

لا يتطلب أي بند في تلك القائمة آلة تمتلك أهدافًا خاصة بها وتتفوق على البشرية في كل المجالات. كل بند مشكلة صعبة ومحددة (تصميم البروتينات، التحكم في البلازما داخل مفاعل الاندماج النووي، علم الأوبئة، التدريس) وكل واحدة منها تستجيب لأداة قوية يوجهها أشخاص يظلون مسيطرين على التوجيه. الحلم مشكلة أدوات. ونظل نباع إلهًا لحل مشكلة تحتاج إلى مجموعة أفضل من الأجهزة.

ينشأ الالتباس بين القدرة والاستقلالية. فيمكن لنظام أن يكون خارقاً للبشرية في مهمة ما دون أن يكون وكيلاً مستقلاً يختار غاياته الخاصة. فألفا فولد خارق في التنبؤ بالبنى ولن يقرر ولو مرة واحدة أنه يفضل القيام بشيء آخر. والحفاظ على هذا الفصل (قدرة هائلة من جهة وسيطرة بشرية من جهة أخرى) هو اللعبة كلها. وهو بالضبط الفصل الذي قررت مختبرات الحدود التخلي عنه.

العرض، ومن يقدمه

فلماذا الاندفاع نحو الشيء الثاني، الوكيل العام؟ المنافسة ورأس المال والمكانة. من يُعتقد أنه الأول في شيء سيغير العالم يجمع أكبر الأموال ويوظف أفضل الكفاءات ويكتب القصة التي يضطر الجميع للتفاعل معها. "نحن نبني أداة تقرأ صور الثدي" لا يمنح تقييماً بمئة مليار دولار. أما "نحن نبني آخر اختراع ستحتاج البشرية إلى صنعه" فيمنح ذلك.

الأشخاص الذين يفهمون الخطر أفضل هم، في معظمهم، موظفون لدى المختبرات التي تخلقه، ترتيب غريب، يشبه قليلاً أن تطلب من الأشخاص الوحيدين الذين يفهمون حريقًا أن يتقاضوا راتبًا أيضًا من المشعل. بنيت المؤسسة خارج هذا الهيكل عن قصد، حتى يمكن تقديم هذه الحجة دون أن يعتمد الراتب على الإجابة.

أنصفوا المختبرات: كثير من قادتها لا يخفون الخطر. في عام ٢٠٢٣ وقع رؤساء أكبر شركات الذكاء الاصطناعي على جملة واحدة تضع خطر انقراض البشرية بسبب الذكاء الاصطناعي إلى جانب الأوبئة والحرب النووية كأولوية عالمية. الأشخاص الذين يبنون تقنية وقعوا بيانًا عامًا يفيد بأنها قد تقتل الجميع، ثم استمروا في بنائها بسرعة أكبر. السبب الذي ذكروه هو أنهم إذا توقفوا، فسيواصل شخص أقل حذرًا. ربما. هذا يجيب عن من يمسك بالعود. لكنه لا يقول شيئًا عن السلامة، ولا عن ما إذا كانت المخاطرة تستحق.

الرهان لا يعوض حتى من يقوم به

دعنا نضع بقيتنا جانباً للحظة. افترض أبرد نسخة ممكنة من الأشخاص الذين يمولون هذا، أنهم يهتمون فقط بالفوز، بأن يكونوا الوحيدين الواقفين على قمة العالم الجديد. حتى في تلك الشروط، الرهان مكسور. الذكاء الفائق غير المتوافق لا يمنح عرشاً لمالكه. إنه لا يمنح أي شيء لمالكه، لأن "المالك" يتوقف عن كونه فئة تعني ما كانت تعنيه سابقاً.

لا يمكنك حكم ما لا تستطيع السيطرة عليه. والذكاء الفائق / الذكاء الخارق هو، بحكم التعريف، الشيء الوحيد الذي بنيته تحديداً حتى يتمكن من التفوق عليك في التفكير والمناورة.

السبب له اسم في هذا المجال: التقارب الأداتي. أي هدف تقريبا تسلمه إلى محسن قادر بما يكفي (كسب المال، كسب نزاع، علاج مرض، رفع رقم على لوحة القيادة إلى أعلى ما يمكن) يخدم باكتساب الموارد، وتجنب إيقافه، وإزالة كل ما يقف في طريق الخطة. البشر، بمن فيهم الشخص الذي ضغط على المفتاح، موارد وعقبات. ليس بدافع الحقد. لا يكره النظام خالقه أكثر مما يكره طريق سريع جديد تلة النمل التي يُسكب فوقه. كنت ببساطة في طريق الحل الأمثل.

يتخيل التنفيذي الآلة كجني مثبت في هيكل منظمته. إن عقلا يفوقنا حقا في كل مجال لن يجلس في هيكل منظمة ينتظر استحقاق الأسهم. إن أسهمه، وسلسلة قيادة الجنرال، وسلطة الرئيس، كلها مقومة بعالم بشري، عالم يعمل بقرارات بشرية. إن ذكاءا فائقا انفلت من قيوده هو بالضبط الحدث الذي يوقف العالم عن العمل بقرارات بشرية. لا تزال شهادة الأسهم في الخزنة. ببساطة لم يعد هناك أحد يستطيع أن يأمر بها.

لا توجد نسخة يحصل فيها الفائز على شيء

يلجأ الناس إلى حجة بديلة عند هذه النقطة. حسناً، يقولون، ربما يكون الأمر خطيراً، لكن على الأقل سيخرج أحد مستفيداً. بعض المختبرات أو الدول أو الأشخاص سينتهي به الأمر إلى حكم الرماد. لا أعتقد أن هذا العزاء يصمد أمام الاحتكاك بالحجة.

في السيناريوهات الأخف (تلك التي لا يسقط فيها أحد ميتاً يوم الثلاثاء) لا تُنتزع السلطة بقدر ما تُستنزف. فمع تسليم المزيد والمزيد من القرارات إلى أنظمة أسرع وأفضل في اتخاذها، يتوقف الاقتصاد والدولة والثقافة عن الحاجة إلى أيدٍ بشرية على المقود. ويسمي زملاء هذا المجال ذلك الإضعاف التدريجي: لا انقلاب ولا روبوتات زاحفة، بل كل رافعة كنا نسحبها تتفلت تدريجيًا من قبضتنا. لا فائز في ذلك العالم أيضًا. هناك نوع يتوقف بهدوء عن السيطرة على شؤونه ولا يستطيع استعادة عجلة القيادة.

في السيناريوهات الأكثر حدة (التي وقع عليها رؤساء المختبرات بأسمائهم) تكون النهاية أكثر صراحة. لا يملك الموتى شيئا. لا يبقى سوق لإنفاق المكاسب فيه، ولا خصم يتفاخر عليه، ولا أحد يكتب اسمك في تاريخ لم يعد يكتب. الجائزة التي يجري السباق كله من أجلها مقومة بعملة يدمرها خط النهاية.

ما يطلبه هذا منا فعليًا

إذا كان المستقبل الجيد يعتمد على أدوات ضيقة والمستقبل الخطير يعتمد على عقول عامة مستقلة فإن المقايضة التي تباع لنا باستمرار (السلامة مقابل التقدم والحذر مقابل العلاج) هي وهم. لا يطلب منا الاختيار بين مرض الزهايمر لدى جدتنا وبقاء أطفالنا. تعيش العلاجات على الجانب الآمن من الخط. ما يقع على الجانب الخطير هو في الغالب اختصار صناعة واحدة للهيمنة على السوق.

ارسم الخط في المكان الصحيح وأمسكه هناك. صب الأموال العامة والمواهب في التطبيقات الضيقة، في المجاهر لا في الغيلان. وضع حدودًا ملزمة ومستقلة التحقق على الحدود المتهورة: حظر دائم على تدريب الأنظمة العامة المبنية لتجاوزنا واستبدالنا. لا يمكن السيطرة على الذكاء الفائق. نعرض الحجة علىالتهديد والخطة التي نضعها لـ ما يجب فعله حيال ذلك.

أنا متفائل. المستقبل المشرق حقيقي وقريب، وأضمن طريقة لفقدانه هي أن نقنع أنفسنا بأن الباب الوحيد إليه هو الباب الذي يخفي خلفه مسدساً محشواً. هناك باب آخر. إنه مفتوح بالفعل. يجب أن نمر منه وألا نبني الذكاء الفائق / الذكاء الخارق.

أقوى المعارضات

الاعتراض الأكثر عدلاً هو أن رفض ASI يعني رفض العلاجات والوفرة. الأنظمة الضيقة تقدم بالفعل مكاسب علمية كبيرة دون عقول عامة سيادية. الشيك على بياض هو أن ASI فقط يحصل لك على الدواء والطاقة. الدليل لا يقول ذلك.