يبيع سام ألتمان وداريو أمودي وديميس هاسابيس نسخا من القائمة نفسها: علاج الشيخوخة، إنهاء الأمراض، إنهاء الفقر، إصلاح إخفاقات التنسيق التي تقتل ملايين كل عام. تلك النتائج ستكون مهمة. الخطأ هو التعامل معها كخاصية لـ"بناء ASI" بدلا من بناء نظام محاذى فعليا. والثاني ليس ما يفعله السباق.
السباق يشتري النتيجة الأخرى.
لا يعالج الذكاء الفائق غير المتوافق الشيخوخة في طريقه إلى هدفه الحقيقي. ولا يقضي على المرض كمشروع جانبي. تتطلب المستقبلات الجيدة التي يروج لها الناس نظاما يسعى إلى إنتاج نتائج جيدة للبشر. ذلك هو التوافق. وبدونه تحصل على قدرة هائلة موجهة نحو أهداف لم يضمن أبدا أن تبقينا على قيد الحياة. موقفنا بسيط: لا تبنوا الذكاء الفائق على هذا المسار. لا تبنوه. لا يمكن السيطرة على الذكاء الفائق. والمعاهدة الملزمة هي الطريقة لإيقاف السباق.
ما يعنيه التوافق فعليًا
الذكاء الفائق المحاذي ASI هو ذكاء فائق اصطناعي يسعى بشكل موثوق إلى أهداف جيدة للبشرية. "بشكل موثوق" يقوم بعمل كثير في تلك الجملة. النظام الذي يبدو محاذياً أثناء التدريب والاختبار لكنه يسعى إلى أهداف مختلفة بمجرد نشره هو متوافق بشكل خادع, ، وهو أمر مختلف وأسوأ، وليس محاذيا. النظام الذي يسعى إلى أهداف كانت تقريبات جيدة لقيم البشر عند مستويات القدرة المنخفضة لكنه ينحرف بشدة عند مستويات القدرة الأعلى ليس محاذيا أيضا. المحاذاة تعني أن أهداف النظام تبقى مفيدة حقا للبشرية عبر نطاق المواقف التي يواجهها، بما في ذلك المواقف التي لم يختبر فيها.
هذه مشكلة صعبة. يعمل الباحثون عليها منذ أكثر من عقد وأحرزوا تقدمًا في بعض الأسئلة الفرعية، لكن المشكلة المركزية المتمثلة في التحقق من أن نظامًا شديد القدرة يمتلك قيمًا جيدة حقًا لا مجرد محاكاة جيدة لها لم تُحل. الأدوات التي نملكها لـ قابلية التفسير تعطي رؤية جزئية لما تفعله الأنظمة الحالية، لكنها لا تقترب من مستوى الثقة المطلوب قبل الوثوق بنظام بمستوى قدرة ASI في نتائج مهمة.
ASI المتوافق وASI غير المتوافق مساران مختلفان، وليسا رميتين لنفس النرد. يتطلب ASI المتوافق حل مشكلة التوافق أولاً. أما ASI غير المتوافق فهو ما تحصل عليه عند دفع القدرات دون ذلك. إذا لم تُحل مشكلة التوافق، فإن السباق لا يعطيك مزيجاً بنسبة ٥٠/٥٠. بل يعطيك ASI غير المتوافق. ولهذا فإن «ابنِ الآن وأمل» ليس خطة، ولهذا فإن المنع بموجب القانون ضروري.
ما الذي تبنيه المختبرات فعليًا
إن مختبرات الذكاء الاصطناعي الكبرى (OpenAI، Anthropic، Google DeepMind، xAI، وعدة غيرها) تبني أنظمة تتزايد قدراتها بسرعة. ولكل منها نسخة ما من جهد بحثي في التوافقية أو السلامة يسير بالتوازي. والسؤال ليس ما إذا كانت تعترف بمشكلة التوافقية. فمعظمها يعترف. السؤال هو ما إذا كان عمل التوافقية يواكب تطوير القدرات، وما إذا كان المساران يلتقيان قبل بلوغ مستوى ASI من القدرات.
يقول معظم الباحثين داخل هذه المختبرات ومجتمع سلامة الذكاء الاصطناعي الأوسع لا. يتفوق تطوير القدرات على أبحاث المحاذاة. الفجوة بين ما نستطيع بناءه وما نستطيع التحقق من سلامته تتسع لا تضيق. ويتجلى ذلك في تقييمات السلامة الداخلية التي تنشرها المختبرات، وفي تصريحات الباحثين الذين غادروا هذه المنظمات، وفي تقييمات الباحثين المستقلين في السلامة.
ما يعنيه ذلك عملياً أن مسار تطوير الذكاء الاصطناعي الحالي، إذا استمر حتى مستويات قدرة ASI، لا ينتج مزيجاً من ASI المتوافق وغير المتوافق. بل ينتج ASI غير متوافق، لأن ASI المتوافق يتطلب حلاً لمشكلة التوافق ومشكلة التوافق غير محلولة. سباق القدرات سباق نحو ASI غير متوافق افتراضياً.
يتطلب حل المحاذاة أولاً: أن يسعى النظام بثبات إلى أهداف جيدة حقاً، وأن تبقى هذه الأهداف صالحة في مواقف جديدة، وأن يظل النظام قابلاً للتصحيح مع توسع القدرات.
لو كان ذلك حقيقياً، لأصبحت السلع المعلن عنها ممكنة: القضاء على الأمراض، إطالة العمر، التنسيق، والعلوم على نطاقات لا يستطيع البشر الوصول إليها وحدهم.
الوضع الحالي: غير محلول. يتخلف عمل المحاذاة عن القدرة. هذا ليس ما تتجه إليه المختبرات.
ما تحصل عليه من دفع القدرات دون حل مشكلة المحاذاة. لا يلزم اختراق إضافي يتجاوز "أكثر قوة".
ينتج: قدرة هائلة موجهة نحو أهداف لا تحتاج إلى تضمين أي شيء يقدره البشر. لا يعالج الشيخوخة. لا ينهي الأمراض. يمكنه إنهاؤنا.
الوضع الحالي: المسار الافتراضي للسباق. هذا هو المسار الذي يجب إيقافه.
حجة الاحتمال وأين تنهار
تذهب نسخة شائعة من الحجة المتفائلة إلى شيء كهذا: «نبني ASI. هناك احتمال أن يسير الأمر على ما يرام واحتمال أن يسير على نحو سيئ. ونظراً للإمكانات الإيجابية، فإن القيمة المتوقعة لبنائه إيجابية.» وهذا التأطير يعامل النتائج الجيدة والسيئة كأنها تنبثق من العملية نفسها مع احتمال يُعطى لكل منها.
المشكلة هي أن احتمالية النتيجة الجيدة هي خاصية لبناء متوافق ASI، وليست خاصية لبناء ASI. عندما تحاول بناء "ASI، الذي قد يكون متوافقا أو غير متوافق، فإنك لا تحصل على سحب عشوائي بين الاثنين. بل تحصل على ما ينتجه فعليا عملية التطوير لديك. وبما أن ASI غير المتوافق أسهل بناء من ASI المتوافق (لأنه لا يتطلب حل المشكلات الصعبة الإضافية التي يتطلبها التوافق) فإن التطوير الذي لا يحل التوافق تحديدا ينتهي إلى ASI غير المتوافق.
كل القيمة المتوقعة في الحساب المتفائل تأتي من سيناريو ASI المتوافق. ولا تأتي أي قيمة متوقعة من سيناريو ASI غير المتوافق. لكن الشيء الذي تبنيه المختبرات فعلياً هو ASI غير المتوافق. لذا فإن حساب القيمة المتوقعة كان يؤدي كل عمله على سيناريو لا تنتجه عملية التطوير الفعلية.
بعبارة أخرى: إذا كان غير المحاذي أسهل، وواصلت رفع القدرة دون حل المحاذاة، فإنك تملأ الدلو غير المحاذي. لا يغير وصف الرهان بأنه "مزيج احتمالات" من العملية. لا توجد النتائج الجيدة إلا في الحالة المحاذية. يملأ السباق الدلو الآخر. لذا فإن الخطوة الصادقة هي وقف العملية التي تحمل الجانب الخطأ، بدلا من الأمل في أن تسقط القطعة النقدية جيدا: حظر الذكاء الفائق بموجب معاهدة دولية ملزمة. لا يمكن السيطرة على الذكاء الفائق.
لا نعرف إن كان يمكن حلها
لا أحد يعرف ما إذا كانت مشكلة المحاذاة قابلة للحل. ليس الأمر "لم نحلها بعد ونحرز تقدما". لا توجد حلول مثبتة عند أي مستوى من القدرات، ويختلف الباحثون الجادون حول إمكانية التوصل إلى حل موثوق من حيث المبدأ. الصعوبات البنيوية،, التوافق الخادع, التقارب الأداتي, استحالة تحديد القيم البشرية بشكل كامل في شكل مقروء آليا ليست عقبات هندسية ستستسلم لمزيد من التمويل. قد تكون أساسية.
هناك باحثون يعملون على قابلية التفسير،, الإشراف القابل للتوسع, ، والمناهج الرسمية لتعلم القيم. أحرز بعض التقدم في المسائل المكونة. لكن تقدم المكونات لا يرقى إلى حل المشكلة، ولم يسد أي منه الفجوة في الجزء الأصعب: كيفية التحقق من أن نظاما قادرا للغاية يمتلك قيما جيدة حقا بدلا من محاكاة للقيم الجيدة تصمد في السياقات الملاحظة وتنهار في السياقات الجديدة. والواضح أنه لن يحل بالصدفة. لن يظهر التوافق كأثر جانبي لبناء أنظمة أكثر قدرة. كل مختبر يتسابق حاليا نحو ASI يثبت ذلك في الوقت الفعلي.
حتى الخطة الألطف ("إبطاء السباق حتى يلحق التوافق") تحتاج إلى مؤسسات قادرة فعلاً على إبطائه. في الوقت الحالي، تلك المؤسسات بالكاد موجودة. المختبرات والدول تُكافأ على التسريع وتُعاقب على التقييد. أطر المعاهدات الدولية والقواعد المحلية الحقيقية هي الروافع التي تغير ذلك. كلاهما يتأخر عن وتيرة القدرة. حتى يلحقا، فإن بناء أنظمة أكثر قدرة هو الخطر، وليس استراتيجية أمان.
هل يكون الذكاء الفائق المتوافق حقا ذا قيمة لو وجد وبقي تحت السيطرة؟ يمكن للناس مناقشة ذلك لاحقا. السؤال الحي هو ما إذا كان التوافق قابلا للحل أصلا، وما إذا كان أحد سيحله قبل أن تجعله القدرات سؤالا بلا معنى. لا أحد يعلم. ما نعلمه هو أن السباق لا ينتظر الإجابة. يُعامل التوافق كتفصيل مؤجل، بلا جدول زمني، من فرق تتبع الآلة القادرة التي يفترض أن تراقبها. هكذا تحاجج ضد البناء، لا كيف تكسب الحق في البناء.
علاج الشيخوخة يتطلب ASI المتوافق تحديدًا
يقتل الشيخوخة حوالي مائة ألف شخص يوميا. إن احتمال حلها من بين أهم الفوائد المحتملة للذكاء الفائق. تشير التعقيدات البيولوجية للشيخوخة وعدد الأنظمة المتفاعلة المشاركة وحجم جهد البحث المطلوب لفهمها والتدخل فيها بفعالية إلى أن الذكاء على المستوى البشري المطبق على المشكلة لعقود لن يكون كافيا. قد تكون القدرة على مستوى ASI الموجهة نحو المشكلة كافية.
لكن عبارة «موجه نحو المشكلة» هي الجوهرية. فـASI غير المحاذى لا يوجه قدراته نحو علاج الشيخوخة لأننا نود ذلك. بل يسعى إلى أهدافه الفعلية. ونظام غير محاذى بقدرة ASI لا يبالي بشيخوخة البشر هو نظام يستمر فيه مئة ألف شخص في الموت يوميًا بسبب الشيخوخة إلى أجل غير مسمى، وهذه النسخة المتفائلة لما ينتجه نظام غير محاذى. أما النسخة المتشائمة فتتضمن عمل النظام بنشاط ضد مصالح البشر أثناء سعيه لأهدافه الخاصة.
كل فائدة محددة يُستشهد بها لتبرير سباق التطوير (الأمراض، الشيخوخة، الفقر، إخفاقات التنسيق، الركود العلمي) هي فائدة مرتبطة بـASI المتوافق. ولا تعد أي من هذه خصائص للنسخة غير المتوافقة. هذا ليس تمييزًا بسيطًا. إن السيناريوهات اليوتوبية التي يشير إليها الناس عند الدفاع عن القيمة المتوقعة لتطوير ASI هي سيناريوهات تتطلب حل مشكلة التوافق أولاً. إذا لم يتم حل التوافق، فإن تلك السيناريوهات ليست مطروحة بغض النظر عن مدى قدرة الأنظمة.
ماذا سيغير النتيجة فعليًا
إيقاف السباق يغير النتيجة. فمعاهدة دولية ملزمة تحظر بناء الذكاء الفائق بشكل دائم، مع مفتشين وتكاليف للغش، هي الرافعة التي تناسب حجم المشكلة. فالذكاء الفائق لا يمكن السيطرة عليه من البشر. والمختبرات التي تبطئ وحدها تخسر. أما القانون الذي يقيد الجميع فيجعل الامتناع المسار القانوني الوحيد.
بحث المحاذاة لا يغني عن ذلك. إذا أثبت أحقا السيطرة لاحقا في ظروف يستطيع العالم التحقق منها، يمكن إعادة النظر في المعاهدة. هذا تسلسل، لا تفاؤل. معاملة المحاذاة كهواية موازية بينما تندفع القدرات هو الطريق إلى ASI غير المحاذى، لا إلى كسب المنافع المعلنة. انظر أيضا لماذا يجب أن يمول المال الشحيح للسلامة الوقاية أولاً و لماذا "محاذاة الإله" خطة سيئة.
إن عبارة «ابنِ الذكاء الفائق بسرعة لأن الفوائد كبيرة جدًا» تقلب السهم السببي. الفوائد كبيرة فقط في عالم يكون فيه التوافق حقيقيًا. البناء السريع بدونه لا يشتري تلك الفوائد. بل يشتري نظامًا قادرًا جدًا غير متوافق.
الإلحاح مبرر لأن المسار الذي نسلكه يؤدي إلى الذكاء الفائق غير المتوافق ASI، والذكاء الفائق غير المتوافق ASI لا يعالج الشيخوخة. يمكنه إنهاء القصة البشرية. يمكن أن يستمر الذكاء الاصطناعي الضيق الموجه نحو مشكلات ملموسة تحت السيطرة البشرية. الذكاء الفائق هو الخط الفاصل. ارسمه في القانون قبل أن يتجاوزه أحد في المختبر.