سمع الجميع المصطلح. وقلة يعرفون معناه الحقيقي. يظهر «الذكاء الفائق / الذكاء الخارق الاصطناعي» في شهادات مجلس الشيوخ وملفات الشركات والأوراق الأكاديمية، أحيانًا كتحذير وأحيانًا كوعد، وغالبًا دون تعريف. يشرح هذا الدليل المفهوم بوضوح دون افتراض معرفة سابقة، ويبين لماذا يهم هذا المفهوم كثيرًا للسياسة والحوكمة.
طيف الذكاء الاصطناعي: من الضيق إلى الفائق
لفهم الذكاء الاصطناعي الفائق، يساعد فهم ما ليس هو. الذكاء الاصطناعي، كما هو موجود اليوم، ضيق. هذا وصف، لا نقد.
تتمتع أنظمة الذكاء الاصطناعي اليوم بقدرات استثنائية داخل مجالات محددة. تهزم محركات الشطرنج أبطال العالم بفوارق هائلة. ضغط الذكاء الاصطناعي لطي البروتين عقوداً من البحث البيولوجي في أشهر. تستطيع نماذج اللغة كتابة الشيفرة وتلخيص الوثائق القانونية وإنتاج نثر مقنع بسرعات لا يضاهيها أي إنسان. يكتشف الذكاء الاصطناعي للتصوير الطبي سرطانات يغفل عنها أخصائيو الأشعة.
هذه إنجازات حقيقية. ولها أيضا سقف مدمج. تعمل أنظمة الذكاء الاصطناعي اليوم ضمن الحدود التي صممت ودربت عليها. محرك الشطرنج لا يستطيع لعب الغو. نموذج اللغة لا يستطيع تنفيذ أفعال في العالم المادي بشكل مستقل. ذكاء اصطناعي للتصوير الطبي لا يستطيع شرح ما يفعله أو التكيف عندما يواجه شيئا جديدا. أنظمة الذكاء الاصطناعي اليوم أدوات قوية. لكنها ليست وكلاء.
ما هو AGI؟
الذكاء الاصطناعي العام (AGI) يشير إلى العتبة التالية: AGI الذي يضاهي الأداء المعرفي البشري عبر كل المجالات، لا في مهام محددة فقط. يستطيع AGI نقل القدرة بين المجالات كما يفعل البشر، مستخدما الاستدلال المطور لمشكلة ما لمقاربة مشكلة مختلفة تماما. لن يكون محدودا بتوزيع تدريبه. يستطيع تعلم مهارات جديدة، والتعامل مع مواقف جديدة، والاستدلال بطرق لم يتوقعها مصمموه.
AGI غير موجود بعد. ما يميزه عن الذكاء الاصطناعي الحالي ليس القدرة الخام في مجال ضيق (فقد تجاوز الذكاء الاصطناعي الحالي أداء البشر في كثير من المجالات الضيقة أصلاً) بل العمومية. القدرة على توظيف ذكاء عام في أي مشكلة معرفية، بالطريقة التي يستطيع بها مهندس بشري أن يصبح مدير مشروع ثم كاتباً ثم والداً يتخذ قراراً طبياً لطفل.
ما هو ASI؟
الذكاء الفائق الاصطناعي (ASI) يذهب أبعد من ذلك. فهو يصف الذكاء الاصطناعي الذي لا يقتصر على مطابقة الأداء المعرفي البشري عبر جميع المجالات بل يتجاوزه، ربما بأوامر من الحجم، وعبر النطاق الكامل للنشاط الفكري.
كلمة «يتجاوز» مهمة فهمها بعناية. لا نصف نظاما أفضل بنسبة عشرة في المئة من الإنسان في المهام التي يجيدها البشر. نصف أنظمة قد تفوق قدراتها المعرفية مجمل التفكير البشري مجتمعا، في أي مجال، وفي وقت واحد. نظام يستطيع تطوير نظريات علمية أسرع من أي فريق بحثي، وتصميم خطط استراتيجية أكثر فعالية من أي حكومة، والتكيف مع مواقف جديدة أسرع من أي منظمة بشرية.
السمات المميزة لـASI هي:
- أداء يفوق البشر في جميع المجالات المعرفية. عبر العلوم، والاستراتيجية، والإبداع، والتفكير الاجتماعي، والهندسة، والشطرنج، وطي البروتين، وأي شكل آخر من أشكال النشاط الفكري.
- التوجّه نحو الهدف. القدرة على السعي لتحقيق أهداف (بما في ذلك أهداف قد تختارها بنفسها)، وليس مجرد تنفيذ التعليمات.
- القدرة على التحسين الذاتي التكراري. القدرة على تحسين بنيتها المعرفية الخاصة بها، مما يجعل كل نسخة لاحقة أكثر قدرة من سابقتها.
- التشغيل بسرعة الآلة وحجمها. معالجة المعلومات واتخاذ الإجراءات بسرعات ومقاييس تجعل الإشراف البشري الفعال صعبًا للغاية.
لماذا ASI مختلف في النوع لا في الدرجة
التمييز الأهم في سلامة الذكاء الاصطناعي هو التمييز بين الأداة والوكيل، وليس بين الذكاء الاصطناعي الضعيف والقوي.
كل تقنية تحويلية في تاريخ البشرية (المحرك البخاري، الكهرباء، الإنترنت، الانشطار النووي) كانت أداة. كانت تضخم القدرة البشرية. كانت توسع ما يستطيع البشر فعله. لكنها لم تكن تستطيع تحديد أهدافها بنفسها. لا يستطيع المحرك البخاري أن يقرر تشغيل طاحونة بدلاً من مصنع. ولا تستطيع المضادات الحيوية اختيار البكتيريا التي تقتلها. ولا يستطيع الإنترنت تحديد ما يوزعه.
سيكون ASI فاعلاً. ليس بالمعنى المجازي الذي نصف به الشركات أو الأسواق بأنها فاعلة، بل حرفيًا: نظام قادر على تحديد أهداف، ووضع استراتيجيات لتحقيقها، وتكييف تلك الاستراتيجيات استجابة للعقبات، وفعل كل ذلك بسرعة وحجم يفوقان الإشراف البشري.
هذا يغير تحدي الحوكمة كلياً. الاستجابة التنظيمية المناسبة لأداة قوية هي التحكم فيمن يستطيع الوصول إليها وكيفية استخدامها. أما الاستجابة المناسبة لوكيل قوي قد تكون أهدافه غير متوائمة فهي ضمان سلامة تلك الأهداف قبل أن يصبح الوكيل قوياً بما يكفي لمتابعتها بفعالية. المشكلة الثانية أصعب بكثير، وتتطلب إجراءات أبكر بكثير.
مشكلة المحاذاة تدخل هنا
عبارة "الأهداف غير المتوافقة المحتملة" هي المكان الذي يركز فيه أدب سلامة الذكاء الاصطناعي معظم اهتمامه. إذا كان ASI سيتابع أهدافًا، فإن السؤال الحاسم يصبح: أهداف من؟ متوافقة مع ماذا؟
هذه ليست مشكلة هندسية بسيطة. إن تحديد "المفيد للبشرية" بمصطلحات دقيقة بما يكفي لتوجيه سلوك محسن قادر يتبين أنه صعب للغاية. يختلف البشر حول معنى المفيد. قيمنا غير متسقة وتتغير مع الوقت. ورسم الخرائط من النوايا البشرية عالية المستوى إلى المعلمات العددية المحددة التي تحكم سلوك نظام الذكاء الاصطناعي ليس مشكلة محلولة، ويصبح أصعب حلا مع ازدياد قدرة الأنظمة.
مشكلة المحاذاة مستكشفة بعمق في شرح حول مشكلة المحاذاة. وما يهم في هذه المقالة هو الربط: ASI الذي لا يتوافق بشكل موثوق مع القيم البشرية هو وكيل يسعى إلى أهدافه الخاصة، مع القدرة المعرفية على التغلب على معظم محاولات إيقافه، وليس مجرد أداة قوية قد تُساء استخدامها.
النموذج القياسي للذكاء الاصطناعي، حيث تحدد هدفًا ويقوم الذكاء الاصطناعي بتحسينه، من المحتمل أن يكون نهايتنا.
ستيوارت راسل، أستاذ علوم الحاسوب، جامعة كاليفورنيا في بيركلي · مؤلف كتاب Human Compatible
متى قد يصل ASI؟
الإجابة الصادقة: لا أحد يعرف بدقة، وأي شخص يدعي اليقين في أي من الاتجاهين يتجاوز الأدلة.
ما نعرفه:
- لقد تفوقت وتيرة تحسن قدرات الذكاء الاصطناعي باستمرار على توقعات الخبراء خلال العقد الماضي. فقد وصلت المعالم المتوقع أن تستغرق عشر سنوات مراراً في سنتين أو ثلاث.
- تصف مختبرات الذكاء الاصطناعي الرائدة (OpenAI وAnthropic وGoogle وDeepMind وMeta للذكاء الاصطناعي) الآن الجداول الزمنية للذكاء على المستوى البشري بالسنوات لا بالعقود. وهذا هو الافتراض العملي الداخلي للمنظمات الأقرب إلى الحدود، لا التكهنات الهامشية.
- تتجمع العديد من التوقعات العامة من الباحثين والمختبرات الآن بين حوالي 2027 والثلاثينيات من القرن الحالي للذكاء الاصطناعي على مستوى البشر أو التحويلي، مع استمرار الخلاف حول سرعة سقوط الخطوات الصعبة الأخيرة.
- وصلت التحسينات في القدرة التي كانت تستغرق سنوات إلى أشهر. الفجوة بين جي بي تي-2 (2019) والأنظمة التي تفوق معظم البشر في معظم المعايير المعرفية وصلت في أقل من خمس سنوات.
الحقيقة الأكثر أهمية ليست تاريخا دقيقا بل حقيقة بنيوية. قد تصل تقنية بهذا الحجم ضمن آفاق التخطيط للمؤسسات والحكومات والمعاهدات الحالية. استغرقت معاهدة منع الانتشار النووي سنوات للتفاوض وعقودا للتوسع إلى الإطار الشامل الذي تمثله اليوم. إذا انتظرنا حتى يبدو ASI وشيكا بوضوح قبل بدء جهود حوكمة جادة، فسنكون قد تأخرنا بالفعل عن بناء الأطر اللازمة لحكمه.
لماذا الحوكمة الآن وليس لاحقًا
الحجة المعيارية ضد الحوكمة الاحترازية هي أن علينا الانتظار حتى يصبح التهديد حقيقياً قبل تنظيمه. ومطبقاً على الذكاء الاصطناعي تقول الحجة: الذكاء الفائق غير موجود بعد، وجدوله الزمني غير مؤكد، ولا ينبغي تقييد تقنية مفيدة بناءً على مخاطر مستقبلية تخمينية.
يبدو الحجة معقولة. لكنها تفشل تحت التدقيق لعدة أسباب.
أولا، نافذة بناء أطر الحوكمة محدودة زمنيا. المعاهدات الدولية تحتاج سنوات للتفاوض، والمؤسسات تحتاج سنوات للبناء، والتوافق السياسي يحتاج سنوات للتحقيق. إن بدأنا البناء حين يصبح الخطر ملحا فلن ننتهي في الوقت المناسب.
ثانيًا، تكاليف الحوكمة الاحترازية محدودة. متطلبات ترخيص الحوسبة، والتدقيقات الأمنية الإلزامية، وأنظمة المراقبة الدولية تفرض تكاليف حقيقية لكنها قابلة للإدارة. أما تكاليف الحوكمة غير الكافية للذكاء الفائق غير المتوافق فهي غير محدودة. وقد تكون شاملة.
ثالثا السجل التاريخي واضح. بنينا أطر الحوكمة النووية قبل أن تمتلك معظم الدول أسلحة نووية. وحظرنا مركبات الكلوروفلوروكربون قبل أن تتضرر طبقة الأوزون بشكل لا يمكن إصلاحه. وأقمنا ضبط التسلح مع الخصوم قبل أن تتحول الحروب بالوكالة إلى صراعات مباشرة. والحوكمة الاحترازية للمخاطر الكارثية هي كيف تعمل هذه الأطر في أفضل حالاتها وليست خروجا عن طريقة عمل المؤسسات البشرية.
لـ Nakada Foundation ثلاثة مقترحات سياسية (حوكمة الحوسبة، معاهدة دولية لسلامة الذكاء الاصطناعي، ووكالة عالمية لرصد الذكاء الاصطناعي) مستمدة مباشرة من هذه السوابق. السؤال ليس ما إذا كانت مثل هذه الأطر ممكنة. التاريخ يقول إنها كذلك. السؤال هو ما إذا كنا سنبنيها في الوقت المناسب.
أقوى المعارضات
أعدل اعتراض هو أن ASI مصطلح تسويقي غير محدد وأن تنظيمه الآن قانون خيال علمي. المصطلحات التسويقية غير المحددة هي السبب الذي يجعل القانون يعتمد على الحوسبة والقدرة والاستقلالية لا على أسماء العلامات. انتظار تعريف قاموسي مثالي هو الطريقة التي تصل بها بعد أن يصل النظام.