إن من يقررون مدى السرعة في البناء نحو الذكاء الفائق، وما معايير السلامة التي تطبق، ومتى ينشرون الأنظمة التي تقترب من تلك العتبة هم، في الغالب، موظفو ومستثمرو خمس أو ست شركات تقنية خاصة. وهم غير خاضعين لقانون دولي ملزم، وغير منتخبين. وتتقيد قراراتهم بالتزامات طوعية تبادلوها فيما بينهم وبالبيئات التنظيمية للدول التي يعملون فيها، وهي بيئات ناقصة ورد فعلية في الغالب.
لا يمكن أن تكون تلك الحقائق الإجابة النهائية.
هذا ليس اتهاما. الأفراد في هذه المنظمات، في كثير من الحالات، يحاولون التصرف بمسؤولية حقا. المشكلة بنيوية: قرارات بهذا الحجم يجب ألا تعتمد على النوايا الحسنة لأفراد معينين في شركات معينة، يعملون تحت ضغوط تنافسية تدفع systematically نحو نشر أسرع بهوامش أمان أقل.
هيكل صنع القرار الحالي
OpenAI، وAnthropic، وGoogle، وDeepMind، وMeta هم الفاعلون الغربيون الرئيسيون في تطوير الذكاء الاصطناعي المتقدم. لكل منهم فرق سلامة داخلية، وقد أعلن التزامات عامة بالتطوير المسؤول، ويشارك في منتديات الحوكمة الطوعية بما فيها منتدى النماذج المتقدمة. أما تطوير الصين فيقوده كيانات مدعومة من الدولة وشركات تقنية كبرى تعمل تحت تنسيق حكومي.
تُتخذ القرارات الأهم، متى يُدفع نحو المستوى التالي من القدرات، وما تقييمات السلامة الكافية قبل النشر، وما إذا كانت محاذاة النظام قد تم التحقق منها بشكل كافٍ، داخل هذه المنظمات، وتراجعها فرق السلامة الداخلية، وتُقيَّم وفق معايير كتبتها هي إلى حد كبير بنفسها.
لا تملك أي حكومة قائمة السلطة لإصدار أمر إلى أي من مختبرات الذكاء الاصطناعي الحدودية الرائدة بوقف التطوير. ولا يملك أي هيئة دولية الصفة القانونية للمطالبة بالتحقق المستقل من تقييمات السلامة. ولم تجر أي عملية تصويت ديمقراطي، في أي مكان، حول ما إذا كان يجب المضي قدما في بناء أنظمة يصفها مطوروها أنفسهم بأنها قد تحول كل النشاط البشري.
هذا وصف لفجوة هيكلية: الأشخاص الأكثر تأثراً بقرارات الذكاء الفائق ليس لديهم آلية رسمية ذات معنى للتأثير عليها، وليس نقداً لنوايا أي شركة بعينها.
لماذا تفشل الحوكمة الخاصة هيكلياً
ثلاث مشكلات هيكلية تجعل حوكمة الشركات الخاصة للذكاء الفائق غير كافية، بغض النظر عن نوايا الشركات المعنية.
الأول هو الضغط التنافسي. حتى المختبر الذي يرغب بصدق في الانتظار حتى تحل مشكلة المحاذاة يواجه معرفة أن منافساً ينشر أولاً قد يستحوذ على موقع سوقي يصعب استعادته. وهذا يخلق حافزاً لتعريف «السلامة الكافية» عند أي مستوى يسمح بالنشر قبل المنافسين، لا عند المستوى الذي يكون كافياً فعلاً. ولا تستطيع أي شركة فردية حل هذه المشكلة من جانب واحد. والتزامات السلامة الطوعية موجودة تحديداً لأن الشركات تعرف أن هذه المشكلة حقيقية، وهي غير كافية تحديداً لأن الالتزامات الطوعية تنحني تحت الضغط التنافسي.
الثاني هو تضارب المصالح في تقييم السلامة. المنظمات التي تجري تقييمات السلامة لأنظمة الذكاء الاصطناعي هي نفسها المنظمات التي لها مصالح مالية في اجتياز تلك الأنظمة للتقييم. هذه ببساطة الحالة الراهنة للمجال، وليست توصيفاً غير عادل. تقوم فرق السلامة الداخلية بعمل جاد وقيم. وهي ليست بديلاً عن المراجعة الخارجية المستقلة، تماماً كما أن التجارب السريرية الداخلية لشركة أدوية ليست بديلاً عن المراجعة التنظيمية من قبل هيئة مستقلة.
الثالث هو نطاق القرار. ما إذا كان يجب بناء الذكاء الفائق وفي أي جدول زمني هو قرار حضاري، لا قرار منتج. المكان المناسب لهذا القرار هو هياكل الحوكمة المسؤولة أمام الشعوب التي تتأثر مستقبلاتها، لا مجالس الشركات المسؤولة أمام المساهمين.
ما الذي تتطلبه الرقابة الديمقراطية وعبر الوطنية
لا يفترض الحجة للإشراف الديمقراطي على الذكاء الفائق أن العمليات الديمقراطية مثالية أو أن المؤسسات الدولية تعمل بسلاسة. إنه يفترض أن البديل (الحوكمة الخاصة تحت الضغط التنافسي) أسوأ بوضوح.
تتطلب الرقابة الكافية ثلاث خصائص. أولاها الشرعية التمثيلية: يجب أن يكون الجسم الحوكمي مسؤولا أمام من يتأثرون به، وهذا يعني في النهاية أمام البشرية جمعاء لا أمام مواطني الدول التي تبنى فيها نماذج الذكاء الاصطناعي المتقدم فقط. وهذا يشير إلى منظمات معاهدات دولية ذات عضوية واسعة لا إلى تنظيم وطني منفرد.
الثاني هو السلطة الملزمة. فالالتزامات الطوعية ليست حكما. إذ يحتاج إطار الحكم للذكاء الفائق إلى القدرة القانونية على فرض الامتثال وإجراء تدقيقات مستقلة وفرض عقوبات على المخالفة. وهذا يتطلب اتفاقات على مستوى المعاهدات لا منتديات الصناعة.
الثالث هو القدرة التقنية. فهيئة الحوكمة التي لا تستطيع تقييم ما تحكمه لا تستطيع حكمه. وتتطلب الرقابة الدولية على الذكاء الاصطناعي موظفين يملكون خبرة تقنية حقيقية، ووصولاً إلى أوزان النماذج وسجلات التدريب، وأدوات تحليلية لتقييم ادعاءات التوافق بشكل مستقل.
السابقة النووية
الحجة القائلة باستحالة الحوكمة الدولية الفعالة للتكنولوجيا الخطرة دحضها التاريخ. معاهدة منع الانتشار النووي الموقعة عام 1968 والسارية الآن في 191 دولة نجحت في تقييد انتشار الأسلحة النووية إلى مجموعة أصغر بكثير من الدول مما توقعه المحللون في الستينيات. إنها غير كاملة. ولم تمنع كل الانتشار. ومع ذلك كانت واحدة من أهم اتفاقات الحد من التسلح في التاريخ.
اتفاقية الأسلحة الكيميائية، التي دخلت حيز التنفيذ عام ١٩٩٧، حققت التدمير الموثق لأكثر من سبعين ألف طن متري من الأسلحة الكيميائية المعلنة. يجري نظام التفتيش الذي تديره منظمة حظر الأسلحة الكيميائية (OPCW) زيارات تحقق مستقلة إلى المنشآت في الدول الأعضاء ويعمل بمصداقية فنية حقيقية.
"يجب ألا تترك مسؤولية تطوير الذكاء الفائق لأي جهة واحدة (دولة أو شركة)، بل يجب أن تُعهد إلى هياكل حوكمة ديمقراطية وعابرة للحدود تمثل البشرية بكل تنوعها."
مجلة السياسة العالمية، فبراير ٢٠٢٦
ليس أي من المعاهدتين تشبيها مثاليا لحوكمة ASI. تطوير الذكاء الاصطناعي أسرع وأكثر توزعا وأصعب مراقبة فيزيائيا من إنتاج الأسلحة النووية. لكن الحجة الأساسية من هذه السوابق تبقى: عندما تشكل تقنية مخاطر عالمية حقا وربما لا رجعة فيها، أظهر المجتمع الدولي القدرة على بناء هياكل حوكمة تقيدها. الادعاء بأن الذكاء الاصطناعي غير قابل للحوكمة بشكل فريد ليس ملاحظة تقنية؛ إنه خيار.
الاعتراض التنافسي ولماذا لا يحل السؤال
أخطر اعتراض على الإشراف الديمقراطي وعبر الوطني على الذكاء الفائق / الذكاء الخارق هو الاعتراض التنافسي: إذا خضعت الديمقراطيات الغربية لقيود الحوكمة ولم تخضع الصين، فستصل جهة أقل اهتمامًا بالسلامة إلى الذكاء الفائق / الذكاء الخارق أولاً.
يتضمن الرد عدة أجزاء. أولا، يجب تصميم أطر الحوكمة منذ البداية لتشمل جميع الفاعلين الرئيسيين. يمتلك US وحلفاؤه نفوذا كبيرا على تطوير الذكاء الاصطناعي الصيني من خلال الوصول إلى التقنية وتدفقات الاستثمار وسلاسل توريد الرقائق. وهذا النفوذ أكثر قيمة طالما بقي موجودا، لا بعد بناء إطار حوكمة بدون الصين ثم فشله. ثانيا، للحكومة الصينية مصالحها الخاصة في عدم تجاوزها بذكاء فائق غير متوافق طورته شركة غربية، وقد شاركت في مناقشات السلامة الدولية للذكاء الاصطناعي بما في ذلك في بلتشلي بارك. العقبات أمام المشاركة الصينية حقيقية لكنها ليست مستعصية. ثالثا، البديل عن الحوكمة متعددة الأطراف هو سباق يحاول فيه كل فاعل رئيسي النشر أولا بأقل قيود سلامة، وهو ما لا يصب بوضوح في مصلحة US أو حلفائه، ويزيد فيه احتمال ظهور ذكاء فائق غير متوافق بغض النظر عن بناه.
لا تشكل الاعتراضات التنافسية حجة للوضع الراهن. الوضع الراهن هو حكم خاص تحت ضغط تنافسي، وهو ما يشير التحليل أعلاه إلى أنه غير كافٍ هيكلياً. الرد على "الحوكمة متعددة الأطراف صعبة" هو العمل نحوها، لا قبول حوكمة أسهل لكنها بوضوح غير كافية.
لمؤسسة ثلاثة مقترحات سياسية مصممة مع وضع هذا القيد في الاعتبار صراحة: أطر عمل منظمة لتكون قابلة للانضمام من قبل جميع الفاعلين الرئيسيين، مع الحوافز السياسية والاقتصادية اللازمة لجعل الانضمام أكثر جاذبية من الانسحاب.