الحوكمة بدون أساس علمي مشترك هي تفاوض بدون خريطة مشتركة. توضح مفاوضات المناخ قبل عام ١٩٩٠ هذه المشكلة: فالحكومات التي كانت تتنازع حول ما إذا كان الاحترار الناتج عن النشاط البشري يحدث أصلا لم تستطع الاتفاق على مستوى الاستجابة المناسب، لأنها كانت تنطلق من مقدمات واقعية غير متوافقة. وقد أثبت التقرير التقييمي الأول لـIPCC، المنشور عام ١٩٩٠، أن الاحترار يحدث ويعزى إلى النشاط البشري. ولم ينه الخلافات السياسية حول ما يجب فعله، لكنه غير طبيعة تلك الخلافات من جدال حول وجود مشكلة إلى جدال حول كيفية الاستجابة لها.
قبل IPCC كان علم المناخ أرضا متنازعا عليها. وبعد ثلاثة عقود من تقارير تقييم IPCC، أصبح الأساس العلمي لسياسة المناخ مستقرا فعليا، مهما بقيت الخلافات السياسية حول الاستجابة. يحتاج خطر الذكاء الاصطناعي إلى النوع نفسه من التركيب الموثوق. ما يلزم لبناء هيئة مكافئة سؤال له جواب ملموس.
سياسات مخاطر الذكاء الاصطناعي لا تزال في حالة ما قبل IPCC. فلا توجد هيئة دولية موثوقة تجمع الأدلة على مخاطر الذكاء الاصطناعي المتقدم، وتقيم احتمال النتائج الكارثية وطبيعتها، وتصدر نتائج تتعامل معها الحكومات كأساس واقعي مشترك لقرارات الحوكمة. وليست هذه الفجوة إزعاجا بسيطا. فالمفاوضات الحوكمية التي تبدأ دون مقدمات واقعية مشتركة تميل إلى إنتاج أطر تشكلها المصالح الاستراتيجية أكثر من طبيعة المخاطر التي تحكمها.
كيف بنى IPCC التوافق فعلياً
لا يجري IPCC بحوثا أصلية. بل يجمع البحوث الموجودة الخاضعة لمراجعة الأقران، والمنتجة من آلاف العلماء في الجامعات ومعاهد البحث حول العالم، في تقارير تقييم شاملة. وتتضمن عملية الجمع مئات المؤلفين الخبراء الذين يراجعون ويلخصون الأدبيات المنشورة في مجالات خبرتهم. أما الملخص الموجه لصناع السياسات، وهو القسم الذي تقرأه الحكومات والصحفيون فعليا، فيُنتج من خلال تفاوض سطر سطر بين المؤلفين العلميين وممثلي الحكومات من جميع الدول الأعضاء الـ195 في IPCC.
هذه العملية التفاوضية هي مصدر السلطة السياسية لـIPCC، لكنها أيضا مصدر طابعها المحافظ. فأي حكومة تستطيع الاعتراض على لغة محددة في الملخص، وتتطلب العملية معالجة الاعتراضات قبل اعتماد الملخص. وهذا يعني أن الملخص يعكس القاسم المشترك الأدنى مما ستقبله جميع الحكومات المشاركة، وهو ما يكون دائما أكثر حذرا مما يدعمه العلم الأساسي لو قرئ دون مرشحات سياسية. وتقلل ملخصات IPCC باستمرار من درجة الإلحاح مقارنة بتقارير التقييم الكاملة التي تلخصها، لأن لغة الملخص يجب أن تنجو من مراجعة الحكومات.
رغم هذا التحيز المحافظ، كانت تقييمات IPCC ذات تأثير. فالتقدم من تقرير التقييم الأول في 1990، الذي أرسى الحجة العلمية الأساسية للاحترار الناتج عن البشر، إلى دورة التقييم السادسة المكتملة في 2022، التي وصفت الأدلة بأنها قاطعة والمخاطر بأنها شديدة وواسعة الانتشار، أنتج تحولاً معيارياً تراكمياً جعل من الصعب على الحكومات إنكار الحقائق الأساسية لتغير المناخ علناً. ارتفعت التكلفة السياسية للإنكار مع كل دورة تقييم لأن سلطة IPCC معترف بها عبر جميع الأنظمة السياسية تقريباً.
بديل بوغواش
قبل IPCC، كانت واجهة العلم والسياسة الأكثر تأثيراً بشأن المخاطر الوجودية هي مؤتمرات بوغواش حول العلم والشؤون العالمية. بدأ بوغواش عام 1957 استجابة لبيان راسل-أينشتاين، وهو بيان صدر عام 1955 وقّعه ألبرت أينشتاين وبرتراند راسل وتسعة علماء بارزين آخرين يحذرون من أخطار الأسلحة النووية ويحثون الحكومات على حل النزاعات بالوسائل السلمية. وجمع المؤتمر الأول لبوغواش، الذي عقد في قرية بوغواش بمقاطعة نوفا سكوشيا في يوليو 1957، اثنين وعشرين عالماً من عشر دول، بينها الولايات المتحدة والاتحاد السوفييتي والمملكة المتحدة، لمناقشة مخاطر الأسلحة النووية.
ما ميز بوغواش عن العمليات الحكومية الدولية الرسمية كان طابعه غير الرسمي. حضر المشاركون بصفتهم الشخصية لا كممثلين حكوميين. كانت المناقشات خارج السجل. استطاع العلماء من الدول المتعادية استكشاف مواقف وأفكار لم تأذن لهم حكوماتهم بتقديمها رسميا. أتاحت هذه الصفة غير الرسمية نوعا من التبادل الصريح عبر خطوط الحرب الباردة كان مستحيلا في السياقات الدبلوماسية الرسمية.
لم ينتج بوغواش معاهدات. بل أنتج الأساس الفكري الذي رسخته المفاوضات الرسمية لاحقاً. فقد صُقل مفهوم التدمير المتبادل المؤكد كأساس لاستقرار الردع في مناقشات بوغواش قبل أن يصبح سياسة رسمية. واستندت معاهدة الحظر الجزئي للتجارب (1963) ومعاهدة منع الانتشار (1968) إلى أفكار طُورت في مناقشات بوغواش. وحصلت المنظمة على جائزة نوبل للسلام عام 1995، بالاشتراك مع جوزيف روتبلات أمينها العام الطويل الأمد، تقديراً لهذه المساهمة في ضبط التسلح.
يمثل IPCC وبوغواش وظيفتين مختلفتين يمكن لواجهة العلم والسياسة أن تؤديهما. يجمع IPCC البحوث القائمة في تقييمات توافقية موثوقة تستمد شرعيتها السياسية من المراجعة الحكومية الدولية. وأنشأ بوغواش حواراً غير رسمي عبر الخطوط السياسية سمح بتطوير الأفكار قبل أن تصبح قابلة للتطبيق سياسياً. ويحتاج حوكمة مخاطر الذكاء الاصطناعي إلى كليهما: توليف منهجي للأدلة لإرساء مقدمات واقعية مشتركة للسياسة، وحوار غير رسمي عبر الجغرافيا السياسية لتطوير مفاهيم الحوكمة قبل بدء المفاوضات الرسمية. ويمكن أن تؤدي هذه الوظائف هيئة واحدة أو اثنتان منفصلتان.
ما الذي يحتاج إليه فريق مخاطر الذكاء الاصطناعي للقيام به بشكل مختلف
ستواجه لجنة دولية حول مخاطر الذكاء الاصطناعي مستوحاة من IPCC عدة تحديات لا مثيل لها في علم المناخ.
مشكلة المعرفة الاحتكارية. معظم ما يُعرف عن قدرات ومخاطر أنظمة الذكاء الاصطناعي الحدودية تملكه شركات خاصة قليلة. وأدبيات البحث في سلامة الذكاء الاصطناعي الحدودي منشورة جزئيا لكن المعلومات الأكثر صلة بما فيها نتائج تقييمات القدرات الداخلية ونتائج اختبارات السلامة وتقارير الحوادث احتكارية. وتجمع الوكالة الدولية للطاقة الذرية البحوث العامة المحكمة. وستحتاج لجنة مخاطر الذكاء الاصطناعي إلى الوصول إلى معلومات غير عامة لتجميع الأدلة الأكثر صلة مما يتطلب أن يقدم مطورو الذكاء الاصطناعي الحدودي تلك المعلومات إلى اللجنة بموجب ترتيبات سرية محددة. وتصميم تلك الترتيبات تحد حوكمي كبير ليس له سابقة في الوكالة الدولية للطاقة الذرية.
مشكلة السرعة. يصدر IPCC تقارير تقييم رئيسية كل خمس إلى سبع سنوات، مع تحديثات بينها. هذه السرعة تناسب ظاهرة فيزيائية تتغير على مدى عقود. قدرات الذكاء الاصطناعي تتقدم على مدى أشهر. ستحتاج لجنة مخاطر الذكاء الاصطناعي إلى إصدار تقييمات أكثر تواتراً بكثير، أو إنشاء وظيفة رصد دائمة تتابع تطورات القدرات في الوقت شبه الحقيقي، لتبقى ذات صلة بقرارات الحوكمة. إنتاج تقارير أكثر تواتراً سيكون أصعب عبر عملية المراجعة الحكومية الدولية سطراً سطراً في IPCC، لأن هذه العملية بطيئة بتصميمها.
مشكلة المعرفة ذات الاستخدام المزدوج. معرفة علم المناخ متاحة للجمهور ولا تحمل مخاطر أمنية متأصلة. أما بحوث سلامة الذكاء الاصطناعي فتشمل أحيانا فهم كيفية إساءة استخدام القدرات الخطرة بالضبط، مما يخلق توترا بين الشفافية التي تجعل التقييم موثوقا والمخاوف الأمنية التي تدعو إلى تقييد بعض النتائج. وسيحتاج فريق مخاطر الذكاء الاصطناعي إلى إجراءات للتعامل مع نتائج القدرات الحساسة لم يحتج IPCC إلى تطويرها قط.
لماذا يُعد غياب مثل هذه الهيئة مكلفًا بالفعل
إن غياب هيئة دولية موثوقة تجمع أدلة مخاطر الذكاء الاصطناعي له تكاليف حوكمة ملموسة تظهر الآن بوضوح.
تجري مفاوضات الحوكمة انطلاقاً من مقدمات واقعية غير متوافقة. تعمل حكومات مختلفة، وفصائل مختلفة داخل الحكومات، بتقييمات مختلفة جذرياً لموعد احتمال أن يشكل الذكاء الفائق مخاطر كارثية، وطبيعة تلك المخاطر، والتدابير الحوكمية التي قد تعالجها. وبدون خط أساس واقعي مشترك، تميل هذه المفاوضات إلى إنتاج أطر مصممة حول الرؤية الأكثر ملاءمة سياسياً للخطر بدلاً من التقييم الأدق له.
يأتي التواصل بشأن المخاطر مجزأً وغير متسق. وتصدر التحذيرات من مخاطر ASI عن مجموعة غير متجانسة من المصادر تشمل الباحثين الأكاديميين وفرق السلامة الداخلية في شركات الذكاء الاصطناعي ومراكز الأبحاث ومنظمات المناصرة، دون منهجية مشتركة أو مفردات موحدة أو آلية لفض الخلافات. وينتج عن ذلك خطاب عام يتأرجح بين التقليل والإنذار دون مرجع موثوق. وكانت قيمة IPCC في التواصل بشأن المناخ تحديداً أنها أعطت الصحفيين وصناع السياسات والجمهور مصدراً موثوقاً واحداً يمكن الاستناد إليه ضد التقليل والمبالغة على السواء.
"لم يخلق IPCC إرادة سياسية لمعالجة تغير المناخ. بل أنشأ الأساس الواقعي المشترك الذي جعل تجاهل المشكلة مكلفًا سياسيًا. وتحتاج حوكمة ASI إلى الشيء نفسه: هيئة تملك السلطة والمنهجية لتحديد ما تظهره الأدلة فعليًا بشأن مخاطر الذكاء الاصطناعي المتقدم، حتى تنطلق نقاشات الحوكمة من حقائق مشتركة بدلاً من الغموض الملائم استراتيجيًا."
أهم سابقة يقدمها IPCC للذكاء الاصطناعي ليست منهجية بل سياسية. أُنشئ IPCC عام 1988، قبل تقريره التقييمي الأول بعامين وقبل أربعة وثلاثين عاماً من وصف نتائج دورة التقييم السادسة بأنها تنتج آثاراً واسعة الانتشار وسريعة ومتزايدة بالفعل. بدأ الاستثمار المؤسسي في التوليف المنهجي للأدلة قبل وقت طويل من وصول الإرادة السياسية للعمل بتلك الأدلة. بالنسبة لمخاطر الذكاء الاصطناعي، يجب أن يبدأ المكافئ المؤسسي قبل إغلاق نافذة الحوكمة الفعالة، لا بعدها.
إن لجنة معنية بمخاطر الذكاء الاصطناعي تضم أعضاء حكوميين دوليين وتكلف بتجميع البحوث السلامة المنشورة وغير المنشورة تحت ترتيبات سرية مناسبة وتتمتع بوتيرة إبلاغ أسرع من الوكالة الدولية للطاقة الذرية وتستفيد من خبرة تقنية مستقلة مستمدة من مجتمعات بحوث سلامة الذكاء الاصطناعي يمكن إنشاؤها ضمن الأطر المؤسسية الدولية القائمة. ولن تتطلب معاهدة بل التزاما سياسيا من تحالف كاف من الحكومات لإنشائها وتمويلها. وهي نوع المؤسسة التي يمكن إنشاؤها قبل الالتزامات الحوكمية الملزمة ودعما لها. وسواء أُنشئت قبل أن تجعل التقنية التي ستقيمها التقييمات المبكرة قديمة فهو سؤال يضيق نافذته.
أقوى المعارضات
أعدل الاعتراضات هو أن لجنة علمية أخرى تصير مجرد منتدى نقاش بينما تشحن المختبرات. خطر عادل. نمط IPCC مفيد حين يفرض حقائق مشتركة في الغرف التي تكتب القانون. لجنة بلا مسار إلى العتبات والإنفاذ مسرحية. اقرن التقييم بالمحفزات.