حوكمة الذكاء الفائق:
موجز لصانعي السياسات
الحجة للحوكمة الدولية لسلامة الذكاء الاصطناعي: المشكلة وما هو مطلوب والسوابق التي تثبت إمكانيته.
تقنية غير مسبوقة بدون إطار حوكمة
الذكاء الفائق الاصطناعي (نظام يتجاوز الذكاء البشري في كل مجال) يجري تطويره بنشاط من قبل شركات خاصة تعمل تحت إشراف تنظيمي ضئيل. وقد صرحت مختبرات الذكاء الاصطناعي الرائدة داخليا بأنها تتوقع الوصول إلى هذا الحد خلال هذا العقد.
على خلاف المخاطر التقنية السابقة، لا يملك الذكاء الفائق أي بنية حوكمة دولية قائمة. لا توجد معاهدة، ولا هيئة تحقق، ولا معيار سلامة متعدد الأطراف، ولا آلية لوقف التطوير إذا ظهرت إشارات تحذيرية. فجوة الحوكمة كاملة.
نافذة الحوكمة الفعالة تغلق
تتطلب أطر الحوكمة الدولية سنوات من التفاوض لإنشائها. استغرقت معاهدة منع الانتشار النووي عقداً من الدبلوماسية بعد أولى التجارب النووية. وتطلبت بروتوكول مونتريال بناء إجماع علمي مستدام قبل تحقيق التبني متعدد الأطراف.
يتسارع تطوير قدرات الذكاء الاصطناعي. فالتحسينات التي كانت تستغرق سنوات أصبحت تصل في أشهر. وحين يوجد نظام قادر بما يكفي، قد يفوت الأوان لفرض قيود ذات معنى. يجب أن تسبق الحوكمة القدرة، لا أن تلحق بها.
سوابق: لقد فعلنا ذلك من قبل
إجراءات السياسات الموصى بها
- تقييمات السلامة الإلزامية قبل النشر من قبل هيئات حكومية مستقلة قبل إصدار أي نظام ذكاء اصطناعي متقدم، مكافئ للتجارب السريرية للأدوية.
- مراقبة الحوسبة والترخيص لعمليات التدريب فوق عتبات القدرة المحددة. الحوسبة هي الوكيل القابل للقياس للقدرة؛ يمكن تتبعها وتنظيمها.
- الوكالة الدولية لسلامة الذكاء الاصطناعي مع سلطة التفتيش، مستوحاة من IAEA، للتحقق من الامتثال لمعايير السلامة المتفق عليها عبر الولايات القضائية.
- متطلبات الإبلاغ عن الحوادث للسلوكيات الخطرة التي لوحظت أثناء التدريب أو النشر، والتي تكون حالياً طوعية وغير متسقة بين المختبرات.
- تشريعات السلامة المحلية للذكاء الاصطناعي إنشاء مسؤولية قانونية عن الأضرار المتوقعة من أنظمة الذكاء الاصطناعي غير المختبرة بشكل كافٍ، مما يخلق حوافز سوقية مناسبة للحذر.
- مفاوضات متعددة الأطراف لإنشاء معايير دولية قبل الوصول إلى عتبات القدرات، لا بعدها. ابدأ الآن، بينما النافذة مفتوحة.
هذا هو الإجماع العلمي، وليس موقفاً هامشياً
وقع أكثر من 500 عالم في مجال الذكاء الاصطناعي، بمن فيهم الحائزان على جائزة نوبل جيفري هينتون ويوشوا بنجيو، والرؤساء التنفيذيون لـ OpenAI و DeepMind، بيانا في 2023 يدعو خطر الذكاء الاصطناعي على مستوى الانقراض "أولوية عالمية إلى جانب الأوبئة والحرب النووية."
أنشأت حكومة UK أول معهد لسلامة الذكاء الاصطناعي في العالم (الذي أصبح الآن معهد أمن الذكاء الاصطناعي) عام ٢٠٢٣. وأدخل قانون الذكاء الاصطناعي في EU تصنيف المخاطر الإلزامي لأنظمة الذكاء الاصطناعي. وطلب الأمر التنفيذي بشأن الذكاء الاصطناعي في US إجراء تقييمات السلامة للنماذج الحدودية. ولم يوجد الإطار الدولي بعد، لكن الإرادة السياسية تتشكل. حان وقت العمل الآن.
nakadafoundation.org
يدعو Nakada Foundation to Save Humanity إلى حوكمة دولية لسلامة الذكاء الاصطناعي. نقدم خبرة في السياسات، والتوعية العامة، ودعم المناصرة. تواصل معنا لترتيب إحاطة لمكتبك أو موظفيك.