العالم لديه أول معاهدة للذكاء الاصطناعي.
إليك ما لا يغطيه.

في الخامس من أيلول/سبتمبر ٢٠٢٤، في فيلنيوس بليتوانيا، وقع ممثلو الولايات المتحدة والمملكة المتحدة والاتحاد الأوروبي وعشرات الدول الأخرى على الاتفاقية الإطارية بشأن الذكاء الاصطناعي وحقوق الإنسان والديمقراطية وسيادة القانون. وكانت أول معاهدة دولية ملزمة قانونا بشأن الذكاء الاصطناعي تُبرم على الإطلاق. وتستحق أن تُفهم بوضوح، سواء لما تحققه أو للمشكلة التي لم تُصمم أصلا لحلها.

ما الذي تغطيه المعاهدة فعليًا

اتفاقية الإطار أداة لحقوق الإنسان. وتركز التزاماتها القانونية على ضمان ألا تقوض أنظمة الذكاء الاصطناعي الديمقراطية أو حقوق الإنسان أو سيادة القانون. ويعني ذلك عملياً:

• متطلبات الشفافية: يجب إخبار الناس عندما تؤثر أنظمة الذكاء الاصطناعي في قرارات تخصهم
• آليات المساءلة: يجب على الدول ضمان إمكانية محاسبة مطوري وناشري الذكاء الاصطناعي على الأضرار
• عدم التمييز: يجب ألا تنتج أنظمة الذكاء الاصطناعي نتائج تنتهك قانون المساواة القائم
• علاج فعال: يجب أن يتمكن الأشخاص المتضررون من الذكاء الاصطناعي من الوصول إلى التعويض القانوني
• الضمانات الديمقراطية: يجب ألا يُستخدم الذكاء الاصطناعي لتقويض العمليات الانتخابية أو سيادة القانون

هذه التزامات ذات معنى. خوارزمية توظيف بالذكاء الاصطناعي تميز على أساس العرق، ونظام تعرف على الوجوه يُنشر بلا شفافية، وحملة تضليل مولدة بالذكاء الاصطناعي، كلها تُعالج مباشرة ضمن إطار المعاهدة. وقد قبل الموقعون التزامات ملزمة لمنعها.

آلية التنفيذ هي مؤتمر الأطراف، الذي يراجع التنفيذ ويصدر توصيات. وهو ألطف من نظام التحقق في اتفاقية الأسلحة الكيميائية أو بروتوكولات التفتيش في معاهدة منع الانتشار النووي، لكنه يرسي مبدأ خضوع الذكاء الاصطناعي للقانون الدولي الملزم؛ ولم يكن هذا المبدأ قائماً قبل سبتمبر 2024، وإرساؤه خطوة حقيقية إلى الأمام.

ما لا تغطيه المعاهدة

تحكم اتفاقية الإطار كيفية استخدام الذكاء الاصطناعي في المجتمع. ولا تحكم ما إذا كان يجب تطوير أنظمة الذكاء الاصطناعي التي قد تشكل خطرًا حضاريًا في المقام الأول.

إطار المخاطر في المعاهدة مضبوط على أضرار الذكاء الاصطناعي الحالية والقريبة، وهي الأضرار الحقيقية والجادة التي تسببها أنظمة الذكاء الاصطناعي اليوم. هذا النطاق مناسب لأداة تهدف إلى حماية حقوق الإنسان في المجتمعات المتأثرة بالذكاء الاصطناعي. وهو النطاق الخطأ لأداة تهدف إلى منع كارثة حضارية ناجمة عن الذكاء الفائق.

لا تظهر كلمة "الذكاء الفائق" في أي موضع من نص المعاهدة. ولا تفرض أي التزامات على سباق تطوير الذكاء الاصطناعي المتقدم. ولا تتناول شيئاً عن حوكمة الحوسبة، أو حجم جولات التدريب، أو مشكلة المحاذاة، أو السيناريو الذي يشغل بال جيفري هينتون ويوشوا بنجيو وغيرهم من الباحثين الذين تراكمت تحذيراتهم على مدى العقد الماضي.

لماذا يهم هذا التمييز

خطر الخلط بين الاتفاقية الإطارية والحوكمة الكافية نتيجة طبيعية للعملية السياسية التي تنتج الاتفاقات الدولية، لا فرضية: فبمجرد وجود معاهدة، يُشبع الضغط السياسي لإنتاج واحدة. تستطيع الدول التي وقّعت الاتفاقية الإطارية الإشارة إليها كدليل على أن الذكاء الاصطناعي يُحكم. الحديث الأصعب (حول ما إذا كان يجب إخضاع أكثر أنظمة الذكاء الاصطناعي قدرة لقيود دولية ملزمة على تطويرها، لا نشرها فقط) لا يصبح أسهل بعد إعلان إنجاز حوكمي.

تتولى اتفاقية الإطار تنظيم الذكاء الاصطناعي نفسه الذي تنظمه بالفعل قوانين حقوق الإنسان والمساواة القائمة، فهي تمدد تلك المبادئ إلى سياق الذكاء الاصطناعي وتجعلها ملزمة دولياً. هذا قيم. وهي ليست استجابة لخطر أن يتسبب نظام ذكاء اصطناعي قادر بما يكفي، يسعى لأهداف غير متوافقة بشكل خفي مع رفاهية البشر، في إلحاق ضرر على نطاق لا يمكن لأي علاج قانوني معالجته لأن الضرر لا رجعة فيه.

"الهدف أن يسير تطوير الذكاء الاصطناعي على ما يرام للذكاء الاصطناعي وللبشر على حد سواء. وذلك يقتضي التعامل معه بوصفه قضية حضارية لا مسألة مسؤولية منتج."

ما الذي تتطلبه معاهدة سلامة الذكاء الاصطناعي الحدودية

ستبدو المعاهدة المصممة لمعالجة المخاطر الناتجة عن الذكاء الفائق الاصطناعي مختلفة تمامًا عن اتفاقية الإطار. إطار عمل Nakada Foundation المقترح يوضح ما يجب أن يشمله مثل هذا الاتفاق:

• حوكمة الحوسبة: حدود ملزمة على الموارد الحاسوبية التي يمكن تطبيقها على جولة تدريب واحدة، مدعومة بالتحقق على مستوى العتاد. الحوسبة هي عنق الزجاجة في تطوير الذكاء الاصطناعي المتقدم والمتغير الوحيد القابل حالياً للقياس والإنفاذ على المستوى الدولي.
• التحقق المستقل: آلية مراقبة مشابهة لعمليات التفتيش النووي، تسمح للأطراف بالتحقق من الامتثال بدلاً من الاعتماد على الإبلاغ الذاتي من المنظمات التي لديها أكبر مصلحة في عدم الامتثال.
• تغطية الذكاء الاصطناعي الحدودي: التزامات تنطبق تحديدًا على تطوير أنظمة الذكاء الاصطناعي الأكثر قدرة، وليس فقط نشرها في السياقات الاجتماعية.
• US-تضمين الصين: أي معاهدة لا تلزم الدولتين الرائدتين في تطوير الذكاء الاصطناعي ستكون ناقصة هيكليا، بغض النظر عن عدد الدول الأخرى الموقعة عليها.

تُعد اتفاقية الإطار خطوة أولى ضرورية. إن الاعتراف بأن الذكاء الاصطناعي خاضع للقانون الدولي الملزم يُعد سابقة مهمة. لكن تاريخ حوكمة التكنولوجيا الوجودية (النووي، الكيميائي، البيولوجي) يظهر أن المعاهدة الأولى في مجال ما نادرا ما تعالج الخطر الأشد. يتطلب الأمر جهدا سياسيا مستمرا، على مدى سنوات، لبناء الأطر التي تقيد فعلا ما هو الأخطر.

يجب أن يبدأ ذلك الجهد السياسي الآن، لا بعد إعلان اتفاقية الإطار أنها حلت المشكلة، ولا بعد وجود القدرات التي تجعل القيود الملزمة مستحيلة التنفيذ.