ما هو مشروع معاهدة حول
الذكاء الفائق قد يقول.

إن العمل على تشريح معاهدة افتراضية ليس تمرينا أكاديميا. فهو يحول تطلعا غامضا إلى مجموعة من قرارات التصميم المحددة القابلة للنقاش، ويكشف أن عقبات حوكمة ASI سياسية وليست مفاهيمية. فالآلية القانونية موجودة بالفعل؛ ولكل حكم أدناه سابقة في معاهدة قائمة. وما يلي رسم هيكلي لا نصا نهائيا لما سيتعين على معاهدة سلامة الذكاء الاصطناعي حله.

المعاهدة أداة قانونية منظمة لها تشريح معروف: النطاق، والتعريفات، والالتزامات، والتحقق، والمؤسسات، والإنفاذ. إليك استعراضا ملموسا للأحكام التي يحتاجها اتفاق لمنع الذكاء الفائق غير الآمن، والخيارات التي يفرضها كل منها.

الديباجة والغرض

يفتتح كل معاهدة ببيان غرضها ومبادئها التوجيهية. هنا يكون الهدف منع تطوير الذكاء الفائق / الذكاء الخارق بشكل دائم. لا يمكن السيطرة على الذكاء الفائق / الذكاء الخارق، مع الحفاظ على فوائد الذكاء الاصطناعي دون هذه العتبة وضمان مشاركة تلك الفوائد. تتذرع الديباجة بمبدأ الاحتراز، وتؤكد أن المخاطر محل اهتمام مشترك للبشرية، وتضع المعاهدة ضمن القانون الدولي القائم. وهذا يحدد الإطار التفسيري لكل ما يلي.

النطاق والعتبات

أصعب مشكلة في الصياغة هي تحديد ما تغطيه المعاهدة. وعلى عكس المواد النووية، فإن قدرة الذكاء الاصطناعي طيف مستمر بلا خط طبيعي. والنهج العملي هو استخدام بدائل قابلة للقياس: عتبة حوسبة التدريب التي تصبح الأنظمة فوقها خاضعة لالتزامات المعاهدة، مقترنة بمعايير قائمة على القدرات للأنظمة التي تظهر قدرات خطيرة محددة. وينبغي تفويض الأرقام الدقيقة إلى هيئة فنية مخولة بمراجعتها، لأن أي رقم ثابت يُكتب في النص سيصبح قديمًا في غضون سنوات قليلة.

الالتزامات الأساسية

التحقق

لا قيمة لحظر لا يمكن التحقق منه، لذا تحتاج المعاهدة إلى نظام تحقق. مستنداً إلى سوابق الوكالة الدولية للطاقة الذرية واتفاقية الأسلحة الكيميائية، يجمع هذا النظام بين مراقبة المنشآت المعلنة لمجموعات الحوسبة الكبيرة، وتتبع الرقائق المتقدمة عبر سلسلة التوريد، وحقوق التدقيق في سجلات التدريب والتقييم، والتفتيش الموقعي مع حقوق وصول محددة، و(العنصر الأحدث) ضمانات قائمة على الأجهزة مدمجة في الرقائق لجعل التدريب السري واسع النطاق قابلاً للكشف. والهدف التصميمي، كما في الضمانات النووية، هو التحقق من الأمر المهم دون إجبار على كشف كل سر تجاري أو أمني.

المؤسسات

ستنشئ المعاهدة هيئة دولية (تسمها منظمة سلامة الذكاء الاصطناعي) لإدارتها: أمانة فنية ومفتشية، وفريقاً علمياً لوضع العتبات ومراجعتها، ومؤتمراً للأطراف بوصفه الجهاز صانع القرار، وآلية لتحديث الملاحق دون إعادة التصديق الكامل، على غرار نموذج مونتريال. هذه هي المؤسسة الدائمة التي تحول وثيقة ثابتة إلى نظام مستمر قادر على مواكبة التكنولوجيا.

التنفيذ، الدخول حيز التنفيذ، والتعديل

• التنفيذ. استجابات متدرجة للانتهاكات، من إعلان عدم الامتثال، إلى سحب الوصول إلى المنافع والحوسبة المشتركة، إلى الإحالة إلى مجلس الأمن في حال الانتهاكات الخطيرة، مع الاعتراف بأن التحقق يولد الأدلة لكن العقوبات تحتاج دعما سياسيا.
• دخول حيز التنفيذ. شرط يقضي بتصديق الدول المضيفة للمختبرات الرائدة وإنتاج الرقائق قبل سريان المعاهدة، حتى تحكم الفاعلين المعنيين، مع تجنب تصميم يسمح لأي طرف واحد بتعطيل وجودها إلى أجل غير مسمى.
• التعديل والتكييف. آلية مسار سريع لتشديد العتبات والملاحق التقنية بأغلبية مؤهلة، حتى يتمكن المعاهدة من التطور مع التكنولوجيا بدلاً من التجمد عند لحظة التوقيع.

ليس الحاجز أمام معاهدة للذكاء الاصطناعي هو افتقارنا إلى الأدوات القانونية. فكل بند تحتاجه موجود بالفعل في معاهدة ما. الحاجز هو الإرادة السياسية، وهو بالضبط ما يمكن أن تساعد مسودة واضحة في بنائه.

لماذا يهم تخطيط ذلك

يحقق وضع الأحكام بهذه الصراحة أمرين. فهو يزيل الغموض عن المعاهدة، مبينًا أنها تجميع لأجزاء مفهومة جيدًا، ولكل منها سابقة، وليست قفزة في المجهول. كما يوضح أين تكمن الصعوبة الحقيقية: ليس في الهيكل القانوني الذي يمكن التعامل معه، بل في الخيارات السياسية المتعلقة بالعتبات، وتدخل التحقق، والصفقة بين القوى الكبرى التي ستجعل المعاهدة ملزمة. والمسودة لا تخلق الإرادة للتوقيع. لكنها تحول "نحتاج إلى معاهدة" إلى "إليكم المعاهدة، وإليكم بالضبط ما يجب أن نتفق عليه"، وهذا هو المكان الذي يجب أن تبدأ فيه الدبلوماسية الجادة.