تبدأ معاهدات الحد من التسلح بالتعريفات. تعرف اتفاقية الأسلحة الكيميائية السلاح الكيميائي بأنه أي مادة كيميائية سامة أو سلفتها تستخدم وسيلة حرب. وتعرف معاهدة منع الانتشار النووي الدول الحائزة للأسلحة النووية بأنها تلك التي صنعت وفجرت سلاحاً نووياً قبل الأول من يناير ١٩٦٧. وعرفت محادثات الحد من الأسلحة الاستراتيجية الصواريخ الباليستية بالمدى والحمولة. لم تكن هذه التعريفات محايدة سياسياً: كل واحد منها عكس خيارات استراتيجية بشأن من سيشملهم وما الأنشطة التي ستقيد وكيف ستوازن مصالح الأطراف.
تلك الأسئلة أصعب مما تبدو، وكيفية الإجابة عليها ستحدد ما إذا كان أي معاهدة ناتجة يمكنها فعلاً حكم ما تهدف إلى حكمه.
تواجه حوكمة ASI مشكلة تعريفية تتسم بعدة سمات ليس لها سابق قريب في مراقبة التسلح. وفهم هذه السمات شرط أساسي لصياغة تعريفات قادرة فعلًا على حكم ما يُقصد حكمه.
ثلاث طرق لتعريف الذكاء الاصطناعي الخطير
استخدمت أطر الحوكمة الحالية ثلاث مناهج متميزة لتحديد أنظمة الذكاء الاصطناعي التي تقع ضمن نطاقها. ولكل منهج نقاط قوة وقيود يتعين على إطار على مستوى المعاهدة معالجتها.
تحدد عتبات الحوسبة الذكاء الاصطناعي الخطر بموارد الحوسبة المستخدمة في تدريب النموذج، مقاسة بعمليات النقطة العائمة، أو الفلوبس. يعرف قانون الذكاء الاصطناعي EU نماذج الذكاء الاصطناعي الحدودية بأنها تلك المدربة بأكثر من ١٠ أس ٢٥ فلوبس. أمر US التنفيذي بشأن الذكاء الاصطناعي الصادر في أكتوبر ٢٠٢٣ طلب الإبلاغ إلى الحكومة الاتحادية عن النماذج المدربة بأكثر من ١٠ أس ٢٦ فلوبس. تنطبق التزامات سلامة الذكاء الاصطناعي الحدودي الموقعة في سيول على النماذج عند الحدود أو قربها، مع استخدام الحوسبة كوكيل لحالة الحدود.
تتمتع عتبات الحوسبة بميزتين هامتين لتصميم المعاهدات. أولاً، الحوسبة قابلة للملاحظة. فالأجهزة اللازمة لتدريب نماذج الذكاء الاصطناعي الكبيرة، وهي رقائق متخصصة تنتجها شركات قليلة، تستهلك أنماطاً مميزة من الطاقة وتولد حرارة قابلة للقياس. وسلاسل التوريد لهذه الرقائق ضيقة وتمر عبر ولايات قضائية قابلة للرصد. ثانياً، الحوسبة أصعب تزييفاً من ادعاءات القدرات، لأن إنتاج الأجهزة وتشغيل عمليات التدريب يولد توقيعات قابلة للملاحظة يصعب إخفاؤها على نطاق واسع.
إن قيود عتبات الحوسبة تصبح قديمة مع تحسن الخوارزميات. فالنموذج المدرب اليوم بقدرة ١٠ أس ٢٦ فلوبس يمتلك قدرات مختلفة جوهريا عن نموذج درب قبل خمس سنوات بنفس القدرة الحوسبية، لأن التحسينات الخوارزمية تنتج نماذج أكثر قدرة لكل وحدة حوسبة مع مرور الوقت. وعتبة حوسبة تحدد اليوم إما ستكون مقيدة أكثر من اللازم حين تنتج الخوارزميات الفعالة نماذج قوية دون العتبة، أو متساهلة أكثر من اللازم حين يتجاوز الحد الأمامي العتبة.
تعرف التعريفات القائمة على القدرات الذكاء الاصطناعي الخطر بما يستطيع النظام فعله لا بطريقة تدريبه. فالنظام القادر على تحديد واستغلال ثغرات الأمن السيبراني autonomously فوق عتبة شدة محددة يعد خطرا بموجب تعريف قائم على القدرات، بغض النظر عن مقدار الحوسبة المستخدمة في إنتاجه. والنظام القادر على تقديم مساعدة ذات معنى لتركيب الأسلحة البيولوجية فوق مستوى محدد من التحديد يعد خطرا، بغض النظر عن حوسبة تدريبه.
تستهدف التعريفات القائمة على القدرات بشكل أدق الأضرار التي تسعى إلى منعها، لكنها تخلق مشكلة قياس كبيرة. وتقييمات القدرات غير موحدة. وتنتج منهجيات التقييم المختلفة نتائج مختلفة. ويجري مطورو الذكاء الاصطناعي الحدودي حالياً تقييمات القدرات باستخدام منهجيات خاصة غير مدققة علناً. وسيتطلب تعريف قائم على القدرات في معاهدة حوكمة طرق تقييم قدرات موحدة وقابلة للتحقق المستقل، وهي طرق لا توجد بعد بصيغ تقبلها جميع الدول الكبرى المطورة للذكاء الاصطناعي.
جمعت اتفاقية الأسلحة الكيميائية معيارًا عام الغرض مع قوائم كيميائية مجدولة لتغطية العوامل الخطرة المعروفة وغير المعروفة. يعرّف المعيار العام الغرض الأسلحة الكيميائية بأنها أي مادة كيميائية سامة تُستخدم وسيلة حربية، بغض النظر عن ظهورها في قائمة. ثم تُنشئ القوائم المجدولة متطلبات تحقق متدرجة لكيميائيات محددة. أتاح هذا النهج الطبقي للمعاهدة تغطية عوامل لم تكن معروفة وقت التفاوض. يمكن أن يستخدم حكم ASI بنية مماثلة: معيار عام الغرض يعرّف الذكاء الاصطناعي الخطر بطبيعة آثاره، مقترنًا بقوائم قدرات مجدولة للتطبيقات الخطرة المعروفة.
تعرف تعريفات المجال الذكاء الاصطناعي الخطر حسب القطاع الذي يُنشر فيه لا حسب حوسبة التدريب أو القدرات العامة. النظام الذي يُنشر لاتخاذ قرارات قاتلة ذاتية في السياقات العسكرية خطر. والنظام الذي يُنشر للتحكم في البنى التحتية الحيوية خطر. والنظام الذي يُنشر للإقناع الواسع النطاق المستهدف للانتخابات الديمقراطية خطر.
تتمتع التعريفات القائمة على المجال بميزة ربط الالتزام الحوكمي بوضوح بالضرر الذي تمنعه. كما أنها أكثر قابلية سياسية من التعريفات العامة للقدرة، لأن الدول تستطيع قبول قيود على الذكاء الاصطناعي في مجالات عالية الخطورة محددة دون التنازل عن مبدأ خضوع برامجها للذكاء الاصطناعي عموماً للرقابة الدولية. والقيد المهم هو أن التعريفات القائمة على المجال تسمح لنظام عالي القدرة بالعمل دون التزامات حوكمية إذا نُشر خارج المجالات المحددة، حتى لو أمكن إعادة توجيه النظام نفسه بسهولة إلى تطبيقات خطرة.
مشكلة الحدود المتحركة
تكتب تعريفات ضبط التسلح عادة ضد تقنية مستقرة. مدى وقوة تفجير صاروخ باليستي، وسمية مادة كيميائية مدرجة، والكتلة الانشطارية اللازمة لسلاح نووي. وهذه لا تتغير تغيرا كبيرا طوال عمر المعاهدة. أما قدرات الذكاء الاصطناعي فتتقدم بسرعة، مما يعني أن تعريفا كافيا اليوم قد يصبح قديما خلال سنوات.
ينشئ هذا ما قد يسمى مشكلة الحدود المتحركة: كيفية صياغة تعريفات المعاهدة تبقى ملائمة مع تطور التقنية دون الحاجة إلى إعادة تفاوض مستمر على المعاهدة نفسها. وقد استخدمت ثلاث آليات في الحد من التسلح لمعالجة مشكلات مماثلة.
السلطة التعريفية المفوضة: تنشئ المعاهدة هيئة حاكمة تملك صلاحية تحديث التعريفات التقنية ضمن معايير محددة، رهناً بموافقة مؤتمر الأطراف. وتستخدم منظمة حظر الأسلحة الكيميائية هذا النهج في قوائمها الكيميائية المجدولة، التي يمكن تعديلها من خلال مؤتمر الدول الأطراف دون إعادة فتح المعاهدة الأساسية. وهذا أسرع من إعادة التفاوض الكامل على المعاهدة، لكنه يتطلب أن تثق الأطراف بالهيئة الحاكمة في السلطة التعريفية.
تعريفات محايدة تقنياً: تعرف المعاهدة الذكاء الاصطناعي الخطر بطبيعة آثاره بدلاً من المعايير التقنية المحددة. التعريف الذي يغطي أي نظام ذكاء اصطناعي قادر على التسبب في إصابات جماعية تتجاوز عتبة محددة، أو أي نظام قادر على عمل مستقل ذي عواقب كافية لتهديد البنية التحتية الوطنية الحيوية، سيظل ذا صلة مع تغير التكنولوجيا الأساسية لأنه يصف النتائج بدلاً من المدخلات. القيد هو أن التعريفات القائمة على النتائج أصعب في التحقق، لأن الاختبار ذو الصلة هو ما يمكن للنظام فعله، وليس ما يفعله بشكل مثبت.
أحكام الغروب والتجديد: تُكتب تعريفات المعاهدة بدورة مراجعة محددة يُعاد فيها تقييمها وتحديثها. تدخل المعاهدة حيز النفاذ بالتعريفات الأولية، وتستمر في العمل خلال فترة المراجعة، وتُحدَّث في كل مؤتمر مراجعة. هذا هو النهج الذي يتبعه NPT في مؤتمرات المراجعة الدورية، رغم أن تعريفات NPT للدول الحائزة للأسلحة النووية ثبت استحالة تحديثها عبر هذه الآلية بسبب مصالح الدول الخمس الدائمة العضوية في الحفاظ على وضعها المتميز.
بعد المصلحة الاستراتيجية
المفاوضات التعريفية ليست تمارين تقنية بحتة. كل خيار تعريفي له آثار استراتيجية على الدول التي تتحمل أكبر تكلفة امتثال وتلك التي تحتفظ بأكبر حرية عمل. هذه الآثار واضحة للحكومات المتفاوضة وتشكل مواقفها بشأن الأسئلة التعريفية.
تفضل الدول ذات برامج الذكاء الاصطناعي الأكثر قدرة تعريفات واسعة تفرض قيداً متساوياً على المنافسين عند مستويات أدنى من التطور. ولا يفرض حد الحوسبة الموضوع فوق الحدود الحالية للبرامج الأكثر تقدماً أي قيد على الدول الرائدة بينما يتطلب من جميع الآخرين البقاء دون الحد إلى أجل غير مسمى. وتفضل الدول ذات البرامج الأقل تقدماً تعريفات ضيقة تسمح لها بالوصول إلى مستويات الحدود الحالية قبل تطبيق التزامات الحوكمة، وتعترض على التعريفات التي قد تضعها في وضع غير مواتٍ دائم مقارنة بالدول التي طورت الذكاء الاصطناعي الحدودي أولاً.
«التفاوض التعريفي هو حيث يحدث معظم العمل الحقيقي لمعاهدة حوكمة ASI. فالتعريف الذي يمكن تحقيقه سياسيا لكنه غير كاف تقنيا ينتج معاهدة تحكم شيئا آخر غير الخطر الفعلي. والتعريف الكافي تقنيا لكنه غير قابل للتحقيق سياسيا لا ينتج معاهدة على الإطلاق. والسبيل الوحيد عبر هذه المشكلة يمر عبر الأدلة التقنية المشتركة، ولهذا فإن معاهد سلامة الذكاء الاصطناعي أهم مما يدرك معظم الناس.»
هذا البعد الاستراتيجي هو السبب في أن العمل التجريبي الذي تقوم به معهد أمن الذكاء الاصطناعي التابع لـUK ومركز US لمعايير الذكاء الاصطناعي والابتكار (وكلاهما أنشئ كمعهدين لسلامة الذكاء الاصطناعي) يشكل أساسا لمفاوضات المعاهدات، رغم أن هذه الهيئات لم تصمم أصلا لغرض التحضير للمعاهدات. فمن خلال إنتاج أدلة مشتركة حول ما تستطيع أنظمة الذكاء الاصطناعي عند مستويات القدرة المختلفة فعله وما لا تستطيعه، وحول القدرات التي ترتبط بأي مخاطر، تخلق هذه الهيئات أساسا واقعيا لمفاوضات التعريفات يصعب على المصالح الاستراتيجية تجاوزه ببساطة. ولا ينتج الاتفاق على الحقائق تلقائيا اتفاقا على التعريفات، لكنه يغير طبيعة الخلاف من خلاف استراتيجي بحت إلى خلاف تقني جزئيا، حيث يضبط الدليل المشترك مواقف التفاوض لدى جميع الأطراف.
يجب أن يبدأ العمل التعريفي قبل بدء المفاوضات. حين تبدأ مفاوضات ضبط التسلح دون توافق تقني مسبق على التعريفات، يميل المفاوضون إلى إنتاج تعريفات تعكس القاسم المشترك الأدنى للاتفاق السياسي لا المتطلبات التقنية لهدف الحوكمة. كلما زاد العمل التقني المنجز مسبقاً، كانت الأساس الذي يستطيع المفاوضون البناء عليه أقوى لصياغة تعريفات تحكم فعلاً ما يُقصد حكمه.
أقوى المعارضات
أعدل الاعتراض أن التعريفات ستُلاعَب يوم كتابتها. نعم. ولهذا تحتاج التعريفات سلطة تحديث واختبارات قدرات ومحفزات حوسبة، لا مسرداً ثابتاً. فاللعب بالتعريفات مدخل تصميمي. وليس سبباً لترك الحدود بلا تسمية.