من الموثق الآن جيدا أن مطوري الذكاء الاصطناعي يعرفون عن مخاطر أنظمتهم أكثر مما يعلنون علنا. وقد وثقت فرق السلامة الداخلية في مختبرات الذكاء الاصطناعي الكبرى مخاوف كبيرة. ويصف الباحثون الذين يغادرون تلك المختبرات نقاشات داخلية حول ما إذا كانت الأنظمة الحالية تنشر بسرعة مفرطة. والمخاوف الأمنية معروفة، وفي كثير من الحالات يجري التعامل معها جزئيا بينما يستمر التطوير، لا مجهولة.
لا يمكن لأي مختبر أو دولة حل ذلك الحافز بصنع خيارات أفضل وحدها. إنه يتطلب حوكمة متعددة الأطراف.
هذه قصة عن مشكلة تنسيق يواجه فيها حتى الفاعلون المهتمون بالسلامة حوافز هيكلية تدفعهم نحو تطوير ونشر أسرع مما توصي به تقييماتهم للمخاطر، وليست في المقام الأول قصة عن فاعلين سيئين. وفهم تلك الحوافز (ديناميكيات سباق الذكاء الاصطناعي) أمر أساسي لفهم لماذا لا تكفي التزامات المنظمات الفردية بالسلامة وما أنواع هياكل الحوكمة المطلوبة فعليا.
هيكل السباق
الهيكل الأساسي لديناميات سباق الذكاء الاصطناعي مباشر. تتنافس جهات متعددة (شركات داخل دولة، دول في العالم) لتطوير أنظمة الذكاء الاصطناعي الأكثر قدرة ونشرها أولاً. يستغرق الاستثمار في السلامة وقتاً وموارد يمكن استخدامها بدلاً من ذلك لتسريع تطوير القدرات. أي جهة تبطئ للاستثمار الجاد في السلامة تتخلف عن الجهات التي لا تفعل ذلك. والجهة التي تفوز بالسباق هي، بحكم الحوافز الهيكلية، الأرجح أن تكون تلك التي قايضت السلامة بأكبر قدر من العدوانية.
يخلق هذا دينامية يواجه فيها الفاعلون الواعون بالسلامة خيارا بين خيارين سيئين. يمكنهم الحفاظ على معايير السلامة لديهم والتخلف، مما يؤدي إلى تشكيل الحدود من قبل فاعلين أقل وعيا بالسلامة. أو يمكنهم تقليص استثمارهم في السلامة للبقاء قادرين على المنافسة، مما يؤدي إلى تدهور معاييرهم. وفي كلتا الحالتين، ينتج الضغط التنافسي systematically نتائج أسوأ مما يفضله أي فاعل فردي لو استطاع التنسيق.
إذا أبطأ مختبر واحد ولم يفعل منافسه ذلك، يخسر المختبر الحذر حصته السوقية ويحافظ السباق على سرعته. تلك المصفوفة البسيطة للنتائج هي السبب في فشل "سنكون المسؤولين" كاستراتيجية. السلامة التي تعتمد على التقييد الأحادي هي تبرع للفاعل الأقل تقييداً، وليست استراتيجية.
البعد الوطني
ديناميكيات السباق على مستوى المختبرات يمكن معالجتها من حيث المبدأ من خلال التنظيم المحلي: إذ يستطيع أي حكومة فرض متطلبات السلامة على جميع مختبرات الذكاء الاصطناعي داخل ولايتها القضائية في وقت واحد، مما يزيل العيب التنافسي للاستثمار في السلامة داخل تلك الولاية. وهذا هو سبب أهمية تنظيم الذكاء الاصطناعي المحلي. فهو يستطيع حل مشكلة التنسيق داخل البلد، حتى لو لم يعالج مشكلة التنسيق بين البلدان.
ديناميات السباق على المستوى الوطني أصعب بنيوياً. كثيراً ما يُصاغ تنافس US والصين في الذكاء الاصطناعي على أنه سباق استراتيجي ذو عواقب جيوسياسية كبيرة، وهذا التأطير يولِّد البنية الحافزية نفسها على المستوى الوطني: أي دولة تبطئ من أجل السلامة تتخلف عن الدول التي لا تفعل ذلك. القلق من أن يخلق تنظيم السلامة عيباً استراتيجياً نسبة إلى منافسين أقل تنظيماً هو مشكلة تنسيق حقيقية، لا اعتراض سيء النية.
لهذا السبب فإن تنظيم الذكاء الاصطناعي المحلي البحت (حتى التنظيم المحلي الصارم) غير كافٍ كاستجابة لديناميكيات سباق الذكاء الاصطناعي فجوة الحوكمة الدولية مشكلة تنسيق هيكلية تتطلب أطرًا متعددة الأطراف مع آليات إنفاذ، مشابهة لمعاهدات الحد من الأسلحة التي حلت جزئيًا سباق التسلح النووي، وليست مشكلة تقنية حول أي دولة لديها تنظيم أفضل.
سوابق لحل ديناميكيات سباق التسلح
لا يتطابق القلق من استحالة التنسيق سياسياً في سباقات التكنولوجيا الخطرة مع السجل التاريخي. فقد تفاوضت US والاتحاد السوفييتي، في ذروة الحرب الباردة، على معاهدتي سولت الأولى وسولت الثانية اللتين فرضتا حدوداً ملزمة على أخطر أسلحة الطرفين، رغم انعدام الثقة العميق والمنافسة الاستراتيجية المستمرة. وحظرت اتفاقية الأسلحة الكيميائية فئة كاملة من الأسلحة في معظم دول العالم. وفعلت اتفاقية الأسلحة البيولوجية الشيء نفسه بالنسبة للأسلحة البيولوجية. ونسقت بروتوكول مونتريال التخلص التدريجي العالمي من المواد المستنفدة للأوزون.
لم يتحقق أي من هذه دون صعوبة وانشقاق وتحديات التنفيذ. ومثلت جميعها تحسينات حقيقية على السباقات غير المنسقة. ال سابقة تاريخية للتنسيق الدولي بشأن التقنيات الخطرة أوسع مما يوحي به التأطير المتشائم لمناقشات حوكمة ASI.
لماذا يحدث "مختبرات واعية بالسلامة يجب أن تفوز بالسباق" بغض النظر عن تفضيلات دعاة السلامة، وجود فاعلين واعين بالسلامة في الطليعة أفضل من وجود غير مبالين، غير كافٍ
رد شائع على مخاوف ديناميكيات سباق الذكاء الاصطناعي هو أن الحل يكمن في نجاح المختبرات التي تركز على السلامة، بحيث يشكل الحدود فاعلون يهتمون بالسلامة.
للحجة حدودا يجدر ذكرها بوضوح. أولا، الوجود في الصدارة لا يلغي ديناميات السباق. بل يجعل المختبر الحريص على السلامة هو الذي يواجه الضغط التنافسي للتساهل للبقاء في الصدارة. ثانيا، يمكن استخدام حجة الضغط التنافسي لتبرير أي تسريع، لأن هناك دائما منافسا أقل حرصا على السلامة يمكن الاستناد إليه. ثالثا، تعتمد الحجة على فوز المختبرات الحريصة على السلامة، لكنها لا تقدم آلية لضمان ذلك. إنها أمل، لا هيكل حوكمة.
يتطلب حل ديناميات سباق الذكاء الاصطناعي نفس ما حل سباق التسلح النووي جزئيًا: حدود منسقة تنطبق على جميع الفاعلين الرئيسيين في وقت واحد، مع آليات تحقق لاكتشاف الخروج عنها وآليات إنفاذ لردعه. تلك مشكلة حوكمة متعددة الأطراف. أطر الردع مثل MAIM تصف المواجهة بين الدول المتنافسة، لكنها لا تحل السباق نفسه. مؤسسة مقترحات الحوكمة منظمة حول هذا الشرط، لا حول الأمل بأن تنهي المختبرات المناسبة أولاً.