استضافت كوريا الجنوبية والمملكة المتحدة قمة سيول للذكاء الاصطناعي، الاجتماع الثاني في السلسلة التي انطلقت في حديقة بلتشلي في نوفمبر ٢٠٢٣. انقسمت جدول الأعمال بوضوح. في المسار الشركي، قدم المطورون الرائدون التزامات سلامة عامة. في المسار الحكومي، اتفقت الدول على تعميق التعاون في علم التقييم. ما قدمه كل مسار، وما تركه مفتوحا، لا يزال أوضح قراءة لوضع حوكمة ASI في ٢٠٢٤.
كلا الناتجين كانا حقيقيين. ولم يكن أي منهما قانوناً.
التزامات سلامة الذكاء الاصطناعي الرائدة
كانت الوثيقة الرئيسية هي التزامات سلامة الذكاء الاصطناعي الحدودي، التي وقعتها ست عشرة شركة كبرى للذكاء الاصطناعي، بما في ذلك مطورون من الولايات المتحدة والصين والمملكة المتحدة والإمارات. تعهدت الشركات بنشر أطر سلامة تصف كيفية تقييمها للمخاطر الناجمة عن النماذج الحدودية؛ وتحديد عتبات المخاطر التي تعتبرها غير مقبولة؛ والأهم من ذلك، عدم تطوير أو نشر نماذج إذا تعذر إبقاء تلك العتبات دون هذا الخط، بما في ذلك الالتزام بالتراجع عند فشل التخفيفات.
كان التحول الجوهري هو المبدأ العلني. فقد أعلن المطورون الرائدون، وبشكل موثق، أن بعض القدرات خطيرة جدًا بحيث لا يمكن نشرها، وأنهم سيحددون خطوطًا حمراء ويتصرفون بناءً عليها. انتقلت الصناعة من التطمينات الغامضة إلى حدود معلنة. وظلت هذه الحدود محددة ذاتيًا.
لماذا لا تكفي الالتزامات الطوعية
- تحدد الشركات عتباتها الخاصة. يحدد كل مطور المخاطر غير المقبولة وكيفية قياسها. لا يوجد معيار مشترك ولا هيئة خارجية تتحقق من صحة التعريفات.
- لا يوجد تحقق مستقل. لا شيء يؤكد أن إطار السلامة الداخلي يُتبع، أو أن التقييمات صادقة. الامتثال يعتمد على كلمة المطور.
- لا إنفاذ. كسر العهد يحمل تكلفة سمعية على الأكثر. العهود ليست قانونًا.
- يمكن مراجعتها أو إسقاطها. يمكن للالتزامات الطوعية تحت الضغط التنافسي أن تتآكل بهدوء عندما يتقدم منافس. التنظيم الذاتي بهذه الهشاشة.
الاعتراض الشائع هو أن مطالبة المختبرات بمراقبة نفسها أفضل من لا شيء. صحيح، لكنه غير كافٍ. وعد يستطيع صاحبه وحده تعريفه وقياسه وخرقه هو مجرد بديل مؤقت عن الحوكمة. ولا تفيد البدائل المؤقتة إلا إذا استُبدلت عمدًا بشيء أقوى.
شبكة معاهد السلامة
أنتج المسار الحكومي شيئا ذا إمكانات أكثر دواما: زخما نحو شبكة دولية من معاهد سلامة الذكاء الاصطناعي. وبناء على الهيئتين اللتين أنشأتهما المملكة المتحدة والولايات المتحدة حديثا، وافقت الدول على التعاون في علم تقييم النماذج المتقدمة، وتبادل الطرق، ومواءمة الاختبارات، وبناء القدرة التقنية التي ستحتاجها أي نظام تحقق مستقبلي. وتشكل الهيئات العامة القادرة فعليا على تقييم ما إذا كان النموذج خطرا النسيج الرابط الذي يتطلبه أي معاهدة في نهاية المطاف. انظر دليل المؤسسة إلى ما هو معهد سلامة الذكاء الاصطناعي.
أكد إعلان سيول، الذي أقرته الحكومات المجتمعة، على الذكاء الاصطناعي المتمحور حول الإنسان والآمن والموثوق، وعلى استمرار التعاون الدولي. وكما كان نص بلتشلي، كان بياناً للاتجاه لا مجموعة التزامات.
النمط والفجوة
تتناسب سيول مع نمط معروف في حوكمة التقنيات الخطرة: الاعتراف، ثم الالتزام الطوعي، ثم (إن نجحت العملية) القواعد الملزمة. والتعهدات الشركاتية وشبكة المعاهد تمثل المرحلة الثانية. والعمل غير المكتمل هو الثالثة: المعايير المشتركة، والتحقق المستقل، والالتزام القانوني.
معاهد السلامة هي الجسر الأكثر وعدا، لأن القدرة التي تبنيها هي بالضبط ما سيستخدمه نظام ملزم. والخطر أن تتوقف عملية القمم عند المرحلة الطوعية، وأن يرضى العالم بالتعهدات لأن التعهدات أسهل من المعاهدات، بينما تستمر القدرات في التقدم. وقد أظهرت سول الفجوة بين الالتزام والحوكمة. وإغلاقها هو المهمة المتبقية. وموقف المؤسسة هو أن إغلاقها يعني الانتقال من تعهدات الشركات إلى القانون الدولي الوقائي قبل أن تذوب الخطوط الحمراء المحددة ذاتيًا تحت ضغط السباق. قراءات ذات صلة: لماذا تفشل التزامات سلامة الذكاء الاصطناعي الطوعية كاستراتيجية وحيدة.