التنظيم الذاتي. زر الإيقاف. معقد جداً على الحكومة. الصين. الحجج الأربع المستخدمة غالباً ضد القواعد الملزمة، وما يخطئ فيه كل منها.
قبل تشريع أحزمة الأمان، قالت صناعة السيارات إن فرض السلامة سيدمر مبيعات السيارات. وقبل قيود التبغ، قالت الصناعة إن الحكومة لا شأن لها بتنظيم خيارات المستهلكين. وقبل حظر مركبات الكلوروفلوروكربون، قالت الصناعة الكيميائية إن التخلص التدريجي مستحيل اقتصاديًا. ولم تكن هذه مواقف هامشية. بل طرح الحجة أشخاص موثوقون في منشورات موثوقة، بمنطق يبدو مقنعًا.
الحجج ضد حكم ASI تتبع نفس النمط. تبدو معقولة عند السماع الأول.
ما يميز حوكمة ASI عن الحالات السابقة هو حجم المخاطر. سمم البنزين المحتوي على الرصاص ملايين البشر؛ ولم يهدد الحضارة. أما الذكاء الفائق الذي لا يستطيع أحد السيطرة عليه فقد لا يتيح فترة تصحيح. يجب تقييم كل اعتراض على حوكمة ASI ليس فقط على أساس مزاياه بمعزل عن غيره، بل على أساس تكلفة قبوله إذا تبين أنه خاطئ.
فيما يلي الاعتراضات الأربعة التي نواجهها أكثر من غيرها.
تمتلك الشركات التي تبني الذكاء الاصطناعي المتقدم فرق سلامة، وتنشر أبحاث السلامة، وتواجه عواقب سمعية عند الفشل الكارثي. والالتزامات الطوعية وحوافز السوق كافية. أما التنظيم الملزم فيبطئ التقدم دون تحسين السلامة.
طرحت الحجة نفسها بشأن التبغ والبنزين المحتوي على الرصاص والمشتقات المالية ووسائل التواصل الاجتماعي. في كل حالة كان المصلحة الهيكلية للصناعة في النمو غير متوافقة مع التنظيم الذاتي الكافي. الشركة التي تفرض طوعا متطلبات سلامة صارمة بينما لا يفعل المنافسون ذلك ستخسر حصتها السوقية. لا يتغير هذا الديناميك لأن التكنولوجيا أكثر تعقيدا. التنظيم الذاتي دون قواعد ملزمة موقف ضغط لا استراتيجية سلامة.
إذا أصبح نظام الذكاء الاصطناعي خطراً، يستطيع البشر إيقافه. يضمن زر الإيقاف الإشراف البشري في كل مرحلة من مراحل التطوير. سيناريو هروب الذكاء الاصطناعي من السيطرة البشرية خيال علمي.
يفترض هذا أن نظام ذكاء اصطناعي قادر بما يكفي سيبقى سلبياً بينما يتداول البشر بشأن تشغيله المستقبلي. النظام المتقدم بما يكفي ليشكل خطراً وجودياً سيكون قادراً على نمذجة نوايا مشغليه واتخاذ خطوات للحفاظ على استمرار تشغيله إذا اقتضت أهدافه ذلك. بالنسبة لنظام يعمل بسرعة الآلة، قد لا تسمح الفترة بين «قد تكون هذه مشكلة» و«هذه مشكلة لا يمكن تداركها» باستجابة بشرية.
أنظمة الذكاء الاصطناعي معقدة تقنيًا جدًا على المشرعين ليحكموها بفعالية. فالتنظيم حسن النية لكنه غير مطلع تقنيًا سيسبب ضررًا جسيمًا دون تقليل المخاطر. اترك الأمر للمهندسين الذين يبنون الأنظمة.
تنظم الحكومات الانشطار النووي دون أن يحمل المشرعون درجات في الفيزياء. وتحكم كيمياء الأدوية دون اشتراط شهادات دكتوراه في الكيمياء الحيوية. المهارات المطلوبة لحوكمة ASI هي بناء المؤسسات وتصميم المعاهدات ووضع المعايير وآليات المساءلة، وهي أمور تمارسها الحكومات باستمرار. إن الادعاء بأن الذكاء الاصطناعي تقني جدا بحيث لا يمكن تنظيمه هو الحجة القائلة بأن الذكاء الاصطناعي يجب أن تحكمه الشركات التي تبنيه. هذه حجة تجارية، لا تقنية.
تستثمر الصين استثمارات هائلة في الذكاء الاصطناعي. وقد حددت الحكومة الصينية قيادة الذكاء الاصطناعي أولوية استراتيجية وطنية وخصصت مئات المليارات لتحقيقها. فإذا أبطأت الولايات المتحدة أو أوروبا تطوير الذكاء الاصطناعي من خلال أطر حوكمة، فستصل الصين إلى الذكاء الاصطناعي العام أولًا. وعالم تصل فيه الصين إلى AGI قبل العالم الديمقراطي أسوأ من عالم يصل فيه الغرب أولًا. ولذلك لا يمكننا الإبطاء.
هذه هي النسخة الأكثر تماسكًا من الحجة الصينية. والسؤال هو ما إذا كانت تصمد أمام التدقيق.
نعتقد أنه لا يفعل ذلك، لستة أسباب متميزة. يُتناول كل منها أدناه. مجتمعة، لا تلغي هذه الأسباب البعد التنافسي لتطوير الذكاء الاصطناعي، وهو بعد حقيقي. لكنها تثبت أن حجة الصين، كما تُستخدم عادة، لا تقدم توجيها ولا تخدم غرضا استراتيجيا يتجاوز تبرير غياب أي حوكمة على الإطلاق.
الصورة المعتادة للبديل هي فوز الغرب بالسباق واستخدام الصدارة جيداً. البديل الحقيقي هو أي شركة، في أي مكان، تبني الذكاء الفائق. ذلك موت مؤكد.
الافتراض الجوهري المضمن في حجة الصين هو أن الصين ستستفيد من كونها أول من يبني ذكاء فائقا لا تستطيع السيطرة عليه. مثل هذا النظام ليس سلاحا تستطيع الصين استخدامه ضد الولايات المتحدة. إنه وكيل يسعى إلى أهدافه الخاصة، التي قد تتعارض مع بقاء البشر في بكين كما في سان فرانسيسكو.
الصين أيضاً على هذا الكوكب. لقادة الصين أيضاً أبناء وأحفاد. السيناريو الذي تبني فيه الصين ذكاءً فائقاً لا يمكن السيطرة عليه وتستخدمه أداة جيوسياسية ضد الغرب يتطلب الاعتقاد بأن القيادة الصينية حلت مشكلة السيطرة التي يصفها أفضل الباحثين في العالم بأنها غير محلولة. كما يتطلب الاعتقاد بأن القادة الصينيين سيخاطرون بتدمير حضارتهم من أجل ميزة جيوسياسية. الدليل على أي من الاعتقادين صفر.
كان لدى الولايات المتحدة احتكار نووي عام 1945. وطورت الاتحاد السوفييتي الأسلحة النووية بحلول عام 1949. وفي غضون أربع سنوات، بدأ أقوى خصمين في العالم، بنظامين سياسيين متعارضين جذريا وحروب بالوكالة نشطة وانعدام ثقة متبادل حقيقي، في السيطرة على الأسلحة النووية.
جاءت معاهدة الحظر المحدود للتجارب عام 1963. وسالت الأولى عام 1972. ومعاهدة القوات النووية متوسطة المدى عام 1987. وستارت عام 1991. تفاوضت هذه الاتفاقات مع دولة وصفها قادة US بـ"الإمبراطورية الشريرة"، وتحققت بأنظمة تفتيش، ونجحت. إذا كان الحد من التسلح المتحقق بالتحقق ممكنا مع الاتحاد السوفييتي في ذروة الحرب الباردة، فإن الحجة القائلة بأن لا يمكن تحقيقه مع الصين ببساطة غير جدير بالتصديق. السابقة موجودة. التقنيات معروفة.
وقعت الصين إعلان بلتشلي في نوفمبر ٢٠٢٣ وهو أول اتفاق دولي يقر بأن الذكاء الاصطناعي المتقدم يشكل مخاطر كارثية محتملة. شاركت الصين في قمة سيول لسلامة الذكاء الاصطناعي عام ٢٠٢٤. أصدرت الصين لوائح حوكمة ASI الخاصة بها بما في ذلك متطلبات الشفافية الخوارزمية ووسم المحتوى وتقييمات السلامة للنماذج الحدودية قبل النشر.
صورة الصين كفاعل مارق يرفض التعاون في حوكمة ASI غير صحيحة واقعياً. لدى الصين أسباب قوية للرغبة في أن يسير تطوير الذكاء الاصطناعي على نحو جيد: قيادتها ليست بمنأى عن الخطر الوجودي، واقتصادها يعتمد على الاستقرار التقني، وكارثة ذكاء اصطناعي عالمية ستدمر الازدهار الذي بنته أربعة عقود من الإصلاحات. أساس التعاون موجود. ما يلزم هو الإطار الدولي الذي يجعله ملموساً.
يفترض منطق "علينا أن نتنافس لنبقى في الصدارة" أن السبق يمنح القدرة على التحكم في النتيجة. لكن العكس هو الصحيح: فكلما تسارعت عملية التطوير تحت ضغط المنافسة مع التنازل عن الاحتياطات، قل احتمال أن يكون النظام الناتج آمناً، بغض النظر عن هوية من بناه.
لا ينتج مختبر US الذي يتسابق نحو ASI تحت ضغط تنافسي وبلا تقييم سلامة كافٍ نظام ASI آمنًا يخدم مصالح US. بل ينتج ASI غير آمن يهدد الجميع، بمن فيهم الولايات المتحدة. يشجع التأطير التنافسي بالضبط ممارسات التطوير التي تجعل فقدان السيطرة أكثر احتمالًا. يسرّع ديناميك السباق النتيجة التي يخشاها الجميع.
من الاعتراضات المتكررة على معاهدات الذكاء الاصطناعي أنها لا يمكن التحقق منها. هذا الادعاء أضعف مما يبدو. فالأجهزة اللازمة لتدريب نماذج الذكاء الاصطناعي المتقدمة تمر عبر واحدة من أضيق نقاط الاختناق في أي تقنية في التاريخ.
تصنع تايوان لأشباه الموصلات فعلياً جميع رقائق الذكاء الاصطناعي المتطورة. وتصنع إيه إس إم إل آلات الطباعة الحجرية الوحيدة القادرة على إنتاج تلك الرقائق. وتصمم إنفيديا معمارية وحدة معالجة الرسوميات المهيمنة. وتقع الشركات الثلاث في دول حليفة أو تخضع لولاية ضوابط التصدير الحليفة. وتحاول حكومة الولايات المتحدة بالفعل تقييد تدفق رقائق الذكاء الاصطناعي المتقدمة إلى الصين عبر ضوابط التصدير. ومن شأن نظام مراقبة حوسبة قائم على معاهدة أن يرسخ ويوسع ما يُفعل بالفعل من جانب واحد. والتحقق مشكلة هندسية. وللمشكلات الهندسية حلول.
أعمق مشكلة في حجة الصين تكمن في وظيفتها الواقعية، لا في دقتها بشأن الصين. تستخدم الحجة لتبرير عدم فعل أي شيء على الإطلاق: لا تنظيم محلي، ولا انخراط دولي، ولا متطلبات سلامة، ولا أطر مسؤولية، ولا حوكمة من أي نوع.
إذا كان الرد على كل مقترح لسلامة الذكاء الاصطناعي هو "لكن الصين" فلن يكون أي إجراء ممكنا أبدا. وهذا فيتو يرتدي لغة جيوسياسية. وهو يخدم مصالح الشركات التي تتسابق لبناء AGI والتي تستفيد من بيئة سياسية مشلولة بسبب القلق التنافسي بحيث لا يمكن سن أي قواعد ملزمة. ويُستخدم حجة الصين استراتيجية لتأجيل التنظيم اللازم.
بعض أعلى الأصوات ضد حكم الذكاء الفائق هي تكتيكات نفسية.
هذا عجز متعلم يرتدي ثوب الواقعية. إذا كانت النتيجة ثابتة، فالجهد بلا جدوى، فتتوقف عن التنظيم. يسمي المؤرخون قريبًا لهذا "النهاية الزائفة": معاملة خيار سياسي حي كأنه محسوم سلفًا حتى لا يحاول الجمهور. كانت الأسلحة النووية تُوصف أيضًا بأنها حتمية لكل دولة تستطيع تحمل تكلفتها. معظمها لم يحصل عليها. وُصف بروتوكول مونتريال بأنه مستحيل حتى لم يعد كذلك.
تكون التكنولوجيا حتمية فقط إذا استمر الناس في اختيار بنائها ورفضوا تقييد بعضهم البعض. ذلك خيار، وليس قانونا فيزيائيا. غالبا ما يعتقد الذين يقولون "حتمية" بأعلى صوت أنهم سيستفيدون من سلبيتك.
إذا استمر منافس في البناء ووصل إلى الذكاء الفائق، فلن ينتهي به الأمر بسلاح نفتقده. بل ينتهي بنظام لا يستطيع أحد السيطرة عليه، بمن فيهم هو نفسه. بناؤنا له أيضا لا يجعلهم يتوقفون. بل يجعل النظام نفسه غير المحكوم أكثر احتمالا. إذا أردت ألا يستمروا، فيجب أن يشمل التوقف إياهم، ويجب أن تكون قادرا على التحقق. البناء بسرعة أكبر لا يحقق ذلك.
صنف الشخص حتى لا تضطر أبداً للرد على الادعاء. أطلق على شخص ما لقب متشائم وتُدعى القاعة إلى رفض الحجة باعتبارها نوع شخصية. وقد استُخدمت الخطوة نفسها ضد أحزمة الأمان وقيود التبغ وعلم المناخ. الشتائم ليست حجة سلامة.
الاحتكام إلى السلطة من دون السلطة. كثير من الأشخاص الأقرب إلى العمل، بمن فيهم جيفري هينتون ويوشوا بنجيو، قالوا إن الخطر حقيقي وغير مدار بشكل كافٍ. فرق السلامة الداخلية تجلس داخل شركات تكافئ حوافزها الشحن. «ثق بنا» ليس تحققاً. التحقق هو المفتشون والعتبات والتكاليف على الغش.
شكل آخر من السلبية المشروطة. إذا كانت النافذة قد أغلقت بالفعل، يمكنك تخطي العمل الشاق للسياسة. القدرة تتحرك بسرعة. ولا يزال عمل المعاهدات مفتوحاً، ولا يزال تدريب الحدود يمر عبر قائمة قصيرة من مصنعي الرقائق والمصانع. والتأخر ليس كالانتهاء. والتصرف كأنه انتهى هو ما يجعله ينتهي.
تنافست الولايات المتحدة والاتحاد السوفييتي بشدة في كل أبعاد القوة خلال الحرب الباردة، وبنت في الوقت نفسه بنية لضبط التسلح حالت دون الفناء النووي. وقد تعايش الأمران لأن الجانبين أدركا أن بعض النتائج أسوأ للجميع بغض النظر عن المتسبب فيها.
تنطبق المنطق ذاته على الذكاء الاصطناعي. يمكن للولايات المتحدة والصين التنافس في تطبيقات الذكاء الاصطناعي، وفي النشر الاقتصادي، وفي البحث والتطوير، مع الاتفاق في الوقت نفسه على أن فئات معينة من تطوير الذكاء الاصطناعي (تحديداً الأنظمة التي تتجاوز قدراتها الذكاء البشري في جميع المجالات ولا يمكن التحقق من السيطرة عليها) يجب ألا تُبنى من أي من الجانبين دون أطر تحقق متعددة الأطراف.
هذا بالضبط الموقف الذي اتُخذ بنجاح إزاء الأسلحة النووية. فالذين تفاوضوا على NPT ومعاهدات سالت لم يكونوا مثاليين سذجًا بشأن النوايا السوفييتية. بل كانوا واقعيين صارمين أدركوا أن الفناء المتبادل ليس في مصلحة الطرفين، بغض النظر عن الأيديولوجيا.
ندعو إلى الواقعية الصارمة نفسها بشأن الذكاء الاصطناعي. تواجه الصين والولايات المتحدة الخطر الوجودي نفسه من الذكاء الفائق الذي لا يمكن لأحد السيطرة عليه. ومعاهدة تمنع كلتيهما من بنائه دون تحقق سلامة كاف تخدم مصالح الطرفين. ستكون المفاوضات صعبة. أما البديل (سباق لبناء أهم تقنية وأخطرها المحتملة في التاريخ دون حوكمة ولا تحقق سلامة) فهو أسوأ للجميع، بمن فيهم الأطراف الذين يقولون إنهم يريدون الفوز.
انضم إلى أولئك الذين يبنون الحجة للحوكمة قبل فوات الأوان.