نشأ المبدأ الوقائي من القانون البيئي وأصبح الآن مدمجًا في صكوك دولية. أشهر صيغه هي المبدأ ١٥ من إعلان ريو لعام ١٩٩٢: عندما تكون هناك تهديدات بضرر جسيم أو لا رجعة فيه، لا يجوز استخدام عدم اليقين العلمي الكامل كسبب لتأجيل اتخاذ تدابير فعالة من حيث التكلفة لمنعه. تظهر صيغ مختلفة في قانون الاتحاد الأوروبي وفي معاهدات تتعلق بالمناخ والتنوع البيولوجي والمواد الخطرة. يوجد المبدأ تحديدًا للحالات التي يعني فيها انتظار البرهان الانتظار طويلًا جدًا.
ينص المبدأ على أنه حيث يهدد نشاط بضرر جسيم أو لا رجعة فيه، يجب ألا يُستخدم غياب اليقين العلمي الكامل لتأجيل الإجراء الوقائي. هذه القاعدة هي الأساس القانوني الأقوى للتصرف بشأن مخاطر الذكاء الاصطناعي قبل أن تثبت الكارثة النقطة.
لماذا يناسب الذكاء الاصطناعي جيدًا
تتسم حجة مخاطر الذكاء الاصطناعي بسمة محرجة: أخطر السيناريوهات لم تحدث بعد، ولا يمكن إثباتها مسبقاً دون إجراء التجربة. يستغل النقاد ذلك لرفض القلق، فلا دليل فلا مشكلة. يشكل مبدأ الاحتراز الرد المباشر. صيغ لمواجهة التهديدات الجسيمة والتي قد تكون غير قابلة للعكس لكنها ليست مؤكدة بعد، وهو يعكس العبء: السؤال ليس ما إذا كانت الكارثة مثبتة، بل ما إذا كانت الإمكانية خطيرة بما يكفي لتبرير اتخاذ إجراء وقائي نظراً لما هو على المحك.
يجعل خاصيتان للذكاء الاصطناعي المتقدم قريبا جدا من الحالة النموذجية للمبدأ. الضرر المحتمل في أعلى درجات مقياس الشدة، كارثي وربما لا رجعة فيه. والعلم غير مؤكد حقا، مع خبراء موثوقين يعطون احتمالا ذا معنى لسيناريوهات فقدان السيطرة ولا توجد طريقة موثوقة لاستبعادها. خطير ولا رجعة فيه وغير مؤكد: هذا بالضبط الملف الذي كتب مبدأ الاحتياط لمعالجته.
ما يتطلبه الاحتراز في الممارسة العملية
- تحويل عبء الإثبات. ينبغي أن يتحمل مطورو الأنظمة الأكثر قدرة عبء إثبات السلامة قبل النشر، بدلاً من أن يتحمل المجتمع عبء إثبات الخطر بعد وقوعه، وهو النموذج المطبق بالفعل على الأدوية والمحطات النووية.
- التصرف قبل اليقين. يجب ألا تنتظر الحوكمة كارثة مثبتة لتبرير الحدود الملزمة، لأنه بالنسبة للمخاطر غير القابلة للعكس فإن الإثبات هو الكارثة.
- التناسب مع المخاطر. ينبغي أن يتوافق مستوى الحذر مع مستوى الضرر المحتمل؛ فالمخاطر الأشد خطورة تبرر أقوى الإجراءات.
- القابلية للعكس كأولوية. حيث أمكن، أبقِ الخيارات مفتوحة وتجنب الخطوات التي تغلق باب التصحيح مستقبلًا، وهو مبدأ يتصل مباشرة بتقنية قد تترسخ بنفسها.
الاعتراضات
للمبدأ الاحترازي منتقدون حقيقيون، والدفاع الصادق يواجههم. أقوى اعتراض هو أن الاحتراز، إذا أُخذ إلى أقصاه، قد يشل: فأي نشاط تقريباً ينطوي على خطر كارثي محتمل، ومبدأ يقول «تصرف ضد كل التهديدات الجسيمة غير المثبتة» قد يبرر عرقلة الابتكار المفيد على أسس تخمينية. كما يلاحظ المنتقدون أن الاحتراز له تكاليفه الخاصة (الفوائد المفقودة، بما في ذلك احتمال أن يساعد الذكاء الاصطناعي نفسه في تجنب كوارث أخرى) وأن هذه التكاليف يجب أن تدخل في الحساب.
هذه النقاط لا تهزم المبدأ؛ بل تضبط استخدامه. الإجابة هي أن الاحتياط هو إجراء متناسب ضد التهديدات الخطيرة والمدعومة بمصداقية، مع وزن تكاليف الإجراء مقابل تكاليف التقاعس، وليس «حظر كل ما قد يسوء نظرياً». ينطبق الذكاء الاصطناعي الحدودي ليس لأن أحداً يمكنه تخيل نتيجة سيئة، بل لأن خبراء موثوقين يعطون احتمالاً حقيقياً لفقدان كارثي لا رجعة فيه للسيطرة. يطالب المبدأ بتدابير تتناسب مع ذلك الخطر المحدد والمدعوم جيداً، لا بوقف شامل للتكنولوجيا.
بالنسبة لخطر لا رجعة فيه، 'انتظار الدليل' هو العكس، لا الحذر. يوجد مبدأ الاحتراز حتى لا نضطر لمعاناة الكارثة لنكسب الحق في منعها.
الأساس للتصرف الآن
يهم مبدأ الاحتراز لحوكمة ASI لأنه يبدد الحجة الأكثر شيوعا للتأجيل، وهي أنه يجب ألا ننظم حتى تثبت المخاطر. وفي القانون والأخلاق، تفشل هذه الحجة بالضبط لفئة التهديد التي يمثلها الذكاء الاصطناعي. فالأضرار الجسيمة وغير القابلة للإصلاح وغير المؤكدة هي الحالة النموذجية للتصرف قبل اليقين، مع إلقاء العبء على من ينشئون الخطر لإثبات احتوائه. ولا يحدد هذا ما يجب أن تكون عليه التدابير؛ فذلك عمل تصميم المعاهدة والتحقق والعتبات. لكنه يحسم السؤال السابق حول ما إذا كان من المشروع التصرف أصلا في ظل عدم اليقين. إنه كذلك، والمبدأ يفسر السبب.