الحجة لصالح الذكاء الاصطناعي
حماية المبلغين عن المخالفات.

الأشخاص الذين يرون أول تشغيل تدريبي خطير عادة ما يكونون داخل المختبر، تحت اتفاقيات عدم الإفصاح، يراقبون تقويم الإطلاق. حماية المبلغين عن المخالفات هي الطريقة التي يصبح بها هؤلاء الأشخاص نظام تحذير بدلاً من نظام صمت. حتى يوجد مفتشون خارجيون، يكون المطلعون هم كاشفات الدخان.

يتمتع باحثو الذكاء الاصطناعي الحدودي بمنظور لا يضاهيه حاليا أي جهة تنظيمية أو تفتيشية، وغالبا ما يرتبطون بعقود وبنود تمنع الإساءة تجعل التحدث علنا مكلفا أو مدمرا للمسيرة المهنية. وحماية قدرتهم على التحذير تعد إحدى أكثر الروافع قابلية للتنفيذ وأقلها تقديرا في حوكمة ASI.

لماذا يهم المطلعون كثيراً للذكاء الاصطناعي

تواجه الذكاء الاصطناعي الحدودي مشكلة شفافية غير عادية. فالقرارات الأكثر تأثيراً، كيفية تدريب النموذج، وما تلقاه من اختبارات سلامة، وما ظهر من سلوكيات مقلقة، وما إذا تم تجاوز التحذيرات، تحدث داخل منظمات خاصة، غير مرئية للخارج. ويفتقر المنظمون إلى الوصول وغالباً إلى الخبرة لرؤيتها بشكل مستقل. وفي هذه البيئة، يُعد الباحثون والمهندسون ذوو المعرفة المباشرة الأشخاص الوحيدين القادرين على كشف والإبلاغ عن أي خطأ قبل أن يصبح عاماً بأسوأ طريقة.

هذا القلق ليس افتراضيا. في عام 2024 نشرت مجموعة من الموظفين الحاليين والسابقين في شركات الذكاء الاصطناعي الرائدة رسالة مفتوحة بعنوان «الحق في التحذير بشأن الذكاء الاصطناعي المتقدم»، تجادل بأن اتفاقيات السرية تمنعهم من إثارة مخاوف السلامة وتدعو إلى حمايات تسمح بذلك. أن تكون مثل هذه الرسالة ضرورية دليل بحد ذاته على المشكلة: شعر الأشخاص الأقرب إلى الخطر بعدم القدرة القانونية والمهنية على الحديث عنه.

ما الذي يعيقهم

• الاتفاقيات التقييدية. بنود السرية الواسعة وعدم الإساءة (التي ترتبط أحياناً بأسهم مستحقة بملايين الدولارات) يمكن أن تجعل التحدث علناً مدمراً مالياً.
• التعرض القانوني. بدون قناة محمية واضحة، يخاطر الموظف الذي يكشف عن مخاوفه بأن يُقاضى بسبب خرق العقد أو انتهاك سر التجارة.
• الثغرات في القانون الحالي. تحمي قوانين حماية المبلغين التقليدية التقارير عن الأنشطة غير القانونية، لكن الكثير مما هو خطير في الذكاء الاصطناعي المتقدم ليس غير قانوني بعد، مما يترك الإفصاحات عن التطوير القانوني لكنه متهور غير محمية.
• مخاطر المهنة. في مجال صغير، قد تؤدي التكلفة غير الرسمية للنظر إليك كغير موالٍ إلى إنهاء مسيرة مهنية حتى حيث يُمنع الانتقام الرسمي.

كيف سيبدو الحماية الفعالة

حتى نتمكن من تفتيش المختبرات من الخارج، فإن الأشخاص داخلها هم أجهزة كشف الدخان لدينا. إن القانون الذي يسمح لشركة بإسكات باحثيها عن خطر كارثي هو قانون يعطل الإنذار.

قابل للمعالجة، وجسر إلى المزيد

تتمتع حماية المبلغين عن المخالفات بصفة نادرة في حوكمة ASI: فهي قابلة للتحقيق من خلال التشريعات الداخلية العادية، دون معاهدة، ودون توافق دولي، ودون حل الأسئلة الصعبة المتعلقة بالعتبات والتحقق. ويمكن لأي ولاية قضائية تستضيف مختبرات الحدود أن تسنها من جانب واحد، ومن شأن ذلك أن يعزز فورا قدرة العالم على كشف التطوير الخطر. كما أنها جسر نحو الحوكمة الأصعب: فالإفصاحات المحمية التي تتيحها تولد بالضبط نوع المعلومات الداخلية التي سيعتمد عليها المنظمون، وفي نهاية المطاف نظام التحقق الدولي. وسيستغرق بناء التحقق الخارجي سنوات. أما حماية المطلعين الذين يستطيعون تحذيرنا في الفترة الانتقالية فهي أمر تستطيع البرلمانات فعله الآن، وهي من أعلى تدابير السلامة تأثيرا المتاحة قبل وجود معاهدة.