قبل شحن دواء جديد في الولايات المتحدة، يجب على شخص ما إثبات السلامة والفعالية بموجب قواعد يمكنها وقف الإطلاق. لا يزال معظم البرمجيات يُشحن أولاً ثم يعتذر لاحقاً. نمط إدارة الغذاء والدواء هو السؤال الذي تتجنبه سياسة الذكاء الاصطناعي: أثبت ذلك قبل أن يصبح الضرر غير قابل للعكس.
تشكل الأدوية الاستثناء الكبير. لا تستطيع شركة أدوية إطلاق دواء وانتظار الجثث. عليها إثبات السلامة والفعالية أمام إدارة الغذاء والدواء من خلال تجارب سريرية مرحلية قبل قد تبيع المنتج أصلاً. يقع عبء الإثبات على عاتق المطور، وقبل النشر. يتساءل نموذج إدارة الغذاء والدواء بشأن الذكاء الاصطناعي الحدودي، الذي يشترك في السمات التي جعلت الدواء استثناءً، عما إذا كان ينبغي إخضاعه للحوكمة بالطريقة نفسها.
لماذا يبدو القياس جذابًا
التشابه أقرب مما يبدو للوهلة الأولى، لأن أسباب الحصول على موافقة الأدوية قبل التسويق هي أسباب تنطبق على الذكاء الاصطناعي المتقدم.
- ينعكس عبء الإثبات. يجب على المطور أن يثبت أن المنتج آمن، بدلًا من أن يضطر المنظم أو الجمهور إلى إثبات أنه خطر بعد الإصدار. هذا القلب هو بالضبط ما تجادل المؤسسة لأجله في مكان آخر، في حالات السلامة و سياسات التوسع.
- الموافقة تأتي قبل النشر. يحدث الفحص بينما النظام لا يزال محصورًا، وليس بعد أن يصبح طليقًا في العالم، وهي النقطة الوحيدة التي يتفوق فيها المنع على الرد.
- الاختبار المرحلي يتناسب مع مستوى المخاطر. التجارب السريرية تتقدم على مراحل، كل بوابة تتطلب دليلاً قبل التالية. وهذا ينطبق بشكل طبيعي على عتبات القدرة للذكاء الاصطناعي.
بالنسبة لتقنية قد تكون بعض إخفاقاتها شديدة وصعبة العكس، فإن نظاما يرفض السماح بخروج الأنظمة الأعلى خطرا حتى يثبت السلامة بشكل إيجابي يعد اقتراحا جادا وجذابا.
أين يجهد النموذج
القياس دليل، لا قالب، والاختلافات مفيدة للتعليم.
الدواء جزيء ثابت يؤدي وظيفة محددة في الجسم، ويُدرس من خلال علم ناضج يحدد المخاطر كمياً. أما النموذج المتقدم فهو متعدد الأغراض، يُستخدم لمهام مفتوحة لم يُحصرها أحد بالكامل، مع القدرات التي قد تظهر بشكل غير متوقع والسلوك الذي قد يتغير بعد النشر عبر الضبط الدقيق أو أدوات جديدة. يمكنك تحديد ما يعنيه أن يكون دواء ضغط الدم آمناً. أما تحديد ما يعنيه أن يكون نظام الاستدلال العام آمناً فهو المشكلة غير المحلولة في قلب المجال، والعلم الذي يحتاجه مراجع على غرار إدارة الغذاء والدواء غالباً ما لا يوجد بعد.
هناك أيضاً مشكلة الحدود. تدير إدارة الغذاء والدواء سوقاً وطنية ذات حدود صارمة. يمكن تدريب نموذج خطير في أي مكان ونسخه في كل مكان، لذا فالموافقة المسبقة الوطنية وحدها تترك الفجوة التي لا يمكن سدها إلا بالتنسيق الدولي، مدعوماً بنقاط الاختناق المادية لـ حوكمة الحوسبة.
يعطينا نموذج إدارة الغذاء والدواء المبدأ الصحيح، إثبات السلامة قبل الإصدار، ويذكرنا بمقدار علم السلامة الأساسي الذي لا نزال نفتقده.
ما يمكن استخلاصه منه
نموذج إدارة الغذاء والدواء قيّم أقل كمخطط يُنسخ منه وأكثر كدليل على أن الموافقة قبل التسويق أمر طبيعي وعملي ومقبول للمنتجات التي يكون جانبها السلبي خطيرا جدا بحيث لا يمكن التعامل معه بالاستدعاء. فقد وافق المجتمع بالفعل، في حالة الدواء، على أن بعض الأشياء يجب إثبات سلامتها قبل أن تصل إلينا. وتمديد هذا المبدأ الراسخ إلى أنظمة الذكاء الاصطناعي الحدودية التي قد تكون إخفاقاتها الأشد خطورة هو تطبيق معيار قائم على تقنية جديدة تتأهل بوضوح، ويُنفذ من خلال مزيج المتطلبات المحلية والإطار الدولي المبين في خطتنا, ، ليس مطلبًا جذريًا.