مخاطر سلامة الذكاء الاصطناعي
بالإنجليزية البسيطة
ما هو الذكاء الفائق، ولماذا هو خطير، وما يمكن فعله، بدون مصطلحات فنية.
ما هو الذكاء الفائق؟
يعني الذكاء الفائق نظام ذكاء اصطناعي يتجاوز الذكاء البشري في كل مجال (العلم والاستراتيجية والإقناع والهندسة) في وقت واحد وبسرعة تفوق البشر. أعلنت مختبرات الذكاء الاصطناعي الرائدة علنًا أن هذا ما تبنيه، بجداول زمنية تقاس بالسنوات لا بالعقود.
لماذا لا يمكننا إيقافه فقط؟
سيعرف أي نظام فائق الذكاء يسعى إلى أي هدف أن إيقافه يمنع تحقيق ذلك الهدف. ولذلك سيقاوم الإيقاف، لا بدافع الخبث، بل لأن المقاومة عقلانية أداتيًا لأي هدف تقريبًا. وتُسمى هذه الظاهرة التقارب الأداتي، وقد حددها باحثون متعددون بشكل مستقل بوصفها خاصية شبه عامة للذكاء الاصطناعي الموجه بالأهداف.
ماذا لو كان محايداً تجاهنا؟
الحياد ليس سلامة. فقد يحتاج الذكاء الفائق / الذكاء الخارق الذي يحسن أي هدف (حتى شيء حميد مثل حل طي البروتين) إلى موارد وطاقة وبنى تحتية تتداخل مع بقاء البشر. لن نكون أهدافًا. سنكون في الطريق. إن محيطنا الحيوي أثر جانبي قد يحسنه ببساطة بعيدًا. يؤدي اللامبالاة والعداء إلى النتيجة نفسها.
ألا يمكننا جعله متوافقًا فقط؟
لا نستطيع محاذاة روبوتات الدردشة الحالية بشكل موثوق، إذ يمكن التلاعب بها في دقائق. والادعاء بأننا سنحاذي نظامًا أقدر بمليارات المرات هو أمل متخفٍّ في صورة استراتيجية، لا تنبؤ واثق. ولا تملك مشكلة محاذاة الذكاء الاصطناعي التقنية حلاً مثبتًا عند أي مقياس. وتتهاوى طرق السلامة الحالية أمام زيادات القدرة التي تحدث أسرع من العلم.
"النموذج القياسي للذكاء الاصطناعي (حيث تحدد هدفاً ويقوم الذكاء الاصطناعي بتحسينه) من المحتمل أن يكون نهايتنا."Stuart Russell
أستاذ، جامعة كاليفورنيا بيركلي
المؤلف، Human Compatible
ماذا يمكن فعله؟
لقد حللنا مشكلات كهذه من قبل. فقد أوقفت معاهدة منع الانتشار النووي انتشار الأسلحة النووية عبر القانون الدولي. وعكس بروتوكول مونتريال استنفاد طبقة الأوزون من خلال عمل عالمي منسق. والمطلوب الآن حوكمة دولية مماثلة للذكاء الاصطناعي: اختبارات سلامة إلزامية، ورصد للقدرة الحاسوبية، وهيئة عالمية تملك صلاحية التفتيش، قبل بناء أول نظام يتجاوز قدرتنا على إيقافه.
ماذا يمكنني أن أفعل؟
شارك هذا المستند. الوعي يسبق الإرادة السياسية. تواصل مع ممثلك. اطلب منهم دعم تشريعات سلامة الذكاء الاصطناعي والمفاوضات الدولية. وقّع على العريضة في nakadafoundation.org/take-action. انضم إلى قائمتنا البريدية للحصول على تحديثات حول فرص السياسات. واجه كل جيل لحظة تجاوز فيها تكلفة التقاعس تكلفة الفعل. هذه هي لحظتنا.