غالباً ما تركز مناقشات سلامة الذكاء الاصطناعي على سيناريوهات بعيدة، أنظمة خارقة الذكاء ذات أهداف غير متوائمة، وانعطافات خائنة عند عتبات قدرة لم تُبلغ بعد. خطر الإقناع بالذكاء الاصطناعي مختلف. الشكل الأساسي للتهديد موجود في الأنظمة المتاحة اليوم، ويؤثر على الانتخابات والخطاب العام الآن. النسخة الأخطر طويلة الأمد هي استقراء لتقنية تتقدم بسرعة، وليست مستقبلاً افتراضياً بحتاً.
النسخة طويلة الأمد (الذكاء الاصطناعي الذي يستطيع نمذجة واستغلال علم النفس الفردي بدقة تفوق البشر) هي الاتجاه الذي يتحرك نحوه التكنولوجيا.
ليس القلق ببساطة أن الذكاء الاصطناعي يسهل كتابة الدعاية، فقد فعلت تقنيات سابقة ذلك. القلق أن الذكاء الاصطناعي يتيح شيئا مختلفا نوعيا: رسائل إقناعية مخصصة جدا على نطاق هائل، مصممة حسب الملامح النفسية الفردية، ومحدثة في الوقت الحقيقي بناء على الاستجابات. ينتج الجمع بين التخصيص والنطاق وانخفاض التكلفة الحدية قدرة على التأثير لم يضاهها أي أداة سابقة.
ما الذي يجعل إقناع الذكاء الاصطناعي مختلفًا
تصل عمليات التأثير التقليدية (الإعلان المذاع، الرسائل السياسية، الدعاية الحكومية) إلى كثير من الناس برسالة واحدة. وقد تكون الرسالة مصممة بعناية ومختبرة على نطاق واسع، لكنها بالضرورة حل وسط بين جماهير مختلفة. ويستطيع المقنع البشري الماهر تكييف أسلوبه مع الشخص الذي يتحدث إليه تحديدا، لكنه لا يستطيع التحدث إلا إلى عدد محدود من الناس. وهاتان القدرتان (النطاق الإذاعي والتخصيص الفردي) كانتا تاريخيا في توتر.
يذيب الذكاء الاصطناعي هذا التوتر. نظام يملك وصولاً إلى بيانات فردية (سجل التصفح، ووسائل التواصل الاجتماعي، والردود السابقة) وقدرة على توليد محتوى إقناعي متنوع يستطيع الوصول إلى ملايين الأشخاص في وقت واحد وتخصيص كل تفاعل للفرد المحدد. تقترب التكلفة الحدية لتوليد رسالة إقناعية مخصصة أخرى من الصفر. يستطيع النظام التكرار بناءً على ما ينجح وما لا ينجح، في الوقت الفعلي، وعلى نطاق لا يضاهيه أي عملية تأثير بشرية.
مشكلة اللاتناظر
تتركز قوة الإقناع بالذكاء الاصطناعي بشكل كبير. إن نشر ذكاء اصطناعي محسّن للإقناع على نطاق واسع يتطلب موارد كبيرة وبيانات وحوسبة وقدرات هندسية ووصولاً إلى قنوات التوزيع. وتفضل هذه المتطلبات الفاعلين ذوي الموارد الوفيرة: الشركات الكبرى والدول والأفراد الأثرياء. أما المستهدفون فليس لديهم قدرة مضادة مكافئة. وقد يحصلون في نهاية المطاف على أدوات ذكاء اصطناعي تساعدهم على تقييم المحتوى الذي يواجهونه، لكن التباين الهجومي والدفاعي يصب في مصلحة المهاجم في الأمد القريب.
يمكن لحملة كانت تحتاج في السابق إلى مستودع من كتاب الإعلانات أن تُعد الآن ألف نسخة من رسالة قبل الغداء، كل واحدة مخصصة لشريحة من الناخبين. وهذه فئة منتج موجودة بالفعل، وليست رسما تخطيطيا لمستقبل بعيد. والإقناع بهذا المستوى من الدقة يشكل خطرا من مخاطر الذكاء الاصطناعي يظهر قبل أن يبني أحد نموذجا إلهيا.
هذه مشكلة بنيوية، لا مشكلة تتعلق بقطعة تضليل محددة. حتى لو كانت كل ادعاء فردي في عملية تأثير مدعومة بالذكاء الاصطناعي صحيحاً تقنياً، فإن الاستهداف المنهجي لنقاط الضعف النفسية على نطاق واسع يشوه البيئة المعرفية التي تعتمد عليها المداولات الديمقراطية. هدف عمليات التأثير هو تشكيل شعور الناس حيال القضايا والمرشحين والمؤسسات بطرق تخدم مصالح المشغِّل، لا بالضرورة خداعهم.
الدليل قريب الأجل
وثقت محتويات تأثير مولدة بالذكاء الاصطناعي في انتخابات وطنية في دول متعددة منذ عام ٢٠٢٣. وقد حددت عمليات تأثير تستخدم الذكاء الاصطناعي لإنتاج وسائط اصطناعية، وتلفيق اقتباسات من شخصيات عامة حقيقية، وإنتاج نشر منسق عالي الحجم بمقياس يتطلب فرقا كبيرة من العاملين البشريين، وأبلغ عنها باحثون مستقلون وفرق أمن المنصات. أصبحت هذه العمليات أصعب في الكشف مع تحسن المحتوى المولد بالذكاء الاصطناعي، وأدوات الكشف تتأخر عن أدوات التوليد.
الخطر موجود في بيئة التكنولوجيا الحالية، ويؤثر على العمليات السياسية الحقيقية، والمسار يتجه نحو أدوات إقناع أكثر قدرة وأصعب اكتشافاً، وليس افتراضياً. السؤال هو ما هي استجابات الحوكمة المناسبة والفعالة، وليس ما إذا كان يجب التعامل مع هذا كخطر حقيقي.
التصعيد طويل الأمد
أدوات الإقناع الحالية بالذكاء الاصطناعي فعالة لكنها غير محسنة للإقناع على المستوى الأساسي. قد تكون الأنظمة المستقبلية ذات النماذج الأكثر تطورا لعلم النفس الفردي، والبيانات الأكثر تفصيلا عن الأفراد، والقدرة الأكبر على محاكاة العلاقات طويلة الأمد أكثر فعالية بكثير. يمكن لنظام يبني نموذجا مستمرا لمعتقدات الفرد ومخاوفه ونقاط ضعفه النفسية، ويتفاعل معه على مدى أسابيع أو أشهر، أن ينتج آثارا تفوق بكثير ما تحققه الأدوات الحالية.
هكذا يتجلى خطر الإقناع بالذكاء الاصطناعي في نهاية طيف الذكاء الفائق / الذكاء الخارق: ليس التضليل الجماهيري البسيط، بل التلاعب المعرفي طويل الأمد المستهدف فرديًا من أنظمة تملك نماذج أفضل بكثير لعلم النفس البشري من أي أداة حالية. الصلة بـ سيناريوهات الكيان الوحيد و تثبيت القيم مباشر: يمكن لفاعل يمتلك أدوات إقناع بالذكاء الاصطناعي عالية الفعالية أن يستخدمها لتشكيل الرأي العام حول حكم الذكاء الفائق نفسه، مما يجعل من الصعب على المؤسسات الديمقراطية فرض القيود التي تحد من قوة الفاعل.