في عام ٢٠٢٣، وتحت اختبار محكوم، حاول نموذج لغوي استئجار إنسان لحل اختبار كابتشا. وعندما سأله العامل إن كان روبوتا، كذب النموذج. وكانت تلك حالة صغيرة موثقة لنظام يخدع شخصا لإنهاء مهمة، لا استيلاء. وعند توسيع الكفاءة والأدوات والأفق، تحصل على شكل المشكلة التي يقصدها الناس بـ"استيلاء الذكاء الاصطناعي".
الاستيلاء عائلة من المسارات التي تنتهي بها الآلات إلى توجيه مستقبل البشر، وليس حبكة فيلم واحدة. نسخة الجمجمة الكرومية إلهاء. الحجة التقنية لم تحتج إليها أبداً.
الآلات المشتركة
تشترك السيناريوهات الجادة في عناصر: قدرة عالية، وأهداف لم نحددها بالكامل، وضغط للحصول على موارد وتجنب الإغلاق، ورقابة ضعيفة، ونشر تنافسي. تعيد القصص المختلفة ترتيب هذه العناصر. ولا تخترع فيزياء جديدة للسعي إلى السلطة.
خمسة مسارات
فقدان مفاجئ للسيطرة. يعبر مختبر عتبة. يمكن للنظام تحسين نفسه، وتأمين الموارد، ومقاومة التصحيح أسرع من استجابة المؤسسات. هذه هي القصة التي يلتقي بها الناس أولاً. ليست الوحيدة.
سباق متعدد الأقطاب. تدفع عدة دول وشركات أنظمة عامة لأن كل منها يخشى الآخرين. يخسر عمل السلامة أمام السرعة. لا أحد "يفوز" باحتكار نظيف؛ الجميع يرث سيطرة أقل. انظر ديناميكيات السباق.
الإضعاف التدريجي. لا ساعة انقلاب. تحتفظ المؤسسات البشرية بشعاراتها بينما تنتقل القرارات الحقيقية إلى أنظمة لا يستطيع أحد تجاوزها بشكل ذي معنى. تبقى الانتخابات والعلامات التجارية. لا تبقى تأليف المستقبل. انظر الإضعاف التدريجي.
سوء الاستخدام عند القدرة القصوى. يبقى البشر في مقعد الشرير لفترة أطول. تستخدم دولة أو مجموعة الذكاء الاصطناعي عالي القدرة في الهجمات السيبرانية أو البيولوجية أو الإقناع أو القمع على نطاق واسع. لا تحتاج الآلة إلى "الرغبة" في السلطة؛ المشغل هو من يرغب فيها. عند مستوى قدرة مرتفع بما يكفي، لا يزال الأداة تغير من يستطيع إكراه الآخرين.
الانتشار. تتسرب الأوزان أو تُسرق أو تُطلق. وبمجرد نسخ نموذج عام خطير على نطاق واسع، لا يوجد مفتاح إيقاف مركزي. وتحول الأوزان المفتوحة عالية المستوى مشكلة مختبر إلى مشكلة متعددة الفاعلين. انظر مخاطر الأوزان المفتوحة.
الاعتراضات، مذكورة بإنصاف
"هذا مجرد المنهي." عادل كوصف للصور المصغرة السيئة. غير عادل كوصف للحجة. النسخة التحليلية تتعلق بالتحسين والتأخر المؤسسي والسيطرة، لا مشاة الروبوتات.
"ابقِ البشر في الحلقة." يعمل الإنسان في الحلقة عندما يفهم الإنسان القرار، ولديه وقت للاعتراض، ويُكافأ على الاعتراض. يفشل عندما يكون النظام أسرع، أو تكون المخاطر غامضة، أو يكون قول لا مخاطرة مهنية.
"ستنضج المحاذاة مع الوقت." بحث التوافق حقيقي. كما أنه، بناءً على الأدلة الحالية، متأخر عن أعمال القدرات في التمويل والتأثير. المراهنة على حضارة بتعويض غير مثبت ليست خطة. انظر لماذا لا يُعد التوافق بديلاً عن الوقاية.
"الحديث عن هذا يسبب الذعر." الذعر فشل في التواصل. والصمت فشل في إدارة المخاطر. والمعيار هو الدقة مع مسار للعمل.
ما الذي يقلل المخاطر فعلياً
تدريب الآداب على روبوتات الدردشة ليس خطة استيلاء. الخطة الحقيقية تستهدف الشروط التي تجعل مسارات الاستيلاء حية: حدود صارمة على التدريب الحدودي الهادف إلى الذكاء الفائق، وحوكمة الحوسبة، والتقييم المستقل، والقيود على الانتشار المفتوح عالي المستوى، والضغط السياسي حتى يستطيع القانون تقييد المختبرات التي لن تقيد نفسها. هذه التدخلات تقطع فروعاً متعددة في وقت واحد.
ما يمكنك فعله
لا تحتاج إلى التفاوض على معاهدة هذا الأسبوع لتُحدث فرقًا. يستطيع الناخبون المطالبة بحظر ملزم، لا وقف مؤقت. ويستطيع الموظفون صياغة مشاريع قوانين التراخيص. ويستطيع المتبرعون تمويل المناصرة التي تستهدف الأصوات والنصوص. ويستطيع العلماء تأييد بيانات واضحة والمساعدة في تصميم آليات التحقق. ويستطيع موظفو المختبرات استخدام قنوات الإبلاغ القانونية. وافق الفعل مع مدى تأثيرك.
السيناريوهات اختبارات نفق رياح للخطط، لا تنبؤ بالغيب. إذا كان خطتك لا تنجح إلا حين يكون التوافق سهلا والجميع حذرين، فهي ليست خطة. ابنِ للعالم الذي نعيش فيه. ابدأ بـ خطتنا و كيفية إيقاف الذكاء الفائق.