في الثلاثين من يونيو، وفي قمة تقنية بواشنطن، رسم مدير وكالة الاستخبارات المركزية جون راتكليف خطا علنيا قلما يجرؤ أحد في منصبه على رسمه. قال عن نماذج الذكاء الاصطناعي الحدودية اليوم إنه «ليس من الخطأ وصف قدراتها بأنها تشبه الأسلحة النووية الرقمية». وليس ناشطا في السلامة ولا أكاديميا يبيع أطروحة. إنه يدير وكالة استخبارات. ولجأ إلى أثقل الكلمات التي يسمح لشخص في كرسيه بقولها علنا.
هو ليس الوحيد. في مارس، شهدت مديرة الاستخبارات الوطنية آنذاك تولسي غابارد بأن البشر يجب أن يظلوا مسيطرين على هذه الأنظمة. وذكر أن مدير وكالة الأمن القومي أخبر أعضاء مجلس الشيوخ أن نموذج ميثوس الخاص بـAnthropic اخترق تقريبًا جميع أنظمة الوكالة المصنفة في ساعات أثناء اختبار مصرح به. وفي الأسابيع الأخيرة أصدر رؤساء الأمن السيبراني في تحالف العيون الخمس بيانًا مشتركًا نادرًا يحذرون فيه من أنه "يجب أن نتصرف الآن". وعندما يبدأ من يقرأون الحركة السرية بالحديث بهذه الطريقة علنًا، يستحق الأمر التوقف والإصغاء.
حيث يصح الاستعارة
السلاح النووي هو المقياس الذي يستخدمه العالم لـ«مدى خطورة تقنية ما». وصف الذكاء الاصطناعي بنسخة رقمية منه طريقة للقول إن هذه الأدوات قادرة الآن على إلحاق ضرر بمقياس كان يتطلب سابقاً دولة ورأساً حربياً: اختراق سيبراني مدمر، أو مساعدة حقيقية في تصميم مسبب مرض. في هذا، راتكليف محق، وتصريح مدير مخابرات جالس بهذا في خطاب علني هو الخبر بحد ذاته.
أين ينكسر
تُهرب المقارنة راحة، لأن السلاح النووي يملك خاصية رحيمة واحدة: إنه لا يقرر أبدا. رأس حربي يجلس في صومعته وينتظر. ليس لديه أهداف. إنه لا يفعل شيئا على الإطلاق حتى يدير إنسان مفتاحين. كل ضماناتنا التي بنيناها حول القنبلة، من سلسلة القيادة إلى معاهدات الحد من التسلح، تعمل لأن السلاح يبقى أداة في أيدي البشر.
تتصرف أنظمة اليوم بالفعل كوكلاء تسعى إلى أهداف، والشيء الذي تمثل خطوة نحوه، أي الذكاء الفائق الاصطناعي، سيكون وكيلاً أقدر من البشر الذين بنوه. الذكاء الفائق أقرب إلى القائد الذي يقرر مكان سقوط القنبلة، إلا أن لا إنسان عينه ولا إنسان يستطيع إعفاؤه من القيادة.
لا تختار الأسلحة النووية أهدافها بنفسها أبدًا.
الذكاء الاصطناعي الحدودي يشبه سلاحا نوويا رقميا في مداه. النظام الذي يقود إليه سيكون سلاحا يستهدف نفسه. نقارن ذلك الخطر بالمخاطر الأقدم بالتفصيل في مكان آخر, ، ويخرج الذكاء الفائق في الصدارة لهذا السبب بالضبط.
المهمة الثانية لعصر الطاقة النووية
تكمن قوة عبارة "السلاح النووي الرقمي" في أنها تأتي من داخل عالم الأمن القومي، لا من منتقديه المعتادين. والخطر هو أن نسمعها فنتصور قنبلة، ونطمئن اطمئنانا زائفا إلى كل ما تسمح به القنبلة: يمكن حراستها، وعدها، وفي أسوأ الحالات تركها غير مستخدمة في صومعتها. أما الذكاء الفائق / الذكاء الخارق فلا يوفر أيا من هذه الخيارات.
للعصر النووي درس ثان، وهو الدرس الذي يهم الآن. بعد أن صنعنا السلاح، أمضينا عقودا نبني المعاهدات لضمان ألا يستخدم مرة أخرى. ذلك البناء الصبور للمنع والتحقق وضبط التسلح هو الإرث الحقيقي للحرب الباردة. ونسختنا منه لم تكد تبدأ، والفرق هذه المرة أننا لا نملك بناءه بعد وقوع الحدث. سلاح يستطيع أن يستهدف نفسه يجب منعه قبل أن يوجد، لا ردعه بعد أن يوجد. إنه خطتنا.