كان النموذج ميثوس، ويُقال إنه أقوى أنظمة Anthropic. كان السيناتور مارك وارنر من فرجينيا، نائب رئيس لجنة الاستخبارات في مجلس الشيوخ. كان الجنرال جوشوا رود، الذي يدير كلاً من وكالة الأمن القومي وقيادة الفضاء الإلكتروني الأمريكية. في رواية وارنر،, أُبلغ عنه أولاً بواسطة The Economist وتناولتها الصحافة المتخصصة, أخبره رود ما فعله النموذج.
في ساعات، بواسطة نموذج تجاري. التفاصيل محل خلاف والقصة تعقدت في غضون أيام. جوهرها حقيقي، وجوهرها يكفي.
اخترق ميثوس تقريباً جميع أنظمتنا المصنفة، ليس في أسابيع، بل في ساعات.
الجنرال جوشوا رود، رئيس وكالة الأمن القومي وقيادة السيبرانية الأمريكية، كما نقلها السيناتور مارك وارنر وأوردتها The Economist, يونيو ٢٠٢٦
"يخترق الذكاء الاصطناعي وكالة الأمن القومي" يكتب عنوانه الخاص. كما أنه ليس تماماً ما حدث. الفجوة بين النسخة الفيروسية والنسخة الحقيقية تستحق الدقة بشأنها، لأن الحقيقية هي ما يجب أن يبقيك مستيقظاً.
ما حدث فعليًا
لم تقم أي آلة مارقة بالانقلاب على صانعيها واقتحام أسرار الأمة. حدث الاقتحام داخل جهة مصرح لها تمرين الفريق الأحمر: اختبار أمني محكوم حيث وجهت الوكالة النموذج إلى نسخ من بيئاتها السرية الخاصة وأمرتها بالعثور على طريقة الدخول.
تراكمت التحفظات بسرعة. قال مسؤول حكومي لاحقاً إن وارنر ربما ضغط القصة في إعادة سردها وأن عبارة "ساعات لا أسابيع" تشير تحديداً إلى سياق الفريق الأحمر لا إلى شبكة حية. لم تؤكد وكالة الأمن القومي ولا القيادة السيبرانية روايته بشكل مستقل. خذ كل ذلك في الاعتبار. امنح كل تصحيح. افترض أن القراءة الأكثر طمأنينة تبقى.
ما يتبقى بعد إزالة المبالغة لا يزال هذا: نموذج يمكنك استئجاره، موجه نحو بدائل لأكثر الأنظمة أمنًا التي تعرفها هذه الدولة كيف تبنيها، اكتشف الثغرات وربطها معًا ليحصل على وصول شبه كامل في فترة ما بعد الظهر. فريق أحمر بشري من أفضل العاملين في العالم لا يفعل ذلك في فترة ما بعد الظهر.
أوقفوا المنتج
يمكنك تعلم الكثير عن مدى جدية شيء ما من خلال مراقبة ما يفعله الأشخاص الجادون بعد ذلك. فهم لم يتجاهلوا الأمر.
في اليوم التالي للاختبار، تحركت وزارة التجارة لحظر كل مواطن أجنبي، بمن فيهم موظفو Anthropic غير المواطنين، من استخدام نموذجيها الأكثر قدرة، ميثوس وفيبل. لم يقاضِ Anthropic التفصيلة التقنية سحبت كلا النموذجين من السوق في جميع أنحاء العالم, ، للجميع، قائلا إنه لا يستطيع عمليا فرض اختبار مواطنة على من يحق له تسجيل الدخول. فقد أوقفت شركة منتجها الرئيسي، الذي يوجد لتبيعه، وأغلقته عن الكوكب بأسره في يوم واحد. ولا تفعل ذلك بسبب قدرة تظن أنها تحت السيطرة الآمنة.
ولم يكن اختبار NSA خدعة لمرة واحدة. من خلال برنامج تقييم سري، أفادت التقارير بأن Mythos كشف عن آلاف الثغرات البرمجية، من بينها خلل ظل غير مكتشف في OpenBSD، وهو نظام تشغيل اختاره محترفو الأمن تحديداً لصعوبة اختراقه، لسبعة وعشرين عاماً. سبعة وعشرون عاماً من أعين الخبراء البشرية فاتتها. قرأ النموذج الشيفرة كما تقرأ فقرة. لا يتعب. لن يكون هناك سوى المزيد منه.
هذه أبطأ سرعة سيتحرك بها على الإطلاق
ينبغي أن يقلق هذا كل من يتابع الأمر. تتسابق المختبرات نحو الذكاء الفائق ولا يزداد الإيقاع إلا تسارعا. قبل عام لم يشاهد أحد خارج مختبر حدودي نموذجا يفعل ما فعله ميثوس للتو. وبعد ستة أشهر ستظهر أنظمة تجعل ميثوس يبدو بطيئا، وبعد ستة أشهر أخرى سيخجلنا المقارنة مجددا.
السبب في تراكمه ليس غامضا. فالنموذج القادر على اكتشاف الثغرات في برمجيات العالم هو نفسه النموذج القادر على المساعدة في تصميم خليفته، وهذا هو الآلية الكاملة وراء التحسين الذاتي التكراري. البحث الذي يسرّع البحث لا يضيف. بل يضاعف. منحنى القدرات لا يهتم بأننا غير مستعدين له، ولن يتوقف عند الرصيف بينما يلحق القانون بالركب. القانون ليس قريباً.
لقد انتهيت من تلطيفه
لذلك سأتوقف عن اختيار كلماتي بحذر شديد. لم يعد لدينا وقت للحذر. قضيت وقتا طويلا في صياغة كل هذا بلطف حتى يستمع الناس العقلاء ولا يصنفونني ضمن المتشائمين. وقد أصبح هذا الحذر عبئا، إذ يكسب سمعة بالاعتدال بينما يُبنى الشيء الذي أتحدث عنه باعتدال على أي حال.
نتيجة محتملة لهذا السباق، إذا لم نوقفه، هي أن نفقد السيطرة على ما نبنيه فيقتلنا. ليس "تعطيل سوق العمل". ليس "إجهاد مؤسساتنا"، رغم أنه سيفعل ذلك أيضا في الطريق. يقتلنا. الجميع. كل من تحب، وكل من يحبونهم، وكل المستقبل البشري الهادئ الذي كان من المفترض أن يأتي بعد ذلك.
أعرف بالضبط كيف يبدو ذلك على الصفحة. في أكبر استطلاع أُجري على الإطلاق لباحثي الذكاء الاصطناعي, ، ومع ما يقارب 2800 شخص يبنون هذه الأنظمة لقمة عيشهم، يضع ما بين 38 و51 بالمئة احتمال أن يتسبب الذكاء الاصطناعي المتقدم في نتائج سيئة مثل انقراض البشر عند واحد من عشرة أو أعلى. ليس واحدا من مليون. واحدا من عشرة، من البناة أنفسهم. لن تسمح لطفلك بركوب طائرة بهذه الاحتمالات. نحن نربط النوع بأكمله.
Geoffrey Hinton فاز بجائزة تورينغ عن الطرق التي جعلت كل هذا ممكنا ثم غادر مؤسسة ناكادا ليتمكن من قول ما يعتقده دون وجود مراقب شركي في الغرفة. يقدر احتمال أن يقود الذكاء الاصطناعي البشرية إلى الانقراض بنسبة تتراوح بين عشرة وعشرين في المئة. وليس هو الأكثر خوفا في المجال. كثير من الأشخاص الأقرب إلى العمل يضعون الرقم أعلى وتميل التقديرات إلى الارتفاع لا الانخفاض كلما اقترب الخبير من الحدود الأمامية.
في ٢٠٢٣ وقع مئات الباحثين الأكثر استشهادا على قيد الحياة والرؤساء التنفيذيين للمختبرات المتسابقة لبناء التكنولوجيا، ومن بينهم Anthropic، جملة واحدة من مركز سلامة الذكاء الاصطناعي: يجب أن يكون التخفيف من خطر الانقراض بسبب الذكاء الاصطناعي أولوية عالمية إلى جانب مخاطر أخرى على مستوى المجتمع مثل الأوبئة والحرب النووية. وضع البناة قوتها على إنهاء البشرية في نفس السياق مع الحرب النووية، ثم عادوا إلى مكاتبهم وبنوا أسرع. تأطيرهم. كلماتهم. أسماؤهم.
لكن يمكنك فعل شيء حيال ذلك
اليأس الهادئ طريقة أخرى لعدم فعل شيء، وعدم فعل شيء هو كيف نخسر افتراضياً. أنت لست متفرجاً هنا.
أُخرج الميثوس من الرف لأن حكومة ضغطت، والحكومة ضغطت لأن الضغط وصل إليها. الحكومات تكتب القواعد، والحكومات تستجيب للناس الذين يرفضون الصمت. لذا ارفض.
- أخبر ممثليك، بكلمات بسيطة،, بأنك تريد حدوداً ملزمة على الذكاء الاصطناعي المتقدم وأنك ستصوت عليه. إذا لم تفعل ذلك من قبل، فإن أداتنا لـ اكتب إلى ممثلك يجعل الرسالة الأولى سهلة.
- ادعم معاهدة دولية قابلة للتنفيذ على أخطر الأنظمة، على النحو الذي قرره العالم ذات يوم بأن الأسلحة النووية والبيولوجية أخطر من أن تُترك لمن يتحرك بأقصى سرعة. إنه بالضبط العمل خطتنا مبني حوله.
- ادعم الأشخاص الذين يقومون بذلك بدوام كامل. أضف اسمك أدناه، أعطِ ما تستطيع، وافعل ذلك هذا الأسبوع، وليس بعد العنوان التالي الذي يكون أسوأ من هذا.
لقد أخبركم من يبنون هذا، علناً وبأسمائهم الحقيقية، أنه قد يقتل الجميع. لقد اخترق ذكاء اصطناعي تقريباً كل جدار سري تملكه البلاد في فترة ما بعد الظهر الواحدة، وكان الرد الرسمي سحبه من السوق قبل نهاية الأسبوع. توقف عن انتظار تحذير أوضح مما هو أمامك بالفعل. لن يكون هناك تحذير أوضح.