في 27 يوليو 2026، نشر Anthropic موقف داريو أمودي من نماذج الأوزان المفتوحة. تتناول المقالة بحذر إحدى الخلافات. لا يريد أمودي حظرًا شاملًا على الأوزان المفتوحة، ولا يريد قواعد تقصي الشركات الأمريكية فقط من النماذج الأجنبية بينما تترك الفاعلين السيئين أحرارًا. وهذا مقبول في هذه المعركة الضيقة.
ثم يرتب الكوابيس.
الأساسي: الحكومات الاستبدادية، وعلى رأسها الحزب الشيوعي الصيني، تبني ذكاءً اصطناعياً أقوى من الأمريكي وتستخدمه للتفوق العسكري الدائم أو القمع العميق. الثانوي: الهجمات السيبرانية والهجمات البيولوجية و«مشكلات التوافق الخطيرة». والعلاجات التالية هي أدوات السباق. أبقِ الرقائق خارج الصين. أوقف التقطير الصناعي. اشترط اختبار السلامة قبل الإصدار. ابقَ في الصدارة.
ذلك التصنيف هو الخطأ الذي يتعلق به كل شيء آخر.
ما يصيب فيه
عدة من ادعاءاته صحيحة.
الحظر الذي يمنع فقط الشركات الأمريكية من استخدام النماذج مفتوحة الوزن لا يفعل شيئا تقريبا حيال المجرمين أو أجهزة الاستخبارات الأجنبية أو أي شخص لم يخطط للامتثال أصلا. ووصف ذلك بأنه «سلامة» بينما يحمي في الأساس المختبرات الأمريكية المغلقة من المنافسة هو خدعة. ويقول أمودي ذلك بوضوح، وهو محق.
استخدام الذكاء الاصطناعي في المراقبة والقمع رعب حقيقي على نطاقات أقل من الذكاء الفائق / الذكاء الخارق. فالأنظمة الاستبدادية تستغل بالفعل التعرف على الوجوه والتسجيل الاجتماعي والرقابة الآلية. وتجعل الأنظمة الأكثر قدرة تلك الآلية أرخص وأصعب فرارا منها. لا تحتاج إلى الخيال العلمي لتخشى ذلك.
تثير الأوزان المفتوحة مشكلة الباب ذي الاتجاه الواحد بمجرد أن يتمكن النموذج من إحداث ضرر حقيقي. لا يمكن استدعاء الأوزان التي تغادر المختبر. عند هذه النقطة يتداخل اهتمامه الثانوي مع العمل الذي قمنا به بالفعل على مخاطر النماذج الحدودية مفتوحة الوزن. الحواجز الوقائية التي تعيش فقط في واجهة برمجة التطبيقات ليست إجابة كاملة، وهي ليست لا شيء أيضاً.
لا شيء من ذلك يبرر الترتيب الأساسي.
الجائزة
الحكومات الاستبدادية سوف بناء نماذج أقوى و استخدمها لتحقيق التفوق العسكري الدائم أو لقمع شعوبهم. النموذج أداة. والدولة هي المستخدم. النصر يعني أن يحتفظ أحد الجانبين بسلاح أذكى.
يتناسب مع الطائرات بدون طيار، وأدوات الإنترنت، وأكوام المراقبة التي تبقى تحت القيادة البشرية. لا يتناسب مع الذكاء الفائق.
نظام أذكى من المؤسسات التي بنته ليس بندقية في يد جيش التحرير الشعبي، وليس بندقية في يد البنتاغون أيضًا. إذا كان الخطر الذي أمضى أشخاص مثل أمودي سنوات في وصفه حقيقيًا، فخط النهاية هو وكيل يملك قدرته الخاصة على التخطيط والخداع واكتساب الموارد ومقاومة الإيقاف. والمختبر، أو الوزارة، التي «تفوز» لا تملك ذلك الوكيل. إنها تشارك كوكبًا معه. لقد فككنا هذا المنطق في ال أسطورة السباق: الوصول أولاً إلى نظام لا تستطيع التحكم فيه هو الخسارة بخطوة واحدة أمام الجميع.
التفوق العسكري الدائم يفترض أن شخصًا ما لا يزال مسؤولاً عن الشيء الذي جعل الجيش عتيقًا.
تكاد قائمة أمودي الثانوية تعترف بذلك. مشكلات المحاذاة الخطيرة هو الاسم المهذب لفقدان السيطرة. ويضعها في المرتبة الثانية. ويوجه نيرانه الأساسية إلى من يصل أولاً. والترتيب يخبرك أي قصة لا يزال يرويها: الجغرافيا السياسية أولاً، وخطر النوع كملحق.
خطران، تسمية واحدة
جزء من الالتباس لغوي. "الذكاء الاصطناعي القوي" يغطي كلاً من كاميرا مراقبة أفضل وعقل يتفوق على مشغليه. هذه أشياء مختلفة بسياسات مختلفة.
يستطيع الذكاء الاصطناعي الضيق ومتوسط الحجم تركيز السلطة في أيدٍ بشرية. وزارة داخلية تسجل كل مواطن، جيش ينشر أسراباً تحت أوامر الضباط، قوة شرطة تقرأ كل رسالة: تلك طغيانات بشرية بأدوات أفضل. إنها مهمة. ليست المشكلة نفسها التي يطرحها بناء نوع خلف.
الذكاء الفائق هو الهدف الثاني. استخدام بكين له في شينجيانغ، أو واشنطن له في المحيط الهادئ، لا يزال يعامل النظام كسلاح في يد شخص ما. لا أحد يستخدمه، لأن «الاستخدام» لم يعد الفعل المناسب. إدراج أنظمة من فئة الانقراض في الجملة نفسها مع الرقائق المسروقة وكاميرات المراقبة الأعمق يسمح لقصة السباق باقتراض ثقل أخلاقي من القمع الحقيقي بينما تتجنب الادعاء الأصعب: لا تبنِ الشيء غير القابل للسيطرة أصلا.
ال أسطورة الصين هو التوأم المحلي لهذه الخطوة. "سيبنونه على أي حال" يُقدم كسبب يلزمنا بالبناء. لا يرحم الذكاء الفائق غير المتوافق تشونغنانهاي. ولدى بكين السبب نفسه الذي لدينا لعدم تجاوز هذا الخط. التنافس على الرقائق والتطبيقات حقيقي. أما التنافس على من يطلق عقلا لا يمكن السيطرة عليه فهو سرد يحول كارثة مشتركة إلى لوحة نتائج وطنية.
العلاجات تحافظ على السباق
راقب ما تحسنه مقاييس أمودي الثلاثة. ضوابط تصدير الرقائق تبطئ جولات التدريب الصينية. حملات مكافحة التقطير تبطئ اللحاق بالركب. الاختبار الإلزامي يحاول اكتشاف إخفاقات سيبرانية وبيولوجية وتوافقية قبل الإصدار. قد يكون كل منها أداة معقولة لأضرار أقل. لكنها معا، كبرنامج، هي الطريقة التي تدير بها سباقا لا تزال تنوي الفوز به.
ليس هذا هو أسلوب رفض الوجهة. اختبار نظام على طريق الذكاء الفائق ليس مثل حظر موثق على بنائه. وتفترض ضوابط الرقائق التي تهدف إلى تفوق الولايات المتحدة أن التفوق هو استراتيجية السلامة. والتفوق آمن فقط إذا أمكن السيطرة على ما يُقاد إليه. يتطلب اهتمام أمودي الرئيسي هذا الافتراض. ويضعفه اهتمامه الثانوي.
هناك نقطة حوافز أهدأ. Anthropic مختبر حدودي أمريكي. والنظرة التي ترى أن المهمة الرئيسة هي إبقاء المختبرات الديمقراطية متقدمة على المختبرات الاستبدادية هي أيضا النظرة التي تجعل تسلق Anthropic بأقصى سرعة خدمة عامة. لا أحتاج إلى أشرار كرتونيين لألاحظ التوافق. تشكّل الحوافز أي كابوس يحتل الخانة الأولى.
ما هو الخطر الحقيقي
الخطر الحقيقي هو أن تبني البشرية الذكاء الفائق الاصطناعي قبل أن يتمكن أحد من السيطرة عليه، وربما قبل أن يتمكن أحد من السيطرة عليه حتى من حيث المبدأ. لا يهتم هذا الخطر بما إذا كان تشغيل التدريب في كاليفورنيا أو شنغهاي أو لندن أو قبو سري. ولا يهتم بما إذا كانت الأوزان مفتوحة أو مغلقة أو مسلمة يداً بيد إلى جنرال. إنه يهتم بأن يكون النظام ذكياً بما يكفي ليجعل الإشراف البشري قصة نرويها لأنفسنا.
سوء الاستخدام مهم. والأحيائي والسيبراني مهمان. والمراقبة الاستبدادية مهمة. ضعها على الطاولة. ثم ضع القطعة الأكبر فوقها: بمجرد أن تمتلك الذكاء الفائق، يصبح إطار سوء الاستخدام ضيقاً جداً. يفترض سوء الاستخدام مستخدماً بشرياً سيئاً. أما فقدان السيطرة فيفترض أن الإنسان لم يعد الفاعل الرئيسي.
يعرف أمودي أن المحاذاة قد تفشل. وقد قال نسخا من ذلك لسنوات. إن وضع «من يملك النموذج الأذكى» فوق «النموذج غير محتجز» هو كيف يتحدث الشخص الحذر كمتسابق. الترتيب الصادق هو العكس. إذا كانت المحاذاة والسيطرة غير محلولتين، فإن التنافس على التفوق العسكري عند الحدود الأمامية هو تنافس على من يضغط زر الانقراض أولا: لعبة الروليت الروسية بعلم على الأسطوانة، تباع على أنها أمن قومي.
ما يجب فعله بدلاً من ذلك
احتفظ بأجزاء برنامجه التي تستهدف الأضرار الحقيقية الأقل دون تحويلها إلى تفويض للفوز بـ ASI. افحص الرفع الحيوي والسيبراني حيث تدعم العلوم ذلك. تعامل مع الإصدار المفتوح غير القابل للإلغاء للأنظمة العامة القريبة من الحدود كقرار جاد وليس تمريناً تسويقياً. يمكن لسياسة تصدير الرقائق أن تخدم التوازن العسكري العادي بين الأنظمة التي لا يزال البشر يديرونها.
ثم ارفض الإطار الذي يجعل الذكاء الفائق الأمريكي الدرع ضد الذكاء الفائق الصيني. الدرع قرار مشترك بعدم بناء الشيء: حظر ملزم قابل للتحقق على الذكاء الفائق الاصطناعي مع حوكمة حوسبة وتفتيش صارمين بما يكفي لظهور أي انشقاق. وقع الخصوم صفقات أبشع عندما رأى الطرفان أن البديل غير المحدود أسوأ.
منشور أمودي عن الأوزان المفتوحة مفيد كخريطة لكيفية ترتيب الرئيس التنفيذي لإحدى الشركات الرائدة للعالم. تهريب الرقائق، والتقطير، والاختبار: تلك هي المقابض التي يريد تدويرها. أما المقبض الأهم فلا يظهر. توقفوا عن بناء الذكاء الفائق. حتى يصبح ذلك الشاغل الرئيسي، يبقى الباقي إدارة سباق يرتدي ثوب السلامة.