في يوليو ٢٠٢٥ نشر مارك زوكربيرغ رسالة حول «الذكاء الفائق الشخصي» حذر فيها أيضًا من الحذر مما يختار Meta فتحه كمصدر مفتوح. الاقتران هو مشكلة السياسة بأكملها في صفحة واحدة: سباق نحو الأنظمة العامة، وقرار إصدار لا يمكن التراجع عنه بمجرد أن تصبح الأوزان عامة.
ما يعنيه "open" هنا
يقول الناس "الذكاء الاصطناعي مفتوح المصدر" عندما يقصدون أشياء مختلفة: الشفرة المفتوحة، البيانات المفتوحة، الأوزان المفتوحة، الأوراق المفتوحة. المعركة عالية المخاطر تدور في الغالب حول الأوزان: المعاملات المدربة التي يمكن تنزيلها وتشغيلها. بمجرد شحنها بقدرة عامة متقدمة، يستطيع أي شخص لديه أجهزة كافية ضبطها بدقة وإزالة الفلاتر والاحتفاظ بنسخة خاصة إلى الأبد.
الإصدار باب ذو اتجاه واحد. يمكنك تصحيح واجهة برمجة التطبيقات المستضافة. لا يمكنك استرداد التورنت.
ما الذي تحميه الشفافية فعلاً
إن أقوى حجة للانفتاح ليست سذاجة. فتركيز الإغلاق يشكل خطرا على السلطة. ويحتاج الباحثون المستقلون إلى الوصول لاكتشاف الإخفاقات التي لن تعطيها المختبرات الأولوية. وكثيرا ما يفشل الأمن بالغموض. ولا ينبغي أن يظل الباحثون خارج الشركات الغنية مستأجرين دائمين لواجهات برمجة التطبيقات. وتستحق الأدوات المفتوحة والتقييمات المفتوحة والعلوم المفتوحة على أنظمة لا نزال قادرين على احتوائها الدفاع عنها.
حالة المخاطر بدون تهويل
عند القدرة العالية، تُعد الأوزان العامة المفتوحة انتشاراً. فهي تكثر الفاعلين القادرين على إساءة استخدام المساعدة البيولوجية والهجوم السيبراني والإقناع والوكلاء المستقلين. كما تكثر التجارب المستقلة في الاستقلالية طويلة الأمد. وستفشل معظمها. وبعضها سيولد تقنيات جديدة للتهرب. ولا تحتوي التراخيص ونصوص "الاستخدام المسؤول" على ضبط دقيق مصمم. ويساعد الاختبار الأحمر قبل الإصدار ولا يزال غير قادر على التصديق على نموذج ضد كل سقالة وأداة مستقبلية.
أقوى المعارضات
أعدل اعتراض هو أن الأوزان المفتوحة تُعمم التدقيق وأن المختبرات المغلقة هي الخطر الحقيقي للتركز. يساعد التدقيق على الأنظمة التي لا يزال بالإمكان تصحيحها واسترجاعها. وديمقراطية الوصول ليست هي سلامة القدرة. عالم يستضيف فيه ثلاث شركات فقط النماذج الحدودية يواجه مشكلات حوكمة. وعالم توجد فيه أوزان عامة جدا على كل وحدة معالجة رسومية للهواة يواجه مشكلات أخرى أصعب.
"الجهات السيئة تمتلكه بالفعل" عادة ما يكون سابقاً لأوانه. قفزات القدرات. أن نموذجاً أضعف تسرب العام الماضي ليس ترخيصاً لشحن التالي. التوقيت مهم.
المسارات الوسطى الحقيقية
الإصدار المتدرج: تفتح الصغير والضيق؛ وتبوّب الكبير والعام. الوصول المنظم: بيئات البحث الموثوقة، والاستعلامات المسجلة، والضبط الدقيق المعتمد بدلاً من تفريغ خام. أدوات مفتوحة: الحفاظ على المترجمات البرمجية وأدوات التقييم ومكدسات أبحاث السلامة مفتوحة حتى عندما تبقى الأوزان الحدودية مغلقة. تلك خيارات سياسية، لا مجرد انطباعات.
شجرة قرارات للمختبرات
هل سيظل هذا التنزيل مفيداً بعد القفزات الست القادمة في القدرات؟ إن كان نعم، فتعامل معه كقرار انتشار. وإن كان لا، فتعامل معه أقرب إلى إطلاق منتج عادي. هل يستطيع فرق الأمن وأمن الأحياء المستقلون الحصول على الوصول الذي يحتاجونه دون تورنت عام؟ إن كان نعم، ففضّل الوصول المنظم. وإن كان الحجة الوحيدة للفتح هي التوازن التسويقي مع منافس، فهذه ليست حجة سلامة.
ماذا نفعل
البناة: الإغلاق الافتراضي في المستوى العالي؛ نشر التقييمات والواجهات التي تتيح التدقيق الخارجي. المضيفون والمنصات: تسجيل وتقييد الاستخدامات عالية الخطورة؛ عدم غسل الانتشار تحت شعار «المجتمع». صناع السياسات: كتابة المحفزات على القدرة والحوسبة، لا على كلمة «مفتوح»؛ اشتراط مراجعة مرحلية قبل إسقاط الأوزان العامة. الأفراد: تفضيل الأدوات المفتوحة على الأنظمة الضيقة؛ التعامل مع إصدارات الأوزان المتقدمة كأحداث مدنية، لا كسلع مجانية.
إن موقف المؤسسة بسيط. يمكن للذكاء الاصطناعي الضيق الذي يبقى أداة أن يظل مفتوحًا ويجب أن يظل كذلك. أما البرامج التي تهدف إلى الذكاء الاصطناعي الفائق فلا ينبغي إطلاق أوزانها المفتوحة في البرية طالما لم تُحل مشكلة السيطرة. فالعلم المفتوح ليس ميثاق انتحار. انظر خطتنا.