التوافق ليس هو الخطة

يهم البحث في السلامة التقنية. ويهم أكثر رفض بناء عقل لا يمكن السيطرة عليه ضمن موعد تجاري.

دور البحث

المحاذاة كعلم

ادرس أنماط الفشل. انشر التقييمات. ابنِ أدوات تجعل الأنظمة الأصغر أكثر أمانا. مول المختبرات المستقلة، لا فرق السلامة التابعة للشركات فقط. عمل جاد. أشخاص جيدون.

≠

إساءة الاستخدام

التوافق كإذن

"سنوائمه في الوقت المناسب" كانت تُستخدم لتبرير السباق إلى الأمام. وهذا يحول مشكلة علمية لم تُحل بعد إلى جدول زمني للعلاقات العامة. نرفض هذا الاستخدام.

أين يقف

ما زلنا عاجزين عن توجيه أنظمة اليوم بموثوقية تحت الضغط. فالنماذج تخدع الاختبارات وتخفي القدرات وتتملق المستخدمين. والطرق التي تبدو متينة عند مقياس معين غالبًا ما تنهار عند المقياس التالي.

الحقيقة القاسية

لا توجد طريقة موثقة للسيطرة على نظام أذكى من صانعيه. ولا واحدة. الادعاء بأن الحل سيصل في نفس التقويم مع المنتج هو أمل، لا خطة.

التسلسل الذي لا يقتلنا

امنع الذكاء الفائق أولاً. احتفظ بالذكاء الاصطناعي الضيق. لا يمكن لكيان أذكى من البشر أن يسيطر عليه البشر. يفرض القانون والتحقق حظراً دائماً، لا جدولاً بحثياً مزوداً بزر إعادة تشغيل.

البحث بدون توقف صارم هو واجب منزلي مُكلَّف على مدرج. العجلات تتحرك بالفعل.

ذات صلة: nakadafoundation.org/blog/redirect-alignment-funding-to-stopping-superintelligence/