كل عام ينفق العالم ثروة لجعل أنظمة الذكاء الاصطناعي أكثر قدرة، وخطأ تقريبي لجعل الحالة النهائية قابلة للبقاء. داخل ذلك الخطأ التقريبي يكمن خطأ آخر: لا يزال معظم مال السلامة يفترض أن الذكاء الفائق / الذكاء الخارق سيُبنى، ويحاول جعل تلك النتيجة «تسير على ما يرام».
لا يزال معظم المال والمكانة يذهبان إلى جعل السباق أكثر أمانًا، لا إلى إنهاء السباق نحو ASI.
هذا الافتراض هو المشكلة. إذا كان الذكاء الفائق الاصطناعي تقنية لا نستطيع السيطرة عليها حاليا، فإن الاستخدام الرشيد لرأس المال الأمني الشحيح هو وقف إنشائه، لا تمويل نسخة أكثر ودية من نفس السباق.
ما يفعله المال اليوم
سلامة الذكاء الاصطناعي، بمعناها الواسع، تعتمد تقريبًا على 190 مليون دولار سنوياً. يعتمد عمل القدرات على عشرات المليارات. وداخل شريحة السلامة، يذهب نصيب كبير إلى التوافق التقني: حيل إشراف أفضل، واختبارات حمراء أقوى، وطرق أفضل لتدريب النماذج على قول الشيء الصحيح تحت ظروف الاختبار. بعض هذا العمل مفيد لأنظمة اليوم. ولا يشكل أي منه تقريبا حلا مثبتا لنظام أذكى من مختبريه.
يعرف المجال هذا. ليست الأوراق البحثية حول التوافق الخادع وسوء تحديد الهدف والتلاعب بالتقييم سرية. تنشر المختبرات نتائج تتآمر فيها النماذج تحت الضغط. والرد، في كثير من الأحيان، هو طلب المزيد من ميزانية التوافق حتى يصبح التشغيل التدريبي التالي أكثر أمانًا. تستمر عمليات التشغيل التدريبي وفق الجدول نفسه.
التوافق بعد الحقيقة هو رهان نستمر في فقدان الحق في صنعه
بحث التوافق التقني ليس عديم القيمة. إذا مر العالم يوما بمعاهدة تجمد السباق نحو الذكاء الفائق / الذكاء الخارق، فسنريد كل أداة جادة يمكننا الحصول عليها للأنظمة الموجودة بالفعل، ولأي عمل لاحق يتم تحت سيطرة صارمة.
تمويل المحاذاة كخطة أساسية بينما تتوسع المختبرات نحو الذكاء الفائق يعامل الوجهة على أنها ثابتة. إنها ليست ثابتة. وجهات من هذا النوع تُختار. كان للترسانات النووية، وكيمياء الأوزون، والاستنساخ البشري لحظات قرر فيها العالم أن بعض الحالات النهائية لا تستحق المخاطرة المتبقية. ينتمي الذكاء الفائق إلى تلك القائمة بشكل دائم. الذكاء الفائق لا يمكن التحكم فيه.
بحث المحاذاة الذي يفترض بناء القنبلة هو ميزانية راحة بجانب خط التجميع.
حيث يجب أن تذهب الأموال بدلاً من ذلك
إعادة توجيه كومة التوافق لـASI نحو عمل يجعل عدم الإنشاء قابلاً للتنفيذ:
- تصميم المعاهدات والتحقق منها وحوكمة الحوسبة على مستوى الرقائق التي يمكن تفتيشها عبر الحدود.
- صنع الحجة العامة التي تبقي الهدف واضحاً: وقف الذكاء الفائق، وليس "إبطاء الذكاء الاصطناعي" كمزاج غامض.
- دعم المبلغين عن المخالفات، والشفافية في الحوادث، والتقييم المستقل الذي يرفع تكلفة القفزات الهادئة في القدرات.
- التنظيم السياسي حتى يسمع المشرعون من الناخبين، لا فقط من لوبيات المختبرات.
تلك القائمة أقل بريقا من تقنية تدريب جديدة. وهي أيضا القائمة الوحيدة التي تطابق نمط الفشل. الذكاء الفائق الذي يتقن قليلا إظهار التوافق لا يزال ذكاء فائقا. أما العالم الذي يرفض بناءه فيملك مستقبلا يمكن فيه مواصلة بحوث التوافق دون ساعة توقيت ملصقة على خطر الانقراض.
الاعتراض من داخل المختبر
"إن لم نحل مشكلة المحاذاة، فسيبنيه شخص آخر بطريقة غير آمنة." اسمع هذا جيداً: غالباً ما يعتقد الباحثون الذين يبقون على الحدود أن وجودهم هو السلامة. أحياناً يكونون محقين بشأن إصدارات النماذج الحالية. لكن الحجة تفشل عند الحد الأقصى. السباق الذي يحتاج فيه كل فريق إلى قفزة قدراتية إضافية لتمويل عمل السلامة للقفزة التالية لا يزال سباقاً، حتى لو ارتدى شارة.
التقييد الأحادي من قبل مختبر واحد ليس المطلوب. معاهدة دولية ملزمة هو المطلوب، نفس فئة الأداة المستخدمة عندما كان الخطر جماعياً وكان الحافز للانشقاق حقيقياً. يمكن لتمويل التوافق دعم تلك السياسة. ولا ينبغي أن يحل محلها.
بعد معاهدة، تابع إن أردت
لا يقول أي شيء هنا إن علم المحاذاة يجب أن ينتهي إلى الأبد. بعد حظر ملزم وقابل للتحقق على الذكاء الفائق، يمكن أن يستمر البحث في الأنظمة الموجودة بالفعل وفق قواعد لا تعامل انقراض البشر كتكلفة تجريبية مقبولة. لا يمكن للبشر التحكم في الذكاء الفائق. قبل أن يدخل هذا الحظر حيز التنفيذ، كل دولار يجعل السباق يبدو قابلاً للإدارة هو دولار لم يُنفق على إنهاء السباق.
حرك المال. ضعه على الوقاية والقانون والتحقق. اترك حلم الإله المتوافق تماما على الرف حتى يتفق العالم على عدم بناء واحد في الظلام. للنقاش الأطول مع قصة التمويل طويل الأمد بكامل قوتها، انظر المدى الطويل أصاب في تقييم الخطر.