إيقاف الذكاء الفائق لا يعني تحطيم كل رقاقة أو إنهاء التعلم الآلي. إنه يعني حظراً قانونياً وعملياً على تطوير الذكاء الفائق الاصطناعي. لا يمكن السيطرة على الذكاء الفائق من قبل البشر. ذلك حظر دائم، وليس توقفاً مؤقتاً ينتهي إلى نفس السباق.
ما يجب أن يتوقف مقابل ما يجب أن يستمر
يجب أن يستمر الذكاء الاصطناعي الضيق الذي يطوي البروتينات، ويقرأ الصور الطبية، ويحسن اللوجستيات، ويبقى داخل مجالات محدودة. الهدف هو الذكاء الفائق / الذكاء الخارق العام الذي يتحسن ذاتياً بشكل متكرر والبرامج الموجهة إليه، المصفاة من خلال عتبات الحوسبة، واختبارات القدرات، وقواعد البحث. النقاد الذين يقولون "يريدون حظر الذكاء الاصطناعي" يبيعون تشويهاً يحمي السباق.
لماذا لا تكفي وعود المختبرات
يمكن لسياسات التوسع المسؤول وتعهدات المختبرات المتعددة الكشف عن النوايا. لكنها تفشل كمنظومة السيطرة الرئيسية. فالشركة نفسها تكتب السياسة، وتجري الاختبارات، وتحكم على النتائج، وتجني الأرباح من الشحن. وتحت المنافسة تنحني القواعد الداخلية. يجب أن يأتي القانون الخارجي بالعضة. انظر التزامات طوعية.
سلم الإنفاذ
تخيل سلماً على جرف.
إرادة الجمهور في القاعدة: الأشخاص الذين يستطيعون تحديد المطلب ومعاقبة القادة الذين يقدمون فقط مسرح الابتكار.
القانون المحلي والوكالات: الترخيص لجولات التدريب الكبيرة، والتعرض الجنائي والمدني لتطوير ASI مع العلم، وهيئات التقييم ذات الوصول الحقيقي، وحماية المبلغين.
الرقائق والسحب: ضوابط التصدير، معرفة العميل للعناقيد، رؤية الطاقة ومراكز البيانات. الأجهزة مادية. ذلك ميزة للحوكمة. انظر حوكمة الحوسبة.
معاهدة التحالف: مجموعة أساسية من الدول تغطي معظم القدرات الحدودية، مع ملاحق رقمية، لا المبادئ فقط. الشك أمر طبيعي؛ التحقق موجود حتى لا تعتمد الأطراف على الصداقة. انظر تصميم المعاهدة و NPT دروس.
مؤسسة التحقق: مفتشون، جداول فلوب، الإبلاغ عن الحوادث، سلطة تفعيل العواقب. فكر في قدرة تشبه IAEA لمراكز البيانات والتدريب، لا مجرد منتدى نقاش.
شرط الحظر القائم: إعادة الفتح فقط عندما يتجاوز العلم المستقل والجمهور معًا عتبة عالية تحت مؤسسات غير مستولى عليها من قبل المختبرات.
كل درجة تدعم التالية. القمم بدون قواعد حوسبة، أو قواعد حوسبة بدون إرادة عامة، تترك الصعود غير مكتمل.
السياسة الداخلية نصف المشكلة
في الولايات المتحدة، لا يلزم النص الجنيفي الجميل دون مسار عبر مجلس الشيوخ أو عبر قوانين واتفاقيات تنفيذية-تشريعية يمكن تمريرها. صمم مجموعة الأدوات رجوعاً من الأصوات التي تستطيع الفوز بها. لدى الدول الأخرى مصائدها التصديقية الخاصة. تخطَّ التصميم المحلي فتحصل على بيانات صحفية. انظر مشكلة الثلثين.
الصين والمنافسون وعذر السباق
العذر السائد للتوسع غير المحدود هو: إذا أبطأنا فلن يبطئ الآخرون. والضعف المشترك يعمل في الاتجاهين. الذكاء الفائق غير القابل للتحكم طريقة لخسارة البلد وأنت تحيي العلم، لا أصلا وطنيا. التحقق ومنع العتاد والكشف المتبادل عن برامج الاختراق موجودة للخصوم الذين لا يثقون ببعضهم. انظر أسطورة السباق و US-تعاون الصين.
افتح الأوزان
الأوزان العامة المفتوحة عالية المستوى تخلق مسار انتشار لا تعالجه ضوابط التصدير إلا جزئياً. بمجرد أن تصبح الأوزان عامة، لا يوجد استدعاء مركزي. تعامل الإصدارات العامة عالية المستوى كقرارات انتشار، وليس إطلاقات منتجات عادية. انظر مخاطر أوزان المصدر المفتوح.
ما يمكنك فعله
طابق الإجراء مع مدى وصولك.
الناخبون: تواصل مع الممثلين بطلب حظر ملزم، لا "كن حذراً" غامض الموظفون: صياغة مشاريع قوانين الترخيص والتقييم بمحفزات رقمية. المتبرعون: يمول المناصرة التي تحرك الأصوات ونص المعاهدة. العلماء: تأييد الحظر الدائم والمساعدة في تصميم التحقق. موظفو المعمل: استخدام قنوات الإبلاغ القانونية عند تجاوز السلامة الداخلية. القوة الخاصة بالدور تتفوق على القلق العام. انظر اتخاذ إجراء.
معظم المال والمكانة لا يزالان يذهبان إلى جعل السباق أكثر أمانًا، لا إلى إنهاء السباق نحو ASI. الهدايا التي تنمي التوقف لا تزال نادرة.
كيف يبدو النجاح
في غضون عامين: تشريعات ذات أنياب في ولايات قضائية متعددة، ورصد أفضل للاستخدام النهائي على الرقائق، ونص تفاوضي جاد يحتوي أرقاماً، ودعم عام دائم لحظر ملزم. وفي غضون خمس إلى عشر سنوات: حوسبة مرخصة تغطي معظم القدرة الحدودية، وتفتيش فعال، وتغطية ائتلافية للتدريب، وثقافة تجعل الاختراق مكلفاً ومرئياً. لا تُحسب بيانات القمم وحدها.
أنماط الفشل
إعادة التعريف ("مساعدة متقدمة" بدلًا من ASI). الاستحواذ على المقيمين. معاهدات رمزية بلا تحقق. انتظار "محاذاة محلولة" كإذن بالبناء. الانشقاق بلا تكلفة. سمّها حتى تتمكن من وضع درابزين على الصعود.
تصميم المعاهدة بدون نص مقدس
لا يوجد مشروع مقدس واحد. هناك عائلات من التصاميم. يمكن لتحالف أساسي يغطي معظم القدرة المتقدمة أن يتحرك قبل العضوية العالمية. ويستعير التسلسل (المبادئ أولاً ثم الجداول الرقمية التي تُحدَّث) من أنظمة بيئية وتسلح ناجحة. وتغير التدابير التجارية ضد غير الأطراف حسابات الانسحاب. ويمكن لصندوق متعدد الأطراف أو صفقة وصول تكنولوجي أن تجذب الدول التي تخشى الإقصاء من الذكاء الاصطناعي الضيق. ومشروع MIRI-النمط هو اقتراح محدد بالكامل؛ أما NPT ومونتريال وقانون الأسلحة الكيميائية فهي رفوف السوابق. اختر هياكل يمكنك التحقق منها، لا شعراً لا تستطيع سوى مدحه.
البحث قرب الخط
أصعب مشكلة صياغة هي العمل الذي يجاور الحظر: الأنظمة الوكيلة، مساعدو البحث الآلي في الذكاء الاصطناعي، اللعب الذاتي على نطاق واسع. احظر المسار الواضح نحو ASI. رخص وافحص المنطقة الرمادية. لا تتظاهر بأن كل ورقة بحثية قنبلة، ولا تتظاهر بأن البحث الآلي في الذكاء الاصطناعي علم عادي عندما يقصر الطريق إلى أنظمة لا يستطيع أحد تجاوزها.
العدالة ومن يدفع
ستصيب قواعد الحوسبة الشركات والدول بشكل غير متكافئ لأن القاعدة الصناعية غير متكافئة. النظام العادل يقرن القيود على قمة سلم القدرات مع استمرار الوصول إلى الأدوات الضيقة المفيدة، ولا يستخدم "السلامة" غطاء لأنظمة طبقية تكنولوجية دائمة. الهدف هو البقاء المشترك، لا احتكار التقدم.
الرد على خطين صعبين
"سنخسر الاقتصاد." سيعاد تخصيص بعض رؤوس الأموال. وستتقلص بعض قصص الأسهم. وتظهر هذه التكاليف في المكالمات الفصلية. أما الانقراض وفقدان التمكين الدائم فلا يظهران كبند في القائمة. والتكاليف الظاهرة لا تفوز بالحجة تلقائياً حين يكون البديل حضارياً.
"سيخون أحدهم دائمًا." الانشقاق مدخل تصميمي. التحقق، وحرمان الأجهزة، والعقوبات، والكشف المتبادل عن برامج الاختراق موجودة لتغيير المكسب. الامتثال التام ليس المعيار. رفع تكلفة الغش هو.
السلم مرة أخرى
الإرادة الشعبية. القانون. الرقائق. المعاهدة. المفتشون. الحظر الدائم. التسلق يعني تثبيت الدرجات بالترتيب ورفض الادعاء بأن جدارا مطليا سلم. والوثائق ونقاط الاختناق الصناعية والسوابق القانونية موجودة بالفعل. وتنتمي القوة إلى الدرجة التالية التي يمكن الوصول إليها فعليا. ويعيش التصميم الكامل في خطتنا. الخط التأسيسي أبسط: لا تبنوا الذكاء الفائق. لا يمكن السيطرة على الذكاء الفائق.