«إذا توقفنا عن بناء الذكاء الفائق، فسيفعل ذلك شخص آخر.» إنها الجملة التي تنهي الحديث في مئة غرفة. تبدو وكأنها جغرافيا ونظرية ألعاب. وغالباً ما تكون ليست كذلك. غالباً ما تكون طريقة للاستمرار في البناء مع وصف البناء بأنه حتمي. جرب الشكل نفسه مع تقنية سبق أن تعاملنا معها. «إذا توقفنا عن صنع ثلاجات الفريون، فسيواصل الآخرون صنع الثلاجات.»
نعم. استمروا في صنع الثلاجات. توقفوا عن استخدام المادة الكيميائية التي كانت تفتح ثقباً في السماء.
اسمان مختلفان
الثلاجة خدمة: طعام بارد، لقاحات، تلف أقل. كانت مركبات الكلوروفلوروكربون طريقة واحدة للحصول على تلك الخدمة، وطريقة كارثية لطبقة الأوزون بمجرد وضوح الكيمياء. ال بروتوكول مونتريال لم يحظر البرد. بل حدد موعد التخلص التدريجي من المواد التي تسبب الضرر، وموّل بدائل للدول الأفقر، ودعم الاتفاق بضغط تجاري. وقد قالت الصناعة إن التخلص مستحيل. بقيت الثلاجات. وذهبت مركبات الكلوروفلوروكربون.
بلاغة الذكاء الفائق تدمج اسمين في واحد. يصبح "الذكاء الاصطناعي" كتلة واحدة تشمل نماذج السرطان ومخططي الطرق ووكيل افتراضي أذكى من الجنس البشري. إذا رفضت العنصر الأخير، يقول الشعار، فأنت رفضت الأولى أيضا، وسيقوم شخص أقل ضميرا بشحنها كلها. الحركة هي التظاهر بأن السم مطابق للمنتج حتى يبدو إزالة السم حربا على المنتج.
لم ننقذ طبقة الأوزون بوعد بحفر الثقب أولاً. بل احتفظنا بالثلاجة وأوقفنا استخدام المادة الكيميائية.
ما الغرض من "سيفعل شخص آخر"
قد يحاول مختبر منافس، أو دولة منافسة، التدريب عبر أي خط ترسمه. هذا الاحتمال حقيقي بما يكفي للتخطيط له. وهو أيضا الاحتمال الذي اخترع ضبط التسلح للتعامل معه. الرد على "قد يبني شخص آخر قنبلة نووية" لم يكن "إذن علينا أن نختبر إلى ما لا نهاية". بل كان التحقق ونقاط الاختناق على المواد الانشطارية والعواقب على الخروج عن السيطرة.
الحوسبة أكثر فوضى من اليورانيوم، ولا يدعي أي شخص جاد خلاف ذلك. إنها لا تزال مادية، باهظة التكلفة في الحدود القصوى، وتمر عبر قائمة قصيرة من مصنعي الرقائق والمصانع ومناطق الحوسبة السحابية. هذا يكفي من الهيكل لبناء عمليات التفتيش عليه، ولهذا السبب حوكمة الحوسبة يظهر في كل مسودة معاهدة جادة. "سيفعل شخص آخر" يتخطى ذلك العمل ويذهب مباشرة إلى الإذن.
لاحظ من يستفيد من التخطي. إذا صيغ ضبط النفس على أنه استسلام أحادي الجانب، فإن الموقف الراشد الوحيد هو الإسراع الكامل. يسمع المستثمرون القدر. ويسمع موظفو السلامة أن الإبطاء سذاجة. لا يحتاج الشعار إلى الفوز في نقاش حول الآليات. يكفي أن يجعل الخيار الثالث، ضبط النفس المشترك، يبدو طفوليًا.
الثلاجة لم تكن العدو أبدًا
نريد ذكاء اصطناعيا ضيقا يشخص الأمراض ويصمم الأدوية ويكشف العيوب في الجسور. قل ذلك بوضوح حتى لا يلصق التشويه. خط الوقف هو رفض بناء أنظمة تتجاوز السيطرة البشرية وتحل محلها بينما مشكلة التحكم لم تُحل بعد.
هذا أقرب إلى "استخدام مبردات أخرى" منه إلى "حظر التخزين البارد". إن الأشخاص الذين يطمسون هذا التمييز يستعيرون شعبية الذكاء الاصطناعي المفيد كغطاء لقدرة لا تبقى أداة.
ما الذي يعلمه الصراع على الأوزون فعلياً
نجحت مونتريال لأن العلم أصبح صاخبًا، ووجدت بدائل، وواجه المتمسكون تكاليف تجارية. أما الذكاء الفائق فيصعب فيه إيجاد بدائل لـ«الهيمنة الاستراتيجية»، ويسهل في جانب واحد يتجاهله الشعار: لا تملك أي قوة كبرى مصلحة متماسكة في نظام لا يبقى تحت سيطرة أحد. والضعف المشترك هو المادة الخام لأي صفقة. ونفصل هذه الحجة في أسطورة الصين الصفحة وفي أسطورة السباق مقال. النسخة المختصرة هي أن خوف المنافسين يمكن أن يمول معاهدة بنفس سهولة تمويله لسباق، بمجرد أن تصبح النهاية الخاوية واضحة.
اسأل أي اسم يقصدون. الذكاء الاصطناعي المفيد ليس على كتلة التقطيع. الذكاء الفائق غير القابل للسيطرة هو. بالنسبة للاسم الثاني، خطر الانشقاق سبب لبناء الإنفاذ، لا سبب للانشقاق المسبق. استمرت الثلاجات في العمل. شفيت السماء لأن الناس استطاعوا التمييز.