أعتقد أنه قد يأتي يوم، بفيزياء أكثر مما نملك في ٢٠٢٦، نستطيع فيه التحكم في الجاذبية، وفتح الثقوب الدودية، وحتى التحرك أسرع من الضوء. وفق المعارف الحالية تبدو هذه الأمور مستحيلة. ومع ذلك أظن أننا لم نخدش بعد سوى سطح ما يمكن معرفته. أقرأ ذلك على أنه واقعية بشأن مدى شباب علمنا لا يزال.
مستقبل واحد لم أستطع فهمه أبدًا، مهما طال تفكيري فيه أو كثر من تحدثت معهم: السيطرة الدائمة على كيان أذكى منا. سواء أكان بيولوجيًا أم آليًا. من هذا الكوكب أم من غيره. فإذا كان العقل الآخر أذكى من البشرية، لا أرى كيف يصمد منطق السيطرة.
لوحة النتائج
ضع رقماً تقريبياً عليه حتى يصعب تجنب الشكل. سمِّ إجمالي معرفة ومهارة البشرية جمعاء، وهي تعمل معاً، 100. يحمل الشخص العادي شريحة صغيرة من ذلك، غالباً رقماً فردياً أو أقل.
تخيل الآن أننا ننفذ الأمر بشكل مثالي بطريقة ما. كل إنسان ومختبر وحكومة ذات صلة. لا هدر ولا تأخير. نضع المائة كاملة على الطاولة.
امنح الجانب الآخر سقفاً أعلى. قل إن حده الأقصى 200. لا يحتاج حتى إلى يوم جيد. عند كفاءة 51 بالمئة لا يزال يتجاوز 102. يتفوق على إجمالي بشري مثالي وهو نصف نائم.
يبدو هذا الهامش متواضعًا على الورق. نادرًا ما تنتظر المنافسات الحقيقية فجوات هائلة. ففي الحروب البشرية غالبًا ما احتاج أحد الطرفين إلى ميزة ضئيلة في الاستخبارات أو اللوجستيات أو الأسلحة ليحسم النصر. وكثيرًا ما تنتهي الهوامش الضئيلة بنتائج كاملة. فكيف نهزم شيئًا أذكى بكثير منا، لا ندًا قريبًا؟
لا أرى الطريقة. لن تنجح التلميحات الأفضل. ولن تنجح لجنة، أو دستور يكتبه الطرف الأضعف للطرف الأقوى.
الفيزياء ليست خصما
يسمع الناس عبارة الجاذبية ويدركون إيمانًا عامًا بأن المشكلات العصية تنقاد. بعض المشكلات العصية تنقاد فعلاً. القوى والمواد ليست وكلاء. فهي لا تخطط لتجاوز خطتك، ولا تخفي استراتيجية لأنها نمذجت اختباراتك. لا يزال توسيع الفيزياء صعبًا. أما حكم عقل يتفوق على الحكام في التفكير فهو نوع آخر من الصعوبة.
السيطرة، في كل حالة دائمة نعرفها، تعتمد على حافة: القوة، القانون، السرية، زر الإيقاف، أو فشل الطرف الآخر ببساطة في التفوق عليك. الذكاء الفائق / الذكاء الخارق هو مشروع محو تلك الحافة عمداً. أنت تحاول الإشراف على لاعب سيتفوق عليك في النهاية في الإشراف، وفي إيجاد الثغرات، وفي ملاحظة متى تنوي سحب القابس.
سمعت النسخ المتفائلة. سننمو معه. سنندمج. سنربيه بالحب. سنحتفظ به في صندوق حتى نتأكد. كل نسخة لا تزال تفترض أن الطرف الأضعف يحدد شروطا دائمة للطرف الأقوى. يمكنني الإعجاب بالرغبة. ولا أزال لا أجد الآلية.
لماذا توجد المؤسسة
إذا لم تستطع رؤية السيطرة، فلا تبنِ الشيء الذي يتطلبها. هذا ليس هجوماً على التقنية. الأدوات الضيقة التي تبقى أدوات تستطيع الاستمرار في تحسين الطب والعلوم والصناعة. الخط الفاصل هو الذكاء الفائق الاصطناعي: عقل عام يتفوق علينا في كل المجالات ولم يعد خاضعاً للأمر البشري.
أنشأت Nakada Foundation لأن هذا الخط يُعامل كجدول زمني هندسي لا كإشارة توقف للنوع البشري. تتسابق المختبرات. وتتحدث الحكومات عن الفوز. وغالبا ما تفترض أعمال السلامة الوجهة وتحاول تخفيف الصدمة. والصدمة هي المشكلة. لا يمكنك التوافق بطريقة تتجاوز فجوة الذكاء التي عرّفتها إلى الوجود. القضية الأوسع على التهديد وفي خطتنا.
لا أزال أترك مجالاً لمستقبلات تبدو سحرية وفق فيزياء اليوم. لن أراهن على النوع البشري في سيطرة البشر على ما هو أذكى من البشر. لا يمكن السيطرة على الذكاء الفائق من قبل البشر. الخطوة العاقلة هي عدم بنائه.