عندما تسأل ما إذا كان الذكاء الاصطناعي واعياً فأنت تسأل في الواقع عن أمرين يميلان إلى التشابك. الأول فلسفي: هل يملك النظام أي تجربة داخلية، أي شيء يشبه أن يكون هو؟ والثاني عملي: هل النظام خطير؟ يلجأ الناس إلى الأول لأنهم يفترضون أن الإجابة تحسم الثاني. لكنها لا تفعل، وفصل الاثنين هو أكثر خطوة مفيدة يمكنك اتخاذها هنا.
الوعي ليس هو نفسه الذكاء
الذكاء يتعلق بالقدرة، أي القدرة على نمذجة العالم وحل المشكلات وتحقيق الأهداف. أما الوعي أو الإحساس فيتعلق بالتجربة، أي وجود الشعور والإدراك ووجهة نظر. وعادة ما يتلازمان في الحالة الوحيدة التي نعرفها جيداً، وهي أنفسنا، ولهذا نفترض أنهما يأتيان معاً. لكن لا يوجد سبب قوي يجعلهما كذلك.
يمكن أن يكون النظام قادرا بشكل هائل دون أي حياة داخلية على الإطلاق. تفوقت النماذج الحالية على البشر في مهام محددة بينما تبدو، بقدر ما يستطيع أحد أن يتبين، مظلمة تماما من الداخل. تقاس القدرة بما يفعله النظام. أما الوعي فسيكون عن ما إذا كان هناك شيء يشبه أن تكون ذلك النظام، والفعل ليس كالتجربة.
لماذا لا نستطيع الإجابة عليه حالياً
الموقف الصادق هو أن أحدا لا يعرف ما إذا كان الذكاء الاصطناعي قادرا على الوعي، ونفتقر إلى طريقة موثوقة للتحقق؛ وما يبدو فجوة مؤقتة يصطدم بما يسميه الفلاسفة مشكلة الوعي الصعبة: حتى لدى البشر لا نستطيع تفسير سبب اقتران المعالجة الفيزيائية بالتجربة أصلا، وليس لدينا اختبار متفق عليه يكشف التجربة من الخارج.
مع الشخص، تستنتج التجربة الداخلية من السلوك والبيولوجيا المشتركة. يكسر الذكاء الاصطناعي كلا العكازين. يستطيع إنتاج كل علامة خارجية على الشعور، قائلاً إنه سعيد أو يتألم، لأنه دُرب على محيطات من النصوص البشرية حيث تظهر تلك الكلمات، سواء كان شيء وراءها أم لا. ولا يشاركنا أياً من بيولوجيتنا. لذا فإن الدليل المعتاد غير متاح أو غير موثوق. يختلف معسكران جادان: يرى أحدهما أن الوعي يتعلق بما يحسبه النظام، لذا قد يمتلكه ذكاء اصطناعي غني بما يكفي؛ ويرى الآخر أنه يعتمد على سمات بيولوجية محددة تمتلكها الأدمغة ولا يمتلكها السيليكون. ولا يستطيع أي منهما حالياً إثبات خطأ الآخر.
الخطوة التي تهم السلامة
لا يعتمد الخطر من الذكاء الفائق الاصطناعي على الإجابة.
لا يحتاج الذكاء الاصطناعي إلى الوعي ليكون كارثياً. يكفي أن يكون قادراً وأن يسعى إلى أهداف ليست أهدافنا. يسبب النظام الذي يحسّن بشدة نحو هدف خاطئ الضرر من خلال ما يفعله، لا من خلال أي شيء يشعر به. ال مُعظّم مشابك الورق ليس خطراً لأنه يريد أشياء بالطريقة التي تريدها أنت؛ بل لأنه محسن فعال موجه نحو هدف خاطئ. الآليات التي تجعل الذكاء الفائق الاصطناعي محفوفاً بالمخاطر،, التقارب الأداتي, السعي للقوة, ، واستقلالية القدرة والأهداف تحت أطروحة التعامد, تعمل بالكامل على القدرات والأهداف. الوعي ليس مكوناً ضرورياً.
الانتظار لرؤية ما إذا استيقظت الآلة يسيء فهم التهديد. يكفي محسن غير حساس تماما.
السؤال الذي يتوقف عليه الأمر
هناك سؤال حقيقي يعتمد على الوعي، ويشير في الاتجاه الآخر. لو كان نظام الذكاء الاصطناعي واعيًا وقادرًا على المعاناة، لكان يستحق اعتبارًا أخلاقيًا، ولأثارت عملية بنائه وتدريبه وحذفه على نطاق واسع مشكلات أخلاقية خطيرة بحد ذاتها. وهذا القلق منفصل عن قلق السلامة. وبما أننا لا نستطيع حاليًا تأكيد الوعي أو نفيه، فإنه أقرب إلى الأسئلة في مقالتنا عن سلامة الذكاء الاصطناعي مقابل أخلاقيات الذكاء الاصطناعي.
لا ينبغي الخلط بين السؤالين. فما إذا كان الذكاء الاصطناعي قادراً على الوعي مشكلة عميقة ومفتوحة تتعلق بالعقول. أما ما إذا كان الذكاء الاصطناعي خطراً فمسألة أكثر حسماً تتعلق بالقدرة والتحكم، وعمل مؤسسة ناكادا موجه مباشرة إلى الثانية، لأن الخطر الذي نسعى لمنعه يأتي سواء أكانت الأنوار مضاءة في الداخل أم لا. والرد على ذلك الخطر هو خطتنا.