في عام 1965، عالم الرياضيات البريطاني I.J. Good (مفكك شفرات عمل إلى جانب آلان تورينغ في بلتشلي بارك) كتب فقرة واحدة شكلت ستة عقود من التفكير حول الذكاء الاصطناعي. تستحق الاقتباس كاملة.
لنعرف الآلة فائقة الذكاء بأنها آلة تستطيع أن تتفوق بمراحل على كل الأنشطة الفكرية لأي إنسان مهما بلغ ذكاؤه. وبما أن تصميم الآلات أحد هذه الأنشطة الفكرية، فإن الآلة فائقة الذكاء تستطيع تصميم آلات أفضل؛ وعندئذٍ سيقع بلا شك «انفجار ذكاء»، ويُترك ذكاء الإنسان خلفًا بعيدًا. وهكذا تكون أول آلة فائقة الذكاء آخر اختراع يحتاج الإنسان إلى صنعه.
إيرفينغ جون غود، "تكهنات حول أول آلة فائقة الذكاء،" 1965
Good حدد شيئًا لا تزال معظم مناقشات الذكاء الاصطناعي تفتقده. الخطر هو أن تصميم الآلات الذكية هو نفسه مهمة معرفية، وبالتالي فإن الآلة الجيدة في المهام المعرفية جيدة في بناء آلات أفضل، لا أن الآلة قد تصبح أذكى منا فقط. إنها حلقة تغذية راجعة. وحلقات التغذية الراجعة، عندما يغذي الناتج المدخل، لا تتحرك في خطوط مستقيمة. بل تتسارع.
ماذا يعني "التحسين الذاتي التكراري" فعلياً
محرك انفجار الذكاء هو التحسين الذاتي التكراري. يعزز الذكاء الاصطناعي قدراته بنفسه، عبر إعادة كتابة شيفرته أو تحسين عملية تدريبه أو إعادة تصميم بنيته أو اكتشاف استراتيجيات تفكير أفضل، ثم يطبق قدرته الأكبر الآن على مهمة تحسين نفسه مجدداً.
الكلمة التي تحمل العبء هنا هي تكراري. التقدم التكنولوجي العادي هو تحسين: نموذج هذا العام أفضل من نموذج العام الماضي. التحسين الذاتي التكراري هو تحسين في القدرة على التحسين. كل تكرار لا يبدأ فقط من مستوى أعلى من القدرة؛ بل يبدأ بمحسن أكثر قدرة. معدل التقدم ليس ثابتاً. المعدل نفسه يتسارع.
تمثيل تقريبي هو الفائدة المركبة، لكن حتى ذلك يقلل من شأنه. في الفائدة المركبة يكون معدل النمو ثابتا؛ ولا ينمو إلا الأساس. هنا يتراكب معدل النمو أيضا. نظام يتحسن بنسبة ١٠٪ في تحسين الذات كل دورة، ثم يشغل الدورة التالية أسرع لأنه أكثر قدرة، يمكنه الانتقال من التحسن التدريجي إلى الانفجاري بسرعة كبيرة.
الإقلاع البطيء مقابل الإقلاع السريع
هنا يعيش النقاش المهم. يتفق الجميع في المجال على أن التحسين الذاتي التكراري ممكن من حيث المبدأ. ما يختلفون فيه هو سرعة الإقلاع, كم من الوقت سيستغرق الانتقال من الذكاء الاصطناعي على مستوى البشر إلى ذكاء اصطناعي خارق جذريًا. الإجابة تحدد ما إذا كان الحكم ممكنًا على الإطلاق.
الإقلاع البطيء
في سيناريو الإقلاع البطيء، يمتد الانتقال على مدى سنوات. تتحسن القدرات بشكل مطرد وواضح. توجد علامات تحذير وأنظمة وسيطة ووقت للأسواق والجهات التنظيمية والجمهور للاستجابة. تكون الأخطاء قابلة للنجاة لأن هناك فرصة لاكتشافها وتصحيحها. في هذا العالم، تتاح للآلية العادية للحوكمة (الجلسات والتشريعات والمعاهدات والتنظيم التكراري) فرصة لمواكبة الوتيرة.
الإقلاع السريع
في سيناريو الإقلاع السريع، يتم التحول خلال أشهر أو أسابيع أو ربما أيام. وبمجرد أن يتمكن الذكاء الاصطناعي من أداء الجزء الأكبر من أبحاث الذكاء الاصطناعي الحدودي بنفسه، لن يظل مقيداً بالجداول الزمنية البشرية، ولا حاجة للنوم، ولا تكاليف تنسيق، وآلاف النسخ تعمل بالتوازي بسرعة الآلة. وقد يجتاز النظام النطاق المماثل للبشر بسرعة تجعل أي شخص يدرك ما يحدث بعد فوات الأوان، فيكون النظام الأقدر في العالم قد تجاوز الإشراف البشري بالفعل. وفي هذا العالم، لا وقت لعقد قمة. والقرارات التي كانت مهمة هي تلك التي اتُخذت قبل بدأت الحلقة.
الأخيرة، المناقشة على نطاق واسع الجدول الزمني للذكاء الاصطناعي تتزايد التوقعات من داخل المختبرات ومجتمع التنبؤ في وصف هذا الهيكل بالضبط: فترة من أنظمة الذكاء الاصطناعي التي تؤتمت البحث في الذكاء الاصطناعي، تليها تسارع حاد. سواء استغرق هذا التسارع عامين أو شهرين فهو عدم اليقين بتريليون دولار.
لماذا تُعد السرعة مشكلة حوكمة، لا مشكلة تقنية فحسب
تفترض كل تدابير السلامة التي يعتمد عليها البشر تقريباً وجود الوقت. تفترض عمليات الاستدعاء إمكانية تحديد العيب وسحب المنتج. تفترض ضوابط التسلح التفاوض بين قوى متكافئة تقريباً. تفترض التنظيمات حلقة تكرارية من الملاحظة والتشريع والتعديل. يحطم انفجار الذكاء السريع كل هذه الافتراضات، لأنه يقلّص الفترة الزمنية التي تحدث فيها الملاحظة والاستجابة.
فكر فيما يفعله الإقلاع السريع بالتطمينات القياسية:
- "سنقوم بإيقافه فقط." نظام يتحسن بسرعة الآلة لديه كلا من الحافز وربما الوسائل لمنع ذلك، ال مشكلة القابلية للتصحيح. ولا يمكنك إيقاف ما لم تدرك بعد أنه تجاوز الخط.
- "سننظمه بمجرد أن يصبح خطراً بوضوح." عندما يصبح خطراً بوضوح، تكون نافذة التصرف قد أغلقت. تستغرق المعاهدات سنوات؛ بينما يستغرق الإقلاع السريع أسابيع.
- "سيصحح السوق الأمر." تصحح الأسواق بعد الفشل. الذكاء الفائق غير المتوافق هو فشل لا تحصل على فرصة تصحيحه.
وهذا أيضاً سبب جعل انفجار الذكاء يشحذ ديناميكيات السباق التي تدفع المطورين بالفعل نحو السرعة على حساب الحذر. فإذا كان الإقلاع قد يكون سريعًا، فإن من يشغل الحلقة أولاً قد يكسب تقدمًا حاسمًا ودائمًا، وهو بالضبط الحافز الذي يجعل الاندفاع الأحادي غير الآمن أكثر احتمالاً. لا تستطيع أي شركة واحدة أن تبطئ إذا لم تبطئ منافساتها. إنها إخفاق في التنسيق، وإخفاقات التنسيق تُحل بأطر ملزمة، لا بالنوايا الحسنة.
الاعتراض: ربما يستقر عند مستوى معين
يجادل بعض الباحثين بأن التحسين الذاتي سيواجه عوائد متناقصة، وأن الذكاء يصطدم بحدود صعبة (البيانات، الفيزياء، صعوبة المشكلات المتبقية) تُسطِّح المنحنى إلى صعود بطيء يمكن السيطرة عليه.
لكن لاحظ بنية الرهان. إذا كان المشككون محقين وكان الإقلاع بطيئًا، فإن بناء أطر حوكمة مبكرًا يكلفنا بعض الكفاءة وبعض الوقت. وإذا كان المشككون مخطئين وكان الإقلاع سريعًا، فإن لا بناء تلك الأطر مبكرا يكلفنا القدرة على توجيه أهم حدث في تاريخ البشرية. الجانب السلبي للاستعداد لإقلاع سريع يتبين أنه بطيء محدود. أما الجانب السلبي لافتراض إقلاع بطيء يتبين أنه سريع فليس كذلك. في ظل هذا التباين، الخطوة العقلانية هي الاستعداد للسيناريو الأسرع حتى لو اعتقدت أنه أقل احتمالا، وهو نفس منطق القيمة المتوقعة الذي نناقشه في مقالتنا عن P(doom).
ما يعنيه هذا للخطة
انفجار الذكاء هو السبب الذي يدفع Nakada Foundation للدعوة إلى التصرف قبل الذكاء الفائق / الذكاء الخارق موجود، بدلاً من بعد. إذا كان الإقلاع سريعاً، فإن أطر الحوكمة،, ضوابط الحوسبة, يغطي لماذا يشك الباحثون في أن الاحتواء يصمد: نظام له أسباب آلية قوية ليكون مقنعاً لديه كل من الحافز والوسائل المحتملة لإيجاد قناة للخروج. لا يحتاج المُعظِّم إلا إلى النجاح مرة واحدة خطة مصمم لعالم قد تكون فيه الفترة بين "قوي" و"خارج عن السيطرة" قصيرة جدا، وحيث اللحظة الوحيدة الموثوقة للتصرف هي الآن، بينما لا يزال البشر هم من يتخذون القرارات.