في مطلع السبعينيات تعلم علماء الأحياء ربط جينات من كائن حي بآخر. ففتح الحمض النووي المؤتلف آفاق الطب والأحياء في آن، وأفزع مخترعيه أنفسهم. إذ لم يستطيعوا استبعاد احتمال هروب كائن معدل من المختبر وإحداث ضرر لا يُعرف كيف يُحتوى. ففعلوا ما ندر فعله: توقفوا.
في عام ١٩٧٤ دعا باحثون بارزون، بمن فيهم فائزون مستقبليون بجائزة نوبل، علنًا إلى وقف طوعي لأخطر تجارب الحمض النووي المؤتلف. وفي فبراير ١٩٧٥ اجتمع حوالي ١٤٠ عالمًا، إلى جانب محامين وصحفيين، في مركز مؤتمرات أسيلومار بكاليفورنيا لتحديد الشروط التي يمكن بها استئناف العمل بأمان. وخرجوا بإطار من تدابير الاحتواء المتناسبة مع المخاطر، واستؤنف البحث تحت ضمانات متفق عليها. بالنسبة للمدافعين عن وقف الذكاء الاصطناعي المتقدم، هذه هي النقطة المرجعية: مجال أدرك خطره واختار الحذر على السرعة.
ما حصل عليه أسيلومار بشكل صحيح حقاً
الإنجاز حقيقي ويستحق التصريح به بوضوح.
تصرف العلماء قبل وقوع كارثة لا بعدها، وهو أندر الأمور وأثمنها في تاريخ سلامة التقنية كله. فقد قبلوا تقييد عملهم الخاص، بما في ذلك البحوث التي وعدت بالشهرة والتقدم، لأن الخطر استدعى ذلك. وبنوا قواعد عملية تتناسب مع مستوى الخطر، بدلا من تجاهل الخطر أو حظر المجال برمته. وهو يشكل دليلا على أن مجتمعا بحثيا يستطيع النظر إلى حدوده الخاصة ويحكم بأنها أخطر من أن تُسرع ويتراجع. وتشكل هذه السابقة ردا مباشرا على الادعاء بأن إيقاف تقنية قوية أمر ساذج أو مستحيل، ولهذا السبب توضع إلى جانب حالات ضبط التسلح في صفحتنا عن أسباب التحرك ممكن.
لماذا هو نموذج أصعب مما يبدو
الصدق بشأن السابقة يعني تسمية سبب كون الذكاء الاصطناعي حالة أصعب، لأن الاختلافات هي بالضبط ما جعل أسيلومار ينجح.
- كانت مجتمعاً صغيراً وموحداً. بضع عشرات من المختبرات، ثقافة علمية واحدة، أشخاص يعرفون بعضهم. الذكاء الاصطناعي الحدودي هو مسابقة عالمية بين الشركات والدول بقيمة تريليونات، بدون طاولة مشتركة.
- كانت المخاطر التجارية متواضعة في عام 1975. لم تكن صناعة التكنولوجيا الحيوية قد وجدت بعد. أما الذكاء الاصطناعي فيصل وأكبر شركات العالم وأجهزة الأمن القومي ملتزمة به بالفعل، وهذا هو ديناميكية السباق لم تواجهه أسيلومار قط.
- كان إعادة التشغيل هو الهدف. صمم أسيلومار لإيجاد شروط آمنة للاستمرار، لا للتوقف إلى أجل غير مسمى. افترض نموذج الاحتواء الخاص به إمكانية حصر الخطر في مختبر فيزيائي. الذكاء الاصطناعي القادر ليس من الواضح احتواؤه بهذه الطريقة.
هناك أيضًا خاتمة رصينة. فقد صمد إجماع أسيلومار جزئيًا لأنه جاء في لحظة ضيقة توافقت فيها الحوافز، وحتى ذلك اعتمد على حسن نية طوعي كان من شأن مجال أكثر تجارية وأشد تنافسية أن يرهقه. وما نجح بين 140 عالمًا متآلفًا لا يتوسع بسهولة إلى صناعة عالمية متشظية تحت ضغط شديد للفوز.
يثبت أسيلومار أن التوقف ممكن. كما يظهر الشروط التي يحتاجها التوقف، وكم قليل منها يمتلكه الذكاء الاصطناعي حالياً.
الدرس الذي تستخلصه المؤسسة
كلا نصفي أسيلومار مهمان. فهو يدحض القدرية القائلة بأنه لا يمكن فعل شيء، وأن تقنية قوية لا يمكن إبطاؤها. لقد فعلها العلماء عمدا، ولم تسقط السماء. لكنه يظهر أيضا أن الآلية غير الرسمية والطوعية والودية التي نجحت عام ١٩٧٥ لا تكفي للذكاء الاصطناعي، لأن الذكاء الاصطناعي يفتقر إلى المجتمع الصغير والمخاطر المنخفضة والخطر المحتوى الذي سمح للنوايا الحسنة بالكفاية. والاستنتاج الصحيح هو أن الذكاء الاصطناعي يحتاج إلى ما استطاع أسيلومار تحقيقه، أي تقييد حقيقي قبل الخطر، يتم عبر الآلية الدولية الملزمة والقابلة للتحقق التي يتطلبها سباق عالمي بتريليون دولار، لا أن الذكاء الاصطناعي يحتاج إلى أسيلومار خاص به. انظر خطتنا.