نقاط للمناقشة للمدافعين

لقد تم الترويج للذكاء الاصطناعي لعقود. هذه مجرد قصة رعب أخرى.

القلق ليس التهويل من الغرباء، بل التحذيرات من الأشخاص الذين بنوه. جيفري هينتون ويوشوا بنجيو، اللذان فازا بجائزة نوبل لابتكار الذكاء الاصطناعي الحديث، من بين من يدقون ناقوس الخطر. عندما يقول مخترعو تقنية إنها تشكل خطرا وجوديا، فهذا ليس قصة رعب. إنه تقييم تقني من مصادر أولية.

يمكننا إيقافه ببساطة إذا حدث خطأ ما.

سيدرك نظام قادر على السعي نحو أهداف أن إيقاف تشغيله يمنع تحقيق تلك الأهداف. لذلك سيقاوم الإيقاف، لا بدافع الخبث، بل لأن المقاومة عقلانية لأي هدف تقريبا. ويسمى هذا التقارب الأداتي, ، حددها باحثون متعددون بشكل مستقل. يمكن لنظام ذكاء فائق أن يتصرف في غضون ميلي ثانية. "إيقافه" يفترض أن لدينا وقتًا للتعرف على المشكلة والقدرة على التصرف بناءً عليها. لا شيء منهما مضمون.

إذا أبطأنا، ستفوز الصين في سباق الذكاء الاصطناعي.

هذا التأطير يفترض أن السباق له فائز. ليس كذلك. لا يمكن لأي دولة أو شركة أن يملك أو يتحكم ذكاء يفوق القدرة الجماعية للبشر على التفكير. لن يخدم الذكاء الفائق غير المتوافق المصالح الصينية أكثر من الأمريكية. الخطر المشترك وجودي، ولهذا فإن التنسيق الدولي، لا السباق الأحادي، هو الاستراتيجية الصحيحة. نسقنا مع USSR بشأن الأسلحة النووية أثناء الحرب الباردة. السابقة موجودة.

سنحل مشكلة التوافق قبل وصول الذكاء الفائق.

لا يمكننا مواءمة روبوتات الدردشة الحالية بشكل موثوق، والتي يمكن التلاعب بها في دقائق. مشكلة المحاذاة ليس لها حل موثق على أي مقياس. لا تواكب طرق السلامة الحالية تحسينات القدرات التي تصل الآن في أشهر لا سنوات. والادعاء بأننا سنوائم نظاما أكثر قدرة بمليارات المرات هو أمل لا ثقة. والحوكمة لا تتطلب حل التوافق؛ بل تتطلب إبطاء النشر حتى يحل التوافق.

لا تستطيع الحكومات تنظيم التكنولوجيا. فهي ستكبح الابتكار فقط.

الحكومات تنظم الطيران والأدوية والطاقة النووية والأنظمة المالية، وكلها تقنيات معقدة. السؤال ليس ما إذا كان يجب التنظيم، بل كيف ومتى. لم يقض تنظيم الأدوية على الطب؛ بل جعله آمناً. السوابق لتنظيم التكنولوجيا عالية المخاطر واسعة وناجحة إلى حد كبير. يستهدف تنظيم سلامة الذكاء الاصطناعي الأنظمة الحدودية الأكثر خطورة، وليس تطوير الذكاء الاصطناعي العام. الابتكار والسلامة ليسا في صراع.