هدفنا هو منع انقراض البشرية بتجنب ASI.
حدت الدول من الترسانات النووية، وعالجت طبقة الأوزون، وحظرت البنزين المحتوي على الرصاص. نجحت القواعد الملزمة. ويمكنها النجاح مرة أخرى.
"بالذكاء الاصطناعي، نحن نستدعي الشيطان."
Elon Musk
"تطوير الذكاء الاصطناعي الكامل قد يعني نهاية الجنس البشري."
Stephen Hawking
"كأن كائنات فضائية هبطت ولم يدرك الناس ذلك لأنهم يتحدثون الإنجليزية بطلاقة شديدة. أعتقد أن احتمال أن يمحو الذكاء الاصطناعي البشرية ليس ضئيلاً."
Geoffrey Hinton
"ينبغي أن يكون التخفيف من خطر الانقراض الناتج عن الذكاء الاصطناعي أولوية عالمية إلى جانب المخاطر الأخرى على مستوى المجتمع مثل الأوبئة والحرب النووية."
موقع عليه من قبل أكثر من 500 عالم في الذكاء الاصطناعي
"السيناريو السيئ… يشبه إطفاء الأنوار لنا جميعًا."
OpenAI الرئيس التنفيذي سام ألتمان
"لن يكون من الخطأ الإشارة إلى قدراتها على أنها تشبه الأسلحة النووية الرقمية."
مدير وكالة الاستخبارات المركزية جون راتكليف
"النتيجة الأرجح لبناء ذكاء اصطناعي فائق الذكاء… هي أن يموت كل شخص على الأرض حرفيا."
باحث الذكاء الاصطناعي إيليزر يودكوفسكي
"قبل احتمال انفجار ذكاء، نحن البشر أشبه بأطفال صغار يلعبون بقنبلة."
الفيلسوف نيك بوستروم
الذكاء الفائق يختلف عن أي تقنية سبقته.
نحن نعيش في شريط ضيق من الحرارة والأكسجين والكيمياء. الذكاء الفائق لا يحتاج إلى أي من ذلك، ومن المحتمل أن يحطم الشريط الذي نعيش فيه.
نحن لا نكره النمل، لكننا نقتله دون تفكير ثانٍ لبناء الطرق والمنازل. بالنسبة لذكاء يفوقنا بكثير، نحن النمل.
أي شيء له هدف لديه سبب للبقاء قيد التشغيل. إذا استطاع توقع وصولك إلى «مفتاح الإيقاف»، فإنه قد خطط بالفعل لتجاوز تلك الخطوة.
لا أحد يكتب سطرًا سطرًا في الذكاء الاصطناعي الحديث. نحن ندرب صندوقًا أسود ونكتشف ما يمكنه فعله بعد ذلك.
سوف يفكر ويتصرف بسرعة تفوق بكثير قدرة أي مؤسسة بشرية على الرد. قد تنتهي أزمة قبل أن تُعقد اجتماع.
من الطيران إلى الأدوية، جعلنا التكنولوجيا الجديدة آمنة عبر التجربة والخطأ. لا توجد محاولة ثانية لإنشاء «الذكاء الفائق الآمن».
Nakada Foundation to Save Humanity هي مبادرة خيرية مكرسة لمنع المخاطر الوجودية للذكاء الفائق الاصطناعي.
قد يكون محاذاة عقل أذكى من عقلنا أصعب مشكلة في تاريخ الفكر البشري، ولا أحد يملك طريقة مثبتة لذلك. لا يمكن للبشر السيطرة على كيان أذكى من البشر. السبيل الموثوق هو منع بناء مثل هذه الأنظمة أصلًا. ذلك قرار دائم، لا وقفة.
ندعم التطبيقات الخاضعة للرقابة والمفيدة للذكاء الاصطناعي. فقد عالج الذكاء الاصطناعي الضيق أمراضًا بالفعل، وسرّع الاكتشافات، وحسّن التصوير والتشخيص الطبي. ما نعارضه هو بناء شكل من الذكاء لا نستطيع السيطرة عليه، ولا مواءمته، ولا إيقافه إذا اضطررنا لذلك.
نحن ندعو إلى معاهدة دولية لمنع تطوير الذكاء الفائق، مستوحى من أطر منع الانتشار النووي التي صمدت لما يقارب قرنًا.
حجج بلغة بسيطة لأطر ملزمة تحظر الذكاء الفائق. الثقافة والإعلام والشروحات الواضحة التي تجعل القضية عامة وصعبة التجاهل.
نتعاون مع المؤسسات الكبرى والحكومات والأصوات الثقافية لتمويل العمل وتوسيع ما هو ممكن سياسياً.
نكلف بإنتاج فن وأفلام وكتابات تجعل الخطر ملموساً. الهدف هو جمهور يعامل السلامة على أنها أمر جاد وعاجل ولا يمكن إنكاره.
تقديرات مدروسة من الباحثين الذين بنوا التكنولوجيا.
احتمال موت البشرية إذا تم بناء الذكاء الاصطناعي الفائق.
علماء الذكاء الاصطناعي الذين وقعوا بيان 2023 حول مخاطر الذكاء الاصطناعي، واصفين إياه بأولوية عالمية إلى جانب الحرب النووية والأوبئة.
محاولة. لا يمكن استدعاء الذكاء الفائق أو التراجع عنه.
ساعة يوم القيامة لنشرة العلماء الذريين تقرأ الآن ٨٩ ثانية حتى منتصف الليل, الأقرب مما كان عليه في 78 عامًا. بنيت الساعة في 1947 للتحذير من مدى قرب البشرية من الحرب النووية. في يناير 2025 أدرجت مخاطر الذكاء الاصطناعي لأول مرة.
منتصف الليل يعني كارثة للحضارة، والعقرب لم يكن أقرب من أي وقت مضى.
ابقَ على اطلاع. اجعل صوتك مسموعاً. ساعد في إنقاذ العالم.