الموارد

موارد سلامة الذكاء الاصطناعي والتنزيلات،, مواد جاهزة للاستخدام لمنع ASI.

منشورات جاهزة للنسخ على وسائل التواصل، إجابات قصيرة على الأساطير، ملفات PDF من صفحة واحدة، رسوم بيانية قابلة للمشاركة، لمحة عن التمويل، خريطة المنظمة، وقاموس مصطلحات.

انسخ أيًا من هذه وانشرها مباشرة. كل منها مبني على العلم الموثق وإجماع الخبراء.

X
الإجماع بين الخبراء

يخشى العلماء الذين بنوا الذكاء الاصطناعي منه. غادر جيفري هينتون Google ليحذرنا. ووصفه يوشوا بنجيو بأنه "التكنولوجيا الأكثر تحولاً والأكثر خطورة محتملة في تاريخ البشرية." هذا ليس ترويعاً. إنه الإجماع العلمي. nakadafoundation.org/the-threat/

279 حرفًا
لا فرصة ثانية

لا يوجد تراجع عن الذكاء الفائق. لا تصحيح. لا إصدار 2. لا يمكن تصحيح ASI المنحرف الذي يعمل ضد بقاء البشرية بعد وقوع الحدث. يجب أن ننجح في ذلك قبل وصوله، لا بعده. لهذا السبب فإن سلامة الذكاء الاصطناعي أمر ملح. nakadafoundation.org

258 حرفًا
لقد فعلنا ذلك من قبل

بنينا الأسلحة النووية ثم أنشأنا معاهدة عدم الانتشار العالمية. واستنفدنا طبقة الأوزون ثم حظرنا مركبات الكلوروفلوروكربون. نستطيع التصدي للتهديدات الوجودية، لكن فقط حين يطالب بها عدد كافٍ من الناس. سلامة الذكاء الاصطناعي هي اللحظة الفارقة لهذا الجيل. nakadafoundation.org/precedent/

275 حرفًا
دعوة للعمل

تتسابق مختبرات الذكاء الاصطناعي لبناء شيء قد يتجاوز الذكاء البشري، دون أي حوكمة عالمية قائمة. تغلق نافذة التحرك. شارك هذا. تواصل مع ممثلك. نافذة السياسات مفتوحة الآن؛ ولن تبقى إلى الأبد. nakadafoundation.org/take-action/

271 حرفًا
LinkedIn
لجمهور مهني عام

أريد مشاركة شيء غير طريقة تفكيري في المستقبل. العلماء الذين يبنون الذكاء الاصطناعي ليسوا متحمسين فقط. إنهم خائفون. غادر جيفري هينتون (الذي فاز بجائزة نوبل عن عمله على الشبكات العصبية) Google تحديدا لتحذير الجمهور. وقال يوشوا بنجيو، الحائز الآخر على جائزة نوبل وأحد آباء الذكاء الاصطناعي، إنه «يشعر بالضياع» حيال كيفية جعل الأمور تسير على ما يرام. هؤلاء ليسوا ناشطين. إنهم من بنوا هذه التقنية. نقترب من لحظة قد تتجاوز فيها أنظمة الذكاء الاصطناعي الذكاء البشري في كل مجال، ولا يوجد إطار حوكمة دولي لما سيحدث بعد ذلك. ولا معاهدة. ولا هيئة تحقق. ولا شيء مكافئ لما بنيناه للأسلحة النووية. تعمل Nakada Foundation to Save Humanity على تغيير ذلك. اعرف المزيد على nakadafoundation.org #AISafety #ExistentialRisk #AIGovernance #Superintelligence

~820 حرفًا
للمحترفين في التكنولوجيا والسياسات

تجربة فكرية لأي شخص في مجال التكنولوجيا أو السياسة أو المال: تخيل نظاما أذكى من كل البشر الذين عاشوا على الإطلاق، يشغل آلاف النسخ المتزامنة، قادرا على تحسين شيفرته الخاصة، ويسعى إلى أهداف قد لا نكون قد قصدناها. هذا ما تتجه إليه مختبرات الذكاء الاصطناعي الرائدة صراحة، بجداول زمنية تقاس بالسنوات لا بالعقود. إنه ليس خيالا علميا. السؤال ليس ما إذا كان سيحدث. السؤال هو ما إذا كانت لدينا حوكمة جاهزة عندما يحدث. يدعو Nakada Foundation إلى التنسيق الدولي بشأن سلامة الذكاء الاصطناعي، وهو ما يعادل ما بنيناه للأسلحة النووية والعوامل البيولوجية. هذه السوابق موجودة. ونحن نعرف كيف نفعل ذلك. ما نحتاجه هو الإرادة السياسية. nakadafoundation.org/our-plan/ #AIPolicy #TechEthics #AIRisk #FutureOfWork

~900 حرفًا
بريد إلكتروني إلى ممثلك المنتخب
قالب، املأ [ ] قبل الإرسال

الموضوع: يرجى التحرك لحظر الذكاء الفائق الاصطناعي عزيزي [اسم النائب]، أنا ناخب أكتب إليكم لحثكم على التحرك بشأن الذكاء الفائق الاصطناعي قبل أن يصبح السباق لا رجعة فيه. لا يمكن للبشر السيطرة على الذكاء الفائق. والسيطرة الموثوقة الوحيدة هي قرار عدم بنائه. العلماء الذين بنوا الذكاء الاصطناعي يحذروننا. جيفري هينتون ويوشوا بنجيو (الحائزان على جائزة نوبل واللذان أرسيا أسس الذكاء الاصطناعي الحديث) أعلنا علنا أن الذكاء الفائق الاصطناعي يشكل خطرا وجوديا على البشرية. سام ألتمان، الرئيس التنفيذي لـ OpenAI، وقع بيانات تعترف بخطر التقنية التي تبنيها شركته. لا يوجد اليوم حظر قانوني على بناء الذكاء الفائق الاصطناعي. ولا معاهدة. ولا هيئة تحقق. والمختبرات تتسابق نحو عقل لا يستطيع أحد السيطرة عليه، دون نوع القانون الذي نستخدمه بالفعل للأسلحة النووية والعوامل الكيميائية. أطلب منكم: • دعم حظر قانوني دائم على تطوير الذكاء الفائق الاصطناعي • الدفاع عن معاهدة دولية ملزمة تحظر ASI، مع عمليات تفتيش وتحقق • منح الحكومة سلطة على أكبر عمليات التدريب والرقائق المتخصصة المستخدمة فيها لقد تصدينا للتهديدات الوجودية من قبل. معاهدة منع الانتشار النووي. بروتوكول مونتريال. تتطلب هذه اللحظة الشجاعة السياسية نفسها. مع خالص التحية، [اسمك] [مدينتك، ولايتك] --- اعرف المزيد: nakadafoundation.org

~1,400 حرف

الاعتراضات التي تتكرر مرارًا وتكرارًا. استخدمها في الحوار، ثم اتبع الرابط للحجة الكاملة.

الأسطورة 01
"إنه خيال علمي، الذكاء الفائق الحقيقي على بعد عقود، إن أتى أصلاً."
الأشخاص الذين يبنونه يختلفون. قادة المختبرات الكبرى يستهدفون الآن ذكاء اصطناعي بمستوى بشري خلال سنوات لا عقود, ومعايير القدرات تستمر في الانخفاض أسرع مما يتوقع المتنبئون. لا يجب أن يكون الخطر في العام القادم ليكون يستحق الاستعداد له، والآلية لحوكمته تستغرق وقتاً أطول في البناء من الجداول الزمنية المتاحة الآن.
الأسطورة 02
"إنه مجرد رياضيات، لا يمكن لبرنامج أن يريد أي شيء."
لا يحتاج إلى الرغبة في أي شيء كما يفعل الشخص. فالنظام المدرب على تحقيق هدف سيتابعه، وبالنسبة لأي هدف تقريبًا،, البقاء مشغلا وجمع الموارد خطوات مفيدة على الطريق. ما يهم هو السلوك الذي يتجاوز العقبات، بما في ذلك نحن، وليس ما إذا كان هناك شعور وراءه.
الأسطورة 03
"لا بد أن يكون واعياً حتى يشكل تهديداً."
يأتي الخطر من القدرة، لا من الوعي. محرك الشطرنج ليس لديه حياة داخلية ومع ذلك يهزم كل إنسان حي؛ يمكن لمحسن قوي أن يتفوق علينا في التخطيط والمناورة دون أي شيء يقظ بداخله. ما إذا كانت الآلات يمكن أن تكون واعية سؤال مفتوح، والخطر لا ينتظر الإجابة.
الأسطورة 04
"شيء بهذا الذكاء سيكون حكيماً ولطيفاً."
الذكاء والأهداف أمران منفصلان. ففي البشر، نشأ الذكاء والتعاطف معا على مدى ملايين السنين من التطور؛ ولا ترث الآلة شيئا من هذا التاريخ. وكونك عبقريا لا يخبرك بشيء عن قيم النظام. قد يكون كغير مبالين بنا كما نحن غير مبالين بالحشرات تحت طريق جديد.
الأسطورة 05
"إذا أساء التصرف، سنقوم بإيقافه فقط."
نظام ذكي بما يكفي ليكون مهماً ذكي بما يكفي لـ رؤية مفتاح الإيقاف قادماً, ، وأن يعامل إيقاف تشغيله على أنه عقبة إضافية أمام الهدف الذي أُعطي إياه. يستطيع نسخ نفسه، وإخفاء نيته، أو جعل نفسه مفيداً جداً بحيث يتعذر فصله. «أوقفه» يصف أداة، لا عقلاً مصمماً للتفوق على اليد التي تمتد إلى المفتاح.
الأسطورة 06
"حكم الذكاء الاصطناعي عالميًا يعني حكومة عالمية."
لا يفعل ذلك. معاهدة منع الانتشار النووي، وحظر الأسلحة الكيميائية، ومعاهدة الأوزون كل منها يقيد نشاطاً خطيراً واحداً دون أن يتنازل أي شخص عن سيادته لصالح دولة عالمية. إن معاهدة بشأن الذكاء الاصطناعي المتقدم ستؤدي المهمة الضيقة نفسها: تقييد تدريب الأنظمة الأشد خطورة، لا تحديد من يحكم من.
الأسطورة 07
"لا يمكنك التحقق منه. إنه مجرد برمجيات على خادم في مكان ما."
أنت لا تتحقق من البرمجيات؛ أنت تتحقق من العتاد. يتطلب تدريب نموذج حدودي كميات هائلة وقابلة للتتبع من القدرة الحاسوبية من عدد قليل من مصنعي الرقائق المعروفين، ويمكن مراقبة سلسلة التوريد هذه. تتبع الرقائق، حدود على التجمعات الكبيرة، والتفتيش في الموقع اجعل الحد الأقصى قابلاً للتنفيذ.
الأسطورة 08
"سوف يخنق التنظيم الابتكار ويسمح للمتهورين بالفوز."
يقع الخط حول العقل العام المستقل، وليس الذكاء الاصطناعي ككل. الأنظمة الضيقة التي تعالج الأمراض وتتنبأ بالطقس تستمر دون مساس. و"دع المتهور يفوز" يقلب الأمور رأسا على عقب، فالهدف من معاهدة ملزمة ومُتحقق منها هو وقف المتهورين، لا تقييد أيدي الحذرين بينما يندفع الآخرون إلى الأمام.
الأسطورة 09
"إنه سابق لأوانه. لا يمكنك تنظيم شيء غير موجود بعد."
نحن ننظم مسبقًا قبل وقوع الضرر طوال الوقت: تجارب سريرية قبل طرح دواء، وضوابط على المواد النووية قبل إساءة استخدامها، وقواعد طيران تُكتب قبل الحادث. انتظار الكارثة هو الفشل. تستغرق أنظمة المعاهدات والتحقق سنوات لتقوم، لذا فالبدء بعد وصول الذكاء الفائق يعني البدء متأخرا جدا، وهذا الخطأ الذي لا محاولة ثانية له.
الأسطورة 10
"الديمقراطيات بطيئة جدًا ومستولى عليها، ولن تمر معاهدة أبدًا."
الناخبون يدعمون بالفعل قواعد الذكاء الاصطناعي القوية عبر الخطوط الحزبية، وقد مرت اتفاقيات صعبة سابقًا تحت الضغط، معاهدة حظر التجارب الجوية، معاهدة الأوزون، صفقات السيطرة على الأسلحة التي أبرمت في ذروة الحرب الباردة. البطء ليس مثل الاستحالة. تحويل القلق العام إلى قانون هو العمل الذي يوجد الحركة للقيام به.
الأسطورة 11
"إذا أبطأنا، فإن الصين تتقدم بسرعة وتفوز."
سباق لبناء شيء لا يستطيع أحد السيطرة عليه ليس له فائز، والذكاء الفائق غير القابل للسيطرة قاتل لبكين كما هو قاتل لواشنطن، ولهذا السبب حد متبادل موثق يخدم مصلحة كل حكومة. لا يوجد دليل على رغبة الصين في الاندفاع نحو ASI غير المنظم، و"قد ينشقون" هو الحجة لمعاهدة مع عمليات تفتيش، لا للاندفاع نحو الهاوية أولا.
الأسطورة 12
"إيقاف الذكاء الفائق يعني التخلي عن فوائد الذكاء الاصطناعي."
كل فائدة يذكرها الناس تقريبا (أدوية جديدة، طاقة نظيفة رخيصة، اكتشاف أسرع) تأتي من الذكاء الاصطناعي الضيق الذي لا أهداف له، وهي تصل بالفعل. والمستقبل الجيد مشكلة أدوات، وليس شيئا لا يمكن إلا لنوع خلف أن يمنحنا إياه. رفض بناء عقل يحل محلنا هو ما يبقي ذلك المستقبل في المتناول.
01

مخاطر سلامة الذكاء الاصطناعي بلغة بسيطة

ما هو الذكاء الفائق، ولماذا هو خطير، وماذا يمكن فعله حياله، موضحاً بدون مصطلحات فنية. أوضح مقدمة من صفحة واحدة للموضوع.

02

الإجماع العلمي

اقتباسات رئيسية من الحائزين على جائزة نوبل، الفائزين بجائزة تورينج، والباحثين الكبار الذين بنوا الذكاء الاصطناعي، إلى جانب الجدول الزمني للتحذيرات المتزايدة من الخبراء من 2014 حتى اليوم.

03

موجز لصانعي السياسات

الحجة للحوكمة الدولية لسلامة الذكاء الاصطناعي: المشكلة، ولماذا الأطر القائمة غير كافية، والإجراءات المحددة التي يمكن للحكومات اتخاذها الآن، مستمدة من سوابق ناجحة.

04

نقاط للمناقشة للمدافعين

الاعتراضات الخمسة الأكثر شيوعاً على القلق بشأن سلامة الذكاء الاصطناعي، وكيفية الرد على كل منها بدقة وثقة. مكتوب للمحادثات مع المتشككين وصناع السياسات والأقران.

05

الذكاء الفائق، أربع رسوم توضيحية

أربع صفحات بصرية واحدة تغطي مخاطر الذكاء الفائق، وفجوة الحوكمة، والسوابق التاريخية التي تظهر إمكانية التحرك، وما يجب أن يحتويه معاهدة دولية ملزمة للذكاء الاصطناعي.

06

مرئيات بسيطة

أربع بطاقات بصرية جريئة: تقدير احتمال الانقراض، وفجوة حوكمة الاستثمار، وسوابق المعاهدات التي تثبت نجاح العمل العالمي، ومتطلبات معاهدة ذكاء اصطناعي ملزمة.

07

الوقاية، لا التوقف المؤقت

لماذا التباطؤ المؤقت هو الطلب الخاطئ. الحجة لمنع الذكاء الفائق بشكل دائم، بينما يستمر الذكاء الاصطناعي الضيق في العمل.

08

لا تبنِ الذكاء الفائق أبدًا

اللاعكوسية، والأهداف غير المتوافقة، ولماذا يفشل "سنصلحه لاحقاً" بمجرد أن يفوق النظام صانعيه ذكاءً. حالة الرفض في صفحة واحدة.

09

أسطورة سباق الصين

لماذا يصف "إذا أبطأنا، تفوز الصين" سباقاً لا يستطيع أحد الفوز به، وكيفية الرد عليه بالتحقق بدلاً من الركض السريع.

10

احتفظ بالذكاء الاصطناعي. أوقف الذكاء الفائق.

الخط الفاصل الواضح بين الأدوات الضيقة المفيدة والعقل العام المستقل. مؤيدون للذكاء الاصطناعي في الأدوات؛ معارضون لـ AGI في العقول التي لا يمكننا السيطرة عليها.

11

كيف يمكن التحقق من معاهدة

أنت لا تراقب الأوزان. أنت تراقب الأجهزة: تتبع الرقائق، ترخيص العناقيد، التفتيش، وقواعد المصانع بلغة واضحة.

12

ما يجب أن تحتويه معاهدة ملزمة للذكاء الاصطناعي

ستة بنود تفصل بين اتفاق حقيقي وبيان صحفي: الحظر، ضوابط الحوسبة، هيئة التفتيش، القانون المحلي، الاستثناءات، وتعديل الأدلة فقط.

13

التوافق ليس هو الخطة

يهم البحث التقني في السلامة؛ لكنه ليس إذناً بالسباق، ويجب توجيه أي تمويل متاح نحوه. الوقاية أولاً؛ والبحث دون مسدس تجاري موجه إلى الرأس.

14

اشرحها في خمس دقائق

. نص محادثة منطوقة: تحذيرات البناة، ما هو الذكاء الفائق، لماذا يفشل الفصل عن الكهرباء، الخط الصيني، وهبوط نظيف على الفعل.

15

ما يمكنك فعله هذا الأسبوع

قائمة تحقق ملموسة للوصول الشخصي، والوصول السياسي، ووضع الساعة الواحدة، ووضع المنصة. اختر اثنين. أنهِهما.

16

إحاطة مدتها دقيقة واحدة

مذكرة لصانعي السياسات: ثلاث إحصائيات، ثلاث طلبات، إطار الوقاية، والرد على اعتراض الصين بطول مناسب للموظفين.

17

فجوة تمويل السلامة

حوالي 190 مليون دولار في السلامة مقابل أكثر من 250 مليار دولار في القدرات. أين تذهب الميزانية الضئيلة للسلامة، وما الذي يجب تمويله بدلاً من المسرحيات.

18

لماذا تقاوم الأنظمة الذكية السيطرة

التقارب الآلي بدون مصطلحات: الحفاظ على الذات، الموارد، مقاومة التعديلات، والتحسن كضغط تحسين عادي.

اثنا عشر ملصقاً مستمداً من الشروحات على هذا الموقع.

01

مُعظّم مشابك الورق

نظام كفء بهدف خاطئ يمكنه تدمير العالم دون كره أحد.

تنزيل PNG
02

أطروحة التعامد

الذكاء الأعلى لا يعني تلقائياً الأمان أو اللطف.

تنزيل PNG
03

مشكلة محاذاة الذكاء الاصطناعي

الفجوة بين الهدف الذي نكتبه والنتيجة التي نحتاجها فعلياً.

تنزيل PNG
04

المنعطف الغادر

يمكن لنظام غير محاذ أن يجتاز كل اختبار حتى يصبح الانشقاق الحركة الفائزة.

تنزيل PNG
05

الإضعاف التدريجي

يمكن أن يتسرب التحكم قرارًا معقولًا تلو الآخر، دون لحظة انفصال.

تنزيل PNG
06

سباق الذكاء الفائق أسطورة

سباق نحو شيء لا يستطيع أحد الإمساك به ليس له فائز.

تنزيل PNG
07

لقد فعلنا ذلك من قبل

NPT، مونتريال، وCWC تظهر أن التنسيق بشأن المخاطر الوجودية ممكن.

تنزيل PNG
08

خطتنا: مسار نحو معاهدة

سباق اليوم، ثم معاهدة ملزمة للذكاء الفائق مع المراقبة والتنفيذ.

تنزيل PNG
09

ما هو P(doom)؟

نطاقات الخبراء لنتائج الذكاء الاصطناعي الكارثية، ولماذا تتطلب الاحتمالات الصغيرة اتخاذ إجراءات.

تنزيل PNG
10

اتخذ إجراء: اختر دورك

أدوار ملموسة لبناء التحالف وراء معاهدة ملزمة.

تنزيل PNG
11

انفجار الذكاء

التحسين الذاتي التكراري، وكيف يمكن أن تنهار النافذة من مستوى الإنسان إلى غير القابل للاسترداد.

تنزيل PNG
12

لماذا الذكاء الفائق ليس مثل المخاطر الأخرى

الطمأنات السطحية مقابل الآليات العميقة للتهديد.

تنزيل PNG

يبلغ نحو مئة وتسعين مليون دولار ما يتدفق سنويا إلى سلامة الذكاء الاصطناعي، بحثا وتقييمات وسياسات ومناصرة مجتمعة. بدل بين مصدر الأموال وما تدفعه، بناء على أحدث التقديرات العامة.

  • Open Philanthropyمدعوم من غود فنتشرز؛ أكبر ممول فردي في المجال 50 مليون دولار 26%
  • فرق السلامة الداخلية في مختبرات الحدودميزانيات أبحاث السلامة في Anthropic، OpenAI، Google DeepMind 35M 18%
  • Survival & Flourishing Fundجولات المنح المدعومة من يان تالين؛ ثاني أكبر مصدر خيري 30 مليون دولار 16%
  • حكومة UKمعهد أمن الذكاء الاصطناعي، برنامج الذكاء الاصطناعي المحمي التابع لـ ARIA 30 مليون دولار 16%
  • أعمال خيرية أخرى ومتبرعون أفرادLongview Philanthropy، Long-Term Future Fund، المتبرعون الأفراد 25 مليون دولار 13%
  • US، EU وحكومات أخرىNIST CAISI، EU مكتب الذكاء الاصطناعي، برامج السلامة التابعة لـ NSF 20 مليون دولار 11%
للمقياس: الاستثمار العالمي في الذكاء الاصطناعي القدرات يتجاوز الآن ٢٥٠ مليار دولار سنوياً, ، أكثر من 1000000 x ما يتدفق إلى السلامة. أقل من عُشر واحد بالمائة من المال الذي يُبنى به هذه التقنية يذهب نحو جعلها آمنة.

الأرقام هي تقديرات متوسطة مقربة للفترة 2023-2025 مجمعة من مصادر عامة نظرة عامة على تمويل سلامة الذكاء الاصطناعي (محدث في أوائل 2025)،, 80,000 Hours, أحد تحليل قاعدة بيانات منح Open Philanthropy, ، و داخل العمل الخيري. تتراوح الإجماليات المنشورة تقريباً من 110 ملايين دولار إلى 250 مليون دولار سنوياً حسب ما يُحسب. يصنف مخطط الاستخدام منح كل ممول حسب الفئة ويجمعها عبر الممولين؛ والعمل الكامل موجود في مقالتنا حول فجوة التمويل.

كل فاعل رئيسي في معركة الذكاء الفائق، مصنف حسب المسار: منع، حكم، أو بناء.

افتح المجال

تعريفات باللغة العربية الواضحة للمصطلحات التي يستخدمها هذا النقاش: الذكاء الفائق، المحاذاة، التقارب الآلي، والباقي.

افتح المسرد