خطتنا

معاهدة سلامة الذكاء الاصطناعي وخطة سياسة الحوكمة،, التغيير يأتي من القانون،,
ليس من المختبرات.

المجتمع التقني أمضى عقداً من الزمن في التحذير. لم تبطئ التحذيرات المختبرات. ما ينقص الآن هو الإرادة السياسية، والأطر القانونية، وتحالف قوي بما يكفي لوقف السباق نحو أنظمة لا يستطيع أحد السيطرة عليها.

الحجة لاتخاذ إجراء

لماذا نوجد.

أُنشئ Nakada Foundation to Save Humanity على premise واحد: أن أهم القرارات في تاريخ البشرية، وهي القرارات التي ستحدد ما إذا كان نوعنا سيبقى، يجب ألا تُتخذ على يد حفنة من المهندسين في خمس شركات داخل بلد واحد.

لسنا متحالفين مع مؤسسة أبحاث سلامة الذكاء الاصطناعي، التي تمولها إلى حد كبير نفس المختبرات التي تتسابق لبناء الأنظمة التي تدرسها. نعتقد أن هيكل الحوافز في مجال سلامة الذكاء الاصطناعي معرض للخطر بشكل أساسي، وأن الحل لن يأتي من داخل الصناعة.

معظم المال والمكانة لا يزالان يذهبان إلى جعل السباق أكثر أماناً، لا إلى إنهاء السباق نحو الذكاء الفائق. عملنا هو المهمة الأخرى: وقف الذكاء الفائق بموجب قانون ملزم. الذكاء الفائق لا يمكن السيطرة عليه.

الذكاء الاصطناعي الضيق تحويلي ومفيد. يمكنه علاج الأمراض، وتسريع الاكتشاف، وتوسيع الإمكانات البشرية. نحن لسنا ضد الذكاء الاصطناعي. نحن ضد بناء شكل من الذكاء لا يمكننا السيطرة عليه، ولا محاذاته، ولا إيقافه.

يتطلب التغيير ضغطاً خارجياً: من الحكومات، ومن القانون، ومن الثقافة، ومن الناس الذين يدركون أن ما على المحك ليس نتيجة سوقية بل بقاء الجنس البشري.

لدينا نموذج لهذا معاهدة منع الانتشار النووي.

كيف نختلف

ليس مختبر أبحاث

خلافاً لمنظمات أبحاث سلامة الذكاء الاصطناعي، لا نبني أو ندرب أو نجري تجارب على أنظمة الذكاء الاصطناعي. لا نقبل تمويلاً يخلق تعارضاً بين مهمتنا ورسالتنا.

ليس هيئة أخلاقية

على خلاف منظمات أخلاقيات الذكاء الاصطناعي، نركز حصرياً على الخطر الوجودي: لا التحيز ولا العدالة ولا سوء استخدام الذكاء الاصطناعي الحالي. هذه قضايا مهمة، لكنها ليست القضية نفسها التي تتعلق بالانقراض.

حملة

نعمل كحملة خيرية للتوعية العامة، لا كمعهد أكاديمي. نسعى إلى تغيير الفهم العام، وبناء التحالفات، وجعل المنع الملزم للذكاء الفائق / الذكاء الخارق ممكنًا، على غرار كل حركة ناجحة للمصلحة العامة في التاريخ.

موقفنا

الوقاية، لا وقفة مؤقتة.

غالباً ما يصنفنا الناس تحت "التوقف المؤقت": بضع سنوات من التنفس حتى تتمكن المختبرات من جعل الذكاء الفائق آمناً ثم تستأنف. ليس هذا هو المطلوب. نريد من الحكومات منع الذكاء الفائق الاصطناعي بشكل دائم. فالذكاء الفائق لا يمكن السيطرة عليه من قبل البشر.

الفرق جوهري. فالتوقف المؤقت يفترض مشكلة في الجدول الزمني: أبطئ، دع السلامة تلحق، ثم انطلق. لا يوجد أحد لديه طريقة موثقة للسيطرة على نظام أكثر قدرة من صانعيه. ليس على نطاق صغير. ليس على نطاق كبير. ولا طريقة مثبتة واحدة. يقول ذلك علناً الأشخاص الذين يتسابقون لبنائه.

إذا ظل ذلك صحيحا، فإن بناء الذكاء الفائق / الذكاء الخارق بأي شيء يشبه أساليب اليوم لا ينتج تقنية خطرة يمكن إدارتها بعناية. بل ينتج نتيجة لا يوجد تعاف منها. هذا هو الجدل الذي عرضه بصراحة أكبر كتاب عام 2025 إذا بناه أحد، مات الجميع, ، بقلم إليعازر يودكوفسكي ونيت سواريس. لا يلزمك قبول كل ادعاء فيه لترى التباين: سنحصل على محاولة واحدة بالضبط، ولن يستطيع أحد أن يخبرك كيف تنجح فيها.

لذا فإن المعاهدة التي ندعو إليها هي ليس طريقة لجعل تطوير الذكاء الفائق آمناً. لا توجد طريقة معروفة لفعل ذلك. المعاهدة هي المخرج من السباق: قرار دائم بعدم المخاطرة. الذكاء الفائق / الذكاء الخارق لا يمكن السيطرة عليه من قبل البشر.

هذا هو السبب في أننا نفترق عن الكثير من مجال سلامة الذكاء الاصطناعي. قدر كبير من عمل "السلامة" يفترض بهدوء أن الأنظمة ستُبنى وتحاول فقط خفض احتمالات قتلنا. نعتقد أن ذلك يقلب المشكلة رأساً على عقب. عندما لا تستطيع السيطرة على الجانب السلبي، و الجانب السلبي هو أن الجميع, الخطوة المسؤولة هي توقفوا عن بناء الشيء الخطير. لا يمكن السيطرة على الذكاء الفائق / الذكاء الخارق، لذا فإن الإجابة ليست البناء بحذر أكبر. يستمر الذكاء الاصطناعي الضيق (النوع الذي يعالج الأمراض ويسرع الاكتشاف). إنه الصنف الضيق من الأنظمة التي ستتجاوز الذكاء البشري عبر كل المجالات الذي يجب ألا يُبنى.

الركائز الثلاث

كيف نعمل.

01

التعليم العام

قدم الحجة لأطر ملزمة تحظر أنظمة الذكاء الفائق، لا إرشادات طوعية. العمل هو شرح بلغة بسيطة، وحضور اجتماعي، ووسائط إبداعية تمنح الجمهور مفردات مشتركة للوقاية.

تتمحور الحجج حول ثلاث نقاط اختناق يمكن للحكومات استخدامها: البنية التحتية الحاسوبية حيث يسيطر عدد قليل من مصنعي الرقائق على العتاد اللازم لتدريب النماذج الحدودية ومختبرات الذكاء الاصطناعي الحدودية حيث تتجاوز الحوافز التجارية التزامات السلامة والهيئات الدولية حيث يجب بناء أطر المعاهدات قبل أن تصبح سباقات القدرات غير قابلة للعكس. لا ندير مكتب ضغط مباشرا في واشنطن أو العواصم الأخرى.

02

بناء التحالف

إشراك أكبر المؤسسات الخيرية في العالم ورؤساء الحكومات وحائزي جائزة نوبل والمشاهير والشخصيات الثقافية لتضخيم الرسالة وتمويل القضية وتحريك نافذة أوفرتون.

تاريخ المناصرة الفعالة هو تاريخ التحالفات غير المتوقعة. فقد وحدت حركة الحقوق المدنية رجال الدين ونقابات العمال والمحامين. وجمعت حركة نزع السلاح النووي بين الفيزيائيين والشعراء. ونحن نبني التحالف الذي سيجعل سلامة الذكاء الاصطناعي القضية السياسية المحددة لهذا العقد.

03

الثقافة والوعي

تكليف الفن والسينما والصحافة والإعلام بجعل الخطر ملموسًا ولا يُنكر. فشلت حركة المناخ عقودًا جزئيًا لأن التهديد كان مجردًا وبعيدًا. أما خطر الذكاء الاصطناعي فليس كذلك، لكنه يحتاج إلى أن يُشعَر به فورًا.

يجب جعل السلامة مرموقة وعاجلة ومستحيلة التجاهل. نعمل مع صانعي الأفلام والروائيين ومصممي الألعاب والصحفيين لبناء البنية الثقافية لحركة ستدوم، بما في ذلك الحجة الاقتصادية في لماذا يؤمن رأسمالي بتنظيم ASI.

خارطة طريق السياسات

ثلاث مطالب محددة.

هذه خطوات ملموسة يمكن للحكومات اتخاذها باستخدام أدوات موجودة بالفعل. كل واحدة لها سابقة باسم وسنة.

إنفوجرافيك: خريطة مترو خطتنا من السباق اليوم إلى معاهدة ملزمة وتحقق إنفوجرافيك: خريطة مترو خطتنا من السباق اليوم إلى معاهدة ملزمة وتحقق
من السباق إلى معاهدة ملزمة.
01

حوكمة الحوسبة

يتطلب تراخيص حكومية لعمليات التدريب التي تتجاوز عتبة قدرة حاسوبية محددة (المقترح حاليًا عند 1026 عمليات النقطة العائمة). فرض عمليات تدقيق سلامة مستقلة قبل النشر. إنشاء سجل دولي موثق لجميع عمليات تدريب النماذج الحدودية. الحوسبة هي نقطة الاختناق: يسيطر عدد قليل من المصنعين، أبرزهم تايوان لصناعة أشباه الموصلات وإنفيديا وإيه إس إم إل، على العتاد اللازم لبناء أنظمة الذكاء الاصطناعي المتقدم، مما يجعل الترخيص على مستوى الحوسبة سهلاً تقنياً وقابلاً للتحقق.

لا يصمد السقف إلا إذا تم تتبع الأجهزة نفسها. يمكن تسجيل وحدات معالجة الرسوميات المتقدمة التي تعتمد عليها هذه التدريبات، وبشكل متزايد،, مبنية للتحقق على الشريحة من مكانها وما تفعله, ، شهادة موقع واضحة للتلاعب وحدود الاستخدام المضبوطة في السيليكون، بحيث يصبح الحد القانوني حدًا فيزيائيًا. وهذا أيضًا الحل لنقل العمليات إلى الخارج: فبدون تتبع على مستوى العتاد، ينتقل المختبر الذي يصل إلى الحد الأقصى في بلده ببساطة إلى تشغيل تدريبه في ولاية قضائية متساهلة. وتوسيع ضوابط التصدير والتحقق على مستوى الرقائق عبر سلسلة التوريد بأكملها هو ما يمنع الحوسبة من التصريف بهدوء إلى حيث تكون القواعد أضعف.

02

المعاهدة الدولية لسلامة الذكاء الاصطناعي

اتفاقية متعددة الأطراف ملزمة لحظر تطوير أنظمة الذكاء الاصطناعي التي تتجاوز عتبة قدرة عامة محددة، مستوحاة من معاهدة منع الانتشار النووي. لا ينبغي إعفاء أي دولة. هذا ليس حظراً يُرفع وفق جدول زمني; ؛ إنه حظر دائم. لا يمكن للبشر السيطرة على الذكاء الفائق / الذكاء الخارق. NPT ناقص، لكنه منع استخدام الأسلحة النووية لثمانين عاماً. الاعتراض المعتاد ("ستخالف الدول الأخرى") هو بالضبط الحجة المقدمة ضد عدم الانتشار النووي. الإجابة ليست السباق. الإجابة هي معاهدة مع آليات التحقق.

03

الوكالة العالمية لرصد الذكاء الاصطناعي

هيئة حكومية دولية تتمتع بحقوق التفتيش، مشابهة للوكالة الدولية للطاقة الذرية، مخولة التحقق من الامتثال لحدود الحوسبة وفرض ممارسات التطوير الآمن في مختبرات الذكاء الاصطناعي المتقدمة. أُنشئت IAEA خلال ثلاث سنوات من معاهدة منع الانتشار النووي. وكالة عالمية لرصد الذكاء الاصطناعي قابلة للتحقيق في نفس الإطار الزمني إذا وجدت الإرادة السياسية. وتشمل صلاحياته الإبلاغ الإلزامي عن جولات التدريب، والتفتيش الموقعي لمختبرات الذكاء الاصطناعي الكبرى، وسلطة إصدار توصيات ملزمة للدول الأعضاء.

الإنفاذ

ما هي تكاليف الإنفاذ،,
ولماذا يستحق الدفع.

المعاهدة لا تكون حقيقية إلا بقدر إنفاذها. الدعوة إلى معاهدة دون تسمية مشروع القانون ستكون خدعة. التكاليف حقيقية. لكنها لا تزال صغيرة مقارنة بما تشتريه.

التحقق التدخلي

الإنفاذ الفعال يعني التفتيش الموقعي لمراكز البيانات، والإعلان الإلزامي عن عمليات التدريب الكبيرة، والأجهزة التي تبلغ عن موقعها واستخدامها. وهذا يشكل انتهاكاً للسرية التجارية، وإذا تم التعامل معه بإهمال، انتهاكاً للخصوصية. ويقبل نظام التفتيش النووي نفس هذا الانتهاك لأن البديل أسوأ. والضمان هو أن المراقبة دولية وشفافة، وليست مملوكة لأي دولة أو شركة واحدة.

المنفعة المفقودة

يعني إيقاف الذكاء الفائق تأجيل أي فوائد قد يقدمها يوماً نسخة قابلة للتحكم، ومطالبة الشركات والدول بترك أرباح قصيرة الأجل استثنائية على الطاولة. هذه تكلفة حقيقية. لكن الذكاء الفائق غير القابل للتحكم لا يقدم تلك الفوائد لأحد، فالنظام الذي لا تستطيع محاذاته ليس أصلاً يمكنك الاحتفاظ به. تأجيل جائزة لا يستطيع أحد المطالبة بها بأمان ليس تضحية كبيرة.

حافة صلبة

القواعد بلا عواقب هي اقتراحات. والإنفاذ يعمل فقط عندما تحمل الانتهاكات ثقلا: رفض التصدير، والعقوبات المالية، والاستبعاد من سلسلة توريد الحوسبة، و(كما هو الحال مع المواد الانشطارية) فهم مشترك بأن مشروعا مارقا لبناء الذكاء الفائق / الذكاء الخارق هو حالة طوارئ للجميع، لا حالة خاصة. وبناء هذه الحافة صعب ومكلف سياسيا. وقد تطلب كل نظام جاد للحد من التسلح ذلك على أي حال.

تكاليف الإنفاذ محدودة. أما تكلفة عدم الإنفاذ فليست كذلك.

كل اعتراض على الإنفاذ (بأنه تدخلي ومكلف ويقيد الصناعة) صحيح وقابل للنجاة. النتيجة الوحيدة التي لا يمكن النجاة منها هي التي يوجد الإنفاذ لمنعها. ندفع تكاليف محدودة ومعروفة لاستبعاد تكلفة غير محدودة وغير قابلة للعكس. إنها نفس الصفقة التي أبرمتها الحضارة بالفعل مقابل الأسلحة النووية والكيميائية والبيولوجية.