تشخص هذه القطعة سبب جوع المجال. الجزء الثاني، كيف تصل سلامة الذكاء الاصطناعي إلى مليار دولار سنوياً يوضح كيف يمكن أن يصل إلى خمسة أضعاف هذه الميزانية، ومن أين ستأتي الأموال.
اطلب من الناس تخمين حجم ما ينفقه العالم لضمان سير الذكاء الفائق الاصطناعي على نحو جيد، وسيصل معظمهم إلى المليارات. يواصل العلماء الذين يبنونه التحذير من أنه قد يكون خطرا؛ فمن المؤكد أن الاستجابة تمول كمشكلة جدية. ليس الأمر كذلك. اجمع كل المنح الخيرية وكل برامج السلامة الحكومية وكل دولار تنفقه المختبرات الحدودية على فرق السلامة الخاصة بها، وسيصل الإجمالي إلى نحو ١٩٠ مليون دولار سنويا. تجاوز الاستثمار العالمي في قدرات الذكاء الاصطناعي ٢٥٠ مليار دولار سنويا منذ فترة. مقابل كل ألف دولار تنفق لجعل الذكاء الاصطناعي أقوى، ينفق أقل من دولار واحد لجعله آمنا.
يستحق الرقم 190 مليون دولار التدقيق، لأن التقديرات في هذا المجال فوضوية حقا. تتراوح المجاميع المنشورة من نحو 110 ملايين إلى 250 مليونا سنويا حسب ما إذا كنت تحسب معاهد حكومية وفرق داخل المختبرات والعمل الأكاديمي. ما يلي هو حسابنا الخاص، مبني من قواعد بيانات المنح العامة وإفصاحات الميزانيات، ممولا بممول.
من أين يأتي المال
| المصدر | مُقدَّر سنويًا |
|---|---|
| Open Philanthropyمدعوم من Good Ventures؛ أكثر من 336 مليون دولار لسلامة الذكاء الاصطناعي منذ 2014، حوالي 46-50 مليون دولار سنويًا مؤخرًا | 50 مليون دولار |
| فرق سلامة مختبرات الحدودبحوث السلامة الداخلية في Anthropic، OpenAI، Google DeepMind، تقديرية، غير معلنة | 35M |
| Survival & Flourishing Fundمدعومة إلى حد كبير من جان تالين؛ خصصت جولتها لعام 2024 وحدها أكثر من 19 مليون دولار | 30 مليون دولار |
| حكومة UKمعهد أمن الذكاء الاصطناعي بالإضافة إلى برنامج ARIA البالغ ٥٩ مليون جنيه إسترليني للذكاء الاصطناعي المحمي | 30 مليون دولار |
| الأعمال الخيرية الأخرى والأفرادلونغفيو فيلانثروبي، صندوق المستقبل طويل الأمد، مؤسسات أصغر، متبرعون أفراد | 25 مليون دولار |
| US، EU وحكومات أخرىبرامج السلامة التابعة لـ CAISI في NIST و NSF، مكتب الذكاء الاصطناعي EU | 20 مليون دولار |
| الإجمالي | 190 مليون |
يبرز أمران. أولهما أن هذا ليس مجالًا متنوعًا. فمؤسسة خاصة واحدة تقدم أكثر من ربع التمويل كله، وأكثر من نصف الأموال الخيرية. وثانيهما أن حصة الحكومة حديثة وهشة، إذ يعود معظمها إلى عام ٢٠٢٣، وقد أسقط كل من معهد UK ومعهد US كلمة «السلامة» من اسميهما في غضون عامين من تأسيسهما.
أين تذهب الأموال
لا ينشر أي ممول تفصيلا للإنفاق حسب الغرض، لذا صنفنا المنح بأنفسنا: أخذنا كل مصدر أعلاه ورتبنا منحة وبرامجه المعروفة في فئات وجمعنا عبر الممولين. تظهر قاعدة بيانات المنح العامة لـOpen Philanthropy حوالي 28 مليون دولار في منح السلامة التقنية لعام 2024، ذهب 68 بالمئة منها إلى التقييمات والمقارنات المعيارية. ومعهد UK لأمن الذكاء الاصطناعي بموجب تفويضه هيئة تقييمات، بينما برنامج ARIA للذكاء الاصطناعي المحمي بحث تقني. وتمتد منح صندوق البقاء والازدهار عبر العمل التقني (MIRI) والتقييمات (METR، Apollo Research) والدعوة (صندوق عمل CAIS). ويميل برنامج Longview للذكاء الاصطناعي نحو الحوكمة. وميزانيات المختبرات الداخلية تكاد تكون تقنية بالكامل. والنتيجة:
| ما الذي يدفع ثمنه | مُقدَّر سنويًا | شارك |
|---|---|---|
| البحث في السلامة التقنيةالمحاذاة، القابلية للتفسير، المتانة، فرق المختبرات، ARIA، NSF، الأكاديميا، المنظمات غير الربحية | 80 مليون دولار | 42% |
| تقييمات النماذج والمقارنة المعياريةاختبار القدرات الخطرة، UK AISI، METR، Apollo، منح تقييمات Open Phil | 50 مليون دولار | 26% |
| بحوث الحوكمة والسياساتتصميم المعاهدات، معايير السلامة، حوكمة الحوسبة | 30 مليون دولار | 16% |
| بناء المجال والمواهبالزمالة، برامج التدريب البحثي، مسارات المهن | 20 مليون دولار | 11% |
| المناصرة والمشاركة العامةالحملات، الرسائل المفتوحة، التنظيم الشعبي | 10 أميال | 5% |
إجماليات الفئات تقديرات مبنية على تقديرات وكثير من المنح تتداخل بين الخطوط فمنظمة تقييمات غير ربحية تقوم بعمل تقني ومعهد حوكمة يدير زمالات. لكن الشكل يصمد أمام أي إعادة تصنيف معقولة: البحث التقني والتقييمات تستوعب نحو ثلثي كل شيء والمناصرة (عمل تغيير ما تفعله الحكومات والشركات فعلياً) تحصل على عشرين.
كلف إنتاج أفاتار: طريق الماء أكثر مما ينفقه العالم بأسره على سلامة الذكاء الاصطناعي في سنة. تكلف مجموعة تدريب حدودية واحدة أكثر من عقد من ميزانية المجال الإجمالية. تنفق الحكومة الفيدرالية US إجمالي المجال السنوي على الدفاع تقريبًا كل عشر دقائق.
السبب الأول: ممول واحد مهيمن
يأتي أكثر من نصف أموال السلامة الخيرية للذكاء الاصطناعي من مكان واحد: غود فنتشرز، مؤسسة المؤسس المشارك لفيسبوك داستن موسكوفيتز وكاري تونا، وتُمنح عبر أوبن فيلانثروبي. ولهذا التركز عواقب تتجاوز الهشاشة. عندما تقع منظمة خارج ما ستموله غود فنتشرز، يصبح بقية مجمع المانحين ضحلا جدا بحيث يواجه، وفق تقدير أحد المانحين السابقين في المجال، عتبة تمويل أعلى بمقدار مرة ونصف إلى ثلاث مرات من الآخرين. وعندما يغير الممول المهيمن أولوياته، يتغير المجال بأكمله معه: انخفضت منح السلامة التقنية لأوبن فيلانثروبي من ذروة عام 2022 التي تجاوزت 60 مليون دولار إلى 28 مليون دولار في المنح المدرجة لعام 2024، وذهب معظم ما تبقى إلى التقييمات. ولم يتدخل أي ممول آخر لسد الفارق. في مجال صحي، لا يمكن لاجتماع مجلس إدارة مانح واحد أن يعيد تشكيل جدول أعمال البحث. وهذا ليس مجالا صحيا بعد.
السبب الثاني: غياب القاعدة الجماهيرية
يجمع بحث السرطان عشرات المليارات سنويا لأن الجميع يعرف شخصا مصابا. وتجاوزت الأعمال الخيرية المناخية ١٠ مليارات دولار سنويا لأن الضرر مرئي والحركة عمرها خمسون عاما. أما مخاطر الذكاء الاصطناعي فليس لها مرضى، ولا مدن مغمورة، ولا عائلات مفجوعة؛ فالضرر الذي تحذر منه لم يحدث، وإذا نجح المجال فلن يحدث أبدا. ومنع خطر لم يتجسد بعد قريب من أصعب عروض جمع التبرعات الممكنة. والأشخاص الأكثر اقتناعا بالحجة يميلون إلى أن يكونوا باحثين، لا مليارديرات، ولا يرتبط اهتمام الجمهور العام بالذكاء الاصطناعي (الذي تظهر استطلاعات الرأي أنه حقيقي ومتنام) بصندوق تبرعات واضح.
السبب الثالث: استوعبت المختبرات المجال
يعمل جزء كبير من المؤهلين لإجراء بحوث المحاذاة في Anthropic أو OpenAI أو Google DeepMind، بمستويات تعويض لا تستطيع أي منظمة غير ربحية الاقتراب منها. وهذا يشوه صورة التمويل مرتين. فهو يجعل السلامة تبدو أفضل تمويلا مما هي عليه، لأن أبرز أعمال السلامة تحدث داخل شركات تملك ميزانيات هائلة. وهو يربط الكثير من جدول أعمال البحث في المجال بحكم تجاري: إنفاق السلامة في المختبر حقيقي، لكنه إنفاق يختاره المختبر، على أسئلة يحددها المختبر، وقابل للنشر وفق تقدير المختبر، وقابل للإلغاء عند تغير الأولويات، كما أظهر OpenAI عندما حل فريق المحاذاة الفائقة التابع له في عام 2024، بعد عام من التزامه العلني بعشرين بالمئة من قدرته الحاسوبية لهذه المشكلة. ويوجد البحث المستقل في السلامة تحديدا لطرح الأسئلة التي لن تطرحها المختبرات، والاستقلالية هي بالضبط ما لا يموله المال على نطاق واسع.
السبب الرابع: المال يتجنب السياسة
قد تكون أصغر شريحة من الرسم البياني (5 في المئة للمناصرة) الأكثر تأثيرا. يحد قانون الجمعيات الخيرية التابع لـ nakadafoundation.org من حجم الضغط السياسي الذي يمكن لمؤسسة 501(ج)(3) تمويله، ومعظم الممولين المؤسسيين أكثر حذرا بكثير من المتطلب القانوني، خشية تسييس منحهم الأوسع. والنتيجة مجال ينفق 160 مليون دولار سنويا على إنتاج البحوث والتقييمات، وحوالي 10 ملايين دولار فقط لضمان أن يتصرف أصحاب السلطة بناء عليها. تعمل المنظمات التي تقوم بالعمل السياسي المباشر (PauseAI وControlAI والذراع الحملي لمعهد مستقبل الحياة) بميزانيات تخجل سباقا انتخابيا متوسط الحجم للكونغرس. بغض النظر عن رأي المرء في تكتيكاتها، فإن التباين صارخ: تنفق أكبر شركات التكنولوجيا على الضغط الاتحادي وحده أكثر مما ينفقه مجال السلامة بأكمله على المناصرة.
ما الذي سيغير هذا
حسابيات المجال تعني أن المبالغ الصغيرة تحركه. فمتبرع جديد يعطي ٥ ملايين دولار سنويا سيحتل فورا مرتبة بين أكبر ممولي الدعوة لسلامة الذكاء الاصطناعي على الأرض. وحكومة تخصص عُشر الواحد في المئة من ميزانيتها الدفاعية لبحوث السلامة ستضاعف الإجمالي العالمي تقريبا. وهذه قضية نادرة يكون فيها الاختناق ليس القدرة الاستيعابية (إذ يقول الممولون أنفسهم علنا إنهم لا يستطيعون تغطية الفرص التي يرونها) بل مجرد عدد من يكتبون الشيكات. وما يبدو عليه الدفع المتعمد لتغيير ذلك (كيف يمكن للمجال أن يصل إلى مليار دولار سنويا، ومن أين سيأتي المال) هو موضوع الجزء 2.
المال رافعة واحدة؛ والسياسة هي الأخرى، ولا تتطلب ثروة شخصية. تم عرض الحجة لقواعد دولية ملزمة على الذكاء الاصطناعي المتقدم في خطتنا, ، وأسرع طريقة لإضافة وزنك إليه تستغرق خمس دقائق على اتخاذ إجراء صفحة. النسخة التفاعلية لبيانات التمويل في هذه المقالة موجودة على صفحة الموارد, مع المصادر، وسنبقي كليهما محدثين مع ظهور إفصاحات جديدة.
هنا من أين يأتي المال، وإلى أين يذهب، ولماذا يبقى الرقم صغيرًا جدًا.