جامعة نورث إيسترن

دينيس جارسيا

اللجنة الدولية للحد من أسلحة الروبوت وجامعة نورث إيسترن

ملخص

تتقدم تقنيات الأسلحة المستقلة القائمة على الذكاء الاصطناعي بسرعة ودون نقاش عام أو مساءلة كافيين. تعتبر مراقبة الاستقلالية المتزايدة في الحرب ذات أهمية حاسمة لأن هذه التكنولوجيا الفتاكة من المرجح أن تنتشر وتطور تكتيكات إرهابية وتمكن الحكام المستبدين وتضعف السلام الديمقراطي وتكون عرضة للتحيز والقرصنة والأعطال. أكبر المنافسين في سباق التسلح هذا هم الولايات المتحدة الأمريكية والصين وروسيا وكوريا الجنوبية والاتحاد الأوروبي.

يرتفع الإنفاق بشكل كبير مع توقف التقدم: أين النقاش العام حول تطوير الذكاء الاصطناعي الفتاك وأنظمة الأسلحة المستقلة؟

نظرًا لأن الدول الأعضاء في الأمم المتحدة قد أحرزت تقدمًا ضئيلًا في مناقشة أنظمة الأسلحة المستقلة القاتلة (AWS) على مدار السنوات الخمس الماضية ، فإن طبيعة الحرب تتغير أمام أعيننا. بينما تواصل حفنة من الدول الاستثمار بكثافة في زيادة استقلالية أنظمة الأسلحة المقترنة بالذكاء الاصطناعي المتقدم (AI) ، فإن هذا التغيير يحدث دون مساءلة مناسبة أو تدقيق عام. هناك حاجة ماسة إلى مزيد من المناقشة حيث من المحتمل أن تتكاثر AWS القاتلة وتطور تكتيكات إرهابية وتمكين الحكام الاستبداديين وتقويض السلام الديمقراطي وتكون عرضة للتحيز والقرصنة والأعطال. يجب أن يبدأ النقاش العام المناسب حول “الروبوتات القاتلة” المتصاعدة بجدية.

تتزايد التطورات التكنولوجية في الاستقلالية بشكل عام ولديها صورة سياسية منخفضة. تمت إضافة الاستقلالية إلى أجزاء مختلفة من أنظمة الأسلحة الحالية ، وسيتم فقدان التحكم البشري الهادف من التخطيط للهدف إلى تنفيذ المهام تدريجيًا دون مراعاة المعضلات الأخلاقية التي تطرحها (روف ، 2014 ؛ شاركي ، 2017 ؛ شوارتز ، 2018). تم التقليل من شأنها على نطاق واسع ، فإن تطوير AWS يحدث مع توسع السوق العالمي بسرعة. مع تعريف ضيق لـ AWS و AI ، يُقدر الإنفاق العسكري العالمي إلى 16 و 18 مليار دولار ، على التوالي ، بحلول عام 2025 (Sander & Meldon ، 2014 ؛ Research and Markets ، 2018).

هذه المقالة تدخل على النحو التالي. يستخدم القسم التالي الأحداث الجارية للتنبؤ بالآثار المستقبلية التي يمكن أن تحدثها الأسلحة ذاتية التشغيل بشكل متزايد على الأمن الدولي إذا تركت دون رادع. الجزء الثاني حول نوايا تطوير التكنولوجيا المستقلة

يستخدم جميع البيانات المتاحة للجمهور لإنشاء وتصنيف أفضل خمسة قادة في العالم بناءً على قدرة تطوير أجهزة AWS وخبرات الذكاء الاصطناعي. يسلط القسم الأخير الضوء على أهمية استمرار الجهود لتقييد أو حظر استخدام AWS ووضع معايير عالمية بموجب القانون الدولي من قبل الدول الرائدة قبل فوات الأوان.

التنبؤات الحالية حول اتجاهات التنمية الفتاكة لمنظمة العفو الدولية و AWS

الأسلحة المستقلة جاهزة للنشر السريع. حاليًا ، تتركز هذه التكنولوجيا في عدد قليل من الدول الغنية القوية التي لديها الموارد للاستثمار بكثافة في الروبوتات المتقدمة وأبحاث الذكاء الاصطناعي. ومع ذلك ، فإن قانون مور وتكاليف الإنتاج المخفضة سيمكنان قريبًا العديد من الدول والجهات الفاعلة غير الحكومية (أي الدول) من شراء الروبوتات القاتلة ، بما في ذلك الطباعة ثلاثية الأبعاد (Scharre ، 2014). حاليًا ، تكلف الطائرات بدون طيار رباعية المروحيات 25 دولارًا ، ويمكن لجهاز كمبيوتر Raspberry Pi الصغير مقابل 35 دولارًا تشغيل ذكاء اصطناعي متقدم بما يكفي لهزيمة الطيارين المقاتلين التابعين لسلاح الجو الأمريكي في عمليات المحاكاة القتالية (Cuthbertson ، 2016). ستصبح المساءلة أكثر صعوبة مع اكتساب المزيد من الجهات الفاعلة الدولية خدمات AWS القاتلة. يستخدم متمردو Housi طائرات بدون طيار ، وقد بدأ كل من داعش وبوكو حرام في استخدام الطائرات بدون طيار كجهاز متفجر محسّن. (Olaifa، 2018؛ Nissenbaum & Strobel، 2019). يعد انتشار الجماعات التي تستخدم التكتيكات الإرهابية مصدر قلق خاص لأن AWS يزيد المسافة بين المهاجم والهدف ويزيد في نفس الوقت من الفوائد المتصورة عن طريق تقليل احتمالية الاستيلاء عليها ، وتقليل التكاليف والسماح بشكل متتابع باختيار هدف أكثر دقة. يتم القيام بذلك لتعظيم التأثير القاتل والخوف. سوف تتكاثر قدرات الهجوم هذه بشكل أسرع من أنظمة الدفاع الفتاكة القائمة على الذكاء الاصطناعي بسبب التكنولوجيا الوقائية ، والتي لها تكاليف نسبية أعلى بسبب الحاجة المتزايدة للتمييز بين الأهداف والاشتباك الآمن.

من المرجح أن يؤدي الاستقلالية القاتلة داخل الدول إلى تقوية الأنظمة الرسمية وتكثيف الاتجاه الديمقراطي العالمي للانحدار ، لأن أنظمة التتبع التي تعمل بالذكاء الاصطناعي و “الجنود” الآليين هي أدوات ممتازة للإدارة الاستبدادية. في حين أن الروبوتات القاتلة المستقلة بالكامل قد لا تحل محل جميع الجنود التقليديين في أي وقت قريب ، فإن التركيز فقط على مثل هذه الاتجاهات المستقبلية يهدد بإغفال الآثار البائسة للذكاء الاصطناعي في الدول الاستبدادية اليوم. سجنت الصين ملايين الأويغور وتستخدم المراقبة القائمة على الذكاء الاصطناعي مع برامج التعرف على الوجه ليس فقط لمراقبة مقاطعة شينجيانغ ولكن أيضًا لمراقبة جميع مواطنيها عن كثب (هيومن رايتس ووتش ، 2019). انتشرت أنظمة المراقبة هذه إلى أكثر من 70 مدينة صينية وتستخدم لتشكيل السلوك من خلال نظام “الائتمان الاجتماعي” (Scharre ، 2019). السوق الاستبدادي لمثل هذه المواهب قوي ، حيث تعقد الصين دورات تدريبية مع مسؤولين من أكثر من 30 دولة يبحثون عن أدوات متقدمة لمراقبة الرأي العام والسيطرة عليه (Scharre ، 2019).

بين الدول ، يمكن للحكم الذاتي الكامل في الحرب أن يقوض السلام الديمقراطي (Altmann & Sauer ، 2017). نظرية السلام الديمقراطي لإيمانويل كانط ، الناس لا يؤيدون الحروب غير الضرورية.

لانهم مدعوون للقتال فيها. مع انتقال العديد من البلدان من التجنيد الإجباري أو الجيش القائم على التجنيد الإجباري إلى قوة طوعية بحتة ، تضاءلت المعارضة العامة للحروب المستمرة (Horowitz & Levendusky ، 2011). عندما تكون هناك حاجة لعدد أقل من الجنود البشريين لخوض الحروب ، فمن المرجح أن يشتد هذا الاتجاه ويقلل من عتبة استخدام القوة (كول ، 2017 ؛ جارسيا ، 2014). بدأت الأنظمة شبه المستقلة بالفعل في تآكل القواعد الأساسية للقانون الدولي ضد استخدام القوة (Bode & Huelss، 2018؛ Edmeades، 2017؛ Garcia، 2016).

الرقابة العامة والمساءلة مهمة بشكل خاص لأن الأنظمة المميتة القائمة على الذكاء الاصطناعي تكون عرضة للتحيز والقرصنة وفشل الكمبيوتر. من المتوقع أن تحتوي 85 في المائة من جميع مشاريع الذكاء الاصطناعي على أخطاء بسبب التحيز في الخوارزمية أو المبرمجين المتحيزين أو التحيز في البيانات المستخدمة لتدريبهم (Gartner ، 2018). يميل التحيز للذكاء الاصطناعي إلى أن يكون تمييزيًا بشكل خاص تجاه الأقليات ، ويمكن أن يؤدي إلى الإفراط في الاستهداف أو الإيجابيات الخاطئة حيث أصبحت أنظمة التعرف على الوجه أكثر اندماجًا في الأسلحة القتالية (West et al.، 2019). بعيدًا عن التحيز ، يمكن مهاجمة أنظمة الذكاء الاصطناعي ، أو وجود أخطاء ترميزية غير مرغوب فيها ، أو التصرف بطرق لم يكن للمبرمجين تخمينها. في مايو 2010 ، حدث مثل هذا الخطأ في الترميز في أنظمة التداول المالية المستقلة ، مما تسبب في “انهيار مفاجئ” دمر تريليون دولار من قيمة سوق الأوراق المالية في غضون دقائق قليلة (Pisani، 2015).

حتى عند ترميزها بشكل صحيح ، فإن العديد من برامج الذكاء الاصطناعي تستفيد من الثغرات التي لا يمكن التنبؤ بها لتحقيق أهدافها المبرمجة ؛ على سبيل المثال ، لتجنب خسارة اللعبة ، قد يحذف الذكاء الاصطناعي الذي يلعب Tetris أو أي برنامج ذكاء اصطناعي آخر يوقف اللعبة مؤقتًا قبل سقوط الكتلة الأخيرة مباشرة مفتاح الاستجابة الذي تم اختباره للحصول على درجة مثالية غير حقيقية (Scharre ، 2019). يمكن أن تكون إضافة الذكاء الاصطناعي بشكل متزايد إلى الأسلحة المستقلة ، فضلاً عن عواقب هذه التحيزات والأخطاء ، مدمرة.

أفضل خمسة من قادة العالم في تطوير الأسلحة الفتاكة ذاتية التشغيل

بينما يتم تصنيف معظم أرقام الإنفاق العسكري ، فإن تقييمنا لكبار القادة في تطوير AWS يستخدم البيانات المتاحة للجمهور كوكيل لقياس مكانتهم النسبية بشكل تجريبي. يوضح الجدول 1 المقاييس التي يمكننا استخدامها لتصنيف كل فاعل رئيسي ويركز على ما نراه على أنه المكونات الثلاثة الحاسمة لتطوير AWS القاتل. أولاً ، نقوم بفحص النوايا المحددة للدول لتطوير AWS القاتلة بناءً على السياسات والإجراءات والرأي العام الرسمية. ثانيًا ، نقوم بتقييم القدرة الإجمالية لكل ممثل وسجل حافل من حيث تطوير معدات أسلحة أوتوماتيكية مميتة على أحدث طراز. أخيرًا ، نعتبر العنصر الأكثر أهمية الذي يطور خبرة برامج الذكاء الاصطناعي المطلوبة لتمكين AWS من التعامل مع المهام المعقدة للحرب. المنافسون الخمسة الأوائل في تطوير الذكاء الاصطناعي و AWS القاتل هم الولايات المتحدة الأمريكية والصين وروسيا وكوريا الجنوبية والاتحاد الأوروبي (EU) 1

الولايات المتحدة الأمريكية

مع ميزانية دفاعية أكبر من الإنفاق العسكري المشترك للصين وروسيا وكوريا الجنوبية والدول الأعضاء في الاتحاد الأوروبي البالغ عددها 28 دولة ، فليس من المستغرب أن تكون الولايات المتحدة رائدة على مستوى العالم في تطوير AWS القاتل (SIPRI ، 2019). كان الحكم الذاتي مكونًا رسميًا لاستراتيجية الأمن القومي للولايات المتحدة منذ عام 2012 ، مع نشر توجيه وزارة الدفاع (DoD) 3000.09. كانت هذه السياسة هي الأولى من نوعها وتسمح للأنظمة شبه المستقلة بإشراك الأهداف المحددة مسبقًا من قبل المشغلين البشريين ، بالإضافة إلى الأسلحة ذاتية التحكم بالكامل لاختيار الأهداف والاستجابة لها بعد موافقة وزارة الدفاع العليا (وزارة الدفاع ، 2012). يمكن رؤية المزيد من الدعم للحكم الذاتي في الحرب في استراتيجية الموازنة الثالثة للولايات المتحدة ، حيث تم إدراجها كواحدة من الركائز الأساسية. ومع ذلك ، لا يدعم جميع الأمريكيين هذا الجهد ، على الرغم من وجود أولوية سياسية واضحة لمسؤولي الدفاع. يعتمد 25 في المائة فقط من المواطنين الأمريكيين على الذكاء الاصطناعي ، وقاوم بعض الموظفين في الشركات الكبرى تطوير الذكاء الاصطناعي للأغراض العسكرية ، كما يتضح من ثورة جوجل الداخلية ضد مشروع مافن ، وهو عقد لتطوير الذكاء الاصطناعي للجيش الأمريكي (إبسوس ، 2018).

الولايات المتحدة هي الرائدة إلى حد بعيد في تطوير الأجهزة المستقلة والقدرة على الاستثمار. بحلول عام 2010 ، استثمرت الولايات المتحدة 4 مليارات دولار لبحث AWS ، و 18 مليار دولار أخرى مخصصة لتطوير الحكم الذاتي بحلول عام 2020 (بولانين وفيربروجن ، 2017).

على الرغم من أن لديها حاليًا أكثر من 20000 مركبة ذاتية القيادة ، فمن المقدر أن الولايات المتحدة ستنفق 17 مليار دولار على الطائرات بدون طيار بحلول عام 2021 ، بما في ذلك 3447 أنظمة برية وبحرية وجوية جديدة بدون طيار (Gettinger، 2018؛ Statista، 2019) . في سباق التخصص العسكري للذكاء الاصطناعي ، بدأت الولايات المتحدة سباقها في عام 1983 ، حيث استثمرت مليار دولار في “الحساب الاستراتيجي” قبل انفجار المدفع الأول ، وتفوقت باستمرار على منافسيها منذ ذلك الحين (بولانين وفيربروجن ، 2017). بالإضافة إلى امتلاكها أكبر عدد من شركات الذكاء الاصطناعي في العالم ، تمتلك الولايات المتحدة أكبر عدد من المنشورات المتعلقة بالذكاء الاصطناعي ، ومعظم طلبات براءات الاختراع والذكاء الاصطناعي المقبولة لدولة واحدة ، وأكبر مجموعة من الباحثين الموهوبين في مجال الذكاء الاصطناعي ، بما في ذلك هؤلاء. هذا هو ضمن العشرة بالمائة الأولى من مجالهم ، أكثر من أي بلد آخر في العالم (CISTP، 2019a، 2019b، 2019c؛ IPlytics GmbH، 2019؛ Shoham et al.، 2018).

الصين

تعتبر الصين منافسًا ناشئًا واضحًا في تطوير AWS والذكاء الاصطناعي القاتل ، وقد تم تحديدها في ‘خطة تطوير الذكاء الاصطناعي للجيل القادم ، وهي تخطط لاستخدام الذكاء الاصطناعي في ساحة المعركة مع AWS (مجلس الدولة الصيني ، 2017 ؛ Kania ، 2017). مع مزيج من ثقة المواطنين بنسبة 70 في المائة في الذكاء الاصطناعي (أعلى نسبة من 24 دولة لوحظت) والضغط الشديد الذي يمكن أن تمارسه على الشركات لنقل التكنولوجيا إلى الدولة ، من غير المرجح أن تواجه AWS مقاومة داخلية للتنمية. (إبسوس ، 2018). قدرة الصين على تطوير الأسلحة عالية ، بميزانية سنوية تقدر بـ 250 مليار دولار وتكنولوجيا الطائرات بدون طيار 4.5 مليار دولار بحلول عام 2021

سيتم تنفيذ النفقات المقدرة (SIPRI ، 2019 ؛ Statista ، 2019). الأمر الأكثر إثارة للإعجاب هو أن الشركات الصينية اختبرت تقنية الأسراب بأكثر من 1000 طائرة بدون طيار متزامنة (Kania ، 2017). ومع ذلك ، في حين أن بعض الدول مثل كوريا الجنوبية وإسرائيل واليابان تريد تطوير AWS لتعزيز قواتها وسد الفجوات الأمنية قصيرة المدى ، فإن الصين ، التي تمتلك أكبر جيش في العالم ، بخير. يسمح هذا للصين بتركيز معظم مواردها على الاستثمارات الاستراتيجية طويلة الأجل في الذكاء الاصطناعي.

تخطط الصين لتصبح رائدة على مستوى العالم في تطوير الذكاء الاصطناعي بحلول عام 2030 (مجلس الدولة الصيني ، 2017). سمحت أساليب الصين المثيرة للجدل لشراء الملكية الفكرية لهم بإحداث اختراقات تكنولوجية متقدمة بطريقة غير خطية. من خلال الاستثمار الضخم في “ الاندماج المدني العسكري ” ، يقدر مجلس الدولة الصيني أن صناعات الذكاء الاصطناعي ستبلغ 22 مليار دولار في عام 2020 ، و 59 مليار دولار في عام 2025 و 150 مليار دولار في عام 2030 (مجلس الدولة الصيني ، 2017 ؛ كانيا ، 2017). وفقًا لبعض المقاييس ، تقود الصين بالفعل الطريق في مجال الذكاء الاصطناعي. على الرغم من التأخر في إجمالي المنشورات ، بين عامي 2011 و 2015 ، نشر العلماء الصينيون 41000 مقالة عن الذكاء الاصطناعي ، أي ضعف الولايات المتحدة تقريبًا في نفس الفترة (Baker ، 2017). علاوة على ذلك ، يُقدَّر الاستثمار والتمويل الصيني في مشاريع الذكاء الاصطناعي بين عامي 2013 و 2018 بنحو 60 في المائة من التمويل العالمي الكامل لمثل هذه المشاريع ، وهو ما يزيد مرة أخرى عن ضعف استثمارات الولايات المتحدة خلال نفس الفترة (CAICT and Gartner ، 2019). على الرغم من أن لديها أكثر من 18000 من مطوري الذكاء الاصطناعي الموهوبين ، عندما يتعلق الأمر بمن هم من بين الأفضل في العالم ، تواجه الولايات المتحدة والاتحاد الأوروبي أفضل مشكلة طيران متخصص ، حيث يضم كل منهما أكثر من خمسة أضعاف أفضل الخبراء (CISTP ، 2019a ).

روسيا

على الرغم من انخفاض درجاتها وفقًا لمعايير مختلفة من السعة والخبرة ، إلا أن روسيا هي الرائدة في سباق AWS المميت لأنها أكثر مؤيديها غطرسة. تريد روسيا صراحة إخراج الأشخاص من دورة صنع القرار ولا تنوي الامتثال لأي جهد دولي لتقييد أو حظر استخدام AWS في الحرب (Bendett ، 2017 ؛ Tucker ، 2017). تماشياً مع برامج روسيا “إنشاء روبوتات عسكرية محتملة بحلول عام 2025” و “نشر أنظمة روبوتية للاستخدام العسكري بحلول عام 2030” ، تخطط روسيا للحصول على أنظمة مستقلة تحمي صوامع أسلحتها بحلول عام 2020 ، وبحلول عام 2030 ، تهدف إلى جعل ثلاثين دولة مستقلة (Bendett، 2017؛ Moscow Times، 2014).

ركزت روسيا على تطوير الأجهزة على المدى القصير. على الرغم من الناتج المحلي الإجمالي المنخفض نسبيًا وميزانية الدفاع الإجمالية ، تعتزم روسيا إنفاق ما يقرب من الصين على الطائرات بدون طيار بحلول عام 2021 ، ولديها ميزانية إعادة تسليح تركز على الروبوتات تبلغ 346 مليار دولار ، وتستضيف مؤتمرات سنوية حول الروبوتات في قواتها المسلحة. (بينديت ، 2017 ؛ سبوتنيك نيوز ، 2013 ؛ ستاتيستا ، 2019). تم بالفعل وضع دبابات الروبوت Uran-9 المستقلة في سوريا (Mizokami، 2018).

أعلن الرئيس فلاديمير بوتين للجمهور أن من سيصبح قائدًا في الذكاء الاصطناعي سيكون “ حاكم العالم ” ، لكن استثمارات روسيا في الذكاء الاصطناعي تفتقر إلى حد كبير (Bendett ، 2017). حتى إحصاءات الذكاء الاصطناعي الأساسية عن روسيا يصعب الحصول عليها

وقد يكون السبب هو أن التحسن الكبير لا يحدث على نطاق مماثل. على الرغم من أن لديها ما لا يقل عن عشرة مراكز بحثية مخصصة لاستخدام الذكاء الاصطناعي في الحروب ، فإن الإنفاق العسكري المحلي السنوي لروسيا على الذكاء الاصطناعي يصل إلى 12.5 مليون دولار سنويًا ، أي 0.01 في المائة فقط من ميزانية الذكاء الاصطناعي غير المصنفة للجيش الأمريكي. يقدر (بينديت ، 2017 ، 2018). قد تكون العقوبات الدولية جزءًا من هذه المشكلة ، حيث اضطرت روسيا إلى خفض ميزانيتها الدفاعية بنسبة 7 في المائة في عام 2017 ، و 3.2 في المائة في عام 2018 ، ونحو 4.8 في المائة لعام 2019 ، بموجب هذه العقوبات. (كوفمان ، 2017).

كوريا الجنوبية

تعد كوريا الجنوبية لاعبًا قويًا بشكل غير متناسب في تطوير AWS القاتل والرائدة على مستوى العالم عندما يتعلق الأمر بالاستيلاء الذاتي على الأسلحة. في حين أن 17 في المائة فقط من الكوريين الجنوبيين يعتمدون على الذكاء الاصطناعي ، فإن معظمهم عمومًا لا يواجهون أي مشاكل مع الروبوتات (Ipsos، 2018). لديهم أعلى كثافة للروبوتات في العالم ، مع 631 روبوتًا لكل 10000 عامل بشري (Peng ، 2018). في مواجهة تباطؤ النمو السكاني ، تسعى كوريا الجنوبية حاليًا إلى الأتمتة لتجاوز الاستخدام الصناعي والدخول في المجال العسكري لأنها تعتمد على الخدمة العسكرية الإجبارية لملء رتبها العسكرية. على الرغم من كونها تحت المظلة الأمنية الأمريكية ، فإن قدرة تطوير الأسلحة الخاصة بكوريا الجنوبية لا تزال عالية وتنفق 41 مليار دولار سنويًا على الدفاع (SIPRI ، 2019).

مع وجود تهديد حقيقي لكوريا الشمالية ، كان همهم الأساسي هو تطوير AWS الثابت والدفاعي. تم تطوير Samsung SGR-A1 ، أول برج آلي ثابت في العالم ، في كوريا الجنوبية في عام 2006 (Parkin ، 2015). علاوة على ذلك ، قامت شركة تصنيع الأسلحة الكورية DoDAAM بتطوير Super aEgis II ، وهو برج بعيد المدى يمكنه اكتشاف الأهداف وتتبعها وإطلاقها بشكل مستقل – وفي اتجاه انتشار مزعج ، ورد أنها باعت هذه التكنولوجيا إلى الإمارات العربية المتحدة وقطر ( باركين ، 2015).

يعد تطوير خبرة الذكاء الاصطناعي أحد محاور التركيز المهمة في كوريا الجنوبية. بعد يومين من هزيمة بطل العالم Go Lee Sedol أمام نظام الذكاء الاصطناعي DeepMind AlphaGo من Google ، وعدت كوريا الجنوبية بحوالي مليار دولار لأبحاث الذكاء الاصطناعي (Peng ، 2018). مع ما يقرب من 70000 براءة اختراع للذكاء الاصطناعي ، وأكثر من 50000 من منشورات الذكاء الاصطناعي ، وأكثر من 2000 خبير في الذكاء الاصطناعي ، تعد كوريا الجنوبية لاعبًا رئيسيًا على المسرح العالمي (Bode and Huelss ، 2018 ؛ CISTP ، 2019a ، 2019c ؛ Shoham et al. ، 2018 ). تهدف كوريا الجنوبية إلى أن تظل قادرة على المنافسة عالميًا من خلال افتتاح ست مدارس جديدة تركز على الذكاء الاصطناعي بحلول عام 2020 (Peng ، 2018).

الإتحاد الأوربي

سيحظى الاتحاد الأوروبي قريبًا بأكبر ناتج محلي إجمالي في العالم ، إلى جانب العديد من الدول الأعضاء الرائدة المنتجة للأسلحة ، من الممكن أن يصبح رائدًا عالميًا في تطوير AWS (البنك الدولي ، 2019). ينصب تركيز الاتحاد الأوروبي حاليًا على الذكاء الاصطناعي الصناعي والروبوتات. أكبر عقبة تحول دون أن يصبح الاتحاد الأوروبي جهة فاعلة مهيمنة في تطوير خدمات AWS القاتلة هي النوايا المختلطة لأعضائها. فرنسا وألمانيا والمملكة المتحدة (المملكة المتحدة) والسويد وإيطاليا كلها عسكرية مستقلة

إنها تطور أنظمة روبوتية ، لكن بعض الأعضاء لا يزالون غير حاسمين ، بل إن النمسا انضمت إلى دعوات حظر استخدام AWS (بولانين وفيربروجن ، 2017 ؛ حملة لإيقاف الروبوتات القاتلة ، 2018). لزيادة تعقيد المشكلة ، يجادل البرلمان الأوروبي بأنه يجب على الناس دائمًا الاحتفاظ بالسيطرة على صنع القرار بشأن أنظمة الأسلحة الفتاكة (البرلمان الأوروبي ، 2018).

يتمتع الاتحاد الأوروبي بالقدرة على تطوير أجهزة AWS ذات المستوى العالمي ، مع ثاني أكبر ميزانية دفاع موحدة في العالم تبلغ 281 مليار دولار أمريكي في إجمالي الإنفاق المتوقع لشراء الطائرات بدون طيار بما لا يقل عن 8 مليارات دولار بحلول عام 2021 (SIPRI ، 2019 ؛ Statista ، 2019). بعض الدول الأعضاء في الاتحاد الأوروبي منفردة منافسة شديدة بطريقتها الخاصة. تنفق فرنسا وحدها أكثر من 63 مليار دولار سنويًا على الدفاع عن روسيا وكوريا الجنوبية ، وذكرت أيضًا أن الذكاء الاصطناعي سيكون جزءًا مهمًا من استراتيجياتها العسكرية (Peng، 2018؛ SIPRI، 2019). تنفق ألمانيا 49 مليار دولار سنويًا على الدفاع وأنشأت “نظام دفاع نشط” بوقت استجابة تلقائي أقل من ميلي ثانية (Boulanin & Verbruggen، 2017؛ SIPRI، 2019). الحكم الذاتي هو عنصر أساسي في خطة التحديث العسكري الإيطالي ، حيث ينفق أكثر من 27 مليار دولار على الدفاع كل عام (Nones and Marrone، 2012؛ SIPRI، 2019). المملكة المتحدة هي ثاني أكبر مصدر للأسلحة في العالم ، حيث تنفق أكثر من 49 مليار دولار سنويًا على الدفاع وتستثمر بكثافة في تكنولوجيا الطائرات بدون طيار (بولانين وفيربروجن ، 2017 ؛ SIPRI ، 2019).

حتى أن الاتحاد الأوروبي تجاوز الولايات المتحدة في بعض مقاييس الذكاء الاصطناعي. نشرت الدول الأعضاء في الاتحاد الأوروبي ما مجموعه أكثر من 425000 مقال متعلق بالذكاء الاصطناعي ولديها ثاني أعلى رقم عندما يتعلق الأمر بطلبات براءات الاختراع للذكاء الاصطناعي بأكثر من 233000 (CISTP ، 2019c ؛ IPlytics GmbH ، 2019). علاوة على ذلك ، فإن الاتحاد الأوروبي هو الدولة التي تتمتع بأعلى موهبة في مجال الذكاء الاصطناعي وأفضل المواهب في العالم ، مع أكثر من 41000 و 5100 من قدرات الذكاء الاصطناعي ، على التوالي ، قادمة من ألمانيا وفرنسا وإنجلترا وإسبانيا وإيطاليا وحدها (CISTP ، 2019a) . إذا كان من الممكن الجمع بين الخبرة والقدرة المشتركة للدول الأعضاء بشكل فعال من خلال صندوق الدفاع الأوروبي الجديد ، فقد يظهر الاتحاد الأوروبي باعتباره الفاعل المهيمن في سباق التسلح للذكاء الاصطناعي و AWS.

قم بإنهاء سباق التسلح بالذكاء الاصطناعي عن طريق حظر الروبوتات القاتلة

مع استمرار سباق التسلح للذكاء الاصطناعي ، تظل المخاطر عالية ، لكن النقاش العام غائب. يعارض واحد وستون بالمائة من المواطنين الذين شملهم الاستطلاع في أكثر من عشرين دولة تطوير نظام AWS القاتل ، ومع ذلك يتم إنفاق مليارات الدولارات الضريبية على تطويره كل عام (CSKR ، 2019). توافق فرنسا وألمانيا ودول أخرى على اتفاقية أسلحة معينة (CCW) “إرشادات ممكنة. دعا إلى استخدامه لتحسين. يشجع هذا الدليل تطوير AWS للالتزام بالقانون الدولي (اتفاقية أسلحة معينة ، 2018). علاوة على ذلك ، دعت 28 دولة إلى فرض حظر على الروبوتات القاتلة ، كما دعت حركة عدم الانحياز ومجموعة من الدول الأفريقية إلى اتفاقية دولية جديدة للحد من القتل الآلي. يريد. كانت عمليات حظر الأسلحة السابقة ، من الأسلحة الكيميائية والبيولوجية إلى الألغام الأرضية والقنابل العنقودية ، أدوات سياسية فعالة قللت بشكل كبير من استخدام هذه الأسلحة المسببة للمشاكل.

على الرغم من أن الولايات المتحدة ليست حاليًا في وضع يمكنها من القيادة بسياستها المؤسفة “أمريكا أولاً” ، إلا أن الاتحاد الأوروبي والدول الأخرى ذات التفكير التقدمي يجب أن تحاول وضع معايير عالمية سليمة وحظر استخدام AWS الآن. يمكن أن يوفر هذا أساسًا لمفاوضات التحالف مع بقية العالم ويمثل خطوة مهمة إلى الأمام في الحوكمة الوقائية للأمن (Garcia ، 2018).

ملحوظة

1. المنافسون الرئيسيون الآخرون في سباق التسلح للذكاء الاصطناعي هم الهند وإسرائيل واليابان ، لمزيد من المعلومات انظر. “الخيول السوداء في سباق أسلحة الذكاء الاصطناعي المميت” (Haner ، 2019).

مرجع

Altmann، J. and Sauer، F. (2017) ‘Autonomous Weapon Systems and Strategic Stability’، Survival، 59 (5)، pp. 117 – 142.

بيكر ، س. (2017) ما هي الدول والجامعات التي تقود أبحاث الذكاء الاصطناعي؟ تايمز للتعليم العالي ، تصنيف الجامعات العالمية [عبر الإنترنت]. متاح من: https://www.timeshighereducation.com/data- bites / which-countries-and-university-are-driving-ai-research [تم الدخول 17 مايو / أيار 2019].

بينديت ، س. (2017) صعود الروبوتات الحمراء: وراء التطور السريع للأنظمة العسكرية الروسية غير المأهولة ، جسر الإستراتيجية [عبر الإنترنت].

متاح من: https://thestrategybridge.org/the-bridge/2017/12/12/ red-robots-Rising-behind-the-fast-development-of-russian-unma nned-Military-systems [تم الدخول في 17 مايو 2019 ].

بينديت ، س. (2018) في منظمة العفو الدولية ، روسيا تكافح من أجل اللحاق ، ديفينس ون [عبر الإنترنت]. متاح من: https://www.defenseone.com/ideas/2018/04/ russia-races-forward-ai-development / 147178 / [تم الدخول 23 مايو / أيار 2019].

Bode، I. and Huelss، H. (2018) “أنظمة الأسلحة المستقلة والقواعد المتغيرة في العلاقات الدولية” ، مراجعة الدراسات الدولية ، 44 (3) ، ص. 393-413. https://doi.org/10.1017/ s0260210517000614.

بولانين ، ف. وفيربروجن ، إم. (2017) رسم خرائط تطوير الاستقلالية في أنظمة الأسلحة ، معهد ستوكهولم الدولي لبحوث السلام [عبر الإنترنت]. متاح من: https://www.sipri.org/sites/ default / files / 2017-11 / siprireport_mapping_the_development_of_a utonomy_in_weapon_systems_1117_1.pdf [تم الدخول 23 مايو 2019CAICT و Gartner (2019) Global AI Investment and Funding Share، Statista [عبر الإنترنت]. متاح من: https://www-statista-com.ezproxy.ne u.edu/statistics/941446/ai-investment-and-funding-share-by-country/ [تم الدخول 23 مايو 2019].

حملة لإيقاف الروبوتات القاتلة (CSKR) (2018) آراء الدول حول الروبوتات القاتلة. حملة لإيقاف الروبوتات القاتلة [عبر الإنترنت]. متاح من: https://www.stopkillerrobots.org/wp-content/uploads/2018/11/KRC_ CountryViews22Nov2018.pdf [تم الدخول 23 مايو 2019].

تظهر حملة Stop Killer Robots (2019) استطلاع رأي عالمي أن 61٪ يعارضون الروبوتات القاتلة ، حملة لإيقاف الروبوتات القاتلة [عبر الإنترنت]. متاح من: https://www.stopkillerrobots.org/2019/01/global-poll-61-oppose-killer- robots / [تم الدخول 17 مايو 2019].

مجلس الدولة الصيني (2017) A Next Generation Artificial Intelligence Development Plan [online]. متاح من: https: //www.newamerica. org / cybersecurity-Initiative / digichina / blog / full-translation-chinas-new- جيل-الذكاء الاصطناعي-خطة التنمية -2017 / [تم الدخول في 17 مايو 2019].

CISTP (2019a) مركز الإستراتيجية الدولية والتكنولوجيا والسياسة موهبة الذكاء الاصطناعي حسب الدولة ، Statista [عبر الإنترنت]. متاح من: https: // www- statista-com.ezproxy.neu.edu/statistics/941479/ai-experts-by-country/ [تم الدخول 21 مايو 2019].

CISTP (2019b) مركز للاستراتيجيات الدولية والتكنولوجيا والسياسة العالمية لشركات الذكاء الاصطناعي حسب الدولة ، ومركز الاستراتيجية الدولية والتكنولوجيا والسياسة [عبر الإنترنت]. متاح من: https: // www-statista- com.ezproxy.neu.edu/statistics/941054/number-of-ai-companies-world Wide-by-country / [تم الدخول 21 مايو 2019].

CISTP (2019c) Global AI Paper Publications، Statista [عبر الإنترنت]. متاح من: https://www-statista-com.ezproxy.neu.edu/statistics/941037/ai- paper-articles-worldwide-by-country / [تم الدخول 21 مايو 2019].

كول ، سي (2017) “الضرر الذي يلحق بالسلام والأمن العالميين” ، في آر. أتشيسون ، إم. بولتون ، إي مينور وأ. بيتلاك (محررون) ، الأثر الإنساني للطائرات بدون طيار. الرابطة النسائية الدولية للسلام والحرية ، ص. 48-59. متاح من: https://reliefweb.int/sites/reliefweb.int/files/ resources / human-effect-of-drones.pdf [تم الدخول 23 مايو / أيار 2019].

اتفاقية بشأن أسلحة معينة (CCW) فريق الخبراء الحكوميين (2018) “تقرير جلسة 2018 لفريق الخبراء الحكوميين حول التقنيات الناشئة في مجال أنظمة الأسلحة الفتاكة ذاتية التشغيل”. مكتب الأمم المتحدة في جنيف [أونلاين]. متاح من: https://www.unog.ch/80256EDD006B8954/ (httpAssets) / 20092911F6495FA7C125830E003F9A5B / $ file / CCW_GGE. 1_2018_3_final.pd [تم الدخول 23 مايو 2019]

Cuthbertson، A. (2016) خوارزمية مدعومة بهذا الكمبيوتر بقيمة 35 دولارًا فقط تغلب على طيار مقاتل بشري ، نيوزويك [عبر الإنترنت]. متاح من: https://www.newsweek.com/artuable-intelligence-raspberry-pi-pilot-ai- 475291 [تم الدخول 17 مايو / أيار 2019].

وزارة الدفاع (DoD) (2012) التوجيه رقم 3000.09 ، وزارة الدفاع الأمريكية [عبر الإنترنت]. وزارة الدفاع. متاح من: https://www.esd.whs.mil/Portals/54/Documents/DD/ issuances / dodd / 300009p.pdf.

Edmeades، A. (2017) “International Law Perspectives”، in R.Acheson، M. Bolton، E. Minor and A. Pytlak (eds.)، Harm to Global Peace and Security. الرابطة النسائية الدولية للسلام والحرية ، ص. 101-114. متاح من: https://reliefweb.int/sites/reliefweb.int/files/ resources / human-effect-of-drones.pdf [تم الدخول 23 مايو / أيار 2019].

تم اعتماد نصوص البرلمان الأوروبي (2018) – أنظمة الأسلحة المستقلة ، قرار البرلمان الأوروبي. متاح من: http: // www.europarl.europa.eu/doceo/document/TA-8-2018-0341_EN.html؟ إعادة التوجيه [تم الدخول 23 مايو 2019].

جارسيا ، د. (2014) “The Case Against Killer Robots – Why the United States should be Ban Them”، Foreign Affairs. متاح من: https: // www.foreignaffairs.com/articles/united-states/2014-05-10/case-aga inst-killer-robots [تم الدخول 23 مايو / أيار 2019].

Garcia، D. (2016) “Future Arms، Technologies، and International Law: Preventative Security Governance”، European Journal of International Security، 1 (1)، pp. 94-114.

غارسيا ، د. (2018) “الذكاء الاصطناعي المميت والتغيير: مستقبل السلام والأمن الدوليين” ، مراجعة الدراسات الدولية ، 20 (2) ، ص. 334–341.

جارتنر (2018) يقول جارتنر إن ما يقرب من نصف مدراء المعلومات يخططون لنشر الذكاء الاصطناعي ، غرفة أخبار Gartner. متاح من: https: // www.gartner.com/en/newsroom/press-releases/2018-02-13-gartner-sa ys-almost-half-of-cios-Planning-to-publish-Artificial- المخابرات [تم الدخول في 16 مايو 2019].

Gettinger، D. (2018) ملخص إنفاق الطائرات بدون طيار في طلب ميزانية الدفاع للعام المالي 2019. مركز دراسة الطائرة بدون طيار في كلية بارد. متاح من: https://dronecenter.bard.edu/files/2018/04/ CSD-Drone-Spending-FY19-Web-1.pdf [تم الدخول في 17 مايو 2019].

Haner، J.K (2019) Dark Horses in the Lethal AI Arms Race. متاح من: JustinKHaner.com/AIArmsRace [تم الدخول 4 يوليو 2019]

هورويتز ، إم سي وليفيندوسكي إم إس (2011) “صياغة الدعم للحرب: التجنيد والدعم الجماعي للحرب” ، مجلة السياسة ، 73 (2) ، ص. 524-534. https://doi.org/10.1017/s0022381611000119.

هيومن رايتس ووتش (2019) حملة القمع الصينية ضد مسلمي شينجيانغ ، هيومن رايتس ووتش [عبر الإنترنت]. متاح من: https://www.hrw.org/report/2018/09/09/eradicating-ideological-viruse s / chinas-campaign-repression-against-xinjiangs #؛ [تم الدخول في 20 مايو 2019].

IPlytics GmbH (2019) تطبيقات براءات الذكاء الاصطناعي حسب البلد في جميع أنحاء العالم ، Statista [عبر الإنترنت] متاح من: https://www-statista-com.ezproxy.ne u.edu/statistics/1007944/number-of-ai-patents-worldwide-by-country/ [تم الدخول 21 مايو 2019].

Ipsos (2018) الثقة في الذكاء الاصطناعي حسب الدولة 2018 ، Statista [عبر الإنترنت]. متاح من: https://www-statista-com.ezproxy.neu.edu/ Statistics / 948531 / trust-Artificial-Intelligence-country / [تم الدخول 21 مايو 2019].

Kania، E.B (2017) Battlefield Singularity: Artificial Intelligence، Military Revolution، and China Future Military Power [عبر الإنترنت]. متوفر من: https://www.cnas.org/publications/reports/battlefield-singula rity-Artificial-Intelligence-Military-Revolution-and-chinas-Future-Military-power [تم الدخول 17 مايو / أيار 2019].

كوفمان م. (2017) ميزانية الدفاع الروسية وأنت ، التحليل العسكري الروسي [عبر الإنترنت]. متاح من: https: // russianmilitaryana lysis.wordpress.com/2017/03/17/the-russian-defense-budget-and-you/ [تم الدخول في 17 مايو 2019].

Mizokami، K. (2018) طائرة الدرون الروسية بدون طيار أداء ضعيف في سوريا ، ميكانيكي شعبي متوفر من: https: //www.popularmechanics.c om / military / weapon / a21602657 / russias-tank-drone-Performing- poorly-in-syria / [تم الدخول 17 مايو / أيار 2019].

موسكو تايمز (2014) معركة الروبوتات لحماية صوامع الصواريخ الروسية بحلول عام 2020 ، موسكو تايمز [على الإنترنت]. متاح من: http: // themoscowtime s.com/articles/battle-robots-to-guard-russian-missile-silos-by-2020- 38460 [تم الدخول في 17 مايو 2019].

نيسنباوم ، دي وستروبل ، دبليو (2019) المتمردون في الشرق الأوسط يدخلون عصر حرب الطائرات بدون طيار ، وول ستريت جورنال [على الإنترنت]. متاح من: https://www.wsj.com/articles/mideast-insurgents-enter-the-age-of- drone-warfare-11556814441 [تم الدخول في 17 مايو 2019]

Nones، M. and Marrone، A. (2012) The Transformation of the Military Forces: The Forza NEC Program. روما: ورقة بحثية IAI (Istituto Affari Internazional). Olaifa، B. (2018) Boko Haram تشرك الآن مقاتلين أجانب ، كما يقول الجيش ،

الأمة ، نيجيريا [عبر الإنترنت]. متاح من: http: // thenationonlineng. net / boko-haram-now-engages-foreign-fighters-says-army / [تم الدخول في 17 مايو / أيار 2019].

باركين ، س. (2015) الروبوتات القاتلة: الجنود الذين لا ينامون أبدًا [عبر الإنترنت]. متاح من: http://www.bbc.com/future/story/20150715-killer-rob ots-the-wars-that-never-sleep [تم الدخول 17 مايو / أيار 2019].

Peng، T. (2018) كوريا الجنوبية تهدف إلى تحقيق أهداف عالية في مجال الذكاء الاصطناعي ، وتضخ 2 مليار دولار في مجال البحث والتطوير المتوسط [عبر الإنترنت] متاح من: https://medium.com/syncedre view / south-korea-aim-high-on-ai -umps-2-بليون-in-r-d-de8e5c0c 8ac5 [تم الدخول 17 مايو / أيار 2019].

بيساني ، ب. (2015) ما الذي تسبب في انهيار الفلاش؟ CFTC ، DOJ Weigh In ، CNBC. متاح من: https://www.cnbc.com/2015/04/21/what-ca used-the-flash-crash-cftc-doj-weight-in.html [تم الدخول 17 مايو 2019].

البحوث والأسواق (2018) الذكاء الاصطناعي في السوق العسكرية من خلال تقديم (البرمجيات ، الأجهزة ، الخدمات) ، التكنولوجيا (التعلم والذكاء ، الحوسبة المتقدمة ، أنظمة الذكاء الاصطناعي) ، التطبيق ، المنصة ، المنطقة – التوقعات العالمية حتى عام 2025 ، البحوث والأسواق (عبر الإنترنت ]. متاح من: https://www.researchandmarkets.com/resea rch / z8tfh7 / 18_8_billion؟ W = 4 [تم الدخول 17 مايو 2019].

روف ، إتش إم (2014) “مشكلة الروبوت الاستراتيجي: الأسلحة المستقلة الفتاكة في الحرب” ، مجلة الأخلاق العسكرية. 13 (3) ، ص. 211 – 2227. https://doi.org/10.1080/15027570.2014.975010. Sander، A. and Meldon، W. (2014) BCG Perspectives: The Rise of Robotics [online]. متاح من: http://image-src.bcg.com/Imags/The_Rise_of_ Robotics_Aug_2014_tcm9-82495.pdfe [تم الدخول 17 مايو 2019].

Scharre، P. (2014) Robotics on the Battlefield Part II: The Coming Swarm، CNAS [عبر الإنترنت]. متاح من: https://www.cnas.org/publications/ reports / robotics-on-the-battlefield-part-ii-the-coming-swarm [تم الدخول 17 مايو 2019].

Scharre، P. (2019) “The Real Dangers of a AI Arms Race” ، فورين أفيرز ، 9 (3).

Schwarz، E. (2018) إمكانية التحكم البشري الهادف في أنظمة الأسلحة الفتاكة المستقلة والقانون الإنساني والسياسة [عبر الإنترنت]. متاح من: https://blogs.icrc.org/law-and-policy/2018/08/ 29 / im-possible-meaningful-human-control-lethal-autonomous-wea pon-systems / [تم الدخول 7 يونيو / حزيران 2019]

شاركي ، إن. (2017) “لماذا لا ينبغي تفويض الروبوتات بقرار القتل” ، علم الاتصال ، 29 (2) ، ص. 177 – 186. https: // دوى. org / 10.1080 / 09540091.2017.1310183.

شوهام ، واي. ، بيرولت ، آر ، برينجولفسون ، إي ، كلارك ، جيه ، مانيكا ، جي ، كارلوس ، جيه وآخرون. (2018) التقرير السنوي لمؤشر الذكاء الاصطناعي لعام 2018. اللجنة التوجيهية لمؤشر الذكاء الاصطناعي ، مبادرة الذكاء الاصطناعي المتمحورة حول الإنسان ، جامعة ستانفورد ، ستانفورد ، كاليفورنيا.

سيبري (2019)

معهد ستوكهولم الدولي لبحوث السلام (SIPRI) قاعدة بيانات الإنفاق العسكري [عبر الإنترنت]. متاح من: https: // www. sipri.org/databases/milex [تم الدخول في 17 مايو 2019].

سبوتنيك نيوز (2013) روسيا تركز على الأسلحة الروبوتية في شراء الأسلحة ، سبوتنيك نيوز [على الإنترنت]. متاح من: https: // sputniknews.com/military/20131211185469570-Russia-to-Focus-on- Robotic-Weaponry-in-Arms-Procurement / [تم الدخول في 17 مايو 2019].

Statista (2019) الإنفاق العالمي على الطائرات بدون طيار حسب الدولة ، Statista [عبر الإنترنت]. متاح من: https://www-statista-com.ezproxy.neu.edu/statistics/ 757608 / global-drone-الإنفاق / [تم الدخول 21 مايو / أيار 2019].

تاكر ، ب. (2017) “روسيا إلى الأمم المتحدة: لا تحاول منعنا من بناء روبوتات قاتلة” ، Defense One [عبر الإنترنت] ، ص. 1-2. متاح من: https://www.defenseone.com/technology/2017/11/russia- united-Nations-dont-try-stop-us-building-killer-robots / 142734 / [تم الدخول 23 مايو / أيار 2019].

ويست ، إس إم ، ويتاكر ، إم وكروفورد ، ك. (2019) التمييز بين الأنظمة: الجندر ، والعرق ، والقوة في الذكاء الاصطناعي [عبر الإنترنت]. متوفر من: http: //cdn.aiindex.org/2018/AI Index 2018 Annual Report.pdf [تم الدخول 20 مايو 2019].

البنك الدولي (2019) بيانات الناتج المحلي الإجمالي ، مجموعة بيانات البنك الدولي [عبر الإنترنت]. متاح

من: https://data.worldbank.org/indicator/ny.gdp.mktp.cd [تم الدخول 21 مايو 2019].

معلومات الكاتب

جاستن هانر مرشح لنيل درجة الدكتوراه في قسم العلوم السياسية بجامعة نورث إيسترن متخصص في الحوكمة العالمية. والأمن الدولي. يركز عمله على القوة التحويلية التي يمكن أن يتمتع بها القانون والمؤسسات الدولية في حل مشاكل الأمن العالمية والإقليمية المعقدة.

دينيس جارسيا أستاذ بجامعة نورث إيسترن وعضو في اللجنة الدولية المعنية بتنظيم الأسلحة المستقلة ونائب رئيس اللجنة الدولية للتحكم في أسلحة الروبوت. تبحث الروبوتات والذكاء الاصطناعي في حوكمة الأمن العالمي وتشكيل معايير دولية جديدة وتأثيرها على السلام والأمن

سباق التسلح بالذكاء الاصطناعي: الاتجاهات وقادة العالم في تطوير الأسلحة المستقلة