Yapay Zeka Silah Yarışı: Otonom Silah Geliştirmede Trendler ve Dünya Liderleri

Justin Haner
Northeastern Universitesu
Denise Garcia
Uluslararası Robot Kolları Kontrolü Komitesi ve Northeastern Üniversitesi

Özet

Yapay zekaya dayanan otonom silah teknolojileri, hızla ve yeterince kamuoyu tartışması veya hesap verebilirliği olmadan ilerliyor. Savaşta artan özerkliğin gözetimi kritik derecede önemlidir çünkü bu ölümcül teknolojinin hızla çoğalması, terörist taktikleri geliştirmesi, otoriter yöneticileri güçlendirmesi, demokratik barışı zayıflatması ve önyargı, hackleme ve arızalara karşı savunmasız olması muhtemeldir. Bu silahlanma yarışının en büyük rakipleri Amerika Birleşik Devletleri, Çin, Rusya, Güney Kore ve Avrupa Birliğidir.

İlerleme durdukça harcamalar hızla artıyor: Ölümcül yapay zeka ve otonom silah sistemleri geliştirme konusundaki kamuoyu tartışması nerede?

Birleşmiş Milletler üye devletleri son 5 yılda ölümcül otonom silah sistemleri (AWS) tartışmalarında çok az ilerleme kaydettikçe, savaşın doğası gözlerimizin önünde dönüşüyor. Bir avuç ülke gelişmiş yapay zeka (AI) ile eşleştirilmiş silah sistemlerinin özerkliğini artırmak için büyük yatırımlar yapmaya devam ederken, bu değişiklik uygun bir hesap verebilirlik veya kamu incelemesi olmadan gerçekleşiyor. Ölümcül AWS’nin hızla çoğalması, terörist taktikleri geliştirmesi, otoriter yöneticileri güçlendirmesi, demokratik barışı zayıflatması ve önyargı, bilgisayar korsanlığı ve arızalara karşı savunmasız olması muhtemel olduğundan, acilen daha fazla tartışmaya ihtiyaç vardır. Artan “Katil robotlar” hakkinda uygun bir kamuoyu tartışması ciddiyetle başlamalıdır.

Özerklikteki teknolojik ilerlemeler genellikle artmaktadır ve düşük bir siyasi profile sahiptir. Mevcut silah sistemlerinin farklı bölümlerine özerklik ekleniyor ve hedef planlamadan görev icrasına kadar anlamlı insan kontrolü, ortaya çıkardığı ahlaki ikilemler uygun şekilde dikkate alınmadan kademeli olarak kaybedilecektir (Roff, 2014; Sharkey, 2017; Schwarz, 2018 ). Geniş ölçüde hesaba katılmayan AWS’nin geliştirilmesi, dünya çapında pazar hızla genişlerken gerçekleşiyor. AWS ve AI için dar bir tanımla küresel askeri harcamaların 2025 yılına kadar sırasıyla 16 ve 18 milyar dolara ulaşacağı tahmin edilmektedir (Sander ve Meldon, 2014; Research and Markets, 2018).

Bu makale aşağıdaki şekilde ilerlemektedir. Aşağıdaki bölüm, kontrol edilmeden bırakılırsa, giderek artan otonom silahların uluslararası güvenlik üzerinde yaratabileceği gelecekteki etkileri tahmin etmek için güncel olayları kullanır. İkinci bölüm, otonom teknoloji geliştirme niyetlerine,

AWS donanımını geliştirme kapasitelerine ve yapay zeka uzmanlık düzeylerine göre ilk beş dünya liderini oluşturmak ve sıralamak için kamuya açık tüm verileri kullanır. Son bölüm, AWS’nin kullanımını kısıtlamak veya yasaklamak için devam eden çabaların ve çok geç olmadan önde gelen devletler tarafından uluslararası hukuk kapsamında küresel normlar belirlemenin önemini vurgulamaktadır.

Ölümcül yapay zeka ve AWS gelişim trendler hakkinda mevcut tahminler

Otonom silahlar hızlı yayılmaya hazır. Şu anda bu teknoloji, gelişmiş robotik ve yapay zeka araştırmalarına yoğun bir şekilde yatırım yapmak için gereken kaynaklara sahip birkaç güçlü, zengin ülkede yoğunlaşmıştır. Bununla birlikte, Moore Yasası ve azalan üretim maliyetleri, 3D baskı da dahil olmak üzere, yakında birçok eyaletin ve eyalet dışı ​aktörlerin (yani ülkeler) katil robotlar ​satın almasını sağlayacaktır (Scharre, 2014). Şu anda, quadcopter drone’lar 25 $ kadar düşük bir maliyete sahip ve 35 $ ‘lık küçük bir Raspberry Pi bilgisayarı, savaş simülasyonlarında Birleşik Devletler Hava Kuvvetleri savaş pilotlarını yenmek için yeterince gelişmiş AI çalıştırabilir (Cuthbertson, 2016). Daha fazla uluslararası ​aktör​ ölümcül AWS edindikçe hesap verebilirlik giderek zorlaşacak.Husi isyancıları silahlı uçangözü (drone) kullanıyor ve hem ISIS hem de Boko Haram,uçangözü (drone) geliştirilmiş patlayıcı cihazı olarak kullanmaya başlamışlar. (Olaifa, 2018; Nissenbaum ve Strobel, 2019). Terörist taktikleri kullanan grupların çoğalması özellikle endişe vericidir çünkü AWS saldırgan ile hedef arasındaki mesafeyi artırdığından ve yakalanma olasılığını azaltarak maliyetlerin düşmesi ve sırayla daha hassas hedef seçimine izin vererek aynı anda algılanan faydaları arttırıyor. Bunlar ölümcül etki ve korkuyu en üst düzeye çıkarmak için yapılıyor. Bu tür saldırı yetenekleri, hedefleri farklılaştırma ve güvenli bir şekilde angaje etme ihtiyacının artması nedeniyle daha yüksek nispi maliyetlere sahip olan koruyucu teknoloji nedeniyle, ölümcül AI tabanlı savunma sistemlerinden daha hızlı çoğalacaktır.

Eyaletler içinde ölümcül özerklik, muhtemelen yetkili rejimleri güçlendirecek ve küresel demokratik gerileme eğilimini yoğunlaştırabilir, çünkü yapay zeka destekli izleme sistemleri ve robotik “askerler” despotik yönetimin mükemmel araçlarıdır. Tamamen otonom katil robotlar yakın zamanda tüm geleneksel askerlerin yerini alamayabilirken, yalnızca bu tür gelecekteki eğilimlere odaklanmak, AI’nın bugün otoriter devletlerde sahip olduğu distopik etkileri gözden kaçırma riskini taşıyor. Çin, milyonlarca etnik Uygur’u hapse attı ve yalnızca Xinjiang eyaletini izlemek için değil, aynı zamanda tüm vatandaşlarını yakından takip etmek için yüz tanıma yazılımı ile AI tabanlı gözetim kullanıyor (İnsan Hakları İzleme Örgütü, 2019). Bu tür gözetim sistemleri 70’den fazla Çin şehrine yayılmıştır ve “sosyal kredi” sistemi aracılığıyla davranışı şekillendirmek için kullanılmaktadır (Scharre, 2019). Çin, kamuoyunu izlemek ve kontrol etmek için gelişmiş araçlar arayan 30’dan fazla ülkeden yetkililerle eğitim oturumları düzenlediğinden, bu tür yetenekler için otoriter pazar güçlüdür (Scharre, 2019).

Devletler arasında, savaşta tam özerklik demokratik barışa zarar verebilir (Altmann ve Sauer, 2017). Immanuel Kant’ın demokratik barış teorisi, halkın gereksiz savaşları desteklememesine

dayanmaktadır, zira bunlarda savaşmaya çağrılanlar onlar olacaktır. Pek çok ülke zorunlu askerlik veya askerlik temelli ordudan tamamen gönüllü bir güce geçiş yaptığında, devam eden savaşlara halkın muhalefeti azaldı (Horowitz ve Levendusky, 2011). Savaşlarla savaşmak için daha az insan askerine ihtiyaç duyulduğunda, bu eğilim muhtemelen şiddetlenecek ve güç kullanma eşiğini daha da düşürecektir (Cole, 2017; Garcia, 2014). Yarı otonom sistemler, güç kullanımına karşı uluslararası hukukun temel normlarını şimdiden aşındırmaya başladı (Bode ve Huelss, 2018; Edmeades, 2017; Garcia, 2016).

Kamu gözetimi ve hesap verebilirlik özellikle önemlidir, çünkü ölümcül AI tabanlı sistemler önyargı, bilgisayar korsanlığı ve bilgisayar arızalarına karşı savunmasızdır. Tüm AI projelerinin yüzde 85’inin algoritmadaki önyargı, önyargılı programcılar veya onları eğitmek için kullanılan verilerdeki önyargı nedeniyle hatalara sahip olması beklenmektedir (Gartner, 2018). Yapay zeka önyargısı, azınlık gruplarına karşı özellikle ayrımcı olma eğilimindedir ve yüz tanıma sistemleri savaş silahlarına daha da entegre hale geldikçe, aşırı hedeflemeye veya yanlış pozitiflere yol açabilir (West ve diğerleri, 2019). Önyargının ötesinde, AI sistemleri saldırıya uğrayabilir, istenmeyen kodlama hatalarına sahip olabilir veya programcıların asla tahmin edemeyeceği şekilde davranabilir. Mayıs 2010’da otonom finansal ticaret sistemlerinde böyle bir kodlama hatası meydana geldi ve sadece birkaç dakika içinde 1 trilyon dolarlık borsa değerini yok eden bir “ani çöküş” e neden oldu (Pisani, 2015).

Doğru kodlandıklarında bile, birçok AI programı, programlanmış hedeflerine ulaşmak için öngörülemeyen boşluklardan yararlanır; örneğin, oynu kaybetmemek icin, oyunu son blok düşmeden hemen önce duraklatan Tetris oynayan bir AI veya başka bir AI programı gerçek olmayan mükemmel bir puan alabilmesi için test edildiği yanıt anahtarını silebilir (Scharre, 2019). Yapay zekanın giderek otonom silahlara eklenmesi ve aynı zamanda bu önyargı ve hataların sonuçları yıkıcı olabilir.

ölümcül otonom silah geliştirmede ilk beş dünya lideri

Askeri harcama rakamlarının çoğu sınıflandırılırken, AWS geliştirmedeki en üst düzey liderlere yönelik değerlendirmemiz, göreli durumlarını ampirik olarak ölçmek için bir vekil olarak hangi verilerin kamuya açık olduğunu kullanır. Tablo 1, her bir ana aktörü sıralamak için kullanabildiğimiz ölçümleri gösteriyor ve ölümcül AWS geliştirme için üç kritik bileşen olarak gördüğümüz şeye odaklanıyor. İlk olarak, ülkelerin resmi politikalarına, eylemlerine ve kamuoyuna dayalı olarak ölümcül AWS geliştirmeye yönelik özel niyetlerini inceliyoruz. İkinci olarak, son teknoloji ölümcül otomatik silah donanımlarının geliştirilmesi açısından her aktörün genel kapasitesini ve sicilini değerlendiriyoruz. Son olarak, AWS’nin savaşın karmaşık görevlerini yerine getirmesini sağlamak için gereken yapay zeka yazılımı uzmanlığını geliştiren en kritik bileşeni değerlendiriyoruz. Ölümcül AI ve AWS geliştirmede ilk beş rakip ABD, Çin, Rusya, Güney Kore ve Avrupa Birliği’dir (AB) 1

Birleşik Devletler

Çin, Rusya, Güney Kore ve 28 AB üye devletinin toplam askeri harcamalarından daha büyük bir savunma bütçesiyle, ABD’nin ölümcül AWS’nin geliştirilmesinde dünya lideri olması şaşırtıcı değildir (SIPRI,2019). Özerklik, Savunma Bakanlığı (DoD) Direktifi 3000.09’un yayınlanmasıyla 2012’den beri Amerika Birleşik Devletleri ulusal güvenlik stratejisinin resmi bir bileşeni olmuştur. Bu politika türünün ilk örneğiydi ve yarı otonom sistemlerin insan operatörler tarafından önceden seçilmiş hedeflere angaje olmasına ve aynı zamanda üst düzey Savunma Bakanlığı onayından sonra hedefleri seçmek ve bunlara müdahale etmek için tamamen otonom silahlara izin veriyor (Savunma Bakanlığı, 2012 ). Savaşta özerklik için daha fazla destek, ana sütunlardan biri olarak listelendiği Birleşik Devletler ‘Üçüncü Dengeleme Stratejisi’nde görülebilir. Ancak, savunma yetkilileri için net bir politika önceliği olmasına rağmen, tüm Amerikalılar bu çabayı desteklemiyor. Amerikan vatandaşlarının yalnızca yüzde 25’i AI’ya güveniyor ve büyük şirketlerdeki bazı çalışanlar, Google’un ABD ordusu için bir AI geliştirme sözleşmesi olan Project Maven’e karşı yaptığı iç isyanda görüldüğü gibi askeri amaçlarla AI geliştirmeye direndi (Ipsos, 2018).

Amerika Birleşik Devletleri, otonom donanım geliştirme ve yatırım kapasitesi konusunda açık ara liderdir. 2010 yılına kadar, Amerika Birleşik Devletleri AWS’yi araştırmak için 4 milyar dolar yatırım yapmıştı ve 2020’ye kadar özerklik gelişimi için ayrılan 18 milyar dolar daha (Boulanin ve Verbruggen, 2017).

Halihazırda 20.000’den fazla otonom araca sahip olmasına rağmen, Amerika Birleşik Devletleri’nin 2021 yılına kadar 3.447 yeni insansız kara, deniz ve hava sistemleri dahil olmak üzere uçangöze (drone) 17 milyar dolar harcayacağı tahmin ediliyor (Gettinger, 2018; Statista, 2019). Askeri yapay zeka uzmanlık yarışında, Amerika Birleşik Devletleri yarışını 1983’te “stratejik hesaplamaya” 1 milyar dolar yatırım yaparak ilk silahın patlamasından önce başladı ve o zamandan beri rakiplerini sürekli olarak geride bıraktı (Boulanin ve Verbruggen, 2017). Amerika Birleşik Devletleri, dünyadaki en çok AI şirketine sahip olmanın yanı sıra, tek bir ülke için en fazla AI ile ilgili yayınlara, en fazla AI patent başvurusuna ve kabul edilen AI patentlerine ve bunlar da dahil olmak üzere en büyük yetenekli AI araştırmacı havuzuna sahiptir.​Bu kendi alanlarının ilk yüzde onunda, dünyadaki diğer herhangi bir ülkeden daha fazladır ​(CISTP, 2019a, 2019b, 2019c; IPlytics GmbH, 2019; Shoham ve diğerleri, 2018).

Çin

Çin, ölümcül AWS ve AI geliştirmede açık bir şekilde yükselen yarışmacıdır ve AWS ile birlikte savaş alanında AI kullanmayı planladığını ‘Yeni Nesil Yapay İstihbarat Geliştirme Planı’nda özetledi (China State Council, 2017; Kania, 2017 ). Yapay zekaya yüzde 70 vatandaş güveni (gözlemlenen 24 ülkenin en yükseği) ve teknolojiyi devlete aktarmaları için şirketlere uygulayabileceği ağır baskının birleşimiyle, AWS’in gelişim konusunda bir iç direniş ile karşılaşma olasığı düşüktür. (Ipsos, 2018). Çin’in silah geliştirme kapasitesi yüksektir, tahmini yıllık bütçesi 250 milyar dolar ve uçangöz (drone) teknolojisine 2021’e kadar 4.5 milyar dolarlık

tahmini harcama yapılacaktır (SIPRI, 2019; Statista, 2019). En etkileyici olanı, Çinli şirketler sürü teknolojisini 1000’den fazla senkronize ıçangözle (dronla) test etti (Kania, 2017). Bununla birlikte, Güney Kore, İsrail ve Japonya gibi bazı ülkeler, askerlerini güçlendirmek ve kısa vadeli güvenlik boşluklarını doldurmak için AWS geliştirmesini isterken, dünyanın en büyük ordusuna sahip Çin’de bu sorun yok. Bu, Çin’in kaynaklarının çoğunu yapay zekaya uzun vadeli stratejik yatırımlara odaklamasını sağlıyor

Çin, 2030 yılına kadar yapay zeka geliştirmede dünya lideri olmayı planlıyor (Çin Devlet Konseyi, 2017). Çin’in tartışmalı fikri mülkiyet satın alma yöntemleri, onların doğrusal olmayan bir tarzda ileri teknolojik atılımlar yapmalarına izin verdi. Ağır ‘sivil-askeri füzyon’ yatırımıyla Çin Devlet Konseyi, yapay zeka endüstrilerinin 2020’de 22 milyar dolar, 2025’te 59 milyar dolar ve 2030’da 150 milyar dolar olacağını tahmin ediyor (Çin Devlet Konseyi, 2017; Kania, 2017) . Bazı ölçütlere göre, Çin zaten yapay zeka konusunda başı çekiyor. Toplam yayınlarda gecikmeye rağmen, 2011 ile 2015 yılları arasında Çinli bilim adamları, aynı dönemde ABD’nin neredeyse iki katı olan yapay zeka hakkında 41.000 makale yayınladılar (Baker, 2017). Dahası, 2013 ve 2018 yılları arasında AI projelerine Çin yatırımı ve finansmanı, bu tür projelerin tüm dünya finansmanının yüzde 60’ı olarak tahmin ediliyor ve aynı dönemde yine Birleşik Devletler yatırımını iki katından fazla artırıyor (CAICT ve Gartner, 2019).Bununla birlikte, Çin, 18.000’den fazla yetenekli yapay zeka geliştiricisine sahip olmasına rağmen, dünyanın en iyileri arasında yer alanlara gelince, Amerika Birleşik Devletleri ve AB’nin her biri en iyi uzmanların beş katından fazlasına sahip olduğu için en iyi uzmanlık uçuşu sorunuyla karşı karşıyadır ( CISTP, 2019a).

Rusya

Rusya, çeşitli kapasite ve uzmanlık ölçütlerinde düşük puan almasına rağmen, en küstah destekçisi olduğu için ölümcül AWS yarışında liderdir. Rusya, açık bir şekilde insanları karar alma döngüsünden çıkarmak istiyor ve savaşta AWS kullanımını kısıtlamak veya yasaklamak için herhangi bir uluslararası çabaya uymak niyetinde değil (Bendett, 2017; Tucker, 2017). Rusya’nın ‘2025’e Kadar Olası Askeri Robotiklerin Oluşturulması’ ve ‘2030’a Kadar Askeri Kullanım İçin Robotik Sistemlerin Yerleştirilmesi Konsepti’ programlarına uygun olarak, Rusya 2020 yılına kadar silah silolarını koruyan otonom sistemlere sahip olmayı planlıyor ve 2030’a savaş güçlerinin yüzde otuzunu özerk olmasını hedefliyor(Bendett, 2017; Moscow Times, 2014).

Rusya, kısa vadede donanım geliştirmeye odaklanmıştır. Nispeten düşük bir GSYİH ve toplam savunma bütçesine rağmen, Rusya 2021 yılına kadar neredeyse Çin kadarını uçangöz (drone) için harcamaya niyetli, 346 milyar dolarlık askeri robotik odaklı yeniden silahlanma bütçesine sahip ve silahlı kuvvetlerinin robotikleştirilmesi üzerine yıllık konferanslara ev sahipliği yapıyor. (Bendett, 2017; Sputnik News, 2013; Statista, 2019). Otonom Uran-9 robot tankları Suriye’ye çoktan yerleştirildi (Mizokami, 2018).

Başkan Vladimir Putin, yapay zeka konusunda kimin lider olursa, ‘dünyanın hükümdarı olacağını’ kamuoyuna açıkladı, ancak Rusya’nın yapay zeka yatırımları önemli ölçüde eksiktir (Bendett, 2017). Rusya ile ilgili temel AI istatistiklerinin bile elde edilmesi zordur ve bunun

sebebi, önemli bir gelişmenin karşılaştırılabilir bir ölçekte gerçekleşmemesi olabilir. Savaşta yapay zeka kullanımına adanmış en az on araştırma merkezine sahip olmasına rağmen, Rusya’nın yapay zekaya yaptığı yıllık yerel askeri harcamanın, ABD ordusu için sınıflandırılmamış yapay zeka bütçesinin sadece yüzde 0,01’i kadar, yılda 12,5 milyon dolar kadar düşük olduğu tahmin ediliyor (Bendett, 2017 , 2018). uluslararası yaptırımlar bu sorunun bir parçası olabilir, çünkü Rusya bu yaptırımlara göre, savunma bütçesini 2017’de yüzde 7, 2018’de yüzde 3,2 ve 2019 için tahmini yüzde 4,8 oranında düşürmek zorundaydı. (Kofman, 2017).

Güney Kore

Güney Kore, ölümcül AWS’nin geliştirilmesinde orantısız derecede güçlü bir oyuncu ve özerk nöbet silahları söz konusu olduğunda dünya lideridir. Güney Korelilerin yalnızca yüzde 17’si yapay zekaya güvenirken, çoğunun genel olarak robotlarla herhangi bir sorunu yok (Ipsos, 2018). 631 robotun her 10.000 insan işçiye oranıyla dünyadaki en yüksek robot yoğunluğuna sahipler (Peng, 2018). Yavaşlayan nüfus artışıyla karşı karşıya kalan Güney Kore, şu anda ordusunun saflarını doldurmak için zorunlu zorunlu askerlik hizmetine dayandığından, endüstriyel kullanımın ötesine ve askeri alana geçmek için otomasyon arıyor. Amerikan güvenlik şemsiyesi altında olmasına rağmen, Güney Kore’nin kendi silah geliştirme kapasitesi hala yüksek ve savunmaya yıllık 41 milyar dolar harcıyor (SIPRI, 2019).

Kuzey için inandırıcı bir tehditle, birincil endişeleri statik, savunmaya yönelik AWS’nin geliştirilmesi olmuştur. Dünyanın ilk sabit otonom robotik tareti olan Samsung SGR-A1, 2006 yılında Güney Kore’de geliştirildi (Parkin, 2015). Bunun ötesinde, Koreli silah üreticisi DoDAAM, hedefleri otonom bir şekilde tespit edebilen, izleyebilen ve ateşleyebilen uzun menzilli bir taret olan Super aEgis II’yi geliştirdi – ve rahatsız edici bir yayılma eğiliminde, bildirildiğine göre bu teknolojiyi Birleşik Arap Emirlikleri’ne sattı ve Katar (Parkin, 2015).

AI uzmanlığı geliştirme, Güney Kore’de önemli bir odak noktasıdır. Dünya şampiyonu Go oyuncusu Lee Sedol, Google’ın DeepMind AlphaGo AI sistemine yenilmesinden iki gün sonra, Güney Kore, AI araştırması için yaklaşık 1 milyar dolarlık söz verdi (Peng, 2018). 70.000’e yakın yapay zeka patenti, 50.000’den fazla yapay zeka yayını ve 2.000’den fazla yapay zeka uzmanı ile Güney Kore, dünya sahnesinde önemli bir oyuncudur (Bode ve Huelss, 2018; CISTP, 2019a, 2019c; Shoham ve diğerleri, 2018) . Güney Kore, 2020 yılına kadar altı yeni AI odaklı okul açarak küresel olarak rekabetçi kalmayı hedefliyor (Peng, 2018).

Avrupa Birliği

Avrupa Birliği, yakında dünyanın en büyük GSYİH’ye sahip olacak ve birkaç önde gelen silah üreticisi üye devleti ile birlikte, AWS geliştirmede küresel lider olma potansiyeline sahiptir (Dünya Bankası, 2019). Şu anda, AB’nin odak noktası endüstriyel yapay zeka ve robotiktir. Ölümcül AWS gelişiminde AB’nin baskın bir aktör olmasına en büyük engel, üyelerinin karışık niyetidir. Fransa, Almanya, Birleşik Krallık (Birleşik Krallık), İsveç ve İtalya hepsi otonom askeri

robotik sistemler geliştiriyor, ancak bazı üyeler kararsız kalıyor ve Avusturya AWS kullanımının yasaklanması çağrılarına bile katıldı (Boulanin ve Verbruggen, 2017; Katil Robotları Durdurma Kampanyası, 2018). Konuyu daha da karmaşık hale getiren Avrupa Parlamentosu, insanların her zaman ölümcül silah sistemleri üzerinde karar verme kontrolünü elinde tutması gerektiğini savunmaktadır (Avrupa Parlamentosu, 2018).

Toplamda 281 milyar dolar olan dünyadaki ikinci en büyük birleşik savunma bütçesi ve 2021 yılına kadar en az 8 milyar dolarlık uçangöz (drone) tedariki için öngörülen harcama ile AB, dünya standartlarında AWS donanımı geliştirme kapasitesine sahiptir (SIPRI, 2019; Statista, 2019). Bazı bireysel AB üye devletleri, kendi bakımlarından ağır rakiplerdir. Fransa tek başına savunma için Rusya ve Güney Kore’yi yılda 63 milyar dolardan fazla bütçeyle harcıyor ve ayrıca AI’nın askeri stratejilerinin önemli bir parçası olacağını belirtti (Peng, 2018; SIPRI, 2019). Almanya savunmaya yılda 49 milyar dolar harcıyor ve bir milisaniyeden daha kısa bir otomatik tepki süresine sahip bir “Aktif Savunma Sistemi” oluşturdu (Boulanin ve Verbruggen, 2017; SIPRI, 2019). Özerklik, İtalyan ordusu modernizasyon planının temel bir bileşenidir ve her yıl savunma için 27 milyar dolardan fazla para harcamaktadır (Nones and Marrone, 2012; SIPRI, 2019). Birleşik Krallık, dünyanın en büyük ikinci silah ihracatçısıdır, savunmaya yılda 49 milyar dolardan fazla para harcıyor ve uçangöz (drone) teknolojisine yoğun bir şekilde yatırım yapıyor (Boulanin ve Verbruggen, 2017; SIPRI, 2019).

AB, bazı AI ölçümlerinde ABD’yi bile geride bıraktı. AB üye devletleri, toplam 425.000’den fazla yapay zeka ile ilgili makaleleri yayınladı ve 233.000’den fazla ile yapay zeka patent başvuruları söz konusu olduğunda ikinci en yüksek rakamlara sahip (CISTP, 2019c; IPlytics GmbH, 2019). Dahası, yalnızca Almanya, Fransa, İngiltere, İspanya ve İtalya’dan gelen sırasıyla 41.000 ve 5.100’ün üzerinde yapay zeka yeteneğine ve en iyi yeteneğe sahip olan AB, dünyadaki en yüksek yapay zeka yeteneğine ve en iyi yeteneğe sahip ülkedir (CISTP, 2019a). Üye devletlerin birleşik uzmanlığı ve kapasitesi yeni Avrupa Savunma Fonu aracılığıyla etkin bir şekilde bir araya getirilebilirse, AB AI ve AWS silahlanma yarışında baskın aktör olarak ortaya çıkabilir.

Katil robotlara yasak getirerek, Yapay zeka silah yarışını sona erdirmek

AI silahlanma yarışı devam ederken, riskler yüksek olmaya devam ediyor, ancak kamuoyu tartışması eksik. Yirmiden fazla ülkede ankete katılan vatandaşların yüzde altmış biri, ölümcül AWS’nin geliştirilmesine karşı çıkıyor ve yine de milyarlarca vergi doları her yıl gelişimlerine harcanıyor (CSKR, 2019).Fransa, Almanya ve diğerleri, Belirli Silahlara İlişkin Sözleşmeyi (CCW) “Olası Kılavuz İlkeleri” geliştirmek için kullanılmasını savunmuştur. Bu kilavuz, AWS geliştirmesini uluslararası hukuka uygun kalmaya teşvikediyor.(Belirli Silahlara İlişkin Sözleşme, 2018).Bunun ötesinde, 28 eyalet katil robotların yasaklanması çağrısında bulundu ve ayrıca Bağlantısızlar Hareketi ve bir grup Afrika devleti robotik öldürmeye sınır koymak için yeni bir uluslararası anlaşma müzakere etmek istiyor. Kimyasal ve biyolojik silahlardan kara mayınlarına ve misket bombalarına kadar önceki silah yasakları, bu sorunlu silahların kullanımını önemli ölçüde azaltan etkili politika araçları olmuştur.

Amerika Birleşik Devletleri şu anda talihsiz “America First” politikasıyla liderlik edecek bir konumda olmasa da, AB ve diğer ileri görüşlü ülkeler sağlam küresel normlar belirlemeye çalışmalı ve AWS kullanımını şimdi yasaklamalıdır. Çin geçen yıl AWS’nin savaş alanında kullanımını yasaklamak istediğini, ancak geliştirme ve üretimini yasaklamayacağını duyurdu. Bu, dünyanın geri kalanıyla koalisyon müzakereleri için bir temel oluşturabilir ve önleyici güvenlik yönetişiminde ileri doğru atılmış önemli bir adımı temsil edebilir (Garcia, 2018).

Not

1. AI silahlanma yarışındaki diğer önemli yarışmacılar Hindistan, İsrail ve Japonya’dır, daha fazla bilgi için bkz. “Ölümcül AI Silahlanma Yarışında Kara Atlar” (Haner, 2019).

Referans

Altmann, J. and Sauer, F. (2017) ‘Autonomous Weapon Systems and Strategic Stability’, Survival, 59 (5), pp. 117–142.

Baker, S. (2017) Which Countries and Universities are Leading on AI Research?Times Higher Education, World University Rankings [online]. Available from: https://www.timeshighereducation.com/data- bites/which-countries-and-universities-are-leading-ai-research [Accessed 17 May 2019].

Bendett, S. (2017) Red Robots Rising: Behind the Rapid Development of Russian Unmanned Military Systems, The Strategy Bridge [online].
Available from: https://thestrategybridge.org/the-bridge/2017/12/12/ red-robots-rising-behind-the-rapid-development-of-russian-unma nned-military-systems [Accessed 17 May 2019].

Bendett, S. (2018) In AI, Russia Is Hustling to Catch Up, Defense One [online]. Available from: https://www.defenseone.com/ideas/2018/04/ russia-races-forward-ai-development/147178/ [Accessed 23 May 2019].

Bode, I. and Huelss, H. (2018) ‘Autonomous Weapons Systems and Changing Norms in International Relations’, Review of International Studies, 44 (3), pp. 393–413. https://doi.org/10.1017/ s0260210517000614.

Boulanin, V. and Verbruggen, M. (2017) Mapping the development of autonomy in weapon systems, Stockholm International Peace Research Institute [online]. Available from: https://www.sipri.org/sites/ default/files/2017-11/siprireport_mapping_the_development_of_a utonomy_in_weapon_systems_1117_1.pdf [Accessed 23 May 2019].

CAICT and Gartner (2019) Global AI Investment and Funding Share, Statista [online]. Available from: https://www-statista-com.ezproxy.ne u.edu/statistics/941446/ai-investment-and-funding-share-by-country/ [Accessed 23 May 2019].

Campaign to Stop Killer Robots (CSKR) (2018) Country views on killer robots. Campaign to Stop Killer Robots [online]. Available from: https://www.stopkillerrobots.org/wp-content/uploads/2018/11/KRC_ CountryViews22Nov2018.pdf [Accessed 23 May 2019].

Campaign to Stop Killer Robots (2019) Global poll shows 61% oppose Killer Robots, Campaign to Stop Killer Robots [online]. Available from: https://www.stopkillerrobots.org/2019/01/global-poll-61-oppose-killer- robots/ [Accessed 17 May 2019].

China State Council (2017) A Next Generation Artificial Intelligence Development Plan [online]. Available from: https://www.newamerica. org/cybersecurity-initiative/digichina/blog/full-translation-chinas-new- generation-artificial-intelligence-development-plan-2017/ [Accessed 17 May 2019].

CISTP (2019a) Center for International Strategy, Technology, and Policy AI talent by Country, Statista [online]. Available from: https://www- statista-com.ezproxy.neu.edu/statistics/941479/ai-experts-by-country/ [Accessed 21 May 2019].

CISTP (2019b) Center for International Strategy, Technology, and Policy Global AI Enterprises by Country, Center for International Strategy, Technology, and Policy [online]. Available from: https://www-statista- com.ezproxy.neu.edu/statistics/941054/number-of-ai-companies-world wide-by-country/ [Accessed 21 May 2019].

CISTP (2019c) Global AI Paper Publications, Statista [online]. Available from: https://www-statista-com.ezproxy.neu.edu/statistics/941037/ai- paper-publications-worldwide-by-country/ [Accessed 21 May 2019].

Cole, C. (2017) ‘Harm to Global Peace and Security’, in R. Acheson, M. Bolton, E. Minor and A. Pytlak (eds.), The Humanitarian Impact of Drones. Womens International League for Peace and Freedom, pp. 48–59. Available from: https://reliefweb.int/sites/reliefweb.int/files/ resources/humanitarian-impact-of-drones.pdf [Accessed 23 May 2019].

Convention on Certain Weapons (CCW) Group of Government Experts (2018) ‘Report of the 2018 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems’. United Nations Office at Geneva [online]. Available from: https://www.unog.ch/80256EDD006B8954/ (httpAssets)/20092911F6495FA7C125830E003F9A5B/$file/CCW_GGE. 1_2018_3_final.pd [Accessed 23 May 2019].

Cuthbertson, A. (2016) An Algorithm Powered by this $35 Computer Just Beat a Human Fighter Pilot, Newsweek [online]. Available from: https://www.newsweek.com/artificial-intelligence-raspberry-pi-pilot-ai- 475291 [Accessed 17 May 2019].

Department of Defense (DoD) (2012) Directive 3000.09, United States of America Department of Defense [online]. Department of Defense. Available from: https://www.esd.whs.mil/Portals/54/Documents/DD/ issuances/dodd/300009p.pdf.

Edmeades, A. (2017) ‘International Law Perspectives’, in R. Acheson, M. Bolton, E. Minor and A. Pytlak (eds.), Harm to Global Peace and Security. Womens International League for Peace and Freedom, pp. 101–114. Available from: https://reliefweb.int/sites/reliefweb.int/files/ resources/humanitarian-impact-of-drones.pdf [Accessed 23 May 2019].

European Parliament (2018) Texts adopted – Autonomous Weapon Systems, European Parliament Resolution. Available from: http:// www.europarl.europa.eu/doceo/document/TA-8-2018-0341_EN.html? redirect [Accessed 23 May 2019].

Garcia, D. (2014) ‘The Case Against Killer Robots – Why the United States Should Ban Them’, Foreign Affairs. Available from: https:// www.foreignaffairs.com/articles/united-states/2014-05-10/case-aga inst-killer-robots [Accessed 23 May 2019].

Garcia, D. (2016) ‘Future Arms, Technologies, and International Law: Preventative Security Governance’, European Journal of International Security, 1 (1), pp. 94–114.
Garcia, D. (2018) ‘Lethal Artificial Intelligence and Change: The Future of International Peace and Security’, International Studies Review, 20 (2), pp. 334–341.

Gartner (2018) Gartner Says Nearly Half of CIOs Are Planning to Deploy Artificial Intelligence, Gartner Newsroom. Available from: https:// www.gartner.com/en/newsroom/press-releases/2018-02-13-gartner-sa ys-nearly-half-of-cios-are-planning-to-deploy-artificial-intelligence [Accessed 16 May 2019].

Gettinger, D. (2018) Summary of Drone Spending in the FY 2019 Defense Budget Request. Center for the Study of the Drone at Bard College. Available from: https://dronecenter.bard.edu/files/2018/04/ CSD-Drone-Spending-FY19-Web-1.pdf [Accessed 17 May 2019].

Haner, J. K. (2019) Dark Horses in the Lethal AI Arms Race. Available from: JustinKHaner.com/AIArmsRace [Accessed 4 July 2019].

Horowitz, M. C. and Levendusky, M. S. (2011) ‘Drafting Support for War: Conscription and Mass Support for Warfare’, The Journal of Politics, 73 (2), pp. 524–534. https://doi.org/10.1017/s0022381611000119​.

Human Rights Watch (2019) China’s Campaign of Repression Against Xinjiang’s Muslims, Human Rights Watch [online]. Available from: https://www.hrw.org/report/2018/09/09/eradicating-ideological-viruse s/chinas-campaign-repression-against-xinjiangs#; [Accessed 20 May 2019].

IPlytics GmbH (2019) AI Patent Applications by Country Worldwide, Statista [online]. Available from: https://www-statista-com.ezproxy.ne u.edu/statistics/1007944/number-of-ai-patents-worldwide-by-country/ [Accessed 21 May 2019].

Ipsos (2018) Trust in artificial intelligence by country 2018, Statista [online] . Available from: https://www-statista-com.ezproxy.neu.edu/ statistics/948531/trust-artificial-intelligence-country/ [Accessed 21 May 2019].

Kania, E. B. (2017) Battlefield singularity: Artificial Intelligence, Military Revolution, and China’s Future Military Power [online]. Available from: https://www.cnas.org/publications/reports/battlefield-singula rity-artificial-intelligence-military-revolution-and-chinas-future-military- power [Accessed 17 May 2019].

Kofman, M. (2017) The Russian Defense Budget and You, Russia Military Analysis [online]. Available from: https://russianmilitaryana lysis.wordpress.com/2017/03/17/the-russian-defense-budget-and-you/ [Accessed 17 May 2019].

Mizokami, K. (2018) Russia’s Tank Drone Performed Poorly in Syria, Popular Mechanics. Available from: https://www.popularmechanics.c om/military/weapons/a21602657/russias-tank-drone-performed- poorly-in-syria/ [Accessed 17 May 2019].

Moscow Times (2014) Battle Robots to Guard Russian Missile Silos by 2020, Moscow Times [online]. Available from: http://themoscowtime s.com/articles/battle-robots-to-guard-russian-missile-silos-by-2020- 38460 [Accessed 17 May 2019].

Nissenbaum, D. and Strobel, W. (2019) Mideast Insurgents Enter the Age of Drone Warfare, The Wall Street Journal [online]. Available from: https://www.wsj.com/articles/mideast-insurgents-enter-the-age-of- drone-warfare-11556814441 [Accessed 17 May 2019].

Nones, M. and Marrone, A. (2012) The Transformation of the Armed Forces: The Forza NEC Program. Rome: IAI Research Paper (Istituto Affari Internazional).Olaifa, B. (2018) Boko Haram Now Engages Foreign Fighters, Says Army,
The Nation, Nigeria [online]. Available from: http://thenationonlineng. net/boko-haram-now-engages-foreign-fighters-says-army/ [Accessed 17 May 2019].

Parkin, S. (2015) Killer Robots: The Soldiers that Never Sleep [online]. Available from: http://www.bbc.com/future/story/20150715-killer-rob ots-the-soldiers-that-never-sleep [Accessed 17 May 2019].

Peng, T. (2018) South Korea Aims High on AI, Pumps $2 Billion into R&D, Medium [online]. Available from: https://medium.com/syncedre view/south-korea-aims-high-on-ai-pumps-2-billion-into-r-d-de8e5c0c 8ac5 [Accessed 17 May 2019].

Pisani, B. (2015) What Caused the Flash Crash? CFTC, DOJ Weigh In, CNBC. Available from: https://www.cnbc.com/2015/04/21/what-ca used-the-flash-crash-cftc-doj-weigh-in.html [Accessed 17 May 2019].

Research and Markets (2018) Artificial Intelligence in Military Market by Offering (Software, Hardware, Services), Technology (Learning & Intelligence, Advanced Computing, AI Systems), Application, Platform, Region – Global Forecast to 2025, Research and Markets [online]. Available from: https://www.researchandmarkets.com/resea rch/z8tfh7/18_8_billion?w=4 [Accessed 17 May 2019].

Roff, H. M. (2014) ‘The Strategic Robot Problem: Lethal Autonomous Weapons in War’, Journal of Military Ethics. 13 (3), pp. 211–2227. https://doi.org/10.1080/15027570.2014.975010. Sander, A. and Meldon, W. (2014) BCG Perspectives: The Rise of Robotics [online]. Available from: http://image-src.bcg.com/Imags/The_Rise_of_ Robotics_Aug_2014_tcm9-82495.pdfe [Accessed 17 May 2019].

Scharre, P. (2014) Robotics on the Battlefield Part II: The Coming Swarm, CNAS [online]. Available from: https://www.cnas.org/publications/ reports/robotics-on-the-battlefield-part-ii-the-coming-swarm [Accessed 17 May 2019].

Scharre, P. (2019) ‘The Real Dangers of an AI Arms Race’, Foreign Affairs, 9 (3).
Schwarz, E. (2018) The (Im)possibility of Meaningful Human Control for Lethal Autonomous Weapon Systems, Humanitarian Law & Policy [online]. Available from: https://blogs.icrc.org/law-and-policy/2018/08/ 29/im-possibility-meaningful-human-control-lethal-autonomous-wea pon-systems/ [Accessed 7 June 2019].

Sharkey, N. (2017) ‘Why Robots Should Not be Delegated with the Decision to Kill’, Connection Science, 29 (2), pp. 177–186. https://doi. org/10.1080/09540091.2017.1310183.

Shoham, Y., Perrault, R., Brynjolfsson, E., Clark, J., Manyika, J., Carlos, J. et al. (2018) The AI Index 2018 Annual Report. AI Index Steering Committee, Human-Centered AI Initiative, Stanford University, Stanford, CA.
SIPRI (2019)

Stockholm International Peace Research Institute (SIPRI) Military Expenditure Database [online]. Available from: https://www. sipri.org/databases/milex [Accessed 17 May 2019].

Sputnik News (2013) Russia to Focus on Robotic Weaponry in Arms Procurement, Sputnik News [online]. Available from: https:// sputniknews.com/military/20131211185469570-Russia-to-Focus-on- Robotic-Weaponry-in-Arms-Procurement/ [Accessed 17 May 2019].

Statista (2019) Global Drone Spending by Country, Statista [online]. Available from: https://www-statista-com.ezproxy.neu.edu/statistics/ 757608/global-drone-spending/ [Accessed 21 May 2019].

Tucker, P. (2017) ‘Russia to the United Nations: Don’t Try to Stop Us From Building Killer Robots’, Defence One [online], pp. 1–2. Available from: https://www.defenseone.com/technology/2017/11/russia- united-nations-dont-try-stop-us-building-killer-robots/142734/ [Accessed 23 May 2019].

West, S. M., Whittaker, M. and Crawford, K. (2019) Discriminating Systems: Gender, Race, and Power in AI [online]. Available from:http://cdn.aiindex.org/2018/AI Index 2018 Annual Report.pdf [Accessed 20 May 2019].
World Bank (2019) GDP Data, The World Bank Dataset [online]. Available

from: https://data.worldbank.org/indicator/ny.gdp.mktp.cd [Accessed 21 May 2019].

Yazar bilgileri

Justin Haner​, Northeastern Üniversitesi Siyaset Bilimi Bölümü’nde küresel yönetişim konusunda uzmanlaşmış bir doktora adayıdır. ve uluslararası güvenlik. Çalışmaları, uluslararası hukuk ve kurumların karmaşık küresel ve bölgesel güvenlik sorunlarını çözme konusunda sahip olabileceği dönüştürücü güce odaklanmaktadır.

Denise Garcia​, Northeastern Üniversitesi profesörü, Uluslararası Otonom Silahların Düzenlenmesi Paneli üyesi ve Uluslararası Robot Kolları Kontrolü Komitesi’nin başkan yardımcısıdır. Robotik ve Yapay Zeka, küresel güvenlik yönetişimi ve yeni uluslararası normların oluşumunu ve bunların barış ve güvenlik üzerindeki etkilerini inceliyor.