Askeri alanda her geçen gün otonom sistemlerin kullanımının arttığını görüyoruz. Geçtiğimiz haftalarda ABD Hava Kuvvetleri ile DARPA, tanklar ve hatta bir F-16 savaş uçağının kontrolünü yapay zekaya verme girişimlerinin son örneklerini paylaştı. Savunma sanayilerinde artan yapay zeka ve otonom sistemleri savunanlar kadar aslında savunmayanlar da bulunuyor. Bazı politikacılar bu tip “askeri robotların” yasaklanması için çağrıda bulunuyor.
“Neslimizin Oppenheimer anı”
Avusturya Dışişleri Bakanı Alexander Schallenberg, Viyana'da düzenlenen “İnsanlık Yol Ayrımında: Otonom Silah Sistemleri ve Mevzuat Zorluğu” başlıklı konferansta yaptığı konuşmada askeri yapay zekanın yükselişini ilk atom bombasının icadına benzetti ve "katil robotların" yasaklanması çağrısında bulundu. Schallenberg, yaptığı konuşmada "Bunun bizim neslimizin Oppenheimer anı olduğuna inanıyorum" dedi.
Yapay zekayı barutun icadından bu yana savaşta yaşanan en büyük devrim olduğunu ancak ondan daha da tehlikeli olduğunu düşünüyor. Schallenberg’e göre askeri yapay zeka sistemlerindeki bir sonraki adım, karar verme mekanizmasından insanların çıkarılması olacak. Halihazırdaki otonom sistemlerde veya yapay zekalı hedefleme sistemlerinde müdahale için insan operatörün onayı gerekiyor.
Schallenberg, insan kontrolünü sağlamak için uluslararası kurallar ve normlar üzerinde anlaşmanın zamanı olduğunun altını çiziyor. Bununla birlikte kendisinin bir yapay zeka karşıtı olmadığını ancak teknolojinin bir silah olarak etkisinin kavranması gerektiğini söylüyor. Benzer görüşler panelde konuşma yapan diğer politikacılar tarafından da dile getirildi.
Panelde bahse konu olan bir diğer konu da insanların denklemden çıkarıldığı senaryo ile ilgili. Bu durumda, şiddet uygulayan yapay zeka için hesap verebilirlik konusunun bir muamma olduğu belirtiliyor. Esasında bu düzenlenmesi gereken bir konu zira, günümüzün en iyi yapay zeka sistemleri bile mükemmel olmaktan uzaklar. Hatta hata yapmaya ve önyargılı davranmaya meyilliler. Bu sistemlerin askeri yapıların içerisine aceleyle sokulması ise haklı olarak endişe uyandırıyor ve günün birinde işerin ters gittiğinde kimin sorumlu olacağı sorusu soruluyor: "Komutan mı? Operatör mü? Yazılım geliştirici mi?"
Yapay zekanın silahlı hale getirilmesinin nükleer silahlar gibi son derece sofistike ve pahalı sistemlere nazaran çok daha hızlı bir şekilde yaygınlaşabileceğinden de endişe duyuluyor. Bunların terörist guruplar tarafından kullanılması da bir başka endişe kaynağı. Ancak Norveç Dışişleri Bakanı Eivind Van Peterson'un da belirttiği gibi, yapay zeka uluslararası hukuktan muaf değil, sadece kanunlar bu teknoloji göz önünde bulundurularak yazılmadı. Dolayısıyla hem ulusal hem de uluslararası hukukun bu teknoloji göz önüne alarak revize edilmesi ve düzenlemelerin getirilmesi gerekiyor. Panele katılan politikacılar, bu önlemlerin alınabileceği konusunda hemfikir. Aşağıdaki videodan konuşmaları izleyebilirsiniz.
Nükleer ne kadar yasaklandı ki bu yasaklansın. Anlaşma imzalıyorlar bir taraf deliyor sonra diğeri de öteki deldi diye çekiliyor. İmkansız artık, robotlar ve ai savaşın birebir iç...
Nükleer ne kadar yasaklandı ki bu yasaklansın. Anlaşma imzalıyorlar bir taraf deliyor sonra diğeri de öteki deldi diye çekiliyor. İmkansız artık, robotlar ve ai savaşın birebir içinde olacak kimse engelleyemez.
Robotları bilmem ama küçük Drone'lar korkunç. Ukrayna Savaşı'nda mesela - gerçi bunlar robot değil de FPV - Drone'lar yüzünden kan gövdeyi götürüyor. Gerçek güvenlik tehlikesini bunlar oluşturuyor bile denebilir çünkü bir ufaklar, iki kolay kolay fark edilmiyorlar, üç hızlılar ve dört bu özelliklerle beraber silahlı oldular mı tamamen ölümcüller. Gerçek Terminatör gibiler. Öyle ki koca koca tankları bile bunlardan koruyamadıkları için üzerlerine adeta barınak tarzında kalkanlarla kapatıyorlar artık. Varlığını asla fark etmediğiniz ve sizi uzaktan gözlemleyen bir Drone 30 saniye içerisinde hızla üzerinize gelip taşıdığı bombayla sizi daha ne olduğunu bile anlamadan öldürebilir (Kamikaze FPV Drone). Bu önlenmesi oldukça güç korkunç bir dinamizm. Muazzam derecede verimli. O sebeple FPV Drone'lar o savaş alanının temel ve belirleyici unsurlarından birisi haline geldi.
Yapay zekaların ve Drone'ların - ya da bunları kontrol eden bir gücün veya güçlerin - hükmedeceği güvenliksiz bir distopyayı kimse istemez. Nükleer silahların garanti karşılıklı yıkım ve çevreyi mahvetme potansiyeli açık. O sebeple ironik şekilde dünya barışına katkıda bulunuyor. Ama Drone'ların tehlikesi o kadar açık değil. Henüz uçan minik Drone'lar tarafından avlanmadıkları için insanlar karşılarındaki tehlikenin o kadar da farkında değil. Ama önlem almazlarsa ve gelecekte bir gün kafalarına dank ederse biraz geç kalmış olabilirler.
tarihe bakarsaniz net sekilde goruluyorki askeri gucu kim elinde tutuyorsa gercek yoneten odur.
kipcak turklerini misira kole asker olarak getiriyorlar bir kac kusak icinde koleler efendi oluyor, misiri yuzlerce yil memlukler yonetiyor. bati roma ordularinda cermen askerleri kullanmaya basliyor, bati romanin sonunu cermenler getiriyor.
yakin gelecekte ordular tamamen robotize oldugunda bunun agir sonuclari olacaktir. terminator benzeri robot isyani olasi bir senaryo tabi, direk isyan olmasada memluk ornegindeki gibi yapay zeka bilinc kazandikca yavas yavas tum kontrolu alip insanligi evcil hayvanina cevirebilir.
robotlarin yapay zekanin sonsuza kadar insanliga sadik kaldigini farzedelim, robotlasmis ordu bu seferde ortacagdaki feodal sistemi geri getirecektir. ne demistik, askeri gucu kontrol eden herseyi kontrol eder. ortacag avrupasinda savas kazandiran guc sovalyelerdi, agir zirhli suvariydi. agir zirhli suvarinin donanimi egitimi cok pahalidir, bu yuzden asillerin sovalyelerin tekelinde olan bir guctu, tum askeri guc ellerinde oldugu icin toplumun geri kalanini kolelestirip fakirlestirdiler, tum topraklarin sahibi oldular. koyluleri o topraklarda kole olarak calistirdilar. ne zamanki atesli silahlar geldi, agir suvari anlamini yitirdi, avaraj koyluden 1 senelik egitim ile etkili ordu kurmak mumkun oldu o zaman guc yeniden halkin geneline dagildi, demokrasiler guclendi. robotik ordunun gelisi modern cagda yasanan bu degisimi tersine cevirir. robotlari kontrol eden kucuk bir zumre herseyin sahibi haline gelir, insanligin geri kalanini fakirlestirip kolelestirir. yeni bir feodal cag baslar.
Mini Drone'lar konusunda işin biraz dramasını yaptım. Yoksa elbette anti önlemleri - countermeasures - mevcut. Ukrayna Savaşı'nda zaten bu dengeleyici önlemlere başvuruyorlar ama Drone'lar bariz bir tehdit olarak varlıklarını sürdürüyorlar ve savaş alanında verilen zayiatlarda hala belirli bir payları var. Uçan Drone'lara nazaran mevcut robotlar - savaş alanı bağlamı için - biraz hantal veya etkisiz gözüküyorlar ama geleceğin ne getireceği tabii belli olmaz. Şu an için modern savaş alanlarında hakim yeni unsurlar robotlardan ziyade - uçan - Drone'lar. Bu Drone'lar fazla çığırından çıkarsa toplumsal güvenliği asimetrik bir şekilde etkileyebilirler. Yoksa çağdaş savaş alanlarında rekabetçi kalabilmenin ve başarı elde edebilmenin geçerli prensibi belli: "combined arms" dedikleri çeşitli unsurların koordineli savaş hali ve pekala olmazsa olmaz mevzu, lojistik. Bunlar bir savaştaki temel kaideler. Teknoloji anlamında muazzam / çağ bazlı bir fark bulunmuyorsa teknoloji savaşta başarıyı bu saydıklarım kadar belirlemez. Rusya Ukrayna'yı 2022'de işgal ederken bu prensipleri başarıyla icra edebilseydi bugün Kiev belki de Rusların elindeydi. Savaş şimdiki gibi kilitlenmemiş olacaktı. Gerçi Ruslar şu anda ilerliyor ama ABD'nin yardım paketi onaylandı ve Batı'dan Ukrayna'ya yardımlar akmaya devam ediyor. Savaşın nasıl gelişeceği belli olmaz.
< Bu mesaj bir yönetici tarafından değiştirilmiştir >
Nükleer ne kadar yasaklandı ki bu yasaklansın. Anlaşma imzalıyorlar bir taraf deliyor sonra diğeri de öteki deldi diye çekiliyor. İmkansız artık, robotlar ve ai savaşın birebir içinde olacak kimse engelleyemez.
“Neslimizin Oppenheimer anı”
Avusturya Dışişleri Bakanı Alexander Schallenberg, Viyana'da düzenlenen “İnsanlık Yol Ayrımında: Otonom Silah Sistemleri ve Mevzuat Zorluğu” başlıklı konferansta yaptığı konuşmada askeri yapay zekanın yükselişini ilk atom bombasının icadına benzetti ve "katil robotların" yasaklanması çağrısında bulundu. Schallenberg, yaptığı konuşmada "Bunun bizim neslimizin Oppenheimer anı olduğuna inanıyorum" dedi.
Yapay zekayı barutun icadından bu yana savaşta yaşanan en büyük devrim olduğunu ancak ondan daha da tehlikeli olduğunu düşünüyor. Schallenberg’e göre askeri yapay zeka sistemlerindeki bir sonraki adım, karar verme mekanizmasından insanların çıkarılması olacak. Halihazırdaki otonom sistemlerde veya yapay zekalı hedefleme sistemlerinde müdahale için insan operatörün onayı gerekiyor.
Ayrıca Bkz.Çin, beyin çipi ile “bilişsel gelişim” sağlayacak
Panelde bahse konu olan bir diğer konu da insanların denklemden çıkarıldığı senaryo ile ilgili. Bu durumda, şiddet uygulayan yapay zeka için hesap verebilirlik konusunun bir muamma olduğu belirtiliyor. Esasında bu düzenlenmesi gereken bir konu zira, günümüzün en iyi yapay zeka sistemleri bile mükemmel olmaktan uzaklar. Hatta hata yapmaya ve önyargılı davranmaya meyilliler. Bu sistemlerin askeri yapıların içerisine aceleyle sokulması ise haklı olarak endişe uyandırıyor ve günün birinde işerin ters gittiğinde kimin sorumlu olacağı sorusu soruluyor: "Komutan mı? Operatör mü? Yazılım geliştirici mi?"
Yapay zekanın silahlı hale getirilmesinin nükleer silahlar gibi son derece sofistike ve pahalı sistemlere nazaran çok daha hızlı bir şekilde yaygınlaşabileceğinden de endişe duyuluyor. Bunların terörist guruplar tarafından kullanılması da bir başka endişe kaynağı. Ancak Norveç Dışişleri Bakanı Eivind Van Peterson'un da belirttiği gibi, yapay zeka uluslararası hukuktan muaf değil, sadece kanunlar bu teknoloji göz önünde bulundurularak yazılmadı. Dolayısıyla hem ulusal hem de uluslararası hukukun bu teknoloji göz önüne alarak revize edilmesi ve düzenlemelerin getirilmesi gerekiyor. Panele katılan politikacılar, bu önlemlerin alınabileceği konusunda hemfikir. Aşağıdaki videodan konuşmaları izleyebilirsiniz.
http://www.youtube.com/watch?v=Ju9fvM6pAS0
Kaynak:https://www.theregister.com/2024/04/30/kill_killer_robots_now/
Haberi Portalda Gör