Hepimizin zihnini kurcalayan ama konuşmaktan, bahsetmekten korktuğumuz bir konu var. Sanki konuşursak, yüksek sesle söylersek gerçek olacak gibi. Evet. Yapay zeka ile tüm dünya bambaşka bir yere doğru giderken çok ama çok önemli bir konuyu hala konuşmaya bile başlamadık doğru düzgün. Aslında ilk, hemen, her şeyden önce durup konuşmamız gerekiyor bunu. Eline silah almış bir yapay zekadan bahsediyorum. Eline silah almış derken de, tam anlamı ile… O sevimli robotlar, o vızır vızır uçan dronelara yerleştirilen silahlardan bahasediyorum. Bakın. Sadece şu video bile tek başına durup konuşmamız için yeterli.
Şunu yapabilmek o kadar basit ki bir makine için… Ve bunu yapmak için öyle büyük kötücül milyar dolarlık şirketlere de ihtiyacınız yok. Birkaç ekipmanı, iyi bir bilgisayarı olan, dünyanın herhangi bir yerinde, iyi niyetli olmayan bir mühendisin birkaç gününü alır bunu yapmak. Ve bunu bir robota, bir dronea entegre etmek. Ve sevmediği, haz etmediği birinin görüntüsünü bu dronea ya da bu robota yükleyip bu robotu salıverdiğinde evinden çıkmadan kusursuz bir suikast gerçekleştirmesi… Ve bunu “kötücül” ülkelerin, çetelerin, derin oluşumların nasıl kullanacağını bir düşününce…
Silahlı robot köpeklerden yapay zeka destekli güdümlü dronelara kadar… Yapay zeka destekli savaş olasılığında yaşanacak etik ikilemleri işte hemen konuşmamız gerekiyor. Gelin konuşalım… Bir ihtimal gibi konuşuyoruz bunu ama bakın 2020 yılının kasım ayında İran’da ne yaşanmıştı. Tahran’da bir VIP konvoyu ilerliyordu. Bu konvoy çok değerli bir isimi taşıyordu. İranlı bilim insanı Mohsen Fakhirzadeh. İran’ın gizli nükleer silah programının başındaki isim. O gün karısını köylerindeki evlerine bırakmaya gidiyordu. Her zaman olduğu gibi korumaları ile çevrili halde. Tam eve varacakken işte olanlar olmuştu.
Bir anda silah sesleri duyuldu ve mermiler doğrudan Fakhirzadeh’in içinde bulunduğu aracı hareket edemez hale getirdi. Araç durduktan sonra birkaç silah sesi daha duyuldu. Bu sefer Fakhirzadeh omzundan vurulmuş ve kendini aracın dışına atmıştı. Dışarı çıkar çıkmaz ise asıl ölümcül atış gelmiş ve Fakhirzadeh hayatını kaybederken eşi arabada hiçbir yara almamış halde eşinin bir yarı otonom suikastçi tarafından öldürülmesini izliyordu.
Evet. Yapılan incelemelerde yol kenarına yerleştirilmiş üzerinde kameralar bulunan bir robotik makineli silah bulunmuş ve bu kameralar hedefi tespit ettikten sonra 1000 km ötedeki bir kişi vur emrini vermişti. Hedefi şaşırmamak adına yine uydudan aldığı görüntülerle doğrulama yapmış ve asıl aracı ve asıl hedefin yok edilmesini sağlamıştı. Fakirzadeh bir makinenin suikastine uğramıştı özetle.
Tabi bu süreç sonrasında Ukrayna-Rusya savaşında da “yapay zeka destekli savaşın” ilk denemelerini gördük. Yine tam otonom olmasa da yarı otonom insansız silahlı hava araçları ile hedefler vuruluyor, dronelarla el bombaları gizli hendeklerde saklanan askerlerin tepelerine bırakılıyor. Bilim kurguda gördüğümüz sahneler gözümüzün önünde gerçekleşiyor anlayacağınız. Ve söylediğimiz gibi. Bunlar ilk adımlar.
Zira örneğin Çin’de özel bir savunma şirketinin geçenlerde yayınladığı bir videoda üzerindeki bir makineli silah ile bir kabus gibi uyanan, herkesin satın alabileceği bir robot gördük. Yine bir Rus tarafından modifiye edilmiiş bir robot köpeğin silah atışlarını da gördük. Bunlar başta da bahsettiğim gibi özel ya da kişisel girişimlerle başarılan teknolojiler.
İşte bu gelişmeler haliyle hem bizim gibi sıradan insanlar hem de atom çağında olduğu gibi kitlesel yok oluşa neden olabileceğinin gayet farkında olan bazı uzmanlar için çok endişe verici. Hatta bunun için Boston Dynamics öncülüğünde beş robotik şirketi bir çağrı yayınlamıştı. Bir tür mektup. Şöyle diyorlardı açıklamalarında: Silah entegre edilmiş ve uzaktan ya da otonom şekilde kontrol edilen, daha önce savaşın ulaşamadığı yerlere rahatça erişebilen robotların kamuya açık olması ve herkese açık şekilde satılması çok büyük riskler ve etik sorular doğurmaktadır. Bu yeni teknoloji robotların silahlandırılması ayrıca aslında tüm dünyaya çok büyük faydalar sağlayabilecek teknolojik gelişmelere karşı güvenin de sarsılmasına yol açacaktır.”
Boston Dynamics CEO’su ayrıca bir açıklamasında şunu da söylemişti: “İnsanların herkesin alabileceği robotlarda yaptıkları ev yapımı silah modifikasyonlarını görüyoruz. Biz robotik şirketleri olarak buna tamamen karşıyız. Siyasilerin, kanun koyucuların bu konuda önlem alması, çok sert adımlar atması gerektiğine inanıyoruz.”
Çok da güzel açıklamalar bunlar tabi. Özellikle bu konunun öncülerinden gelmesi harika. Fakat Boston Dynamics’in atladığı bir şey olabilir. Biliyorsunuz. Boston Dynamics’in sahibi Hyundai. Hyundai’nin Rotem isimli bir kolu daha var. Hyundai Rotem demiryolu ile birlilkte ağır sanayi ve savunma teknolojilerinde uzman. Ve Rotem yakın zamanda Rainbow Robotics isimli başka bir Güney Koreli şirket ile “silahlı bir robot köpek” geliştirmek üzere anlaşma yapmıştı. O yüzden. Yapılan açıklamaları şöyle bir uzaktan izlemek lazım.
Kimse silahlı robotlar yapmasın derken “siz yapmayın, biz yapalım” demek anlamına gelme ihtimali de var zira. Bunu hep gördük tarihte. Fakat neyse. Kişisel, hiçbir şekilde düzenlenmeyen, tüm kontrolsüz modifikasyonlar konusunda haklılar elbette. Bunun kaçınılmaz olduğunu biliyoruz. O yüzden kim geliştirirse geliştirsin, bu konuda hala önemli hukuki ve etik adımların atılması gerekliliği baki.
Konunun başka bir yönünü de konuşmamız lazım tabi. Yapay zeka destekli silahlı robotların kullanımında benimsenecek karar hiyerarşisi. Şu aşamada bahsettiğimiz gibi bu tip insansız araçlar çoğunlukla yer tespiti ve hedef önerisi için kullanılıyor. Evet. Yapay zeka desteği ile hangi hedeflerin öncelikli olarak vurulması gerekliliğine dair operatöre yönlendirme yapılıyor. Örneğin siz bir grup hedefin hangilerinin sivil olduğundan emin olamadığınızda robotlar bu konuda sizi yönlendirebiliyor. Ama karar tabi yine size ait. Fakat. Bulunduğumuz nokta çok kritik.
Çünkü bir noktadan sonra şunu fark edeceğiz. Robotlar bu konuda çok iyiler. Kimin sivil, kimi suçlu, kimin potansiyel intihar bombacısı filan olduğunu çok iyi, neredeyse kusursuz bir şekilde tespit edebilecekler. İşte kritik eşik burası. Bu noktada üzerinde zaten silahı ve cephanesi bulunan robota “sen zaten bu işte iyisin, hedefleri imha etme kararını sana bırakıyorum” dediğimiz anda geri dönüşü olmayan bir şey yapmış olabiliriz. Otonom sistemlere karar yetkisini verdiğiniz anda kontrol artık sizde olmaz çünkü. İşte o nokta Terminatör’ün gerçekleşmeye başladığı gün olarak tarihe geçebilir.
Yani tamamen otonom sistemler hala uzakta gibi görünse de yapay zeka gelişmelerinin hızı tam da bunu konuşmamız gerektiğini gösteriyor bize. Çünkü. Savaşlar puslu vadilerdir. Doğru ile yanlış o kadar birbirine karışır, iyi ile kötü o kadar buğulu görünür ki bu noktada yapılacak hataların geri dönüşü olmayabilir. İyi kötü tanımının flulaştığı bu ortamda da makinelere güvenmek yapacağımız en büyük hata olacaktır. Yani “öldürme” kararını alan bir makinenin doğru kararı aldığından nasıl emin olabilirsiniz ki? Bir çocuğun potansiyel bir tehlike olabileceğine karar vermesi durumunda mesela…
Bunun için illa ki savaş makinelerine de odaklanmamıza gerek yok. Zira biz daha neyi hala çözemedik biliyor musunuz? Otonom araçların kaza durumunda ne yapması gerektiğini hala oturtamadık biz. Tren yolu probleminde olduğu gibi. Bir kaza kaçınılmaz olduğunda ve mutlaka birilerinin ölmesi gerektiğinde tamamen otonom bir araç kimlerin ölmesi gerektiğine nasıl karar verecek? Ve bunun hesabını kim verecek? Ve burada tamamen ulaşım için tasarlanmış araçlardan bahsediyoruz. Söz konusu “ölüm makineleri” olduğunda sorun daha da derinleşiyor tabi. Çözüm peki?
Bazı uzmanlara göre “kendi zafiyetleri olan” yapay zeka savaş robotları üretmemiz gerekiyor. Yani kendi hassasiyetleri, kendini koruma içgüdüsü ile birlikte insani değerleri de veri setine dahil ettiğimiz robotlar. Kıbrıs Harekatı ve Kıbrıs Meselesi sonrasında Birleşik Krallık, Türkiye ve Yunanistan arasında imzalanan Cenevre sözleşmelerinde insan askerlerden beklenen hassasiyetleri benimseyen robotlar gibi. Etik değerlere bağlı kalan savaşçı robotlar… Kulağa hoş gelse de şunu da unutmamak lazım. En etik, en güvenilir robotların bile karşı karşıya olduğu bir risk her zaman var. Hacklenme riski.
Red Alert 2 oyununu oynayanlar hatırlar, oradaki Yuri karakterinin de yapabildiği gibi düşman robotlarının hacklenmesi ve size karşı kullanılması durumunda ne yapacaksınız mesela?
Bunun için bu teknolojinin gelişiminde bir gözümüz mutlaka tarihte olmalıdır. Kimyasal, biyolojik ya da nükleer silahların gelişiminde veya kullanılmasında bir noktada anlaşmaların imzalanması, bazılarının tamamen durdurulması veya yasaklanması öyle canları istediği ya da tüm insanlığı düşündükleri için değildi. Bir noktada “hepimiz bir sakin olalım, bu işin sonu hepimizi yok edecek” diye düşündükleri içindi. “Hadi oturup konuşalım” demek zorunda kalmışlardı. Fakat bu “oturup konuşmaları” için geçen sürede yüzbinler hayatını kaybetmişti malum.
O yüzden umarım bu kez uluslararası bir işbirliği ve ortak bir akıl çok geç olmadan oturup konuşmaya karar verir. Yoksa gerçekten 1. Dünya savaşı için söylenen “tüm savaşları bitirecek savaş” söylemi bu sefer gerçek olabilir… Ne dersiniz?
