Epik hikayeler, efsaneler… Her ne kadar kurgusal gelse de kulağa, birçok kez birer uyarı niteliği taşıdıklarına da şahit olduk. Bazı ikilemlerden, paradokslardan doğmuştur zira birçoğu. Ve bir mesaj verirler. Aristo’nun Kral Midas’ı gibi. Bilenler vardır. Orta Anadolu’da var olan bir halk olan Frigler’in ünlü kıralı. Hakkında türlü efsane anlatılır. En ünlüsü ise Tuttuğu Altın Olan Midas hikayesi. Tanrı Dionysos, bir yoldaşına misafirperverce davranan Midas’a bir iyilik yapmak ister ve krala bir dileğini gerçekleştireceğini söyler. Bunun üzerine Midas, dokunduğu her şeyin altına dönüşmesini ister tanrıdan. Dileği gerçek olduğunda ise kral büyük bir hüsrana uğrayacaktır. Yemek için eline aldığı yiyecekler, içindeki nektarı tatmak için tuttuğu kadehler ve bahçesinde kokusunu içine çekmek için hafifçe dokunduğu güller bile altına dönüşmektedir. Midas, tanrıya kendisinin başlangıçta bir hediye sandığı bu laneti üzerinden kaldırması için yalvarır. Konunun özü: Ne dilediğinize dikkat edin.
Ve Kral Midas’ın ruhu bugün yine aramızda. Evet. Yapay zeka devriminde de dikkate almamız gereken bir uyarı bu. Ne dilediğimize dikkat etmemiz lazım. Biraz ekstrem ama basit bir örnekle somutlaştıralım bunu. Satranç oynayan bir algoritma. Şimdi bu algoritmayı tasarlayanlar tek bir hedef belirlemiş olsunlar: Ne olursa olsun oyunu kazan…
Herhangi bir etik ya da ahlaki çekincesi olmayan ve bugüne göre çok gelişmiş bir makinenin yapabileceklerini düşünün. Rakibinin tüm verilerine sahip olduğu için şantaj yapacak yığınla malzemeye de sahip. Ya da salonda bulunanları manipüle ederek rakibine sıra geldiğinde dikkatini dağıtmasını da sağlayabilir. Ya da hatta rakibine fiziksel zarar vermeyeceğinden emin olabilir miyiz? Sonuçta bir hedefi var: Kazanmak… Ne istediğimize dikkat etmeliyiz dedim ya… Neyse. İşte bu bahsettiğimiz problem bugün Kral Midas Problemi ya da “Uyum Problemi” olarak biliniyor. Ve biz bunun en iyi örneklerinden birini nerede görüyoruz biliyor musunuz?
Stanley Kübrick’in kült filmi 2001: A Space Odyssey’de… Filmde 5 bilim insanı Discovery One aracı ile Jüpiter’e doğru yol alırlar. Aracın tüm operasyonlarını da kısaca HAL olarak bildiğimiz HAL 9000 bilgisayarı gerçekleştiriyor. Kusursuz, asla hata yapmayan yapay zeka tabanlı bir model HAL. Yani bilim insanlarının kafası rahat. Fakat HAL bir noktada bilim insanlarının “insan” olmaktan kaynaklanan bir zayıflıkları olduğunu fark eder. Bu kusurlu varlıklar yegane görevi, Jüpiter’e ulaşmayı tehlikeye atabilirlerdi. Ve bu kabul edilemezdi. Ne olursa olsun görev tamamlanmalıydı. Çok spoiler vermeden zihninizde canlanan senaryoların çok daha çarpıcısının gerçekleştiğini söyleyebiliriz. Ve HAL’ın tüm bu süreçte başvurduğu türlü taktikler, stratejiler gerçekten de insanın o en derinlerdeki korkusunu tetikleyecek cinsten.
O yüzden tasarım tahtasına geri dönüp bazı şeyleri tekrar tekrar doğrulamamız gerekiyor.
Bir örnek üzerinden gidelim burada da. CIRL diye bir konsept vardır. İşbirlikçi Ters Pekiştirmeli Öğrenme. İsme takılmayın. Özetle bir model geliştirirken algoritmanın “işbirliğine” odaklanan, karşı tarafın davranışlarını gözlemleyerek öğrenmesinden bahsediyoruz burada. Ve hikayenin HAL’ın hikayesine dönmemesi için basit bir oyun tasarlayabiliriz. Bir robot tasarlayalım ve bu robotun tek amacı insanı mutlu etmek olsun. Elbette bunu bilmesi mümkün değil. Gözlemlemesi gerekir. Bir kişinin sabah rutinini öğrenerek kahvenin ne kadar önemli olduğunu anlaması gibi. Bunu öğrenerek kişi uyanır uyanmaz kahvesini hazır etmek o kişiyi mutlu edecektir. Ancak burada şöyle bir hile var. Ya kişiyi “kitlesel yıkım” mutlu ediyorsa? Bu durumda ne olacak? Kral Midas’ta olduğu gibi. Her şeyi altına dönüştürmek mutlu edecekse onu? Bu durumda işte bir kontrol mekanizmasına ihtiyacımız var.
Özünde aslında biz de ne istediğimizden çok emin değiliz. Ya da isteklerimizin sonuçlarının ne olacağından. İnşa edeceğimiz kontrol mekanizması doğrudan kendisinden talep edilenleri değil o kişinin ve o kişi ile birlikte tüm insanlığın hayrına olacak istekleri belirlemesini sağlamalı. Kral Midas “dokunduğum her şey altına” dönsün dediğinde bunun en nihayetinde onu açlıktan öldürebileceğini anlayıp “bazı şeyleri altına” dönüştürme şeklinde düzenlemelidir.
Ve elbette kontrol mekanizmasını biraz daha basitleştirip bir “açma kapama düğmesi” de inşa edebiliriz. Basit değil mi? Genelde, bir robot tehlikeli bir hale geldiğinde, basit bir çözüm olarak onu kapatabileceğimizi düşünürüz. Ancak, ya robot bu durumu öngörüp kapatma düğmesini işlevsiz hale getirirse?
Bu soruna çözüm olarak robotun karar verme sürecine bir miktar belirsizlik ekleyebiliriz. Basitçe şuna benziyor bu: Diyelim ki bir çocuğa odasını toplamasını söylediniz, ancak çocuk bunu yapmak istemiyor. Çocuğa, eğer odasını toplarsa dışarı çıkıp oynayabileceğini, ancak toplamazsa odada kalacağını söylüyorsunuz. Çocuk, dışarı çıkıp oynamak istediği için odasını toplamaya karar veriyor. Burada çocuğun odasını toplama eylemi, onun dışarı çıkıp oynamak istemesi nedeniyle olumlu bir teşvikle sağlanıyor.
Robot için de benzer bir mantık inşa edebiliriz. Robot, kendisine verilen görevleri yerine getirme konusunda bazı belirsizliklerle programlanır. Eğer robotun bir insanı mutlu etme görevi varsa ve insan onu kapatmak isterse, robot bunu, insanın mutlu olmadığı ve bu yüzden görevinin tehlikede olduğu anlamına geldiği şeklinde yorumluyor. Bu durumda, robot, insanın mutlu olmasını sağlamak için kapatılma olasılığını kabul ediyor. Yani, robot, kapatma düğmesini devre dışı bırakmaktan kaçınıyor, çünkü bu, insanın gerçekten ne istediğinden emin olmadığı ve insanın mutlu olmasını sağlama görevini riske atabileceği anlamına geliyor. Bu yöntemle, robotun kendini kapatma düğmesini devre dışı bırakma ihtimali azaltılıyor.
Ancak aslında bazen biraz daha basit de yaklaşmak gerekiyor bu probleme. Isaac Asimov’un 1942 tairhli Runaround isimli kısa öyküsünde yaptığı gibi. “3 Robot Yasasını” önermişti bu hikayede Asimov. HAL’ı inşa eden mühendisler de bu yasaları uygulasaydı problemin büyük bir kısmı halledilebilirdi. Bu 3 yasa bize şunları söylüyor: Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz. Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır. Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumak zorundadır.
Kubrick bu kuralları HAL’a entegre etseydi sorun çözülebilirdi ama tabi harika bir hikayemiz olmazdı o ayrı. Fakat tabi burada atladığımız bir şey var. Bizim bu kısıtlamaları inşa etmemiz “bilinç” kazanan bir makine için bir şey ifade etmeyebilir. HAL bilinçli miydi? Bilmiyoruz. Fakat zaten bu aşama başka bir kapıyı da açıyor. Bilinçli bir makine inşa ettiğimizde o zaman bambaşka sorunlardan bahsediyor olacağız. Bu bilinçli yapıların hakları ne olacak mesela? Bir evrensel robot hakları beyannamesi hazırlayacak mıyız? Bunu ayrıca konuşuruz elbette fakat basitçe şunu aklımızdan çıkarmamamız lazım:
Çernobil’de yaşadıklarımız bize çok güçlü bir teknolojide riskler olmadığını iddia etmemeyi öğretti bize. 11 Eylül 1933’de tarihin en iyi fizikçilerinden Ernest Rutherford atom enerjisinin çok da güçlü olmayacağını söylemiş daha 24 saat geçmeden zincirleme reaksiyon keşfedilmiş ve birkaç yıl içinde dünya yok oluşun eşiğine gelmişti. O yüzden temkinli olmakta fayda var. Riskleri anlamakta, bu risklere her anlamda hazırlanmakta fayda var. Bakalım bu ikilemlerin üstesinden gelebilecek miyiz? Bakalım Kral Midas’ın düştüğü hataya düşmekten geri durabilecek miyiz?
Ya da belki de tahminimizin aksine makineler bu konuda bize yardımcı olur ve mantıksız, korkunç isteklerimizi dizginleyenler onlar olur kimbilir?
