DEEPFAKE İnsanları Kandırmaya Başladı!

Bu yazı, 20 Şubat 2022 tarihinde yayımlanan Bebar Bilim videosunun metninden uyarlanmıştır. Güncel gelişmeler içeren değerlendirmeler özgün yayın tarihinin bağlamındadır.

Neil Armstrong ve Buzz Aldrin aya ayak basıp geri döndüklerinde Apollo 11 görevi başarılı olmuş ve sadece Amerika’da değil tüm dünyada büyük bir heyecan yaratmıştı. Fakat bu gerçekten inanılmaz riskli bir görevdi ve her anlamda görevin arkasındakiler tüm görev boyunca diken üstündeydi. Büyük bir felaketle sonuçlanması hiç de düşük bir ihtimal değildi. Ve buna her anlamda hazırlanmak gerekiyordu. Ve dönemin başkanı Richard Nixon’ın da böyle bir felaket yaşanması durumunda yapacağı konuşmanın metni de hazırdı. Evet. Neil Armstrong’un, Buzz Aldrin’in arkasından onlar için söylenecek sözler, nasıl kahraman olduklarına dair açıklamalar bekliyordu. Neyse ki bu konuşmayı yapmasına gerek kalmadı Nixon’ın. Her şey yolunda gitti ancak… Ya gitmeseydi?

Bu konuşma nasıl olurdu? Garip bir şekilde artık biliyoruz. Evet. Bu imkansız konuşmanın nasıl olacağına dair bir “deepfake” videosu hazırlanmıştı zamanında. Hatırlayanlarınız vardır. Videoda Richard Nixon’ın yüzü, sesi… Birebir aynı şekilde taklit edilmiş ve tüm unsurları ile bu imkansız konuşma canlandırılmıştı. O kadar gerçekçiydi ki izleyenler ilk başta neye uğradıklarını şaşırdılar. Her anlamda. 0 Zira sadece ses ve yüz değil tüm çevresel ipuçları da entegre edilmişti. Çünkü gerçeklik algımızı genellikle çevredeki unsurlar, kıyafetler, arkadan geçen kişiler, cisimler… Bunlar belirler. Bir bütünlük arar beynimiz.

Fakat bu çok çarpıcı prodüksiyon bize bir mesaj veriyor. Bu teknoloji ile ilgili artık bir eşik aşılmış durumda. Videonun devamında başka bir örneğe de bakacağız ancak bu bağlamda, deepfake ile ilgili yapılan acayip bir araştırmaya ve sonuçlarına ve bizi bekleyen risklere birlikte bakalım. Çok eski bir teknoloji değil deepfake. Kısaca bilgisayar yardımı ile bir kişinin gerçeğe çok yakın dijital kopyasının oluşturulması olarak özetleyebiliriz bu teknolojiyi. Birkaç yıldır da hayatımızda.

Dayandığı altyapı ise “deeplearning” yani derin öğrenme olarak bildiğimiz bir tür yapay zeka tekniği. Bu teknik aslında insan beynindeki sinir ağlarını çok çok temel düzeyde taklit etmeye yönelik geliştirilmiş bir teknik. Temel amacı da elinizdeki inanılmaz sayıdaki veri içindeki düzeni, istatistiksel bağlantıları anlamak, analiz etmek ve sonuçlar çıkarmak. Deepfake’de ise elinizdeki veri bir tür görsel ya da video. Birazdan anlatacağım çalışmada da göreceğimiz gibi piksel piksel çalışarak gerçeğe çok yakın bir görsel ya da video üretmek mümkün.

Ama ilk örnekler elbette çok çok basitti ve doğrudan anlayabiliyordunuz. Daha sonra oldukça ilerlese de o “bir şeyler doğru değil” hissini ortadan kaldıramamışlardı. Özellikle dijital kopyanın gözleri onun gerçek olmadığına dair çok şey anlatıyordu. “Boş bakışlar”. Biliyorsunuz. Ama artık Aya iniş felaketi örneğinde olduğu gibi burada da bazı sınırlar aşılmış durumda. Artık yavaş yavaş özellikle deepfake dünyasında gerçek ile dijital arasındaki o çizgi belirsiz olmaya başladı. Ve bu inanılmaz gerçekçiliğin de ilk etapta, çok düşünmeden aklımıza gelen bazı çok ciddi riskleri var.

En basiti. Siyasi ya da kişisel çıkar amacı ile dezenformasyon kampanyalarında çok rahat kullanılabilir. Ya da şantaj amacı ile mesela birinin cinsel içerikli videoları çok rahat üretilebilir. Bir itibar suikastı. Aklınıza gelebilecek yığınla aldatma ve dolandırıcılık suçlarının öznesi olarak kullanılabilir artık bu dijital kopyalar. İşte o nedenle artık bir görüntünün “dijital kopya” olup olmadığını anlamaya yönelik karşı önlemlerin geliştirilmesi de bir tür savaşa dönmüş durumda. Bir tarafta siber güvenlik cephesi diğer tarafta her gün kendini geliştiren siber suçlular ve siber savaş uzmanları cephesi.

Ve bu konu ile doğrudan bağlantılı bir çalışma geçtiğimiz günlerde PNAS dergisinde yayımlandı ve özünde bu teknolojinin nereye geldiğini bir nevi kanıtlıyor. Detaylara geleceğiz ama sonuçlar bize şunu gösteriyor. İnsanlar artık makinelerin ürettiği insan yüzlerini gerçeğinden ayırmakta çok çok zorlanıyor ve daha da çarpıcısı insanlar deepfake insanların gerçek insanlardan daha güvenilir olduğunu düşünüyor. Evet. Çalışmayı yürütenlerden profesör Hany Farid de benzer şeyler söylüyor “Artık dijital yüzlerin çok gerçekçi olduğunu biliyoruz. Daha ilginç olanı insanların bu dijital kopyaları bize, gerçek insanlara tercih etmeye başlamış olması.”

İşte bu nedenle “güvenlik” endişeleri hiç olmadığı kadar artmış durumda. Ve uzmanlara göre “Tehlikeli deepfake dünyasına girmiş bulunuyoruz”. Zira bunun en düşündürücü tarafı şu. Şöyle düşünün. Bu bir tür silah. Gerçekten öyle. Kimlerin ne amaçla kullanacağını bilmiyoruz. Bunu kontrol edemeyiz. Ama asıl sorun bu silah ortalıkta geziyor. Hiçbir kontrol yok. Bu dijital kopya üretim araçları, yazılımları, uygulamaları herkese açık. Evet şu için halka açık bu uygulamalar gerçeğinden ayırt edilemeyecek sonuçlar vermese de çok yakında bu sorunun da ortadan kalkacağını çok rahat söyleyebiliriz.

Yüzünüzü başka yüzlerle entegre ettiğiniz birkaç yıl önceki ilk uygulamaları bir düşünün. Ve şimdiki geldiğimiz yeri. Çok zamanımız yok anlayacağınız. Ama şu çalışmanın detaylarına bir bakalım. Bu çalışmada kullanılacak dijital yüzler bakın nasıl üretilmiş.

İlk olarak üretim için bilişimde üretken çekişmeli ağlar ya da generative adversarial networks isimli bir olgu kullanılarak iki tür neural network yani sinir ağı arasında bir tür doğrulama döngüsü uygulandı. Biraz teknik oldu biliyorum ama şöyle anlatayım. İki tür sinir ağından biri üretici durumunda. Buna öğrenci diyelim. Bu öğrenci kendi kendine böyle bir çocuk kağıt üzerinde yüz çizer gibi sentetik yüzler çizmeye başlıyor. Ayırıcı isimli diğer bir ağ da ki biz buna akıl hocası diyelim, gerçek insan resimleri konusunda uzman. Öğrenci yüz çiziyor ve akıl hocasına gösteriyor. Hoca da gerçek resimlerle karşılaştırarak öğrencinin çizdiği resmi değerlendiriyor, puanlandırıyor.

Öğrenci tabi başta hiçbir şey bilmediği için rasgele çiziklerle, sağa sola attığı fırça darbeleriyle başlıyor. Her adımda hocası onu yönlendiriyor… Ama bu sürecin bir makine öğrenmesi süreci olduğunu unutmayın. Bizim için aylar yıllar sürecek üretim ve geribildirim ve düzeltme gibi süreçler saniyeler, dakikalar içinde gerçekleşebiliyor. İşte çalışmada öğrenci hocasından aldığı dönütlerle en nihayetinde mezun oluyor. Çünkü artık hocası öğrencisinin çizdiği yüzleri gerçeğinden ayırt edemeyecek hale geliyor… Harika. Gerçekten. Bu arada.

Önceden bu tip algoritmalar sadece belirli yaş grupları ve belirli ırklar üzerinde denenirdi. Bu çalışmada ise Siyahi, Asyalı, Güne Asyalı, Beyaz kadın ve erkekler fark gözetmeksizin dahil edildi.

Ve 400 gerçek yüze karşılık 400 sentetik kopya üretildikten sonra araştırmacılar 315 kişiye rasgele seçtikleri 128 fotoğrafı göstererek bu fotoğrafın gerçek bir insan olup olmadığını sordular. Diğer bir grupta ise 219 kişiye gerçeği kopyasından nasıl ayırt edebileceklerine dair eğitim verildi. Son olarak ise 223 kişiden oluşan bir gruba gördükleri yüz ile ilgili bir ila yedi arasında çok güvenilir veya hiç güvenilmez arasında bir değerlendirme yapması istendi. Öncelikle gerçek ile kopyayı ayırt etmesi istenen ilk grubun sonuçları yazı tura atmaktan farksızdı. Sadece %48,2’si başarılı olabildi.

Farkı anlamaları için eğitilen ikinci grup peki? Maalesef. Çok çok iyi sonuçlar çıkmadı oradan da. Sadece %59’u başarılı olabildi. Güvenirlirlik puanı veren üçüncü grubun sonuçları da ilginçti. 1 ila 7 arasında gerçek yüzlere ortalama 4.48 güvenilirlik puanı verirken dijital kopyalara 4.82 puan verdiler. Yani? Evet. Makineler bizim güvenimizi kazanmaya başladılar. Ya da. Başka bir örneğe bakalım. Bu adamı birçoğunuz tanır değil mi? Bir de burada görelim. Pek bu işleri yapacak biri değil Tom Cruise ama? Çünkü bu. Tom Cruise değil. Bu “deepTomCruise”… Öyle stüdyoda hazırlanan bir “deepfake” videosu değil bu.

Artık günlük yaşam içerisine neredeyse kusursuzca entegre edilmiş, ayırt edilemeyecek duruma gelmiş başka bir “deepfake” örneği bu. Burada gerçek yüzünü gördüğümüz Miles Fisher tarafından üretilen ve tiktok’ta milyonlarca takipçiye ulaşan bir hesap. Miles Fisher da bir aktör bu arada. Mad Men ve Final Destination gibi yapımlarda yer almıştı. Ancak işte burada bizlere sunduğu bu örnek de deepfake’in geleceği ve barındırdığı büyük riskler hakkında çok önemli mesajlar veriyor. Şu an için bu teknoloji çok yeni. Biliyorum. Ve genellikle gördüğümüz örnekler bir tür “deneme” örnekleri. Yaratıcılıklarını sınıyor insanlar.

Fakat bunun yaratabileceği riskleri göz önüne alan, bu konuda karşı önlemler almaya çalışan uzmanlar olduğu gibi yeni dünyanın en büyük sektörlerinden biri haline gelmiş “dezenformasyon ve algı yönetimi” sektörü de ağzı sulanmış bir şekilde bekliyor. Bu zamana kadar kolayca anlayabildiğimiz Twitter botları ya da meme’lerin bir üst seviyesinden bahsediyoruz.

Bu vesileyle şunun da mesajını vermiş olayım. Bu dijital dönüşüm mevzusu artık gözardı edemeyeceğimiz bir duruma gelmiş durumda. Yaşam her yönü ile büyük bir yıkım ve yeniden yapıma tanık oluyor. O nedenle bebarbilim olarak çok önemli bir projeyi hayata geçirmek üzereyiz. Detaylar tamamlandığında bu heyecan verici yolculuğa birlikte çıkacağız. Harika haberler bekliyor hepimizi. Takipte kalmayı unutmayın… Ve her zaman olduğu gibi. Tekrar görüşene dek.