Rüyalar. Çok acayip değiller mi? Hala tam olarak nasıl bir süreçten geçtiğini çözemediğimiz olgular. Ben çok rüya görmem. Yani en azından hatırlamam. Hatırladıklarım da genellikle çok ama çok absürt olurlar. Üsküdar sahilde yürürken birden ortaya çıkan bir adadan sahile doğru tam otomatik silahlarla yüzen penguenlerin filan olduğu türden. Bayağı anlamsız. Beynimiz gerçekten ilginç bir makine. Bunu eğlenmek için bile yapıyor olabilir. Bilemiyoruz. Bazı bilgi parçacıklarını alıp, bir blenderdan geçirip ortaya çıkan karmaşayı sunuyor bize sanki rüyalarımızda. Heh. İşte bu ne biliyor musunuz?
ChatGPT’nin ve benzer modellerin üzerinde yükseldiği Büyük Dil Modellerinin çalışma mantığına çok benziyor. Yani en azından oldukça tartışmalı, kimine göre bir sorun, kimine göre ise tamamen bu modellerin çalışma sisteminin bir parçası olan, bazılarını da ürküten bir yönüne. Yapay Zekanın Halüsinasyon görmesinden bahsediyoruz. Evet. Bu bariz bir gerçek. Kullandığınız modeller halüsinasyon görüyor. Ve bu işin uzmanları bu konuda bir anlamda ne yapacağını şaşırmış durumda. Önce bu halüsinasyon mantığını anlamak için kabaca “büyük dil modellerinin” nasıl çalıştığını anlamak gerekiyor. Ve asıl sıkıntı da tam olarak burada baş gösteriyor.
Bilmiyoruz. Evet. ChatGPT’nin, büyük dil modellerinin tam olarak nasıl çalıştığını bilmiyoruz. Bizi bırakın, bu işin arkasındakiler, bu işin mimarları da hala bunu araştırıyorlar. Evet. Elimizde işe yarayan müthiş bir teknoloji var fakat bunun tam olarak nasıl çalıştığı konusunda tam bir fikir birliği yok. Korkuların temeli de biraz burada yatıyor. Temel olarak aslında şundan bahsediyoruz. Bu modellerin A noktasından B noktasına nasıl ulaştığından tam olarak emin değiliz.
En basit haliyle bir ChatGPT gibi büyük dil modellerinin yaptığı şey kavramlar arasında bağlantı kurmaktır. Çok basit bir örneğini telefonunuzun klavyesinde bir şey yazarken deneyimlersiniz. Yani tahmin sisteminden bahsediyoruz. Bir kelime yazdığınızda telefonunuz genellikle bu kelimeden sonra kullanılan en yaygın kelimeleri önerir size. “Kurtuluş” yazdığınızda mesela telefonunuz daha önce diğer kullanıcıların bu kelimeden sonra genel olarak ne yazdığına bakarak “Savaşı” kelimesini önerebilir.
Tabi ChatGPT gibi bir büyük dil modeli bundan kat be kat daha karmaşık bir sisteme sahip ancak temel mantık bu şekilde çalışır. Kelimeler, kavramlar ve fikirler arasında bağlantılar kurar. Şimdi işler burada karmaşıklaşıyor. Normalde bu bahsettiğimiz basit bir bilgisayar programı. Yaptığı şey ise istatistiksel bir modelleme ve hesaplama işlemi. Bunu çok büyük veri ile çok hızlı yaptığı için bize sihir gibi gelse de konu tamamen teknik aslında. Ancak.
Büyük dil modelleri ile ilgili anlaşılması güç olan kısım şu. Normalde mühendisler bir modeli inşa etmezler, o modelin kendisini inşa etmesi için gerekli algoritmaları inşa ederler. Biraz karışık gelebilir fakat aslında model bazı yönergeler ile kendini inşa eden bir şey. Ve bu da bildiğimiz makine öğrenmesi yaklaşımı ile sinir ağları olarak bilinen neural network’ler ile çalışan bir sistem. Neural network dediğimiz şey ise en ilkel haliyle insan beyninin bayağı mikro ölçekte bir modeli gibi çalışır. Yani milyarlarca nöronun birbirleri ile kurduğu bağlantılar, aynı beynimizdeki sinapslara benzer yapılar söz konusu bu teknolojide de. Heh. İşte sorun da burada. Beynimiz başta bahsettiğim saçma rüyaları inşa ederken hangi nöronlar arasındaki hangi bağlantıları kullanarak bunları inşa ediyor biliyor muyuz? İmkanı yok. İşte aynı sorun büyük dil modellerinde de söz konusu.
Ve yazdığımız promptlar ile verdiğimiz girdiler bu modellerde nasıl bir yol izleyerek ortaya çıkan sonucu oluşturuyor bilmiyoruz. Bu da zaten bizi yapay zekanın halüsinasyon problemine getiriyor.
Şimdi. Bahsettiğimiz gibi. Birçok insan bunu bir “problem” olarak tanımlamıyor. Bunun zaten bu tip bir modelin asıl alamet-i farikası olduğunu söyleyenler bayağı fazla. Zaten böyle çalışmasa elimizde Google Arama Motoru olurdu. Evet. Google gibi arama motorları halüsinasyon görmez, basit bir arama ile ihtiyacınız olanı getirir size. ChatGPT’ye bir şey sorduğunuzda ise size verdiği cevabı kendisi elindeki veri setinden baştan “inşa eder”… Aldığınız her cevap, farklı kişiler aynı cevabı alsa bile tamamen yeni bir üründür. Bunun nedenlerine, bu çalışma mantığına şimdi çok derinlemesine girmeyelim, zira bu tamamen başka bir konu, biz bu halüsinasyon problemini konuşmaya devam edelim.
Şimdi. Bu yeni generative AI dünyasının artık bir anlamda referans isimlerinden biri Andrej Karpathy’nin bir tweet’inde özetlediği haliyle ele alalım önce: Şöyle diyor karpathy: Büyük dil modellerindeki “halüsinasyon” problemi ile alakalı sorulara nasıl cevap vereceğimi bilemiyorum bazen diyor. Çünkü büyük dil modellerinin tek yaptığı şey aslında halüsinasyon görmekten ibaret diyor. Çok da güzel bir tanımlama ekliyor burada: Büyük dil modelleri birer “rüya makineleridir” diyor.
Verdiğimiz komutlar da onların gördüğü rüyaları şekillendiriyor aslında. Komutlar rüyaları başlatır ve modeller ellerindeki eğitim dokümanlarından hatırladıkları katarıyla bir şey inşa ederler. Bu da birçok kez işimize yarayacak sonuçlar doğurur. Fakat işte bu sonuçlar saçmasapan, gerçeklikle bağdaşmayacak şekilde olduğunda biz buna “halüsinasyon” diyoruz. Bir “bug” gibi gelse de aslında ortada şaşırılacak hiçbir şey yok.
Burada Karpathy az önce verdiğimiz arama motoru örneğini de veriyor. Bir dil modeli %100 hayal görürken arama motorunda bu oran %0’dır. Burada da tabi yaratıcılık sorunu ortaya çıkıyor. Arama motoru sizi şaşırtacak yaratıcı sonuçlar sunamaz. Ama dil modelleri sunar. Onları özel kulan da budur aslında. Burada Karpathy’nin de söylediği üzere problemin başladığı yer ChatGPT ve türevlerini bir asistan olarak kullanmaya çalıştığınızda ortaya çıkıyor. Siz gerçekliğe sadık, işinize yarayacak bir asistan istiyorsunuz fakat bu asistan bazen halüsinasyon görüyorsa bu sorun yaratabiliyor.
Karpathy özetle LLM’lerin bir halüsinasyon problemi olmadığını, aksine bunun bu modellerin en harika özelliği olduğunu fakat ChatGPT’nin halüsinasyon problemi olduğunu ve bunun çözülmesi gerektiğini söylüyor. O nedenledir ki ChatGPT ve benzeri modelleri kullanırken güvenmemeniz, verdiği sonuçları defalarca kontrol etmeniz gerekir. Gerçekliğe çok benzer sonuçlar üretme konusunda inanılmaz iyi olduğu için doğruymuş gibi kabul edebilir ve bu sizin başınıza tahmin edemeyeceğiniz sorunlar açabilir.
Bu arada bu halüsinasyon problemi ile ilgili reddit’te filan bayağı geyik döner. İnsanlar ChatGPT’nin verdiği saçma cevapları, uydurmaları özel başlıklar altında paylaşıyor.
Çok basit bir örnek Da Vinci Mona Lisa’yı ne zaman resmetmiştir? Diye sorduğunda bir kullanıcı “1815” diye cevap veriyor gayet kendinden emin bir şekilde. Aslında 1503-1506 civarındadır. Ya da ben de birkaç kez yaşadım bunu. Neptün’den dünyaya saatte 28.000 km hızla ne kadar sürede varılır gibi aslında basit bir denklemle çözülebilecek bir soruya inanılmaz uydurma cevaplar vermiş, bunu da bayağı kendinden emin yapmıştı. 20.000 yıllar filan havada uçuşmuştu hatta. Bunun gibi örneklerden bahsediyoruz. Tabi bu problemin sadece metinde değil görseller, videolarda da yaşandığını görüyoruz.
Özetle bu problem gibi görünen olgu aslında yine bir tartışmayı doğuruyor kendi içinde. Bu tip anlaşılmaz bağlantılarla bir sonuç ortaya koyan şeyin aslında zeki olduğunu söyleyebilir miyiz? Zeka gerçekten nedir? Bizi, beynimizi özel kılan nedir? Galiba yapay genel zekayı tam olarak konuşmadan önce bu soruların cevaplarını vermek gerekecek.
Fakat gerçekten ilginç bir meydan okuma var karşımızda. Bu sinir ağlarını, dil modellerini insan beynine benzetmeye çalışırken insan beynine benzeyen fakat tamamen farklı çalışan yepyeni bir zeka kavramı da inşa edebiliriz. Duygulardan arınmış, acımasız düzeyde realist, ve zamanı bükebilen bir zeka. Bunun yaratacağı sorunlar ise başka bir videonun konusu olsun. Tabi siz de benim gibiyseniz, “kullanıyoruz ama gerçekten nasıl çalışıyor bu ChatGPT, çalışma mantığını öğrenmek isterdim” diyorsanız bir yere ayrılmayın. Bunu da bayağı kapsamlı bir şekilde konuşacağız birkaç ayrı videoda.
