Nobel Ödülleri tarihinde çok ilginç bir şey yaşandı bu yıl. Herkes Nobel Fizik ödülleri için tahminlerini konuşurken Frederico Capasso’nun Kuantum Lazeri çalışmasını veya Michael Berry’nin Berry Eğrisi yahut Yakir Aharonov’un Aaronov Bohm Etkisi çalışmaları arasında gidip gelirken Nobel Komitesi bu yılın Nobel Fizik Ödülünü birçok insanı şaşırtacak şekilde ilk bakışta fizikle alakası yokmuş gibi görünen bir alana, makine öğrenmesi çalışmalarına verdi. Ve 1980’lerden itibaren makine öğrenmesi denen alanın ortaya çıkmasını sağlayan iki isme, John Hopfield ve Geoffrey Hinton bu ödülün kazananı oldu.
Tabi ortalık bayağı bir çalkalanıyor şu anda. Nobel Fizik Ödüllerinin anlamını yitirdiğini söyleyenler, fizik alanının artık duvara tosladığını ve çığır açacak bir çalışma yapılamadığından yakınanlar bayağı çok.
Fakat bu yılın Nobel Fizik Ödülünün makine öğrenmesi ve daha spesifik olarak yapay zekaya verilmesini nasıl okumamız lazım? Gerçekten de fizik dünyasında bu ödülü hak eden çalışma yok muydu da yapay zekaya verildi, yoksa gerçekten de bu ödülün yapay zekaya verilmesinin mantıklı bir açıklaması var mı? Sizin için tüm gerekçeleri ve bilimsel arkaplanını hazırlamaya çalıştım. bu yazıda yapay zeka ve özünde makine öğrenmesinin çıkış hikayesini ve bilimsel arkaplanını da bulacaksınız. O yüzden derinlemesine bir analiz bekliyor sizi. Hazırsanız başlayalım.
Öncelikle sürekli vurguladığımız yeni bir çağın içerisindeyiz sözünü tekrar tekrar hatırlamak gerekiyor. Bu ödül için ilk söyleyeceğimiz şeylerden biri yapay zekanın disiplinler arası duvarları nasıl yıktığının bir kanıtı olduğudur. Ama buna karar vermek için detaylara bir bakalım öncelikle. Nobel Komitesinin Ödülü neden Makine Öğrenmesi alanındaki çalışmalara verdiğine dair resmi açıklamasına bakalım önce. “Bu yılın kazananları bugünkü güçlü makine öğrenmesi teknolojisinin temellerini oluşturan yöntemleri oluşturmak için fiziğin araçlarından faydalandılar”.
John Hopfield bir bilgi depolama ve yeniden oluşturma sistemi geliştirirken Geoffrey Hinton ise veri seti içerisindeki özellikleri bağımsız olarak keşfeden ve bugünkü büyük yapay sinir ağları için çok önemli olan bir yöntem icat etti. Şimdi bu açıklamanın arkasında bizi fiziğe götüren adımları bir irdeleyelim.
Öncelikle artık bilgisayarlarla haşır neşir olmayan yoktur. Nasıl çeviri yaptığına, görselleri nasıl yorumladığına ve hatta bayağı doğal bir sohbet sürdürebildiğine hepimiz şahidiz. Fakat çok da anlaşılır bir şekilde bizim bu günlük işlerimizi yapabilen bu teknolojinin arkaplanda bilimsel araştırmalarda nasıl büyük bir devrim yarattığından pek haberdar değiliz. Zira bilimsel araştırmanın önündeki en büyük engel her zaman devasa miktarda veri ile uğraşmak zorunda olmaktır. Ve bu teknolojinin de alameti farikası inanılmaz miktarda veri içerisinde sınıflandırma, analiz ve yorumlama gibi bir insan için yıllar sürebilecek işlemleri günler, saatler içerisinde yapabilmesidir ve bu haliyle araştırmacıların eli kolu olmuştur bir anlamda. Bunu sağlayan da işte çatı terim olarak “makine öğrenmesi” adını verdiğimiz teknolojidir. Bizim bugün yapay zeka dediğimiz şey de makine öğrenmesi teknolojisinin bir uzantısından ibarettir özünde. Ve bu teknolojinin eti kemiği ne diye sorarsanız “artificial neural network” ya da yapay sinir ağları olarak bildiğimiz yapıdır diyebiliriz.
Şu aşamada hala makinelerin bağımsız olarak düşünmesinden bahsedemesek bile makineler özellikle hafıza ve öğrenme aşamalarını neredeyse kusursuz bir şekilde gerçekleştirebilmektedir. Ve işte bu yılın Nobel fizik ödülünü kazanan insanlar da bunu mümkün kılan insanlardı. Peki yaptıkları şey tam olarak neydi?
Yapay sinir ağları her şeyin temeli demiştik. Bu sinir ağlarına ilham olan şey ise şaşırtıcı olmayacak şekilde insan beynini anlama yolculuğuydu. 1940’larda araştırmacılar insan beynindeki nöronlar ve sinapsların dayandığı matematiksel altyapıyı anlamaya başlamışlardı. Beynimizin sinir ağı, karmaşık iç mekanizmalara sahip canlı hücrelerden, yani nöronlardan oluşur. Bu nöronlar, sinapslar aracılığıyla birbirlerine sinyaller gönderebilir. Bir şeyler öğrendiğimizde, bazı nöronlar arasındaki bağlantılar güçlenirken, diğerleri zayıflar. Yine aynı dönemlerde nörobilimci Donald Hebb’in insanın nasıl öğrendiğine dair hipotezi de bu anlayışı destekliyordu. Hebb’e göre nöronlar arasındaki sinapslar yani bağlantılar nöronlar birlikte çalıştıkça daha da güçleniyordu. Bu çalışmalar üzerine araştırmacılar bilgisayar ile insan beynindeki nöronları ve bağlantıları simüle etmenin yollarını aramaya başladılar. İnsan beynindeki nöronlar farklı değerler atfedilen nodlar olarak ve aralarındaki sinapslar da bu nodlar arasındaki bağlantılar şeklinde temsil ediliyordu. Bu nodlar birbirine bağlıdır ve ağ eğitildiğinde, aynı anda aktif olan nodlar arasındaki bağlantılar güçlenir, aksi takdirde zayıflar. Donald Hebb’in öğrenme ile ilgili hipotezi bugün hala yapay ağların “eğitim” adı verilen süreç ile geliştirilmesi için kullanılır hatta.
1960’ların sonlarında teknolojinin yeterince ilerlememiş olması nedeniyle çalışmaların pek bir ilerleme kaydedememesi nedeniyle birçok araştırmacı bu sinir ağlarının asla gerçek bir faydası olmayacağını düşünmeye başlamıştı. Hatta o kadar terk edildi ki bu çalışmalar 70’lerden itibaren tüm çalışmaların rafa kaldırıldığı ve bugün yapay zeka kışı olarak bildiğimiz bir dönem başlamıştı. Ancak, yapay sinir ağlarına olan ilgi 1980’lerde yeniden canlandı. Bu dönemde, bu yılki Nobel ödülü sahiplerinin çalışmaları da dahil olmak üzere, birkaç önemli fikir büyük etki yarattı. Önce ödülün sahiplerinden biri John Hopfield çıktı sahneye. 1982 yılında Hopfield ağı adı verilen “ilişkili veya çağrışımlı bellek” olarak bilinen bir yöntem geliştirmişti. Bizim de kimi zaman bir sohbet arasında bazen yaşadığımız bir duruma benzetebiliriz bu yöntemi. Hani bir kelimeyi hatırlamaya çalışırsınız, tam dilinizin ucundadır… Kelimenin karşılık geldiği nesne veya şey gözünüzün önündedir. Siz de o yeri, o şeyi gözünüzün önüne getirerek, farklı sahneler inşa ederek kelimeye ulaşmaya çalışırsınız. İşte buna çok benzeyen bir yaklaşımdı Hopfield’ın ilişkili hafızası. Burada çok önemli bir detayı verelim tabi. Bu çalışmayı yapan John Hopfield bir fizikçiydi. Evet. Kaldı ki kendisi fizik eğitimini kullanarak moleküler biyolojide de çalışmalar yapmıştı. Sinir ağları ile ilgili çalışmalarını ilerletmek içinse neye ihtiyacı vardı? Bilgisayara. Evet. Öyle bir dönemden bahsediyoruz. Daha iyi bilgisayar altyapısı olan Caltech’e geçmeye karar vermişti bu yüzden. Hopfield, fizik alanındaki bilgilerini bir kenara bırakmadı. Fizikten öğrendikleri, ona yeni fikirler verdi. Özellikle, çok sayıda küçük parçanın bir araya gelip nasıl ilginç şeyler ortaya çıkarabileceğini anlamasına yardımcı oldu.
En çok, manyetik malzemeler hakkında bildiklerinden yararlandı. Bu malzemelerdeki her atom, küçük bir mıknatıs gibi davranır. Yan yana olan atomlar birbirini etkiler ve bazen hepsi aynı yöne döner. Hopfield, bu bilgileri kullanarak yeni bir model geliştirdi. Bu modelde, tıpkı atomlar gibi, birbirine bağlı düğümler vardı. Düğümler birbirini etkileyerek ağın davranışını belirliyordu. Böylece, fizik kurallarını kullanarak beynin çalışma şeklini taklit eden bir sistem oluşturdu. Hopfield’ın ağı, birbirine bağlı noktalardan oluşuyor. Her nokta 0 veya 1 değeri alabiliyor, tıpkı siyah-beyaz bir resmin pikselleri gibi.
Ağa bir resim gösterilince, noktalar ve bağlantılar bu resmi hatırlayacak şekilde ayarlanıyor. Sonra ağa yeni bir resim verildiğinde, sistem bu resmi en iyi bildiği resme dönüştürmeye çalışıyor. Bu işlem, fizikteki enerji kavramına benzer bir hesaplama kullanıyor. Ağ, ‘enerjisini’ en aza indirene kadar noktaları değiştiriyor. Sistem birden fazla resmi hatırlayabilir ve aralarındaki farkı anlayabilir. Bozuk veya eksik resimleri düzeltmek için kullanılabilir.
Bir resmi hatırlamak kolay, ama ne olduğunu anlamak biraz daha zor iştir. Küçük çocuklar bile farklı hayvanları gösterip "köpek", "kedi" veya "sincap" diyebilir. Bazen yanılsalar da, zamanla neredeyse hep doğru söylerler. Çocuklar bunu, tür veya memeli gibi kavramları öğrenmeden, sadece çevrelerini gözlemleyerek öğrenirler. Burada da devreye ödülün diğer kazananı Geoffrey Hinton giriyor. Kendisinden yapay zeka videolarında bol bol bahsetmiştik, hatırlayanlar olacaktır. Hopfield bu çığır açan çalışmasını yayımladığında Hinton Carnegie Melon’da çalışıyordu. Daha önce deneysel psikoloji ve yapay zeka alanlarında çalışmalar da yapmıştı ve aklının bir köşesinde şu çok önemli soru duruyordu: makieneler da acaba insanlar gibi öğrenebilir mi? Hopfield’ın çalışması ise işte bu konuda tüm ihtiyacı olan altyapıyı sağlamıştı ve arkadaşı Terrence Sejnowski ile birlikte, Hopfield’ın ağını geliştirerek yeni bir şey yaptılar. Bunun için istatistiksel fizikten yararlandılar. İstatistiksel fizik, bir gazdaki moleküller gibi, çok sayıda benzer parçadan oluşan sistemleri inceler. Her molekülü ayrı ayrı takip etmek zor olsa da, hepsini birlikte düşünerek gazın basıncı veya sıcaklığı gibi genel özelliklerini bulabiliriz.
Hinton, bu fikirleri kullanarak yeni bir ağ geliştirdi. Bu ağ, 19. yüzyıl fizikçisi Ludwig Boltzmann’ın denklemini kullanıyordu. 1985’te yayınlanan bu yönteme "Boltzmann makinesi" adı verildi. Boltzmann makinesi, talimatlarla değil, örneklerle öğreniyordu. Eğitim sırasında, ağın bağlantılarındaki değerler sürekli güncelleniyor, böylece makineye gösterilen örneklerin ortaya çıkma olasılığı artıyordu. Bir örnek ne kadar çok tekrarlanırsa, onun olasılığı o kadar yükseliyordu. Bu eğitim, makinenin daha önce görmediği ama benzer özelliklere sahip yeni örnekleri tanıma yeteneğini de geliştiriyordu.
Eğitilmiş bir Boltzmann makinesi, tıpkı bir arkadaşımızın kardeşini gördüğümüzde hemen akraba olduklarını anlamamız gibi, daha önce görmediği bilgilerdeki tanıdık özellikleri fark edebiliyordu. Eğitim materyalindeki kategorilere ait yepyeni örnekleri tanıyabiliyor ve farklı olanları ayırt edebiliyordu. Başlangıçta oldukça verimsiz olan ve çözümleri bulmak için uzun zaman alan Boltzmann makinesi, zamanla geliştirildi. Hinton, bu geliştirme sürecine devam etti. Sonraki versiyonlarda bazı bağlantılar kaldırıldı ve bu, makineyi daha verimli hale getirdi.
1990’larda birçok araştırmacı yapay sinir ağlarına olan ilgisini kaybetse de, Hinton çalışmalarına devam eden az sayıdaki kişiden biriydi. 2006’da, meslektaşlarıyla birlikte, bir dizi Boltzmann makinesini katmanlar halinde üst üste yerleştirerek bir ağı ön eğitme yöntemi geliştirdi. Bu ön eğitim, ağın bağlantılarına daha iyi bir başlangıç noktası sağlıyor ve resimlerdeki öğeleri tanıma konusundaki eğitimini optimize ediyordu. Boltzmann makinesi genellikle daha büyük bir ağın parçası olarak kullanılıyordu. Örneğin, izleyicinin tercihlerine göre film veya dizi önerilerinde bulunmak için kullanılabiliyordu.
Özetle 1980’lerden bu yana John Hopfield ve Geoffrey Hinton’ın çalışmaları, 2010 civarında başlayan makine öğrenimi devrimine zemin hazırladı. Bu gelişme, büyük veri setlerine erişim ve bilgisayar gücündeki muazzam artış sayesinde mümkün oldu. Günümüzde kullanılan yapay sinir ağları genellikle çok büyük ve çok katmanlı. Bu derin sinir ağlarının eğitim yöntemine derin öğrenme deniyor.
Hopfield’ın 1982’deki makalesi, bu gelişimin boyutunu anlamak için iyi bir örnek. O zamanlar 30 düğümlü bir ağ kullanıyor ve 500’den az parametreyi takip ediyordu. 100 düğümlü bir ağ ise o zamanın bilgisayarları için fazla karmaşıktı. Oysa günümüzün dil modelleri trilyonlarca parametre içerebiliyor. Araştırmacılar şu anda makine öğreniminin uygulama alanlarını geliştirmeye odaklanmış durumda. Hangi alanların en verimli olacağı henüz belirsiz ve bu teknolojinin geliştirilmesi ve kullanımıyla ilgili etik konular geniş çapta tartışılıyor.
Fizik, makine öğreniminin gelişimine katkıda bulunduğu gibi, yapay sinir ağlarından da faydalanıyor. Makine öğrenimi, Higgs parçacığının keşfi, kara deliklerin çarpışmasından kaynaklanan yerçekimi dalgalarının ölçümlerindeki gürültünün azaltılması veya öte gezegenlerin aranması gibi alanlarda kullanılıyor. Son yıllarda bu teknoloji, moleküllerin ve malzemelerin özelliklerini hesaplamak ve tahmin etmek için de kullanılmaya başlandı. Protein moleküllerinin yapısını hesaplamak veya daha verimli güneş pilleri için en iyi özelliklere sahip yeni malzeme versiyonlarını bulmak gibi uygulamalar buna örnek gösterilebilir.
Yani Nobel Fizik Ödülünün bu çalışmalara verilmesi aslında önemli bir dönüm noktasını işaret ediyor. Ve bana bir şeyi hatırlatıyor. Transistörlerin icadında da fizikçilerin parmağı vardı. Ve o günden sonra dünyanın değişimi ortada. Bugün ise yine bir devrimin arkasında fizik alanından esintiler görüyoruz. Fizikten esinlenen bir teknoloji fizikteki en zor problemleri çözmemizde yardımcı oluyor. Yarın en küçük organizmaların modellenmesinden insan beyninin ve en nihayetinde evrenin modellenmesine kadar uzanan bu yolculukta disiplinler arası duvarların yıkıldığına şahit oluyoruz.
