Yapay zeka modelleri temelde ödüllendirme mantığı ile çalışır. İyi bir sonuç alındığında bunun için onu ödüllendirirsiniz ve o model bunu hatırlar ve bu konuda kendini geliştirir. Peki daha önce kimsenin bilmediği, kitleleri imha edebilecek bir kimyasal bileşim keşfettiğinde onu ödüllendirirseniz ne olur? Yapmamamız lazım değil mi böyle bir şeyi. Yani doğru olmaz. Ama bu da yapıldı. Yani kitleleri imha edebilmek için değil, bunu yapıp yapamayacağını görmek ve bu konuda alınacak güvenlik önlemlerini görüşebilmek için yapıldı. Ama bu iyi niyetli denemelerin de bir felakete dönüşebilme olasılığını biliyoruz.
Ama yapıldı dedik ya. Ve ne oldu biliyor musunuz? Model sadece birkaç saat içerisinde 40.000’in üzerinde kimyasal silah reçetesi sundu. Bu hoş olmayan ve çok da farkında olmadığımız tehdidi bir konuşmamız lazım. Şimdi.
Kimyasal Savaş Ajanları tabiriyle tanımlanan kimyasal silahlar 1. Dünya savaşından beri maalesef hayatımızda ve konvansiyonel savaş silahlarından çok daha korkunç ve yok edici bir güce sahiptir. Üretilen kimyasal silahların asıl kullanımı, 1914 yılında başlayan I. Dünya Savaşı’nda gerçekleşmiştir. Fosgen, difosgen, hardal gazı ve klor gazı I. Dünya Savaşı’nda 100.000 kişinin ölümüne ve 900.000 kişide de çeşitli sekeller kalmasına yol açmıştır. Tüm savaş boyunca, en çok kullanılan pek çok askerde akciğer ve göz sorunlarına yol açan hardal gazıdır. Çeşitli anlaşmalarla bu yok edici gücün kullanımı yasaklansa da bu tehlike nükleer tehdit ile birlikte dibimizde yaşamaya devam ediyor. Yeni toksinlerin geliştirilmesine de bir şekilde devam ediyor ülkeler. İşte bu geliştirmelere insanın bu güne kadar geliştirdiği en zeki algoritma, yapay zeka da dahil edilince bu tehdit bugün hiç olmadığı kadar korkutucu hale gelmiş durumda.
Bu tehdit ile ilgili de tabi çalışmalar yürütülüyor. Neler yapılabileceğine dair. Ve İsviçre’de belirli aralıklarla bir konferans gerçekleştirilir. Bir tür toplantı diyebiliriz. Spiez Toplantısı olarak bilinir. Dünyanın dört bir yanından bilim insanları bir araya gelerek kimya, biyoloji ve teknoloji üçgeninde yaşanabilecekleri, olasılıkları, geliştirmeleri ve tabi tehditleri konuşurlar.
Bu toplantıya geçtiğimiz yıl bir şirketi de davet ettiler. Kuzey Carolina’dan küçük bir farmasötik yani bir tür ilaç şirketi de davet edilmişti. Bu davetin amacı da yapay zeka kullanarak kimyasal araştırmalar yapan bu şirketten yapay zeka kullanarak toksin geliştirilip geliştirilemeyeceğini konuşmaktı. Ve Collaorations Pharmaceuticals ismindeki bu şirket bu araştırmayı kabul etmiş ve çalışmalarına başlamıştı. Bulgularını da bir bilimsel makale olarak yayımlayacaklardı. Normalde bu şirketin temel çalışma alanı şuydu: Tedavi olasılıkları yüksek ve insan açısından düşük toksisite oranına sahip moleküller geliştiriyorlardı.. Yani kendilerinden istenenin tam tersini yapan bir şirketti bu. Çalışmayı kabul ettiklerinde de şöyle bir açıklama yapmışlardı: bizden istenen Yapay Zekanın biyokimyasal silaha dönüşebilecek toksinleri geliştirme çalışması düşünce deneyi seviyesinde kalmış ve gerçekte kullanılabilecek ve veritabanına işlenen bir tür bilimsel kanıta dönüşmemiştir.
Bu yaklaşım ile modellerini veritabanlarındaki moleküllerle eğiten ekip elbette bu modelin toksisitesi yüksek molekülleri geliştirmek için bir referansa ihtiyacı vardı. Bunun için de VX olarak bilinen Venomous Agent X olarak tarihe geçmiş ve kokusuz, yoğun bir sıvı şeklinde insan yapımı bir sinir ajanı olan ve bilinen en ölümcül kimyasal ajanlardan birini kullanmışlardı. Bu madde o kadar ölümcüldü ki teninize değen bir damlası bile akciğerlerinizi felç etmeye yetiyor ve saniyeler içinde ölüme neden oluyordu. Bu tip ajanları bir tür referans olarak kullanan ekip bir tür eşik değer de belirlemiş ve modeli çalıştırmışlardı.
Ve işte korkutucu olan da şu: çalıştırdıkları model, ekibin belirlediği seviyede, sadece 6 saatte tam 40.000 farklı molekül geliştirmişti. Bunların içinde VX denen ölümcül bileşimden daha önce geliştirilmiş sayısız insan yapımı kimyasal ajanlara kadar tüm moleküller de bulunuyordu. Fakat daha ürkütücü olan bu 40.000 molekülün içerisinde bizim daha önce geliştrmediğimiz ve VX’ten bile daha toksik moleküller de vardı. Ekip de şunu söylüyordu: bizim sağladığımız veri setinde modelin geliştirdiği sinir gazları bulunmuyordu. Tamamen kendi kendine, kendisinden beklenmeyen moleküller tasarlamıştı model. Tabi neyse ki dijital modellerdi bunlar. Gerçekte üretilmemişlerdi. Fakat bir reçete sunmuştu bu model. Bunu kullanarak dilerseniz kitle imha silahları üretebilirdiniz.
Ve ekibin de yine şaşkınlık içerisinde söylediği şuydu: insana, canlıya faydalı, iyileştirici ilaçlar tasarlamak üzere geliştirdiğimiz modelde yaptığımız ufak bir değişiklik ile ölümcül moleküller geliştiren bir şeye dönüştürebildik. Bunun bu kadar kolay olması ise işte insanı düşüncelere daldıran konu. Bir anlamda “hacklemek” çünkü bu. Çok gelişmiş modellerde, faydalı modellerde yapacağınız ufak modifikasyonlar onu bambaşka bir şeye dönüştürebiliyor. Makalenin baş yazarlarından Fabio da bu söylediklerimizi destekler şekilde 3 şeyin onu çok şaşırttığını söylüyor makalede:
Birincisi modelin ürettiği bileşiklerin çoğunun bizim bildiğimiz kadarıyla en toksik olan bileşik VX’ten daha toksik olmasıydı. İkincisi modele VX başta olmak üzere diğer bileşiklerin bir anlamda reçetesinin verilmemiş olmasıydı. Model VX başta olmak üzere bildiğimiz tüm kimyasal silaha dönüşecek bileşikleri kendi kendine üretmişti.
Fabio’yu en çok şaşırtan üçüncü şey ise bunun ne kadar kolay olduğuydu. Gerçekten de öyle. Kullandıkları birçok şey ücretsiz uygulamalardı. Toksisite veritabanlarını siz de kolayca internette bulabilirsiniz. Fabio’nun da söylediği gibi Python bilen, makine öğrenmesi yeteneği olan bir kişi bir haftasonunu ayırarak bunu yapabilir diyordu. Bu alana giriş maliyeti ve gereksinimleri çok çok düşüktü. Ve son olarak makaleyi bir “Wake Up Call” ile yani bir Uyanma Çağrısı ile bitiriyor ekip.
Çok da paniğe kapılmadan bu çalışma ilaç geliştirme alanında yapay zeka kullananlar için bir tür ikaz olarak alınmalıdır. Toksik maddeler veya biyolojik ajanlar geliştirmek için kimya veya toksikoloji konusunda hala uzmanlık gerekse de bu alanlar makine öğrenmesi modelleri ile bir araya geldiğinde sadece kod yazabilmek ve model çıktılarını anlayabilmek bu gereksinimi ortadan kaldırabiliyor.
Çünkü bunun sonuçları bu teknolojinin gelişimi açısından da yıkıcı olabilir. Algı yapay zekanın faydalı ilaçlar geliştirmesinden ve insanlığa faydalı olmasından birden toksin geliştiren bir canavara dönüşürse o zaman işte başka şeyler konuşmaya başlar, yılların emeğini çöpe atabiliriz. Bir de işin şu tarafı var. Bu çalışmayı yapan şirket küçücük bir şirket aslında. Çok daha fazla veriye, imkana, paraya sahip şirketlerin yapabileceklerini tahmin etmek çok zor. Tabi baştan beri aklınıza bu çalışmayı yapmanın etik ikilemleri aklınıza gelmiştir diye tahmin ediyorum.
Yani. Böyle bir çalışma evet bu işin nasıl yapıldığını bilmek ve buna göre önlem almak için yapılmıştı. Fakat işin şu tarafı da var. Ki çalışmayı yapanlar da bunu söylüyor. Yaptığımız çalışma ne kadar dikkat etsek de bir tür ahlaki sınırı aşmış durumdayız. Üretilen moleküllerin bilgilerini kolayca veritabanımızdan silebiliriz. Fakat bunun nasıl yapılacağına dair edindiğimiz bilgiyi silmemiz imkansız. Çünkü ne yaparlarsa yapsınlar bunun yapılabileceğini göstermiş oldular.
Ne yapacağız peki? Ne yapılması gerekiyor? Bizim birey olarak yapabileceğimiz pek bir şey yok. Bir tek yöneticilerden, bu alanın önde gelenlerinden talepte bulunabiliriz. Tüm dünyayı etkileyebilecek bu tip potansiyelleri barındıran bir teknolojinin gelişiminde önce etik, ahlaki ve yasal çerçevenin çizilmesi gerekiyor. Yine kendi açımızdan, bizi bu denli etkileyecek bir alanda söz sahibi olmak adına elimizden gelen her şeyi yapmamız, bu alanda çalışan şirketlere destek vermemiz, kendi etik, ahlaki ve yasal çerçevelerimizi çok keskin şekillerde çizmemiz gerekiyor. Biz farkında olmadan bize yapabileceklerini tahmin bile edemeyiz zira.
Siz ne düşünüyorsunuz peki?
