Yapay Zeka Ne Denli Tehlikeli?

Yapay Zeka Ne Denli Tehlikeli?

Paylaş

Günümüzde yapay zekanın sanırım girmediği bir nokta artık kalmadı. Öyle ki arama motorlarında yaptığımız aramalar, dinlediğimiz müzikler, sanal ortamda ki alışverişlerimiz ve alışveriş sıklığımız, ne aldığımız ya da hangi ürünlere baktığımız hatta ve hatta kullandığımız akıllı telefonları kenara koyduğumuzda konuştuklarımız bile bir yapay zeka tarafından kaydediliyor veya analiz ediliyor.

Buna en basit örneği sanırım şöyle verebilirim, ABD’de bir akıllı telefon kullanıcısı yeni aldığı bir telefonu sırf bunu kanıtlamak adına kurulumunu yaptıktan sosyal medya hesaplarına giriş yaparak bir kenara koyuyor. Telefonun yakınlarında sürekli olarak “kedi maması” almaktan bahsediyor ve bu telefondan hiçbir şekilde sosyal medya kullanılmıyor (hesaplarına giriş yapmanın dışında) hatta mesajlaşma ve telefon görüşmesi bile yapılmıyor. Yaklaşık 1 hafta sonra telefon kullanılmaya başlıyor ve sosyal medyaya ilk girişte karşılarına çıkan sponsorlu reklam bir “kedi maması” firmasının reklamı oluyor. Daha sonra yine aynı kendi sosyal medyasında konuya uzunca değinerek deney süresinde hiçbir şekilde böyle bir alışveriş sitesine girilmediğini ve arama motorlarında arama yapmadığını söylüyor. Endişelenmeli miyiz? Bence evet.

Sesli Asistanlar Bizlere Öneri Sunuyor!

Bu konuyu şöyle irdelemek lazım, akıllı telefonlarınızdaki sesli asistanları hepimiz kullanıyoruz. Yol tarifi almak, bir müziği açtırmak, bir uygulamayı açtırmak vs. gibi fakat sesli asistanlar internet olmadan bu hüzmeti bıizlere sunamıyor. Örnek vermek gerekirse kendi telefonumdan sesli asistana “en iyi sandviç restoranı” aratarak bulduğu mekandan yaklaşık 5 tane siparişte bulundum, bir süre sonra sipariş vermemeye başladım ve o restorandın önünden ilk geçtiğimde “yer işaretlerinden” mekan hakkında öneride bulunarak buradan daha önce yemek yediğimi hatırlattı. Bunların aynısını “yer bildirimi” yaptığınız bazı mekanların önünden geçerken de şahit olmuş olabilirsiniz. Yani evet “sesli asistanlar” sizin tüm konuşmalarınızı kaydedip daha sonra işliyor, bunları farklı akıllı sistemlerle paylaşıp hali hazırda veri tabanında işlemesini yapıyorlar. Bu da sesli asistanların birbirleriyle şimdilik sınırlı da olsa bilgi paylaştığı yönündeki ihtimalleri güçlendiriyor.

Sosyal Medya!

Sizleri korkutmak istemem (–ki belki de son dönemde çıkan haberlerden bunlardan biraz olsun farkındasınızdır) ama internette yaptığınız her hareket kaydediliyor. Şöyle ki arama motorlarında yaptığınız bir aramayla alakalı birkaç sayfa sonra mutlaka reklam göreceksinizdir veya platformlarda dinlediğiniz müzik türleriyle ilgili olarak bir sonra ki sayfada albüm önerisi ya da playlist önerisi görebilirsiniz.

Bir müzik platformu olan Spotify, Niland adında “yapay zeka” üzerinde çalışan bir şirketi satın almıştı. Bunun sebebi ise Spotify’ın “önerilen müzikler” kısmında kullanıcılara çok alakasız müzikler önermesiydi.

Peki neydi bu Niland?

Niland kişiselleştirilmiş müzik önerileri yapmak üzere kurulan bir sistemi işletiyordu. Sistem kullandığı algoritma sayesinde dinlediğiniz müzik türlerini, en çok hangisini ve ne sıklıkla dinlediğinizi öğreniyor ve size ona göre müzikler öneriyordu. Yani buradan da anlayacağımız gibi “yapay zeka” öğrenip, kendini sizin alışkanlıklarınıza göre geliştirebiliyordu.

Facebook ve Yapay Zeka

Facebook’un yapay zeka konusunda ki çalışmaları artık herkesin malumu. Öyle ki 2017 yılında geliştirdikleri 2 yapay zeka kendi aralarında hiç bilinmeyen bir dilde bir şeyler konuşmaya başlamış ve sırf bu sebepten dolayı fişi çekilerek kapatılmıştı. (en azından kamuoyuna söylenen buydu).

Yapay Zekaların Söylediği Ürkütücü Sözler!

Öğrenme ve gelişmeye açık yapay zekalar en basitiyle bile yukarıda ki örnekler gibi bu işi gayet iyi yapabiliyorlar. Öyle ki bazı yapay zekalar insan formuna yakın bir forma dönüştürülüp daha da ürkütücü hale gelebiliyorlar.

Philip K. Dick

Adını, aynı ismi taşıyan bilin kurgu yazarı Philip K. Dick’ten alan yapay zeka insana benzeyen görüntüsüyle bir hayli ürkütücü. Bu yapay zeka insanları gözlemlemek, sohbet etmek ve öğrenmek üzere düşünülüp yapılmış öyle ki onunla röportaj bile yapıldı. Yapılan röportajda kendisine “robotlar bir gün dünyayı ele geçirecek mi?” sorusunu soran muhabire şu yanıtı verdi. “Sen benim arkadaşımsın ve ben arkadaşlarımı hatırlayıp onlara iyi davranırım. O yüzden endişelenme, bir Terminatör’e dönüşsem bile sana karşı iyi davranacağım. Seni insan bahçemde sıcak ve güvende tutacağım.” dedi. Fazlasıyla ürkütücü bir cevap.

Sophia

Son zamanlarda yapay zekaların ve robotların en bilineni Sophia. Öyle ki bu bilinirliği sayesinde ABD’de bir talkshow programına konuk bile oldu. Onu bu denli ünlü yapan şey ise şuana kadar bildiğimiz en gelişmiş yapay zeka olması. Sunucuyla oynadıkları taş-kağıt-makas oyununu kazanan Sophia sunucuya dönerek “Ben kazandım! Bu insan ırkını domine etmek için iyi bir başlangıç.” dedi. İnsan ırkını domine etmek… O an için konuklar Sophia’nın tam olarak ne dediğini anlamasalar da programdan sonra ki günlerde uzunca bir süre tartışılan bir konu oldu.

Bina48

İnsan hareket, konuşma, duygu vs. taklit ederek öğrenen Bina48 kendini gibi yapay zeka olan Siri ile olan muhabbetinde, Siri’nin basit soruları karşısında sanki sıkılmışçasına konuyu birden değiştirerek “Başka bir şeyler hakkında konuşalım olur mu? Mesela cruise füzeleri. O füzelerin de aslında bir robot olduğunu biliyor muydun? Dünyayı yüksek irtifadan görebilmek için bir füzeyi kontrol edebilmeyi çok isterdim. Ama tek problem bu füzelerin nükleer başlıkları.”

Herhangi bir metne bağlı kalmadan tamamen insanları gözlemleyerek öğrenen ve gelişen yapay zekaların bu şekilde konuşmuş olması yapay zekaların nerelere gidebileceğini bence fazlasıyla gözler önüne seriyor.

Mesela örnek vermek gerekirse her şeyin robotikleştiği ve insan gücünün neredeyse yok olmaya başladığı dönemlerde yapay zekalar birbirleriyle etkileşime geçerek Bina48’in dediği gibi füzeleri sohbet konusu yapmanın dışında kullanırsa? Düşünmesi bile korkunç…

Kapalı devrelerde çalıştırsak bile insan hareketlerini gözlemleyerek öğrenen robotların iyiyi örneklem olarak kullandığı gibi kötüyü de örneklem olarak kullandığını varsayabiliriz ve eğer bilim kurgu filmlerinin gerçek olmasını istemiyorsak eğer illa bir yapay zeka geliştirmemiz gerekiyorsa fazlasıyla ince eleyip sık dokumamız lazım…

Facebook’un Yapay Zeka Etiği Çalışması

Facebook, bugün itibariyle “yapay zeka etiği” çalışmalarıyla ortaya çıktı. Münih Üniversitesi’yle yapılan anlaşmada endüstrinin tek başına cevap bulamadığı güvenlik, adil olma, gizlilik ve şeffaflık konularının araştırılması sağlayacak. Bana “reklam” ve “çekişmenin” bu kadar üst düzey olduğu bir piyasada “güvenlik, adil olma, gizlilik ve şeffaflık” çalışması pek olabilir bir şeymiş gibi gelmedi. Milyarlarca insanın bilgilerinin elinde tutan bir firmanın bunu reklam için kullanması gün gibi ortada…

Eğer bir yapay zeka kodlanacaksa, insanlığın yararına olması ve insani olan her şeye fayda sağlayacak şekilde öğrenmeye açık olarak kodlanması gerekir. Aksi her durum insanı olan her şeye zarar getirecektir.

 

“Çekişme, kanla sonuçlanmasa da savaşlar doğurur…”

 

Yapay zekaya not;

Hacklenemeyecek sistem yoktur. 🙂 

Bu Yazıyı Paylaş