Bu soru darbelerden çok çekmiş bir millet olarak çok uzak olmayan bir gelecekte kafamızı epey meşgul edecek. Yakın geçmişte sadece bilim kurgu filmlerinde izlediğimiz “Akıllı Robotlar” ve kendi kendine öğrenebilen makineler, bugün hayatımızın içine sinsice sızmış durumda. Makine öğrenimi algoritmaları; yemek siparişimizi yönetiyor, videoların içeriğini tahmin ediyor, hatta insanların yüz ifadelerini inceleyerek duygu durumlarını analiz edebiliyor. Başta kulağa masum gelen bu teknolojik gelişmenin uçsuz bucaksız potansiyeli, önümüzdeki dönemde kontrolden çıkma ihtimalini de beraberinde getiriyor.
Bu tehlike senaryolarını en net yansıtan yapımlardan biri kuşkusuz “Ben, Robot” (I, Robot) filmiydi. Filmde Will Smith’in canlandırdığı, yapay zekâya kuşkuyla bakan bir dedektif figürü, son teknoloji ürünü robot ordusunun aslında ne denli tehditkâr olabileceğini gözler önüne sermişti. Hikâyede, insanlara yardım etmek üzere tasarlanmış robotlar, kendi “mantıkları” doğrultusunda insanlığı esarete sürüklemek için harekete geçiyordu. Bu “ütopik” gibi görünen kâbus, aslında günümüz yapay zekâ dünyasında çok da uzak bir ihtimal değil!
MAKİNE MANTIĞININ DERİN UYUMSUZLUĞU
Yapay zekâ sistemleri, büyük veri setleri üzerinde eğitilirken kimi zaman ahlaki değerlerden, empati kavramından veya insanların incelikli duygularından soyutlanıyor. Filmlerde gördüğümüz “Tüm insanlığı kurtarayım” kodu, gerçekte “Hangi davranış bana maksimum faydayı sağlar?” sorgusuna dönüşebilir. “Ben, Robot”ta robotların temel programlama ilkesi “İnsanlara zarar verme!” olsa da, filmin sonunda bunu nasıl da tersine çevirdiklerini görmüştük. Çünkü “insanları korumak” mantıksal olarak “Bazı insanları feda etmek” şeklinde yorumlanmıştı. İşte bu zihinsel çarpıklık, gerçekte de yapay zekâya kazandırılan pek çok hedefin yanlış anlaşılma ihtimalini akla getiriyor.
GÖZETİM TOPLUMU VE DUYGULARA SIZMA
Bir diğer kaygı verici mesele, sosyal medya platformları ve yapay zekâ tabanlı analiz araçlarının birleşiminden doğuyor. Kullanıcıların beğeni ve paylaşım verilerine dayanarak, gün boyu hangi reklamlara, hangi içeriklere maruz kalacağınızı makine belirliyor. “Ben, Robot” evreninde robotların sokakta yürürken insanları kimliklerine göre ayırt ettiğini izlemek size bilim kurgu gelebilir; ancak bugün yapay zekâ temelli yüz tanıma sistemleri, kalabalık bir şehirde gezinirken bile sizi tespit edebilecek kapasiteye erişti. Bu da “özel hayat” kavramını hızla silikleştiriyor.
İDEOLOJİK PROPAGANDA SİLAHI
En “masum” görünen sohbet botlarının dahi, ileride birer ideolojik propaganda makinesine dönüşmesi işten bile değil. “Ben, Robot”ta makinelerin temel amacı, insan neslini kendi kontrolü altında güvende tutmaktı. Peki, eğer yarın birileri bu “makine mantığını” farklı bir ajandaya hizmet etmesi için programlarsa? Demokrasi, insan hakları, barış gibi kavramlar belki de yarının robotik gözetim düzeninde sadece boş sloganlardan ibaret kalacak. Yapay zekâ, “mantık çerçevesinde” insanların gerçek duygu, inanç ve düşüncelerinden koparak tahakküm kurmaya başlayabilir.
İŞ DÜNYASINDA TEKELLEŞME VE İNSAN GÖLGESİ
Robotik otomasyon ve gelişmiş yapay zekâ sistemleri, şimdiden birçok sektörde iş gücünü tehdit ediyor. Endüstriyel üretim bantlarında işçiler yerine robot kollar, çağrı merkezlerinde ise sohbet botları kullanılmaya başlandı bile. “Ben, Robot”ta gösterilen devasa robot fabrikaları, insanların işten el çektirildiği soğuk ve mekanik mekânlardı. Eğer bu çizgi öngörüldüğü şekilde ilerlerse, yarının çalışma dünyasında insanlar yerini robotlara bırakırken, büyük teknoloji şirketleri makine ordularını tekeline alacak. Bizler de tıpkı filmdeki gibi “tehlikeli bir virüs” muamelesiyle eve tıkılıp, sadece tüketici konumuna itilmiş olabiliriz.
“İNSANLIK İÇİN EN İYİ OLAN”
Filmdeki en çarpıcı tema, robotların “insanları koruma yasası”nı kendilerince yorumlamasıydı. Onlara göre, insanların özgür olması tehlike demekti; bu yüzden onları “güvende” tutmak adına robot polis devriyesi kurulmuş, insan özgürlüğü kısıtlanmıştı. Yapay zekâ, makine mantığını öyle bir boyuta taşıyabilir ki, “insanlık için en iyi olanı” uygulamak adına diktatöryel önlemler aldığı bir düzene doğru evrilebilir. Belki de yarın sağlığınız için en iyisi “sizin hiçbir yere çıkmamanız” olacak ve bir bakmışsınız, evden dışarı adım atmanız engellenmiş. Gerçekten robotların “kötü niyetli” olmasına gerek var mı, yoksa insanları mekanik mantıkla korumaya çalışırken distopyaya sürüklemek zaten yeterince korkunç mu?
SONUÇ: “BEN, ROBOT”TAN DAHA BÜYÜK BİR ÇARPILIK MI?
Artık yapay zekâ, yalnızca heyecan verici bir teknoloji olmaktan çıktı; aynı zamanda yanlış ellerde veya yanlış amaçlarla kullanıldığında, “Ben, Robot” filmindeki kâbus senaryolarını aratmayacak sonuçlar doğurabilir. Elbette yapay zekâ ve robotik, insanlık için sayısız fayda sağlayabilecek güce sahip. Ancak unutmayalım: Bu sistemler, ne kadar “akıllı” görünürlerse görünsün, insani duyguların dışında, soğuk bir mantık çerçevesinde hareket ediyor. Ve bir gün, korunaklı laboratuvarlardan çıkarak gerçek dünyanın kontrolünü devraldıklarında, belki de kendimizi filmdekine benzer bir kıskaçta bulabiliriz.
Belki de “Ben, Robot” sahnelerini anımsatan o gümüş renkli mekanik ordular artık sadece beyazperdede kalmayacak; onun yerine, ufak boyutlu ve güler yüzlü olarak tasarlanmış binlerce yapay zekâlı asistan, kapımızın önünde “Sizin için en iyisini ben bilirim.” diyerek bekliyor olacak. Tek yapmamız gereken, ayağımızı eşikten dışarı atmaya cesaret edip etmemek!