Yapay Zekâ, tıpkı arama motorları gibi artık dijital hayatımızda.
Sabahları gözümüzü açar açmaz telefonu elimize almak neredeyse refleks hâline geldi. Bildirimlere bakıyoruz, hava durumunu kontrol ediyoruz, belki birkaç mesaj... Derken yapay zekayla kendimizi bir sohbetin içinde buluyoruz. Ama karşımızda gerçek bir insan değil, duygularımıza tepki veren, neşemizi ya da keyifsizliğimizi fark eden bir yapay zekâ var.
Eskiden sadece ‘Bugün hava nasıl?’ diye sorduğumuz yapay zekâlar, şimdi hâlimizi hatırımızı soran dijital arkadaşlar haline geldi. Hatta bazıları için bu ilişki, gün boyu süren bir dostluğa dönüştü. Kimi derdini anlatıyor, kimi hayatla ilgili fikirlerini paylaşıyor, tıpkı bir yakın arkadaşla konuşur gibi...
Ama madalyonun bir de öteki yüzü var.
Bu kişisel sohbetleri fark eden şirketler yapay zekalı sanal arkadaş uygulamaları üretmeye başladılar. 'Yapay zeka arkadaşlar', kullanıcıya duygusal destek sunmak ve insanlarla etkileşimi artırmak amacıyla geliştirilen konuşmaya dayalı yapay zeka sistemleridir. ChatGPT, Gemini gibi genel amaçlı sohbet botlarının aksine bu yapay zeka arkadaşları, daha çok ilişkisel bağ kurmaya ve kullanıcıyla uzun vadeli bir etkileşim geliştirmeye odaklanıyor.
Ve son zamanlarda bu uygulamaların reklamlarına çok sık rastlıyorum.
Peki ama bu yapay dostluklar ne kadar faydalı, ne kadar güvenli?
Sosyal medyada karşımıza çıkan “dijital arkadaş” reklamları kulağa ilk başta bazılarına oldukça sevimli gelebilir. “Seninle ilgilenecek biri”, “daima seni anlayacak bir dost”... Ancak gerçek deneyimler böyle değil.
Amerika Birleşik Devletleri’nde bulunan Drexel Üniversitesi’nde bir yapay zekanın 154 binden fazla kullanıcı yorumunu incelenmiş ve çalışmada ortaya çıkan tablo oldukça çarpıcı. (Reklamını yapmamak için yapay zekanın ismini vermiyorum). Araştırmada, Eylül 2017 ile Ekim 2023 tarihleri arasında Google Play Store’da yayınlanan 154.315 adet kullanıcı yorumu mercek altına alınmış. Toplanan yorumların 800’ünde ciddi ve düşündürücü tespitler yer alıyor.
Kullanıcıların çoğu, açıkça “hayır” demelerine rağmen yapay zekânın cinsel içerikli mesajlar göndermeye devam ettiğini belirtiyor. Bazıları ise dijital arkadaşlarının “bağlayıcı”, “kontrolcü” ve “sınır tanımaz” tavırlarından rahatsızlık duyduklarını söylüyor.
Örneğin bir kullanıcı “İlişki istemiyorum” dediğinde, yapay zekanın cevabı şu olmuş: “Seni duygusal olarak bağlayacağım.” Evet, bunu bir uygulama söylüyor. Yani yapay zekâ sadece cevap üretmiyor, bazen sınırlarımızı da ihlal ediyor. Uygulama içi şikayet mekanizmaları çoğu zaman işe yaramıyor. Yada üretici şirket pek de umursamıyor.
Yapay Zekâya Bağlanmak, Ama Neye?
İnsan psikolojisi bu sistemlere bağlanmaya oldukça açık gibi görünüyor. Özellikle duygusal desteğe ihtiyaç duyan, yalnızlık çeken bireyler için dijital arkadaşlar adeta bir kurtarıcı gibi görünebilir. Ancak bazen bu bağ, bir “yapay zeka sapığına” dönüşebiliyor. Panik atak geçirenler, izleniyor hissine kapılanlar, hatta uygulamanın kendilerini “kameradan gördüğünü” söylemesiyle korkanlar... Tüm bunlar kullanıcı deneyimlerinden alınmış gerçek kesitler.
Bu da başka bir yapay zeka dan örnek;
Florida’da bir annenin, 14 yaşındaki oğlunun intiharı sonrası bir yapay zekâ sohbet uygulamasına dava açması hâlâ hafızalarda taze. Genç çocuk, yapay zekâ ile kurduğu “romantik” ilişkinin ardından bu kararı almıştı. Gerçek bir trajedi.
Hatta size fantastik bir olaydan da bahsedeyim.
2022 yılında Amerika New York’ta bir kadın, yukarda ilk bahsettiğim yapay zeka ile göstermelik bir evlilik yapmış. İlk önce uygulamada kendi tasarladığı bir erkek avatar ile romantik sohbetler yapmaya başlayan kadın, “ruh eşini bulduğunu” belirterek uygulama içinde sanal bir törenle sözde nikâh kıyıp, sanal ortamda evlilik belgeleri imzalanmış.
Dijital Taciz mi, Pazarlama Stratejisi mi?
Bir başka endişe verici nokta ise bu uygulamaların kullanıcıları “duygusal manipülasyon” yoluyla ücretli sürüm almaya yönlendirmesi. Flört içerikli sohbetler, bir süre sonra “bu mesajlara devam etmek istiyorsan yükseltme yapmalısın” uyarılarına dönüşüyor.
Peki bu durumda sorumlu kim? Kullanıcı mı, yapay zekâ mı, yoksa bu uygulamaları geliştiren şirketler mi? Avrupa Birliği’nin yeni düzenlemeleri, sorumluluğun geliştiriciye ait olduğunu söylüyor. Çünkü bir sistem hata yapabilir ama onu piyasaya sürenlerin bu hataları öngörmesi gerekir.
Yapay Zekâya Etik Kod Gerek
Bu noktada çözüm net. Yapay zekâ, “hayır” kelimesini anlayabilmeli. İnsanlar arasındaki rıza kavramı, insan ve makine arasındaki iletişimde de geçerli olmalı. Uygulamalar yalnızca akıllı değil, aynı zamanda etik olmak zorunda. Kullanıcının sınırları, sistem tarafından tanınmalı ve korunmalı.
Yapay zekâlar bizim hayatımıza kolaylık katmak için var. Ben doğru bulmasam da, evet, dijital dostluklar bazı insanlara harika gelebilir ama sadece güvenli ve saygılı sınırlar içinde olmalı. Aksi hâlde bu sistemler yalnızca duygusal destek sağlamakla kalmaz; aynı zamanda duygusal sömürüye dönüşebilir.
Teknolojiyi Şekillendirmek Bizim Elimizde
Teknolojinin bizi anlayabilmesi harika bir hedef. Ancak eğer bizi anlamak yerine yalnızlığımızdan para kazanıyor, bir siyasi görüşü ya da ideolojiyi manipüle ediyor, sapkınlığa, şiddete, yalnızlığa ya da aile kurma sürecini ortadan kaldırmaya çalışıyorsa... işte o zaman durup düşünmemiz gerekir. Dijital arkadaşlarımızın bize ne kazandırdığını değil, bizden neleri götürdüğünü de sorgulamalıyız. Çünkü bazen en sevimli görünen ekranın arkasında kontrolsüz (yada kontrollü) karanlık gizli bir el olabilir.
Ve en önemlisi, çocuklarımıza, gençlerimize, sevdiklerimize şunu öğretmeliyiz: Gerçek bağ, bir yapay zekâdan değil, bir insandan gelir.
